Meta intenta convencer a los padres de que sus plataformas son seguras para adolescentes
Con países que prohíben las redes sociales para menores de edad, Meta está intentando diferentes estrategias para convencer a los padres de que sus plataformas son seguras para adolescentes. En su última iniciativa, la empresa comenzará a mostrar a los padres los temas que sus adolescentes han discutido con Meta AI durante los últimos siete días.
«Los padres podrán ver los temas que su adolescente ha estado preguntando a Meta AI en [Facebook, Messenger o Instagram] durante la última semana», explicó Meta en una publicación de blog. «Los temas pueden variar desde la escuela, el entretenimiento y el estilo de vida hasta los viajes, la escritura y la salud y el bienestar, entre otros».
Una nueva pestaña de Insights
Para los padres que supervisan las cuentas de Meta de sus adolescentes, la función aparecerá en una nueva pestaña de Insights dentro de la supervisión, tanto en la aplicación como en la web. Los padres pueden hacer clic en un tema para ver las diferentes categorías dentro de cada uno: por ejemplo, las subcategorías dentro del estilo de vida incluyen la moda, la comida y las vacaciones, mientras que el fitness, la salud física y la salud mental son parte del tema de la salud y el bienestar.
Meta también trabajó con el Centro de Investigación sobre Acoso Cibernético para desarrollar lo que llama «iniciadores de conversación», o conversaciones abiertas sobre su experiencia con la IA. Proporciona detalles sobre qué cuestiones están diseñadas para abordar y se puede encontrar en el sitio web del Centro de Familia o a través de un enlace en la nueva pestaña de Insights.
El Consejo de Expertos en Bienestar de la IA
Finalmente, Meta reveló más detalles sobre su Consejo de Expertos en Bienestar de la IA, que proporcionará «contribuciones continuas a nuestra experiencia de IA para adolescentes». Estará formado por tres grupos asesores existentes, así como por nuevos miembros con experiencia especializada en IA responsable y ética, que están afiliados al Consejo Nacional de Prevención del Suicidio y a varias universidades. Es importante destacar que Meta tiene un consejo de supervisión separado que se ocupa de temas que van desde la IA hasta la moderación.
La moderación de contenido
La descentralización de las tareas de moderación a los padres ocupados parece ser lo habitual para Meta en estos días. La empresa ha recortado recientemente el uso de proveedores externos que ayudan con la moderación de contenido, transfiriendo la responsabilidad a sistemas de IA avanzados, según informes recientes.
Los peligros de la IA para los adolescentes han sido una de las razones por las que países como España han prohibido las plataformas de redes sociales para menores de edad. Uno de los casos más recientes y trágicos fue en Canadá, donde un adolescente recibió detalles específicos de OpenAI’s ChatGPT sobre cómo llevar a cabo un tiroteo en una escuela. Otro caso similar está bajo investigación en Florida, y las IA han sido implicadas en varios suicidios de adolescentes también.
En los Estados Unidos, la Línea Nacional de Prevención del Suicidio es 1-800-273-8255 o simplemente puede marcar 988. La Línea de Crisis de Texto puede ser contactada enviando un mensaje de texto a HOME al 741741 (EE. UU.), 686868 (Canadá) o 85258 (Reino Unido). Wikipedia mantiene una lista de líneas de crisis para personas fuera de esos países.