Añadir The App Date como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Meta quiere entrar en una de las zonas más delicadas de la IA conversacional y lo hace con una medida que toca directamente a las familias. La compañía avisará a los padres si detecta que un adolescente habla de suicidio o autolesiones con Meta AI.
El movimiento llega en pleno examen sobre cómo responden los chatbots cuando un menor atraviesa una crisis. En este caso no hablamos de una recomendación genérica de ayuda, sino de un sistema pensado para leer el contexto de una conversación privada y decidir si hace falta levantar la mano en casa.
Meta lleva la supervisión parental dentro del chat con IA
Las alertas ya funcionan para las familias que usan la Supervisión Parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. Meta prevé extenderlas al resto del mundo a finales de año.
No parte de cero. La empresa ya enviaba avisos cuando un adolescente buscaba de forma repetida términos relacionados con suicidio o autolesiones en Instagram, y también permitía a los padres revisar los temas tratados con Meta AI durante la semana anterior.
Ahora da un paso más porque deja de mirar solo búsquedas o temas generales y entra en el contenido de la conversación. Para muchos padres, esa diferencia cambia bastante la escena, ya que no es lo mismo detectar una consulta aislada que una frase clara sobre hacerse daño.
La compañía revisará cada alerta antes de avisar a la familia
Meta ha creado un sistema de IA específico para identificar conversaciones en las que un adolescente hace una referencia clara a autolesionarse. Después, un equipo humano revisará cada chat marcado antes de que salga la notificación.
"Entendemos lo angustioso que puede ser para un padre recibir estas alertas. Por eso, a medida que seguimos mejorando nuestra detección, todos los chats marcados por nuestra IA serán revisados manualmente antes de enviar una alerta. Si la intención de un adolescente es ambigua, optaremos por la precaución y alertaremos al padre. Aunque eso significa que a veces podemos notificar a los padres cuando puede que no haya una causa real de preocupación, consideramos que este es el punto de partida adecuado y seguiremos supervisando para ayudar a asegurarnos de que estamos en el lugar correcto." - Meta, en su blog
Ese matiz importa porque el sistema acepta desde el principio un margen de avisos que pueden acabar siendo una falsa alarma. Meta admite que a veces puede alertar a los padres sin una causa real de preocupación, una decisión que prioriza no dejar pasar una señal de riesgo.
Instagram también endurece los límites de lo que responde Meta AI
Junto a las alertas, Meta aplica a su chatbot el ajuste de Contenido Limitado de Instagram. Cuando un padre activa esa experiencia más restrictiva para su hijo adolescente, la restricción también alcanza a Meta AI.
Meta AI ya estaba entrenada para evitar conversaciones sexuales, románticas o relacionadas con alcohol con adolescentes. El ajuste de Contenido Limitado ahora amplía esas salvaguardas y rechaza una gama más amplia de indicaciones.
Además, la medida no afecta solo a menores. Si una conversación con Meta AI sugiere un riesgo inminente de suicidio, Meta podrá contactar con los servicios de emergencia tanto en cuentas de adolescentes como de adultos.
La misma lógica de crisis salta ahora del feed al chatbot
Hasta ahora, esa intervención formaba parte de la moderación que la empresa ya aplicaba en publicaciones de Facebook o Instagram. Llevarla al chatbot cambia el terreno, porque la evaluación pasa de lo que alguien publica de cara a otros a lo que escribe en una conversación asistida por IA.
Hay una tensión difícil de esquivar. Por un lado, Meta promete más barreras para adolescentes en un momento de presión regulatoria y familiar. Por otro, reconoce que la ambigüedad existe y que prefiere avisar de más antes que dejar sin respuesta una frase que apunte a autolesión.
Al final, la novedad más concreta no está en una función vistosa, sino en el umbral que Meta ha elegido. Si la intención de un adolescente resulta ambigua, la empresa avisará igualmente a sus padres, y ese criterio ya está activo en cuatro países antes de su despliegue global.