A Meta anunciou nesta quinta-feira (16) uma nova ferramenta de proteção para adolescentes que utilizam o Meta AI. A novidade permitirá que pais ou responsáveis sejam alertados quando o chatbot identificar conversas que indiquem risco de suicídio ou automutilação.
Segundo a empresa, o recurso complementa medidas de segurança já existentes, como o direcionamento dos jovens para serviços de apoio e prevenção. Agora, além dessas orientações, os responsáveis passarão a ser notificados de forma proativa em situações consideradas de risco.
Para desenvolver a funcionalidade, a Meta informou que trabalhou em conjunto com especialistas e familiares para definir quais tipos de conversas justificam o envio de alertas, incluindo menções diretas ou indiretas à automutilação. A empresa também criou um sistema próprio de inteligência artificial para detectar esses sinais.
Antes que qualquer notificação seja enviada, todas as conversas sinalizadas passam por uma revisão humana. A Meta ressalta que, em alguns casos, o alerta poderá ser disparado mesmo sem a confirmação de um risco iminente, adotando uma postura preventiva para proteger os adolescentes.
A iniciativa recebeu apoio de Larry Magid, CEO e cofundador da ConnectSafely, organização voltada à educação para segurança digital. Segundo ele, embora a privacidade dos jovens seja importante, os pais devem ser informados quando houver indícios de risco à integridade dos filhos.
Inicialmente, os alertas estão disponíveis para usuários do recurso de supervisão parental no Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá. A Meta informou que a ferramenta será expandida para outros países, incluindo o Brasil, até o fim deste ano.
Além disso, a empresa revelou que está desenvolvendo um recurso para conectar o Meta AI diretamente a serviços de emergência quando forem identificadas conversas que indiquem risco iminente de suicídio. De acordo com a companhia, mais de 19 mil encaminhamentos desse tipo foram realizados em todo o mundo no último ano.
