A Meta anunciou novas medidas para reforçar a segurança de adolescentes que utilizam o Meta AI, chatbot de inteligência artificial da empresa. A principal novidade é que pais ou responsáveis que usam a ferramenta de supervisão parental do Instagram passarão a receber alertas quando o sistema identificar conversas relacionadas a suicídio ou automutilação. A funcionalidade já começou a ser disponibilizada nos Estados Unidos, Reino Unido, Austrália e Canadá, e a previsão é que chegue ao Brasil até o final deste ano.

Como funcionará o sistema

Segundo a empresa, a inteligência artificial foi desenvolvida com o apoio de mais de 75 especialistas clínicos para identificar sinais de risco, inclusive quando as mensagens não forem explícitas. Antes que qualquer notificação seja enviada aos responsáveis, todas as conversas sinalizadas serão analisadas por uma equipe humana. A Meta informou que optou por agir com cautela e poderá emitir alertas mesmo em situações em que o risco não esteja totalmente confirmado. Além disso, os pais receberão orientações e recursos especializados para ajudar a conduzir conversas com os filhos sobre saúde mental.

A empresa também revelou que está desenvolvendo uma ferramenta para conectar o Meta AI aos serviços de emergência quando houver indícios de risco iminente de suicídio. Segundo a companhia, mais de 19 mil encaminhamentos desse tipo foram realizados em todo o mundo apenas no último ano. Para Larry Magid, CEO e cofundador da organização ConnectSafely, voltada à educação para o uso seguro da internet, a iniciativa busca equilibrar a privacidade dos adolescentes com a necessidade de proteger jovens que possam estar em situação de sofrimento.