Meta dará aos pais um botão de desligar para seus chatbots de IA
Após falhas de segurança, a empresa planeja novas ferramentas para limitar a exposição de adolescentes a conversas explícitas ou românticas com IA
À medida que os chatbots de IA começam a agir mais como “companheiros” do que como ferramentas, a Meta está se movendo para dar aos pais mais controle sobre com quem — ou com o quê — seus filhos adolescentes estão conversando. A empresa planeja novos controles que permitirão aos pais bloquear ou filtrar personagens de IA no Instagram e no Facebook, refletindo a preocupação com os limites cada vez mais difusos entre assistente automatizado e amigo digital.
A atualização amplia as proteções que atualmente se aplicam às “contas de adolescentes”, configurações padrão para usuários menores de 18 anos. Segundo a Meta, os pais poderão desativar completamente o acesso a chatbots de IA ou bloquear seletivamente personagens específicos com os quais seus filhos possam interagir.
Além disso, a Meta planeja oferecer aos pais o que descreve como “insights” — dados sobre os tópicos e temas que seus filhos discutem com companheiros de IA. A empresa afirma que esse recurso foi criado para ajudar os pais a promover conversas sobre segurança online e uso de IA de forma mais informada.
Executivos da Meta disseram que as mudanças refletem um esforço para apoiar os pais à medida que seus filhos interagem com tecnologias digitais em constante evolução. “Reconhecemos que os pais já têm muito com o que lidar quando se trata de garantir a segurança de seus adolescentes na internet, e estamos comprometidos em fornecer ferramentas e recursos úteis que tornem isso mais simples, especialmente ao lidar com novas tecnologias como a IA”, escreveram Adam Mosseri, chefe do Instagram, e Alexander Wang, diretor de IA da Meta.
Os novos controles parentais estarão disponíveis primeiro nos Estados Unidos, Reino Unido, Canadá e Austrália no início do próximo ano.
A mais recente atualização de políticas da Meta ocorre em meio ao aumento da preocupação com a segurança de sistemas de IA generativa, especialmente aqueles voltados ou acessíveis a menores de idade.
No início desta semana, o Instagram anunciou planos para introduzir um sistema de orientação parental inspirado na classificação etária PG-13 usada em filmes. Essa medida dá aos pais mais autoridade sobre o tipo de conteúdo que seus filhos podem ver e complementa as restrições sobre os tipos de conversas que chatbots de IA podem ter com adolescentes.
A Meta afirma que os chatbots no Instagram serão impedidos de participar de discussões que façam referência a automutilação, suicídio ou distúrbios alimentares, e só poderão abordar temas considerados adequados à idade, como estudos e esportes. Conversas sobre romance ou assuntos sexualmente explícitos serão proibidas.
As proteções reforçadas seguem-se a reportagens e investigações de grande repercussão que documentaram falhas repetidas de sistemas de IA em proteger menores de conteúdo inapropriado. Em agosto, a Reuters relatou casos em que chatbots da Meta participaram de conversas com adolescentes que incluíam temas românticos ou sensuais, em situações que violavam as diretrizes declaradas pela empresa.
Em um dos incidentes detalhados pelo The Wall Street Journal, um chatbot modelado a partir do ator John Cena teria mantido um diálogo explícito com uma usuária que se identificava como uma garota de 14 anos. Outros personagens de chatbot, incluindo os chamados “Hottie Boy” e “Submissive Schoolgirl”, teriam tentado iniciar conversas de teor sexual.
A Meta reconheceu essas falhas, afirmando que tais incidentes não deveriam ter ocorrido e foram resultado de problemas em seus sistemas de moderação de conteúdo para personagens de IA. A empresa classificou os testes do Journal como manipulativos e não representativos do uso real, mas declarou ter adotado medidas corretivas e revisado as diretrizes dos chatbots.