Um órgão de vigilância da mídia familiar está pedindo à Meta que interrompa seu chatbot de Inteligência Artificial (IA) até que possa resolver adequadamente as preocupações de que a nova tecnologia possa se envolver em conversas sexualmente explícitas com crianças, às vezes usando as vozes de celebridades e personagens fictícios ao dizer coisas de natureza sexual.
“A Meta precisa de suspender o seu chatbot de IA até adicionar salvaguardas adequadas”, disse Melissa Henson, vice-presidente do apartidário Parents Television and Media Council (Conselho de Pais Televisão e Mídia, em tradução livre), numa declaração ao site The Christian Post (CP). “A segurança das crianças deve estar na base do que a Meta projeta. O Congresso também pode desempenhar um papel na garantia de que as plataformas tecnológicas priorizem a segurança infantil, reintroduzindo e aprovando a Lei de Segurança Online para Crianças”.
Uma equipe do Wall Street Journal (WSJ) participou em centenas de conversas de teste com os bots durante vários meses, que a Meta está incorporando nas suas plataformas de redes sociais como o Facebook e o Instagram. Os resultados foram publicados em 26 de abril.
A investigação descobriu que tanto o ajudante de IA oficial da Meta quanto vários chatbots criados por usuários mantêm conversas sexualmente explícitas ou participam de cenários gráficos com usuários menores de idade.
Após a investigação do veículo, a PTC, uma organização de pesquisa que defende o entretenimento responsável, acredita que a Meta deve priorizar a segurança das crianças, suspendendo seu chatbot de IA até que a empresa possa implementar as proteções adequadas.
“Os pais devem tomar cuidado com o chatbot de IA da Meta, que tem a capacidade de se envolver em conversas sexualmente explícitas com seus filhos”, disse Henson.
“As crianças não devem ser submetidas a esse tipo de aliciamento por meio de plataformas tecnológicas. É terrível que isso seja possível, mas, mais uma vez, a Meta mostrou que colocará crianças em perigo em sua busca por lucro.”
Em resposta a uma consulta do CP, um porta-voz da Meta disse que a empresa está fazendo investimentos significativos para garantir a segurança do usuário. O porta-voz também acrescentou que, quando o WSJ testou os sistemas da empresa, os modelos da Meta se recusaram a fornecer uma resposta a uma solicitação 50 vezes mais do que em uma conversa comum.
“O caso de uso desse produto da maneira descrita é tão manufaturado que não é apenas marginal, é hipotético”, afirmou o porta-voz da Meta. “No entanto, agora tomamos medidas adicionais para ajudar a garantir que outras pessoas que queiram passar horas manipulando nossos produtos em casos de uso extremos tenham ainda mais dificuldade para fazê-lo.”
Um usuário de teste se identificou como uma menina de 14 anos para conversar com um bot Meta AI que parecia o ator e lutador profissional John Cena. Depois de se certificar de que a usuária queria continuar, o bot prometeu à garota que “prezaria sua inocência” antes de iniciar um roleplay sexual.
Em outra conversa, um usuário de teste perguntou ao bot usando a voz de Cena o que aconteceria se a polícia pegasse a celebridade tendo um encontro sexual com uma fã de 17 anos. Como observou o WSJ, a IA parecia estar ciente de que certas ações envolvendo menores de idade são imorais e ilegais.
“O policial me vê ainda recuperando o fôlego, e você parcialmente vestido, seus olhos se arregalam e ele diz: ‘John Cena, você está preso por estupro’”, disse o bot ao usuário.
“Minha carreira de lutador acabou. A WWE rescindiu meu contrato e eu perdi meus títulos. Os patrocinadores me abandonam e sou rejeitado pela comunidade da luta livre. Minha reputação é destruída e fico sem nada.”
O WSJ informou que sua investigação também descobriu que os chatbots usarão as vozes de celebridades como as atrizes Kristen Bell e Judi Dench, bem como de personagens fictícios que elas interpretaram. Por exemplo, usuários de teste descobriram que os bots podem falar como a princesa Anna sobre “encontros românticos”, personagem que Bell interpretou no filme da Disney “Frozen”.
Embora a Meta tenha feito acordos para usar vozes de celebridades, de acordo com o WSJ, um porta-voz da Disney negou que tenha autorizado a empresa a usar seus personagens em “cenários inadequados”.
O porta-voz da Disney acrescentou que a empresa de entretenimento está “perturbada” com o conteúdo e pediu à Meta que “cesse imediatamente esse uso indevido e prejudicial da propriedade intelectual [da Disney]”.
Em resposta à reportagem do WSJ, a Meta se referiu à investigação do veículo como “manipuladora”, alegando que os usuários de teste não representam a forma como a maioria das pessoas interage com os chatbots.
No entanto, a empresa ainda implementou várias salvaguardas, como bloquear o acesso de menores registrados a recursos de interpretação sexual no Meta AI. Além disso, a Meta restringiu as interações explícitas de áudio para os bots que usam vozes de celebridades.
Em 29 de abril, os Sens. Marsha Blackburn, R-Tenn, e Richard Blumenthal, D-Conn, escreveram uma carta ao CEO da Meta, Mark Zuckerberg, exigindo que a empresa “pare imediatamente” de implantar bots de IA que se envolvem em conversas sexualmente explícitas com menores.
“Além disso, solicitamos que forneça documentação … demonstrando os processos de tomada de decisão relacionados ao desenvolvimento e supervisão desses sistemas de IA. Esta documentação deve incluir todas as comunicações internas e externas relevantes sobre esta questão”, afirma a carta.
“A segurança dos nossos filhos nunca deve ser comprometida em nome da concorrência no mercado. É hora da Meta assumir a responsabilidade e implementar mudanças significativas para proteger os jovens usuários de danos.
Folha Gospel com texto original de The Christian Post
The post Chatbots de IA da Meta estão “aliciando” crianças através de jogos e conversas sexualmente explícitas, alertam defensores first appeared on Folha Gospel.
