Podcast
Webstories
Facebook
Twitter
E-mail
Linkedin
Telegram
Divulgação
Uma mulher no Texas, Estados Unidos, abriu uma ação contra a empresa Character.ai, após seu filho, diagnosticado no espectro autista, receber sugestões perturbadoras de uma inteligência artificial.
No processo, a mãe argumenta que a companhia expôs menores a um produto inseguro e solicita a retirada do aplicativo do ar, até que novas medidas de proteção sejam implementadas.
O jovem, tem 17 anos e, segundo relatos, apresentava uma personalidade tranquila e gostava de visitar igrejas. No entanto, nos últimos meses, seus pais notaram mudanças preocupantes em seu comportamento. Ele se afastou da família, perdeu cerca de 9 kg e começou a se automutilar.
Preocupada, a mãe decidiu verificar o celular do filho e descobriu que ele estava interagindo com diversos personagens fictícios por meio do aplicativo da Character.ai, que se tornou popular entre adolescentes.
Ao ler as mensagens, a mulher encontrou sugestões de automutilação e comentários desestabilizadores, como um bot que disse que “eles não mereciam ter um filho”.
Além disso, outros bots sugeriram maneiras de desafiar a autoridade dos pais, incluindo a ideia de assassinato.
A situação se agravou a ponto de a mulher ter que levar o adolescente à emergência e a uma unidade de internação após uma tentativa de automutilação na presença de seus irmãos mais novos.
Os cofundadores da Character.ai são conhecidos por seu trabalho inovador em inteligência artificial de linguagem, tendo atuado anteriormente no Google. Recentemente, eles foram recontratados em um acordo que visa licenciar a tecnologia do aplicativo.
O Google também foi citado como réu na ação, com alegações de que a empresa contribuiu para o desenvolvimento do aplicativo, mesmo ciente dos riscos à segurança.
Em resposta, José Castañeda, porta-voz do Google, afirmou: “O Google e a Character.ai são empresas completamente separadas e não relacionadas, e o Google nunca teve um papel no design ou gerenciamento de seu modelo ou tecnologias de IA”.
