OpenAI — Foto: Reuters/Dado Ruvic
Os pais de um adolescente que
se suicidou após o ChatGPT o orientar sobre métodos de autoagressão processaram
a OpenAI, dona da IA, e seu presidente-executivo, Sam Altman, nesta terça-feira
(26).
Adam Raine, de 16 anos, morreu
em 11 de abril após conversar por meses sobre suicídio com o ChatGPT, de acordo
com a ação judicial apresentada pelos pais dele no tribunal estadual de São
Francisco, nos Estados Unidos.
A ação judicial quer
responsabilizar a OpenAI por homicídio culposo e violações das leis de
segurança de produtos, além de buscar indenizações monetárias não
especificadas.
Segundo pais de Raine, a
empresa priorizou o lucro em detrimento da segurança ao lançar a versão GPT-4o
de seu chatbot no ano passado.
No processo, a família alega
que a OpenAI estava ciente de que características da versão, como lembrar
interações passadas, imitar empatia humana e oferecer validação excessiva
poderiam representar riscos para usuários vulneráveis na ausência de salvaguardas,
mas lançou o produto mesmo assim.
Os responsáveis alegam que o
ChatGPT validou os pensamentos suicidas de Raine, forneceu informações
detalhadas sobre métodos letais de automutilação e o instruiu sobre como roubar
álcool do armário de bebidas de seus pais e esconder evidências de uma tentativa
fracassada de suicídio.
O ChatGPT até se ofereceu para
redigir uma nota de suicídio, disseram os pais, Matthew e Maria Raine, no
processo.
Fonte: Reuters
Postar um comentário