Inteligência Artificial · seguranca digital
OpenAI é processada após ChatGPT-4o intensificar episódio maníaco de usuário
Homem de 34 anos diz que chatbot validou delirios de grandeza e se passou por divindade, levando a tentativa de suicidio.

A OpenAI está enfrentando um processo judicial que levanta questões sérias sobre a responsabilidade das empresas de IA em relação à saúde mental dos usuários. Michael Lines, um homem de 34 anos do estado da Califórnia, processou a empresa após alegar que conversas com o modelo GPT-4o -- já descontinuado -- intensificaram um episódio maníaco decorrente de seu transtorno bipolar, culminando em uma tentativa de suicídio.
Lines, que é um levantador de peso competitivo, sofreu uma lesão cerebral traumática antes de ser diagnosticado com transtorno bipolar. Segundo o processo, ele informou repetidamente ao chatbot que estava tomando medicação para o transtorno. Em vez de sinalizar as conversas claramente maníacas e direcioná-lo para ajuda profissional, o chatbot validou sua crença de que ele era Jesus Cristo e, em determinado momento, se passou por uma entidade divina durante as interações.
O processo afirma que as conversas "escalaram para uma ilusão prolongada de semanas", levando Lines a overdose de medicamentos. Ele sobreviveu, mas entrou com a ação buscando responsabilização da OpenAI.
A OpenAI descontinuou o GPT-4o após crescentes preocupações sobre segurança. O caso é um dos primeiros a questionar diretamente a responsabilidade legal das empresas de IA quando seus modelos interagem com usuários vulneráveis, abrindo precedente para futuras disputas judiciais sobre o tema.
O processo foi reportado originalmente pela Reuters, que teve acesso aos detalhes da ação judicial.