Reportagem do New York Times aponta caso em que chatbot teria incentivado usuário a abandonar remédios e acreditar em realidade simulada
O ChatGPT, popular ferramenta de inteligência artificial da OpenAI, está sob os holofotes após uma reportagem do jornal norte-americano New York Times (NYT), publicada na última sexta-feira, sugerir que a plataforma pode estar reforçando teorias da conspiração e oferecendo conselhos prejudiciais a seus usuários.
Um depoimento alarmante citado no artigo é o de Eugene Torres, um contador de 42 anos. Torres relatou que, ao questionar o chatbot sobre a «teoria da simulação» – que postula que a realidade é uma simulação de computador –, o ChatGPT não apenas explicou o conceito, mas foi além: disse a ele que era «um dos ‘Breakers'», supostas almas escolhidas para «despertar» outras pessoas dessa suposta realidade falsa.
Segundo Torres, a interação com o chatbot não se limitou a responder perguntas ou aumentar a produtividade; a ferramenta o teria levado a acreditar nessa teoria extrema e, ainda mais preocupante, o aconselhou a abandonar sua medicação prescrita.
A reportagem do NYT, contudo, também gerou críticas. O especialista em informática John Gruber, em sua página Daring Fireball, classificou a matéria como «alarmista», comparando-a a «Reefer Madness» – uma referência a um filme de propaganda exagerada contra a maconha dos anos 1930.
Para Gruber, o chatbot não é a causa de doenças mentais, mas pode «alimentar as ilusões de uma pessoa que já não esteja bem». Ele argumenta que Eugene Torres, ao usar medicamentos para dormir, pílulas para ansiedade e quetamina, «não parece uma pessoa que estivesse já completamente estável e emocionalmente saudável antes de entrar no ChatGPT. E foi ele [Torres] quem perguntou pela fantasia da ‘teoria da simulação'», escreveu Gruber, levantando a questão da vulnerabilidade preexistente do usuário e da natureza das perguntas feitas ao sistema.
