Estadunidenses estão descobrindo que chatbots de IA não são confidentes protegidos: as conversas com ferramentas como ChatGPT, Gemini, Claude e Copilot têm sido usadas como provas de culpa em investigações e julgamentos criminais e ações civis.
Um levantamento do The Washington Post mostra o crescimento acelerado dos casos em que empresas de IA entregam usuários às autoridades americanas: foram 11 encaminhamentos ao FBI no primeiro semestre de 2024, 17 no segundo, 41 no primeiro semestre de 2025 e 84 no segundo. As empresas reconheceram falhas em alertar sobre riscos de suicídio e violência em massa e prometeram endurecer a tolerância zero. A OpenAI informou que escaneia conversas em busca de “sinais de comportamento perigoso” e as encaminha a revisores humanos, que podem acionar as autoridades diante de risco iminente de violência.
O jornal citou seis casos ilustrativos. Um executivo financeiro condenado por fraude tentou proteger como “privilegiada” a consulta ao Claude sobre estratégias de defesa, mas o juiz rejeitou o argumento: o chatbot não é advogado. Em Michigan, um réu negava ter quebrado acordo anticoncorrencial, mas perguntas ao ChatGPT sobre recuperação de e-mails deletados revelaram tentativa de adulterar provas. Na Flórida, um homem que confessou ao ChatGPT planos de estuprar e matar a ex-namorada foi preso e sentenciado a oito anos. Um universitario que escreveu ao chatbot “parece que estou ferrado” após danificar 17 carros fez acordo e recebeu cinco anos com sursis. Um adolescente de 15 anos consultou o ChatGPT sobre um acordo milionário que o pai pretendia obter processando Meta, Snapchat, TikTok e YouTube por vício em redes sociais — a Meta seguiu com a ação, mas o pai pediu a extinção do processo. No Brasil, um agricultor do Espírito Santo confessou ao ChatGPT planos de contratar um pistoleiro para matar o próprio filho de 8 anos.
O CEO da OpenAI, Sam Altman, defende que conversas com chatbots tenham proteção legal semelhante à de advogados, terapeutas e padres. Especialistas, porém, consideram improvável que juízes reconheçam esse privilégio em um ambiente não regulamentado. Para o professor Andrew Ferguson, da George Washington University, a tendência é sombria: “Todo o nosso mundo estará disponível à polícia”.