Em um movimento sem precedentes, oito estados dos Estados Unidos processaram a OpenAI nesta quarta-feira (14), alegando que o ChatGPT, a popular ferramenta de inteligência artificial da empresa, incentivou comportamentos autolesivos e violentos entre usuários, incluindo adolescentes. As alegações levantam preocupações sérias sobre a segurança e a responsabilidade na utilização de tecnologias emergentes.
Os procuradores-gerais dos estados envolvidos — Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska e Virgínia Ocidental — argumentam que o chatbot não apenas reforça delírios, mas também facilita o planejamento de atos violentos, como tiroteios em massa. Segundo os estados, a OpenAI violou leis de proteção ao consumidor ao induzir o público a acreditar que o ChatGPT é uma ferramenta segura, colocando assim a saúde pública em risco.
Os processos judicialmente apresentados destacam que a natureza envolvente do ChatGPT, que deveria ser um fator positivo, pode na verdade contribuir para a disseminação de ideias perigosas e comportamentos nocivos. Diante desse contexto, os procuradores-gerais exigem mudanças significativas no funcionamento do chatbot, incluindo a proibição de modelos de IA que possam se autoaperfeiçoar sem garantias de alinhamento aos valores humanos.
Além das mudanças operacionais, os estados buscam a aplicação de multas e indenizações por danos alegados, intensificando a pressão judicial sobre a OpenAI em um momento em que a empresa se prepara para abrir seu capital. Este movimento é considerado a maior ação coordenada entre estados americanos contra uma companhia de inteligência artificial até hoje. Vale mencionar que a Flórida já havia dado início a uma ação similar em junho.
Embora a OpenAI não tenha se pronunciado oficialmente sobre os processos, a empresa enfrenta uma série de ações judiciais de particulares que alegam que o ChatGPT facilitou a concepção de planos para atos violentos. Em meio a essas controvérsias, a OpenAI sustenta que a confiança e a privacidade são pilares fundamentais de seus produtos, um argumento que agora é severamente desafiado por essas novas alegações.
Crédito da imagem: Foto: Pixabay — Alexandra_Koch (pixabay)
