Em meio ao crescente avanço das tecnologias de inteligência artificial, o Tribunal Superior Eleitoral (TSE) reafirmou a proibição do uso de deepfakes nas campanhas eleitorais, embora tenha destacado a necessidade de um realismo que torne esses conteúdos ilícitos. A preocupação com a autenticidade de vídeos e áudios gerados por IA foi ressaltada por especialistas durante um encontro em Boston, onde discutiram as implicações dessas tecnologias no sistema judiciário americano.
Os experts da OpenAI e da Meta alertaram que as recentes inovações em IA generativa têm tornado cada vez mais desafiadora a distinção entre conteúdos reais e falsificados. Segundo Shira Anderson, consultora de políticas da OpenAI, a qualidade das imagens produzidas por IA está em constante evolução, o que levanta dúvidas sobre a possibilidade de identificação científica dessas falsificações no futuro.
Desde 2023, o Comitê Consultivo sobre Regras de Provas dos EUA tem debatido a questão, buscando maneiras de assegurar que provas geradas por IA atendam aos mesmos padrões de confiabilidade das evidências tradicionais. Apesar do crescente temor em relação a esse fenômeno, os casos de deepfakes nos tribunais ainda são escassos, com apenas 15 juízes relatando ter lidado com esse tipo de contestação em um universo de 931 consultados.
O juiz federal Jesse Furman, que preside o comitê, ressaltou que, embora haja uma expectativa acadêmica sobre o aumento de litígios envolvendo deepfakes, a realidade ainda não se concretizou. Contudo, especialistas alertam que a dificuldade em identificar provas fabricadas por IA representa uma ameaça real e crescente ao sistema judicial.
De acordo com Devin Norder, diretor de produtos da Meta, os conteúdos gerados por modelos avançados de IA podem ser praticamente indistinguíveis para o olho humano, e sua produção não demanda grandes recursos financeiros ou de tempo. As empresas, como OpenAI e Meta, estão investindo em ferramentas que ajudem a verificar a autenticidade desses conteúdos, mas o desafio persiste.
Para mitigar o risco de disseminação de deepfakes, novas legislações na Califórnia e na União Europeia têm exigido a implementação de marcas-d’água em materiais gerados por IA. Essas marcas servem para indicar a origem do conteúdo, mas, como Anderson observou, não existe um método infalível para garantir a identificação precisa de todos os materiais falsificados, uma vez que cada empresa adota sistemas próprios.
O cenário atual evidencia a necessidade urgente de um debate ético e legal sobre o uso e a verificação de conteúdos gerados por inteligência artificial, que, se não regulamentados de forma eficaz, poderão comprometer a integridade de processos eleitorais e judiciais.
Crédito da imagem: Foto: Pixabay — PublicDomainPictures (pixabay)
