–:–:–
Conecte-se conosco

Deepfakes colocam em risco análise de provas na Justiça

Gigantes de tecnologia afirmam a juízes que métodos científicos podem se tornar insuficientes para detectar mídias adulteradas.

8 visualizações
Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta

A rápida evolução da inteligência artificial promete transformar a validação de evidências no sistema judiciário em um desafio sem precedentes. Em reunião realizada em Boston, lideranças da OpenAI e da Meta comunicaram a magistrados norte-americanos que a sofisticação alcançada por arquivos forjados de áudio e vídeo já ameaça a capacidade técnica dos tribunais de distinguir registros autênticos de manipulações digitais.

Barreiras técnicas para detectar mídias manipuladas

O debate ocorreu perante o Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, colegiado que avalia desde 2023 diretrizes para lidar com materiais sintéticos em litígios judiciais. Durante o encontro, especialistas ressaltaram que a precisão dos modelos generativos avança mais rápido do que os mecanismos de checagem.

Shira Anderson, advogada de políticas públicas da OpenAI, destacou a complexidade de criar padrões técnicos duradouros para comprovar fraudes visuais. “As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”, disse Anderson ao comitê.

Na mesma linha, Devin Norder, diretor de gerenciamento de produtos da Meta, pontuou que os modelos de ponta já geram mídias indistinguíveis de conteúdos reais para os olhos humanos. Norder frisou ainda que a criação desses materiais exige investimentos irrisórios de tempo e dinheiro, elevando os riscos de que provas forjadas ingressem em disputas processuais.

Poucos incidentes registrados, mas alerta antecipado

Apesar da gravidade do alerta feito por representantes da indústria, da academia e do poder público, a presença de fraudes com IA em tribunais ainda é estatisticamente tímida. Um levantamento conduzido pelo Centro Judicial Federal apontou que, entre 931 juízes consultados em março, apenas 15 lidaram com questionamentos sobre a legitimidade de provas sob suspeita de serem deepfakes.

O presidente do comitê e juiz federal de Manhattan, Jesse Furman, ponderou que grande parte das discussões ainda se apoia em previsões acadêmicas diante de uma amostragem restrita de casos reais. Furman instituiu um subcomitê dedicado a examinar o cenário mais a fundo, enquanto especialistas reforçam que o Judiciário não deve encarar o perigo como uma realidade distante.

Eficácia de marcas d’água e debate legislativo

Para mitigar o problema, grandes companhias desenvolvem sistemas de rastreamento e verificação. Além disso, marcos regulatórios vigentes na União Europeia e no estado da Califórnia já impõem a inclusão de marcas d’água digitais em conteúdos gerados artificialmente.

Entretanto, Anderson advertiu que a ausência de um padrão global para esses marcadores impede uma triagem totalmente confiável. Cada desenvolvedora opera com tecnologias proprietárias e, embora os recursos de detecção continuem em aperfeiçoamento, eles não serão imunes a falhas.

Divergências sobre novas normas processuais

Diante do impasse técnico, magistrados defendem prudência antes da criação de regras processuais específicas para inteligência artificial. Valerie Caproni, juíza federal de Manhattan e membro do comitê, declarou que faltam evidências de que os deepfakes sejam um obstáculo generalizado nas cortes atualmente.

Caproni argumentou que o ordenamento jurídico já veda a juntada de elementos fraudulentos e concede aos juízes autoridade para barrar falsificações. Como a manipulação de dados é um problema histórico no direito, a comissão avalia se as normas vigentes bastam ou se os desafios inéditos da IA exigirão uma reforma profunda nos ritos de admissibilidade de provas.

Notícias da Costa do Sol em primeira mão.

Siga @ofatonoar no Instagram

Com informações do Olhar Digital.

Mais em Tecnologia

Ver tudo →