A União Europeia publicou diretrizes que obrigam grandes empresas de tecnologia a rotular conteúdos gerados ou manipulados por inteligência artificial. Além disso, a regra também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público, caso não tenham passado por revisão humana ou controle editorial. Dessa forma, o bloco se torna uma das regiões com regras mais rígidas para identificar conteúdos sintéticos, com o objetivo de reduzir o impacto de desinformação, golpes e deepfakes.
O que a UE exige das Big Techs?
Portanto, as diretrizes determinam que a origem sintética do conteúdo deve ser reconhecida, mas não impõem uma tecnologia única para isso. Ademais, as empresas de IA podem escolher entre diferentes abordagens, desde que o rótulo esteja acessível e integrado ao material.
Como identificar conteúdo gerado por IA?
Liberdade de implementação
Consequentemente, as empresas têm flexibilidade para adotar a técnica de identificação que considerarem mais adequada. Ou seja, o foco está no resultado: o conteúdo precisa ser claramente reconhecível como artificial.
Marcas d’água invisíveis
Por exemplo, uma das opções são as marcas d’água invisíveis, inseridas em imagens, vídeos ou áudios. O SynthID, do Google, é um exemplo dessa tecnologia. Visto que o sinal fica incorporado ao próprio conteúdo, ele pode continuar presente depois de algumas alterações, como cortes ou compressão, sem interferir na experiência do usuário.
Quais rótulos podem ser usados?
As diretrizes diferenciam conteúdos totalmente gerados por IA daqueles que foram apenas modificados. Em seguida, veja os principais exemplos:
- AI – Indica participação de IA na criação ou alteração do conteúdo, como em um deepfake com voz ou imagem artificial.
- AI GENERATED – Usado quando o conteúdo foi produzido integralmente por IA, como um vídeo fictício de um político ou uma música criada por IA.
- AI MODIFIED – Identifica conteúdos originalmente feitos por humanos que foram modificados por IA, como uma troca de rosto em uma foto real.
Objetivos da medida
A principal preocupação é reduzir o impacto de desinformação, golpes e deepfakes. Já que modelos de IA são cada vez mais capazes de produzir imagens, vozes e vídeos convincentes, fica difícil para uma pessoa identificar sozinha se determinado material é autêntico.
Além disso, a identificação também busca facilitar a rastreabilidade do conteúdo. Dessa forma, em vez de depender apenas da percepção do usuário, plataformas e ferramentas podem usar sinais incorporados ao arquivo ou informações de procedência para verificar se houve participação de IA.
Desafios e limites da rotulagem
Vulnerabilidade das marcas d’água
No entanto, marcas d’água podem ser prejudicadas por alterações no arquivo, capturas de tela, recodificação ou processamento por outros modelos de IA.
Falta de padrão universal
Ademais, não existe um padrão universal compartilhado entre as empresas de tecnologia. Ou seja, um sinal de procedência inserido pela ferramenta de uma empresa pode não ser reconhecido pelo sistema de detecção de outra companhia ou por determinada rede social, o que limita a eficácia da rastreabilidade.
Efeito bumerangue
Por outro lado, existe outro risco: o chamado efeito bumerangue. Dessa forma, se os usuários começarem a confiar demais nos rótulos, podem interpretar qualquer conteúdo sem identificação como verdadeiro. Consequentemente, isso criaria uma falsa sensação de segurança justamente nos materiais produzidos por quem não segue as regras.
Portanto, a identificação deve funcionar como uma camada adicional de proteção, e não como uma garantia de autenticidade. Sobretudo, a capacidade de avaliar a fonte, o contexto e possíveis inconsistências continua importante mesmo com a adoção das novas regras.
Rotulagem não substitui análise crítica
Em resumo, as novas diretrizes representam um esforço para tornar o ambiente digital mais transparente no que diz respeito ao uso da IA. Além disso, elas preveem métodos de identificação, diferenciam tipos de participação da máquina e alertam para os riscos de uma confiança exagerada nos rótulos.
A medida, no entanto, não deve ser encarada como uma solução completa. Consequentemente, a eficácia da rotulagem de conteúdo IA depende da adoção de padrões interoperáveis, do aprimoramento das técnicas de marca d’água e, principalmente, da manutenção de uma postura crítica por parte dos usuários. Assim sendo, soma-se a um conjunto de práticas que buscam preservar a confiança do público, sem substituir o senso crítico de cada leitor.
Fonte
- canaltech.com.br
- WhatsApp (canalte.ch)