As novas regras exigem que prestadores e operadores de sistemas de IA incorporem soluções técnicas que permitam a identificação de conteúdo gerado por IA

A rápida evolução da IA tornou possível gerar grandes quantidade de conteúdos sintéticos, muitas vezes, indistinguíveis de conteúdos autênticos. A IA generativa está sendo até utilizada para criar influencers artificiais que aparentam ser personagens reais.  

Embora essa evolução ofereça novas possibilidades criativas para empresas e indivíduos, ela também acarreta riscos significativos para a nossa sociedade. Quando não é mais possível diferenciar entre conteúdos reais e conteúdos gerados por IA, a informação falsa pode ser aceita como verdadeira e a autenticidade de conteúdos reais ser questionada. Portanto, a ampla disponibilidade e o aumento das capacidades desses novos sistemas de IA têm um impacto significativo na confiança e integridade do ecossistema da informação.¹  

O legislador europeu reconheceu esse problema e incluiu no novo Regulamento de IA² disposições que exigem que conteúdos gerados por IA sejam identificados como tal, com o objetivo de restaurar essa confiança. A responsabilidade de garantir a identificação de conteúdos gerados por IA recai tanto sobre os prestadores quanto os operadores de sistemas de IA. Portanto, a nova regra exige uma adaptação no desenvolvimento e na implementação de sistemas IA.  

Da Aplicação Territorial: Empresas dentro e fora da UE

Em primeiro lugar, é importante destacar que a aplicação territorial do Regulamento de IA é bastante ampla. O regulamento não se aplica apenas às empresas europeias, mas também àquelas estabelecidas ou localizadas em outros países, caso essas empresas comercializem sistemas de IA no mercado da UE ou se o resultado produzido pelo sistema de IA (o output) for utilizado na UE (Art. 2 (1) (a) e (c)).  

Definição de Prestadores e Operadores de Sistemas de IA

As novas obrigações de transparência aplicam-se a dois atores: prestadores e operadores³ de sistemas de IA.  

Um prestador é uma pessoa natural ou jurídica, autoridade pública, agência ou outro organismo que desenvolva ou mande desenvolver um sistema de IA e o coloque no mercado sob seu próprio nome ou sua própria marca, a título oneroso ou gratuito (Art. 3, n.º 3).  

Já um operador é uma pessoa natural ou jurídica, autoridade pública, agência ou outro organismo que utilize um sistema de IA sob sua própria autoridade, salvo se o sistema de IA for utilizado no âmbito de uma atividade pessoal de caráter não profissional (Art. 3, n.º 4).

Definição de Sistemas de IA

As novas obrigações de transparência dizem respeito à sistemas de IA. Um sistema de IA é um sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais (Art. 3, n.º 1).

Das Obrigações de Transparência do Art. 50 do Regulamento de IA

O Art. 50 do Regulamento de IA estabelece diferentes obrigações de transparência para cinco tipos distintos de sistemas de IA:

• sistemas destinados a interagir diretamente com pessoas (Art. 50 (1));  

• sistemas que geram conteúdos sintéticos de áudio, imagem, vídeo ou texto (Art. 50 (2));

• sistemas de reconhecimento de emoções e categorização biométrica (Art. 50 (3));

• sistemas que geram ou manipulam conteúdos de imagens, áudio ou vídeos considerados deepfakes (Art. 50 (4) (1));

• sistemas que geram ou manipulam textos publicados com o objetivo de informar o público sobre questões de interesse público (Art. 50 (4) (2)).

Das Obrigações dos Prestadores de Sistemas de IA Generativa

De acordo com o Art. 50 (2), os prestadores de sistemas de IA que geram conteúdos sintéticos de áudio, imagem, vídeo ou texto, devem assegurar que os resultados do sistema de IA sejam marcados em um formato legível por máquina e detectáveis como sendo artificialmente gerados ou manipulados.  

Para alcançar esse objetivo, os prestadores de sistemas de IA podem, por exemplo, implementar as seguintes soluções técnicas: marcas de água, identificações de metadados, métodos criptográficos para comprovar a proveniência e autenticidade do conteúdo, métodos de registro, impressões digitais ou outras técnicas adequadas.⁴  

Das Obrigações dos Operadoes de Sistemas de IA Generativa

Enquanto as obrigações atribuídas aos prestadores abrangem todos os conteúdos de áudio, imagem, vídeo ou texto gerados por sistemas de IA, as obrigações dos operadores são mais específicas em relação ao conteúdo: os operadores de um sistema de IA devem revelar que os conteúdos foram gerados ou manipulados artificialmente apenas quando constituírem um deepfake (Art. 50 (4) (1)).

Um deepfake é um conteúdo de imagem, áudio ou vídeo gerado ou manipulado por IA, que seja semelhante a pessoas, objetos, locais, entidades ou acontecimentos reais, e que possa levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros (Art. 3, n.º 60). É importante ressalvar que o conceito de deepfake não se limita a conteúdos criados com a intenção de enganar outras pessoas, mas também inclui criações artísticas ou satíricas.

Diferentemente das obrigações atribuídas aos prestadores, o Regulamento de IA não exige que os operadores garantam a identificação dos conteúdos como gerados por IA de forma legível por máquina, mas determina, em vez disso, que essa identificação seja feita de maneira clara e perceptível.⁵

Vale destacar, neste contexto, que também existem regras específicas para conteúdos jornalisticos gerados por IA. Art. 50 (4) (2) exige que o operador de um sistema de IA que gere ou manipule um texto publicado com o objetivo de informar o público sobre questões de interesse público deve revelar que o texto foi artificialmente gerado ou manipulado, salvo se os conteúdos gerados por IA tiverem sido objeto de um processo de análise humana ou de controle editorial.  

Aplicação Temporal

As obrigações de transparência previstas no artigo 50 do novo Regulamento Europeu de IA passam a valer a partir de 2 de agosto de 2026. Isso significa que os prestadores e operadores de sistemas de IA geradores de conteúdos sintéticos - como áudios, imagens, vídeos ou textos - têm pouco mais de um ano para se adequar às novas exigências legais. O prazo é curto, e a adaptação será essencial para garantir a conformidade regulatória.

‍
Notas:

¹ Considerando (133) do Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial (disponível em: http://data.europa.eu/eli/reg/2024/1689/oj, acesso em: 21.07.2025); Madiega, European Parliamentary Research Service, Generative AI and watermarking, PE 757.583 – December 2023 (disponível em: https://www.europarl.europa.eu/RegData/etudes/BRIE/2023/757583/EPRS_BRI(2023)757583_EN.pdf, acesso em: 21.07.2025); Molavi Vasse’i, Watermarking von KI-generierten Inhalten als regulatorisches Instrument, RDi 2024, 406).

² Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial.

³ O Regulamento de IA usa o termo „responsáveis pela implantação“ em vez de „operadores“.

⁴ Considerando (133) do Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial.

⁵ Considerando (134) do Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial,

‍