Como as plataformas detectam conteúdo de IA (e o que fazer com os metadados)

Já que a rotulagem de conteúdo de IA virou pauta obrigatória, a pergunta seguinte é quase automática: como marketplaces, redes sociais ou simplesmente um usuário descobrem que aquela imagem ou vídeo saiu de um gerador? A resposta curta é que existem três métodos diferentes, e eles estão longe de ter a mesma confiabilidade. Vou explicar como funciona a detecção de conteúdo de IA na prática e, principalmente, o que o vendedor deve fazer pra não se complicar à toa.

Como as plataformas detectam conteúdo de IA: três métodos

O primeiro método, e o mais confiável, é uma assinatura embutida pelo próprio criador do modelo. Os grandes laboratórios de IA marcam suas gerações com o padrão C2PA (Content Credentials, uma assinatura de procedência gravada nos metadados do arquivo) e com uma marca d'água invisível chamada SynthID, cravada diretamente nos pixels da imagem. Isso não é achismo, é um fato técnico: o próprio arquivo revela como foi feito. Já falei sobre quem está empurrando esse padrão e por quê no texto sobre regras de divulgação de conteúdo de IA.

O segundo método são as ferramentas de detecção de terceiros, que tentam adivinhar a origem só olhando pra imagem. Aqui eu recomendo cautela. Elas erram para os dois lados: marcam uma foto real como gerada e deixam uma renderização de IA bem feita passar como autêntica. O resultado de um detector é uma probabilidade, não um veredito, e não dá pra tomar decisão só em cima disso.

Por fim, tem o olho humano, sem nenhuma ferramenta envolvida. Seis dedos na mão, um texto que derrete no meio da palavra, sombra que não bate com a fonte de luz: um moderador ou um comprador percebe isso de cara. Quanto mais limpo o seu frame, menor a chance de alguém apontar "isso é IA" só de bater o olho.

O que acontece com os seus metadados no upload

Aqui tem um detalhe que muita gente deixa passar. Redes sociais e marketplaces não tratam metadados da mesma forma. Algumas plataformas preservam a assinatura de procedência, outras apagam ela durante a compressão do arquivo, e outras ainda colam seu próprio selo de "feito com IA" em cima, independente do que você enviou. Várias plataformas já marcam automaticamente os uploads que carregam a assinatura de um gerador. Na prática, isso significa que seu arquivo pode chegar pro espectador já rotulado, mesmo que você nunca tenha mexido nessa configuração.

Vale a pena apagar os metadados?

Aqui vai o conselho prático, e ele vai contra o instinto. Não saia correndo pra limpar metadados e marcas d'água só pra esconder que algo foi feito com IA. Primeiro, o SynthID não é algo que se remove assim, numa tacada só: ele está embutido na própria imagem, não é uma etiqueta colada por cima. Segundo, a tendência vai na direção oposta: as assinaturas de procedência estão caminhando pra virar prática padrão e, se alguma coisa mudar, será pra virar um sinal de confiança em vez de um motivo de desconfiança. Terceiro, passar uma imagem gerada como foto real num contexto que engana o comprador é um problema de confiança, não um problema técnico, e isso custa mais caro lá na frente do que economiza agora.

Vou ser sincero: essas regras estão mudando rápido e ainda não existe um padrão único que todas as plataformas sigam. Então não vou fingir que há uma receita que resolve todo caso. O que se mantém firme, independente da plataforma: não engane o comprador, não apague assinaturas por hábito, mantenha o frame limpo.

Nas minhas próprias gerações eu parei de me preocupar com limpeza de metadados faz tempo, e também não escondo de onde a imagem veio. Um frame limpo resolve mais do que qualquer truque pra enganar detector. Os modelos no Flami já vêm com assinaturas de procedência oficiais embutidas por padrão, então você começa de um jeito transparente, não no cinza.

Perguntas frequentes

Dá pra saber com certeza que uma imagem ou vídeo foi feito por IA?

A aposta mais segura é a assinatura embutida pelo próprio modelo: a tag de metadados C2PA e a marca d'água SynthID gravada nos pixels. Detectores de terceiros são bem menos confiáveis e erram pros dois lados, e o olho humano só pega os erros mais óbvios.

Os detectores de conteúdo de IA são precisos?

Não o suficiente pra servir de prova. Eles geram uma pontuação de probabilidade e erram com frequência, tanto chamando foto real de IA quanto o contrário. Não dá pra confiar só nisso como evidência.

Vale apagar os metadados pra esconder que usei IA?

Não. A marca d'água invisível do SynthID não é algo que se apaga de forma simples, ela faz parte dos pixels, e as tags de procedência estão virando prática padrão, o que joga a seu favor com o tempo. Passar uma imagem gerada como foto real derruba a confiança do comprador.

As redes sociais rotulam conteúdo de IA automaticamente?

Algumas já adicionam o selo de IA no upload, com base na assinatura gravada no arquivo. Ou seja, seu conteúdo pode chegar ao espectador já marcado, mesmo sem você ter feito nada pra sinalizar isso. As regras mudam de plataforma pra plataforma e seguem evoluindo rápido.

Fontes

1. Flami: por que as IAs erram tanto mãos, texto e logos