Cómo detectan las plataformas el contenido con IA (y qué hacer con los metadatos)

Ahora que etiquetar contenido con IA es parte de la conversación, la siguiente duda surge casi sola: ¿cómo detectan en realidad las plataformas, los marketplaces y la gente común que una imagen o un video salió de un generador? La respuesta corta es que existen tres métodos distintos, y no todos son igual de confiables. Te cuento cómo funciona la detección de contenido con IA en la práctica y, sobre todo, qué hacer con tus metadatos para que no te juegue en contra.

Los tres métodos de detección

El primero y más confiable es la firma que trae el propio modelo. Los grandes laboratorios de IA marcan sus generaciones con el estándar C2PA (Content Credentials, una firma de procedencia incrustada en los metadatos del archivo) y con una marca de agua invisible llamada SynthID, metida directamente en los píxeles. Esto no es una suposición, es un dato técnico: el archivo mismo dice de dónde salió. Ya conté quién impulsa esto y por qué en la nota sobre las reglas de etiquetado de contenido con IA.

El segundo método son las herramientas de terceros que intentan adivinar el origen con solo mirar la imagen. Tómalas con pinzas. Fallan en los dos sentidos: marcan una foto real como generada y dejan pasar un render de IA limpio como si fuera auténtico. Un puntaje de detector es una probabilidad, no un veredicto, y apoyar una decisión solo en eso es arriesgado.

Y después está el ojo humano. Seis dedos en una mano, texto que se deforma a mitad de palabra, sombras que no cuadran con la luz: un moderador o un comprador se da cuenta sin usar ninguna herramienta. Mientras más limpio quede tu encuadre, menos probable que alguien lo marque como IA de solo verlo.

Qué pasa con tus metadatos al subir el archivo

Aquí hay un detalle que mucha gente pasa por alto. Las redes sociales y los marketplaces no tratan los metadatos de la misma forma. Algunos conservan la firma de procedencia, otros la borran durante la compresión del archivo, y otros agregan su propia etiqueta de IA sin importar lo que hayas subido. Varias plataformas ya etiquetan de forma automática cualquier archivo que traiga la firma de un generador. Eso significa que tu archivo puede llegar ya marcado a quien lo vea, aunque tú nunca hayas tocado esa opción.

¿Conviene borrar los metadatos?

Este es el consejo práctico, y va un poco contra el instinto. No te apures a limpiar metadatos ni marcas de agua solo para esconder que algo salió de una IA.

Primero, SynthID no es algo que se pueda quitar sin más: está metido en la imagen misma, no es una etiqueta pegada encima. Segundo, la tendencia va para el otro lado, las firmas de procedencia van camino a volverse práctica estándar y, si acaso, funcionan más como señal de confianza que como bandera roja. Tercero, hacer pasar una imagen generada por una foto real en un contexto donde eso engaña al comprador es un problema de confianza, no técnico, y a la larga sale más caro de lo que ahorra.

Soy sincero: esto se mueve rápido y todavía no hay un único estándar que sigan todas las plataformas por igual. No voy a fingir que existe una regla que cubra cada caso. Pero la base que se sostiene pase lo que pase es simple: no engañes al comprador, no borres firmas por costumbre, mantén el encuadre limpio.

Con mis propias generaciones dejé de preocuparme por limpiar metadatos hace tiempo, y tampoco escondo de dónde salió la imagen. Un encuadre limpio hace más trabajo que cualquier truco para esquivar detectores. Los modelos en Flami ya traen por defecto las firmas de procedencia oficiales, así que partes de un lugar limpio en lugar de uno gris.

Preguntas frecuentes

¿Se puede saber con certeza que una imagen o un video lo hizo una IA?

Tu mejor apuesta es la firma que trae el propio modelo: la etiqueta de metadatos C2PA y la marca de agua SynthID incrustada en los píxeles. Los detectores de terceros son mucho menos confiables y fallan en los dos sentidos, y el ojo humano solo atrapa los errores más evidentes.

¿Qué tan precisos son los detectores de contenido con IA?

No lo suficiente como para tomarlos de prueba. Dan un puntaje de probabilidad y se equivocan seguido: marcan fotos reales como generadas, y también al contrario. No conviene basarse solo en uno.

¿Debería borrar los metadatos para esconder que usé IA?

No. La marca invisible de SynthID no es algo que se pueda quitar así de fácil, forma parte de los datos del píxel, y las etiquetas de procedencia se están volviendo práctica estándar, algo que a la larga juega a tu favor. Hacer pasar una imagen generada por una foto real daña la confianza del comprador.

¿Las redes sociales etiquetan el contenido con IA de forma automática?

Algunas ya agregan una etiqueta de IA al subir el archivo, según la firma que trae incrustada. Así que tu contenido puede llegarle a la gente ya marcado aunque tú no hayas hecho nada para señalarlo. Las reglas cambian según la plataforma y se siguen moviendo rápido.

Fuentes

1. Flami: por qué las IA generan mal las manos, el texto y los logos