Как маркетплейсы и соцсети распознают AI-контент и что делать с метаданными

Раз пошли разговоры про маркировку, логичный следующий вопрос: а как вообще понять, что картинка или ролик сделаны нейросетью? Спойлер, способов несколько, и надёжность у них очень разная. Разберу, как распознают AI-контент на практике, и главное, что с этим делать селлеру, чтобы не выстрелить себе в ногу.

Как распознают AI-контент: три способа

Первый и самый надёжный это встроенные метки от самого разработчика. Крупные модели подписывают свои генерации стандартом C2PA (Content Credentials, подпись о происхождении в метаданных) и невидимым водяным знаком SynthID прямо внутри пикселей. Это не угадывание, а технический факт: файл сам говорит, чем сделан. Подробнее про то, кто и зачем это вводит, я писала в материале про маркировку ИИ-контента.

Второй это сторонние детекторы, которые пытаются угадать происхождение по картинке. Вот тут осторожно: они ошибаются в обе стороны. Реальное фото называют сгенерированным, а хорошую генерацию пропускают как настоящую. Полагаться на них как на истину нельзя, это вероятностная оценка, а не приговор.

А ещё есть просто глаз. Шесть пальцев, поплывший текст, кривые тени модератор или покупатель ловит без всякой техники. Чем чище ваш кадр, тем меньше шансов, что AI заподозрят на глаз.

Что происходит с метаданными при загрузке

Важный момент, который многие упускают. Соцсети и платформы по-разному обращаются с метаданными: одни сохраняют подпись о происхождении, другие вырезают их при сжатии, третьи наоборот добавляют свою метку об AI. Например, часть платформ уже автоматически помечает загрузки, сделанные нейросетью. То есть даже если вы ничего не делали, ваш файл может прийти к зрителю уже с отметкой.

Стоит ли чистить файлы

Вот тут главный практический совет, и он против интуиции. Не торопитесь вырезать метаданные и водяные знаки, чтобы «спрятать» AI. Во-первых, невидимый знак SynthID так просто не убирается, он вшит в саму картинку. Во-вторых, тренд идёт в обратную сторону: подпись о происхождении со временем станет нормой и скорее плюсом, чем клеймом. В-третьих, попытка выдать сгенерированное за живую съёмку там, где это вводит покупателя в заблуждение, это уже про доверие, а не про технологии, и на дистанции выходит дороже.

Честно оговорюсь: правила тут меняются быстро, и единого стандарта для всех площадок пока нет. Поэтому универсального рецепта «делай так» я не дам, но базовая линия простая: не обманывать, не чистить подписи бездумно, держать кадр чистым.

Я для своих генераций давно не вожусь с чисткой метаданных и не прячу происхождение: держу кадр чистым, и это спасает надёжнее любого детектора. Модели во Flami идут официальные, подпись о происхождении у них штатная, так что и стартуете вы из белой зоны, а не из серой.

Часто задаваемые вопросы

Можно ли точно определить, что фото или видео сделаны нейросетью?

Надёжнее всего по встроенным меткам самого разработчика: подписи C2PA в метаданных и водяному знаку SynthID внутри картинки. Сторонние детекторы менее надёжны и ошибаются в обе стороны, а человеческий глаз ловит только явные артефакты.

Насколько точны детекторы AI-контента?

Не настолько, чтобы им доверять как истине. Они дают вероятностную оценку и регулярно ошибаются: принимают реальное фото за сгенерированное и наоборот. Использовать их как единственное доказательство нельзя.

Стоит ли удалять метаданные, чтобы скрыть использование нейросети?

Не стоит. Невидимый водяной знак SynthID так просто не убрать, он вшит в пиксели, а подпись о происхождении со временем станет нормой и будет работать в вашу пользу. Попытка выдать генерацию за живую съёмку бьёт по доверию покупателя.

Помечают ли соцсети AI-контент автоматически?

Часть платформ уже добавляет отметку об использовании нейросети при загрузке, опираясь на встроенные подписи. Поэтому ваш файл может прийти к зрителю с пометкой, даже если вы её не ставили. Правила у площадок разные и быстро меняются.

Источники

1. Flami: маркировка ИИ-контента в рекламе
2. Flami: почему нейросети калечат руки, текст и логотипы