Со 2 августа ChatGPT, Gemini, Claude и другие крупные нейросети обязаны подписывать всё, что генерируют для пользователей из Калифорнии. В силу вступил закон Senate Bill 942 в редакции AB 853 — его действие специально сдвинули с 1 января, чтобы оно совпало с датой, когда аналогичные требования по рискованным ИИ-системам начинает применять Евросоюз.
Правило касается любого сервиса генеративного ИИ с аудиторией больше миллиона пользователей в Калифорнии — то есть фактически всей крупной индустрии: OpenAI, Google, Meta, Anthropic, xAI и Microsoft. Компании обязаны сделать три вещи. Дать людям бесплатный инструмент, которым можно проверить происхождение файла. Разрешить пользователю поставить видимую пометку на сгенерированной картинке, видео или аудио. И вшить в файл невидимые метаданные: имя провайдера, версию системы, дату создания, уникальный идентификатор. Причём переложить обязанность на партнёра, который лицензирует чужую модель, не получится — требование распространяется и на них.
Метка должна быть заметной и, как сказано в тексте закона, «чрезвычайно сложной для удаления». За каждое нарушение — штраф $5000, и каждый день без исправления считается отдельным эпизодом, так что сумма быстро растёт. Автор нормы, сенатор от Менло-Парка Джош Бекер, объясняет жёсткость просто: дипфейки и поддельные ролики с политиками уже обходятся американцам в миллиарды долларов ежегодно, а с приближением выборов отличить настоящее от сгенерированного становится только труднее.
Это лишь первая ступень. С января 2027 года требование распознавать ИИ-контент и показывать пользователю его происхождение ляжет на крупные соцсети и платформы, которые размещают чужие модели — с аудиторией от двух миллионов. А с 2028 года метки должны появиться прямо в камерах и микрофонах устройств, которые записывают исходный файл.
Слабое место закона — исполнение. Отдельного ведомства, которое будет проверять миллионы файлов на скрытые метки, у штата нет: механизм запускается по жалобе или в суде. OpenAI, Google и Anthropic уже публиковали похожую техдокументацию по другому калифорнийскому закону, AB 2013, но заявлений именно про требования SB 942 пока не появилось. На федеральном уровне обязательной маркировки ИИ-контента всё ещё нет — так что для остальных сорока девяти штатов метки пока остаются добровольным делом самих компаний.
