Заместителя генпрокурора Нью-Джерси обвинили в создании ИИ-CSAM

Что произошло

В Нью-Джерси предъявили обвинения заместителю генерального прокурора штата. По данным детективов округа Бакс, 51-летний Брайан Ричард Фицджеральд был задержан у себя дома в четверг. Ему вменяют уголовные обвинения, связанные с материалами сексуального насилия над детьми (CSAM), созданными с помощью искусственного интеллекта.

В чём суть обвинений

По версии следствия, Фицджеральд брал фотографии реальных несовершеннолетних из социальных сетей и с помощью ИИ делал из них сексуализированные изображения. Затем, как утверждают правоохранители, он распространял эти материалы через социальные платформы. Публичных подтверждений от защиты или самого обвиняемого в исходном сообщении не приводится.

Как это связано с более широкой практикой

Случай вписывается в линию дел, которые американские правоохранители ведут с 2024 года. Тогда Министерство юстиции США предъявило обвинения мужчине из Висконсина за распространение «тысяч реалистичных изображений несовершеннолетних допубертатного возраста» в Telegram и Instagram. После этого ведомство уточнило для правоохранительных органов позицию: материалы CSAM, сгенерированные ИИ, всё равно считаются CSAM.

Почему это важно для рынка ИИ

Дело затрагивает сразу несколько чувствительных тем: границы допустимого использования генеративных моделей, ответственность платформ за распространение синтетических изображений и то, как суды будут квалифицировать материалы, где нет реального ребёнка на съёмке, но есть реальный человек, чьё изображение было использовано. Для разработчиков инструментов генерации изображений это ещё один сигнал о необходимости фильтров и модерации.

Реакция и контекст

Инцидент привлёк внимание потому, что обвиняемый занимал государственную должность в юридической системе штата. Детали обвинения и дальнейшие шаги сторон в исходном сообщении не раскрываются. Ожидается, что дело станет ориентиром для аналогичных разбирательств, где фигурируют синтетические материалы.

Что остаётся неизвестным

Пока неясно, какие именно платформы использовались, сколько материалов фигурирует в деле и как будет выстроена линия защиты. Также открыт вопрос, какие меры могут быть приняты в отношении аккаунтов, через которые распространялись изображения.