Наука и технологии
Опубликовано 22 мая 2024, 23:15
1 мин.

В США впервые арестовали за создание ИИ-изображений с насилием над детьми

Так называемый CSAM
Министерство юстиции США арестовало мужчину из штата Висконсин за создание и распространение материалов с сексуальным насилием над детьми (о чем в том числе закон CSAM), сгенерированных искусственным интеллектом. Это первый случай, когда человеку было предъявлено обвинение в подобном преступлении в стране.
В США впервые арестовали за создание ИИ-изображений с насилием над детьми
© Ferra

Обвиняемый, 42-летний инженер-программист Стивен Андерегг, предположительно использовал генератор изображений с открытым исходным кодом под названием Stable Diffusion для создания незаконных изображений.

Минюст выдвигает против Андерегга следующие обвинения: «производство, распространение и хранение непристойных изображений несовершеннолетних, вовлеченных в сексуальное поведение, а также передача непристойных материалов несовершеннолетнему в возрасте до 16 лет». Если Андерегга признают виновным по всем четырем пунктам, ему грозит до 70 лет лишения свободы.

Это дело поднимает важные вопросы о возможности использования искусственного интеллекта для создания и распространения преступных материалов. В то время как облачные генераторы изображений, такие как Midjourney и DALL-E 3, имеют средства защиты от подобных злоупотреблений, Андерегг предположительно использовал локальный вариант Stable Diffusion с меньшим количеством ограничений.