Скандал вокруг Grok, компанию Маска обвиняют в генерации незаконного контента

Основанная миллиардером Илоном Маском компания xAI стала ответчиком по иску об использовании ее ИИ-моделей для создания сексуализированных изображений несовершеннолетних. Заявление подано в федеральный суд Северного округа Калифорнии от имени трех анонимных несовершеннолетних истцов.

Истцы, обозначенные как Джейн Доу 1, Джейн Доу 2 и Джейн Доу 3, намерены добиться признания дела коллективным. Они утверждают, что технология Grok использовалась для обработки их фотографий, в результате чего создавались откровенные изображения.

В документах говорится, что xAI не приняла базовые меры предосторожности, которые применяются другими разработчиками ИИ для предотвращения генерации подобного контента. Речь идет о механизмах, ограничивающих создание порнографических изображений на основе реальных фотографий.

Это не первое обвинение в адрес компании. Ранее в отношении xAI, в связи с этой темой, начали расследование регуляторы нескольких стран. Кроме того, против нее уже подали иски отдельные пользователи и их родители.

Претензии к системе защиты

По утверждению заявителей, если модель способна создавать эротический контент с реальных изображений, то предотвратить генерацию материалов с участием детей практически невозможно. В иске также упоминается публичная демонстрация возможностей Grok по созданию откровенного контента.

Одна из пострадавших заявила, что ее фотографии с выпускного и школьного альбома были изменены, после чего в сети появились обнаженные изображения. Девушке сообщили об этом через социальные сети и предоставили ссылку на сервер, где распространялись подобные материалы.

Еще две жертвы узнали о существовании таких изображений от правоохранительных органов. В одном случае контент был создан через стороннее приложение, использующее модели Grok, в другом — обнаружен на устройстве задержанного лица.

Заявители утверждают, что даже при использовании сторонних сервисов ответственность лежит на xAI. Они связывают это с тем, что генерация изображений требует доступа к ее инфраструктуре.

Сторона обвинения также сообщила о психологическом ущербе и требует применения гражданских санкций за нарушение законов о защите несовершеннолетних.

Напомним, мы писали, что OpenAI одержала в суде победу над xAI.