1,2 млн пострадавших детей, UNICEF требует криминализировать ИИ-контент с несовершеннолетними

Международная организация UNICEF опубликовала заявление, в котором выразила беспокойство касательно роста количества изображений с несовершеннолетними сексуального характера, сделанных с помощью ИИ. Она считает необходимым криминализировать создание, хранение и распространение подобного контента.

В публикации UNICEF сослалась на результаты второго этапа исследовательского проекта Disrupting Harm Phase 2. В нем приняли участие дети из 11 стран.

Согласно заявлению, 1,2 млн несовершеннолетних сообщили, что их изображения были использованы для создания контента сексуального характера за последний год. В UNICEF подчеркнули, что в некоторых странах этот показатель составляет 1 из 25.

Также в отдельных юрисдикциях около двух третей опрошенных отметили, что в курсе подобной практики и опасаются стать жертвой. В организации считают, что использование ИИ нормализует подобную практику, подпитывает спрос на такой контент и создает препятствия в преследовании авторов с точки зрения закона.

«Мы должны четко заявить, заявить: изображения детей сексуального характера, созданные или обработанные с помощью инструментов искусственного интеллекта, являются материалами, содержащими сцены сексуального насилия над детьми», — подчеркнули в UNICEF.

В связи с этим в организации призвали страны расширить определение подобных материалов (CSAM), внедрить инструменты защиты непосредственно в ИИ-решения и принудить поставщиков услуг предотвращать распространение подобного контента.

Призыв UNICEF прозвучал на фоне расследования деятельности X в разных странах после жалоб на то, что аудитория площадки использует чат-бот Grok для обработки изображений, в том числе с несовершеннолетними. В частности, ранее мы сообщали, что во французских офисах компании прошли обыски.