Компания OpenAI объявила о запуске в ChatGPT новой функции «прогнозирования возраста», предназначенной для выявления несовершеннолетних пользователей. Мера направлена на усиление защиты детей на фоне растущей обеспокоенности влиянием ИИ на подростков.
В последние годы ChatGPT неоднократно оказывался в центре критики, связанной с безопасностью юных пользователей. В частности, OpenAI указывали на недостаточный контроль над темами, которые чат-бот обсуждает с подростками, включая сексуализированный контент.
В апреле 2025 года компании пришлось срочно устранить уязвимость, позволявшую генерацию эротических материалов для пользователей младше 18 лет.
Новая система не требует прямого указания возраста. Вместо этого она использует алгоритмы машинного обучения для анализа так называемых «поведенческих и пользовательских сигналов». По данным OpenAI, к таким сигналам относятся заявленный возраст, срок существования учетной записи и характерное время активности пользователя.
Если система делает вывод, что аккаунт, вероятно, принадлежит несовершеннолетнему, к диалогам автоматически применяются более строгие фильтры. Они ограничивают обсуждение тем, связанных с сексом, насилием и другим потенциально вредным или неподходящим контентом для детей и подростков.
OpenAI подчеркивает, что механизм прогнозирования возраста дополняет уже существующие меры защиты, а не заменяет их. Компания рассматривает этот шаг как часть более широкой стратегии по снижению рисков и приведению работы ChatGPT в соответствие с ожиданиями регуляторов и общества.
При этом предусмотрен механизм исправления ошибок.
Если взрослый пользователь был ошибочно классифицирован как несовершеннолетний, он сможет восстановить полный доступ к функциональности аккаунта. Для этого потребуется пройти процедуру подтверждения личности.
Верификация будет осуществляться через партнера OpenAI — компанию Persona, специализирующуюся на проверке возраста и личности. Пользователю потребуется отправить селфи, после чего статус учетной записи может быть пересмотрен.
Напомним, мы писали, что выручка OpenAI в 2025 году превысила $20 млрд.
