Компания OpenAI начала внедрение новой механики, при которой возраст пользователя будет определяться без прямого запроса. Теперь алгоритмы стараются самостоятельно угадать, с кем имеют дело — с совершеннолетним собеседником или с подростком. Такой подход выбран для ужесточения мер, направленных на охрану несовершеннолетних в сети.
Говорится о модели, которая работает в фоновом режиме и оценивает поведенческие характеристики. Учитывается всё, от времени суток, в которое пользователь проявляет наибольшую активность, до манеры изложения запросов.
Даже тематика стартового диалога с ChatGPT может повлиять на решение системы. На основании этих наблюдений формируется гипотеза об ориентировочном возрасте, после чего автоматически применяются соответствующие фильтры.
В компании не скрывают, что система пока не идеальна. Вероятность ошибки остаётся, особенно в тех случаях, когда поведение взрослого человека по некоторым признакам напоминает подростковое. В такой ситуации часть функций окажется недоступной. Пользователь увидит, что ему будет заблокирован доступ к материалам, рассчитанным на старшую аудиторию.
Разработчики предусмотрели способ вернуть полный доступ, если алгоритм определил возраст некорректно. Чтобы пройти подтверждение, потребуется верификация. Система предлагает два варианта: сделать снимок лица через камеру устройства или загрузить фотографию удостоверения личности.
Этим занимается внешний подрядчик — фирма Persona, специализирующаяся на проверке документов и биометрии. После сверки дата рождения и изображение удаляются в течение недели.
По завершении проверки прежние ограничения снимаются, хотя на это может уйти немного времени. Тем не менее даже в подростковом режиме ChatGPT остаётся функциональным — разрешены обучающие и творческие задачи, бытовые запросы и простое общение. При этом алгоритм будет строже отсекать упоминания насилия, сцен жестокости, обсуждение потенциально вредных интернет-флешмобов и материалов, которые могут формировать искажённое восприятие тела или пищевого поведения.
Журналист издания The Verge Том Уоррен сообщил, что новая система появится постепенно на всех аккаунтах в разных странах. Как только настройка заработает, она начнёт действовать без дополнительного уведомления. По мнению аналитиков, это может стать реакцией на волны общественного недовольства и растущее количество судебных претензий, поступающих в адрес компании.
Ранее внимание к OpenAI усилилось после череды трагических случаев, в которых родители утверждали, что их дети столкнулись с опасным контентом в ChatGPT. В одном из громких дел истцы настаивали на том, что ИИ-сервис якобы повлиял на психоэмоциональное состояние подростка, приведя к самоубийству. Представители OpenAI не раз объясняли в публичных заявлениях, что подобные случаи являются нарушением условий использования и не отражают действительную политику платформы.