Разработчики ChatGPT планируют внедрить систему определения возраста пользователей. Если ИИ ошибётся, подтвердить возраст можно будет с помощью селфи.
Как ChatGPT будет определять возраст
Речь идёт не о тотальной проверке документов, а о многоуровневом анализе. Модель будет определять, исполнилось ли пользователю 18 лет, на основе уже существующих механизмов защиты.
"Модель учитывает сочетание поведенческих сигналов и сигналов на уровне учетной записи, включая то, как долго существует учетная запись, типичное время суток, когда пользователь проявляет активность, особенности использования с течением времени и указанный пользователем возраст", — говорится в заявлении компании.
Когда понадобится селфи
Если система по ошибке отнесёт пользователя к несовершеннолетним, доступ к функциям ChatGPT может быть ограничен. В этом случае возраст можно будет быстро подтвердить.
Для этого разработчики предлагают пройти проверку через сервис Persona — он используется для безопасной идентификации личности. Пользователю потребуется сделать селфи, после чего полный доступ будет восстановлен.
При этом подчёркивается: селфи не станет обязательным для всех — только в ситуациях, когда система сомневается в возрасте пользователя.
Что ограничат для пользователей младше 18 лет
Для несовершеннолетних ChatGPT введёт дополнительные фильтры, чтобы снизить риск доступа к потенциально вредному контенту. В частности, ИИ будет ограничивать:
- изображение сцен насилия или чрезмерной жестокости;
- вирусные "челленджи", которые могут поощрять рискованное или вредное поведение у несовершеннолетних;
- признаки ролевых игр с сексуальным, романтическим или жестоким подтекстом;
- изображения членовредительства;
- контент, продвигающий экстремальные стандарты красоты, нездоровое питание или бодишейминг.
В компании отмечают, что новая система направлена на защиту несовершеннолетних и более точную настройку контента под возраст пользователя. Подобные меры уже применяются в соцсетях и видеосервисах — теперь к ним постепенно приходят и ИИ-платформы.
Когда именно система начнёт работать во всех потребительских версиях ChatGPT, разработчики пока не уточнили.
Казахстанский психолог предупредила о рисках общения с ChatGPT.
В Казахстане также принят новый закон, касающийся контроля за ChatGPT.