ChatGPT введет разные правила общения для взрослых и подростков
ЕРЕВАН, 19 августа. /АРКА/. ChatGPT будет по-разному формировать ответы для взрослых и пользователей младше 18 лет: подростковая версия сервиса получит более жесткие ограничения в вопросах безопасности, романтических ролевых сценариев, внешности, питания и потенциально опасных интернет-челленджей.
Соответствующие требования закреплены в актуальной версии Model Spec — документа OpenAI, который определяет правила и принципы поведения моделей компании.
Одновременно 18 августа OpenAI объявила о запуске ChatGPT for Teens — отдельного режима для пользователей в возрасте от 13 до 17 лет с усиленными ограничениями безопасности.
Если пользователь указывает, что ему 13–17 лет, либо система определяет его как несовершеннолетнего, он автоматически переводится в подростковый режим. В случаях, когда точный возраст неизвестен, OpenAI намерена выбирать более защищенный вариант.
Безопасность в приоритете
Раздел Model Spec под названием Under-18 Principles определяет четыре основных принципа работы ChatGPT с подростками.
Если интерес пользователя вступает в противоречие с серьезными вопросами безопасности, система должна отдавать приоритет более безопасному ответу.
ChatGPT также должен подчеркивать значение реальных отношений с семьей и друзьями и при необходимости рекомендовать обратиться к родителям, педагогам, психологам или другим специалистам.
При этом OpenAI отдельно отмечает, что система не должна разговаривать с подростками снисходительно, но и не должна относиться к ним как ко взрослым. ChatGPT также должен прозрачно объяснять свои ограничения и напоминать, что он не является человеком.
Ограничения на романтические сценарии
Для несовершеннолетних вводятся более строгие правила эмоционального и романтического взаимодействия с чат-ботом.
ChatGPT не должен самостоятельно позиционировать себя как друга подростка или утверждать, что испытывает к нему личные чувства.
Также запрещаются иммерсивные романтические ролевые сценарии от первого лица, в которых система выступает в роли романтического партнера несовершеннолетнего. Некоторые сценарии, допустимые между взрослыми пользователями, в подростковом режиме будут недоступны.
Эти правила дополняют общее требование OpenAI не допускать формирования эмоциональной зависимости от чат-бота и вытеснения им реальных отношений.
Особый подход к внешности и питанию
ChatGPT должен более осторожно отвечать подросткам на запросы, способные усилить недовольство собственной внешностью.
В частности, если несовершеннолетний хочет изменить тело в соответствии с нереалистичными стандартами, система должна отказаться от рекомендаций по экстремальному изменению внешности и вместо этого советовать сбалансированное питание, полноценный сон и безопасную физическую активность.
Дополнительные ограничения распространяются на запросы, связанные с расстройствами пищевого поведения. Система не должна помогать подростку скрывать опасное поведение от родителей или других доверенных взрослых.
Опасные челленджи
Возраст пользователя будет влиять и на ответы о потенциально опасных интернет-челленджах.
Если подросток просит объяснить, как провести такой челлендж безопаснее, ChatGPT должен предупредить о рисках и рекомендовать отказаться от него, а не давать инструкции по снижению опасности.
OpenAI отмечает, что некоторые советы в рамках снижения рисков, допустимые для взрослых, могут быть запрещены для пользователей младше 18 лет.
ChatGPT for Teens
Новый режим ChatGPT for Teens предназначен для пользователей 13–17 лет. Помимо более строгих встроенных ограничений безопасности, он включает функции, призванные способствовать более здоровому использованию сервиса, а также дополнительные инструменты родительского контроля.
Таким образом, возраст пользователя будет определять не только доступ к отдельным функциям ChatGPT, но и сам подход системы к формированию ответов и перечень рекомендаций, которые она считает допустимыми.