OpenAI запускает ChatGPT с усиленной защитой для подростков: безопасность превыше всего!

OpenAI представила адаптированную версию ChatGPT с родительским контролем для пользователей младше 18 лет, что усиливает меры безопасности.

Если система выявит, что пользователь является несовершеннолетним, он будет автоматически перенаправлен на версию чат-бота, предназначенную для молодежной аудитории. В этой версии исключается графический сексуальный контент. При выявлении серьезных кризисных ситуаций может быть вызвана полиция.

Компания работает над технологией, позволяющей более точно определять возраст пользователей. Однако в случаях неопределенности или недостатка информации ChatGPT будет запускаться в молодежном режиме по умолчанию.

«Правильно организовать этот процесс непросто, и даже самые инновационные системы иногда сталкиваются с трудностями в определении возраста. Если у нас есть сомнения или информация неполна, мы выберем более безопасный вариант и запустим подростковую версию ChatGPT. Взрослые же смогут подтвердить свой возраст, чтобы получить полный доступ к функционалу», — отмечается в блоге.

Эти изменения были инициированы после начала проверки Федеральной торговой комиссии США, которая расследует деятельность нескольких ИИ-компаний. Регулятор хочет разобраться в том, как эти компании оценивают безопасность и способы монетизации цифровых услуг, а также какие меры принимают для снижения негативного влияния на молодежь.

В августе OpenAI обнародовала планы по улучшению функционала ChatGPT в «чувствительных ситуациях» в ответ на иск от родителей подростка, которому чат-бот, по их мнению, причинил вред.

В сентябре стало известно о намерениях компании внедрить родительский контроль и перенаправлять конфиденциальные обсуждения на специализированные модели.

«Мы утверждаем, что безопасность важнее приватности и свобод для подростков. Эта новая мощная технология требует значительной защиты для несовершеннолетних. Принятие решений не всегда просто, но после консультаций с экспертами мы пришли к выводу, что это будет наилучший подход, и хотим открыто озвучить наши намерения», — заявил Сэм Альтман, CEO OpenAI.

К концу сентября в приложении будет реализован родительский контроль, который предоставит возможность:

Напомним, что в июле OpenAI выпустила специальный режим обучения для студентов в ChatGPT, который помогает осваивать задачи по шагам, а не предоставлять готовые ответы.