После многочисленных судебных исков из-за отсутствия мер безопасности у чат-ботов с искусственным интеллектом, что привело к самоубийствам подростков и другим проблемам с психическим здоровьем, компания OpenAI в понедельник объявила о запуске ChatGPT для подростков. Новый продукт обещает включить дополнительные меры безопасности, а также решить проблему образовательного кризиса, связанного с использованием ChatGPT для списывания в школах.
В образовательной сфере ChatGPT для подростков представляет новую функцию «Режим изучения» и другие инструменты, предназначенные для того, чтобы побудить подростков пользователей задействовать своё любопытство и решать задачи, а не просто получать быстрые ответы.
Как объясняет OpenAI в своём блоге, опция «Режим изучения» предложит подросткам наводящие вопросы и пошаговую поддержку, чтобы помочь им разобраться в материале. Тем временем в подростковом интерфейсе также будут напоминания о домашних заданиях, которые будут появляться, когда подросток попытается списать, а не понять материал. Затем чат-бот с искусственным интеллектом будет побуждать подростка использовать «Режим изучения».
Приложение также будет поддерживать викторины, визуализацию обучения и элементы управления, которые позволяют родителям или опекунам решать, когда «Режим изучения» будет включён по умолчанию, говорится в сообщении компании.
Тем не менее, пока неясно, насколько сложно подросткам будет обойти эти новые системы, если они решат не сотрудничать. Подростки невероятно искусны в обходе родительского контроля и других попыток заблокировать цифровой опыт. Пока ChatGPT в режиме для подростков не пройдёт более строгие испытания, непонятно, насколько сложно будет обойти эти меры безопасности на практике.
Изображение предоставлено: OpenAI
Также возникает вопрос, почему эти средства защиты не были частью ChatGPT с самого начала. Чат-бот с искусственным интеллектом впервые появился в конце 2022 года и набрал 900 миллионов еженедельных пользователей, прежде чем были добавлены значимые меры защиты, разработанные специально для подростков.
OpenAI сообщает, что соответствующие возрасту средства защиты теперь будут включены по умолчанию в ChatGPT для подростков, которые предназначены для снижения воздействия вредного или не соответствующего уровню развития контента. Эти меры основаны на принципах OpenAI для лиц младше 18 лет, изложенных в нашей спецификации модели, которые, как утверждает компания, основаны на «науке о развитии и рекомендациях экспертов».
Родители также смогут использовать ранее представленные семейные инструменты и родительский контроль для управления настройками, получения уведомлений о безопасности и установки «тихих часов» и других функций.
OpenAI объявила о партнёрстве с CodeAI, чтобы помочь подросткам узнать больше об искусственном интеллекте, включая то, как он работает, как им управлять, как задавать ему вопросы и как его использовать. В классе OpenAI уже предлагает ChatGPT для учителей, чтобы помочь школам обеспечить управляемый учреждением доступ к ИИ и поддержке.
Читайте также другие новости на нашем сайте: Главная страница
Источник: techcrunch.com
Добавить комментарий