OpenAI Вводит усиленные меры безопасности для подростков и родительский контроль для ChatGPT

OpenAI Организация, занимающаяся исследованиями в области искусственного интеллекта, объявила об обновлениях, направленных на повышение безопасности пользователей-подростков. 

Компания пояснила, что ChatGPT Взаимодействие с 15-летним подростком должно отличаться от взаимодействия со взрослым человеком, и компания разрабатывает долгосрочную систему оценки того, достиг ли пользователь 18-летнего возраста, чтобы можно было адаптировать опыт соответствующим образом.

Пользователи, которым меньше 18 лет, будут направлены на ChatGPT опыт применения политик, соответствующих возрасту, которые включают блокировку наглядного сексуального контента и, в редких случаях серьезного стресса, возможное привлечение правоохранительных органов для обеспечения безопасности.

В ситуациях, когда возраст невозможно определить с уверенностью или информация неполная, платформа по умолчанию устанавливает возраст до 18 лет, предоставляя взрослым способы подтверждения возраста для доступа к функциям для взрослых.

В то же время ожидается, что родительский контроль станет для семей наиболее эффективным методом управления тем, как ChatGPT используется в домашних условиях. 

Эти элементы управления, которые станут доступны к концу месяца, позволят родителям связать свою учетную запись с учетной записью подростка, которому уже исполнилось 13 лет, с помощью простого приглашения по электронной почте. 

Родители смогут руководить тем, как ChatGPT реагирует на своего подростка в соответствии с правилами поведения, характерными для подростка, управляет включением или отключением функций, включая память и историю чата, а также получает уведомления, если система обнаруживает, что подросток испытывает острый стресс.

 В редких случаях, когда связаться с родителями невозможно, могут быть задействованы правоохранительные органы. Эта функция под руководством экспертов поможет сохранить доверие между родителями и подростками. Кроме того, родители могут установить часы отключения, в течение которых подростки не смогут получить доступ к сети. ChatGPT. Эти функции родительского контроля дополняют существующие функции платформы, такие как напоминания в приложении, побуждающие делать перерывы во время продолжительных сеансов.

ИИ и психическое здоровье подростков: FTC расследует платформы чат-ботов на фоне растущих опасений по поводу правовых аспектов и безопасности

Этим летом появился ряд тревожных сообщений о роли ИИ в инциденты с психическим здоровьем , что совпало с усилением контроля со стороны регулирующих органов и продолжающимися судебными разбирательствами. 

Против Character.AI были поданы иски и OpenAI , утверждая, что их платформы способствовали подростковому самоубийства и членовредительство не предоставляя адекватной поддержки в критические моменты. В ответ на это Федеральная торговая комиссия США (FTC) начала расследование того, как крупные технологические компании разрабатывают и контролируют чат-ботов на основе искусственного интеллекта, рекламируемых в качестве помощников, особенно для молодых пользователей. 

Несмотря на эти усилия, широкая доступность различных вариантов чат-ботов, включая модели с открытым исходным кодом и частные модели, означает, что устранение этих рисков остается сложной и устойчивой проблемой.