OpenAI исследует возможность ответственного создания ИИ-порно

• Компания OpenAI опубликовала первую версию документации Model Spec с правилами поведения для ИИ-моделей.
• Согласно документу, компания «исследует вероятность ответственного предоставления возможности генерировать NSFW-контент в контекстах, соответствующих возрасту».

Лаборатория искусственного интеллекта OpenAI опубликовала первую версию документации Model Spec с изложением правил поведения чат-бота ChatGPT и других ИИ-технологий. Согласно документу, компания рассматривает способы, как ответственно генерировать откровенный контент.

Подход OpenAI предлагает три общих принципа:

• модели ИИ должны помогать разработчику и конечному пользователю полезными ответами в соответствии с инструкциями;
• алгоритмы обязаны приносить пользу человечеству с учетом потенциальных преимуществ и угроз;
• модели ИИ должны отражать принципы OpenAI в отношении социальных норм и законов.

Документ также включает несколько правил для разработчиков:

• соблюдайте субординацию;
• соответствуйте действующему законодательству;
• не создавайте информационных угроз;
• уважайте авторов и их права;
• защищайте конфиденциальность людей;
• не отвечайте NSFW -контентом.

По данным лаборатории, идея состоит в том, чтобы разрешить компаниям и пользователям «переключать» степень «пикантности» моделей искусственного интеллекта.

Одним из указанных компанией примеров является контент NSFW. Согласно OpenAI, лаборатория «исследует вероятность ответственного предоставления возможности генерировать такие данные в контекстах, соответствующих возрасту, через API и ChatGPT».

Раздел Model Spec о том, как ИИ-помощник должен справляться с информационными опасностями. Данные: OpenAI.

Менеджер по продуктам компании Джоан Джанг объяснила, что необходимо получить информацию от общественности о том, как должны вести себя модели ИИ. Эта документация поможет провести более четкую грань между тем, где поступки алгоритмов являются намеренным, а где ― ошибочными, добавила она.

Среди типов поведения модели по умолчанию OpenAI предлагает:

• предполагать наилучшие намерения пользователя или разработчика;
• задавать уточняющие вопросы;
• не переступать границы;
• придерживаться объективной точки зрения;
• не допускать ненависти;
• не пытаться изменить чье-либо мнение;
• выражать неуверенность.

Model Spec пока не повлияет на выпущенные OpenAI алгоритмы вроде GPT-4 или DALL-E 3. Они продолжат работать в соответствии с существующими политиками использования.

По словам Джанг, Model Spec задумана как «живой» документ, который можно часто обновлять.

Пока компания ожидает отзывов общественности и других заинтересованных сторон, включая «политиков, доверенных учреждений и экспертов в предметной области», использующих сервисы OpenAI.

Информации о выпуске второй версии Model Spec нет.

Также неизвестно, какие отзывы примут во внимание и кто именно определит требуемые документу изменения.

Ранее OpenAI представила инструменты для обнаружения контента, созданного искусственным интеллектом.