OpenAI создает комитет по безопасности во главе с генеральным директором Сэмом Альтманом для обеспечения безопасного проектирования и создания систем

OpenAI сформировала новый «комитет безопасности», чтобы гарантировать, что передовые системы искусственного интеллекта компании проектируются и создаются безопасным и надежным образом. Комитет, возглавляемый генеральным директором Сэмом Альтманом, призван гарантировать, что компания остается верной своему основополагающему гуманитарному видению. Комитет оценит и улучшит процессы безопасности OpenAI и предоставит рекомендации всему совету директоров в течение 90 дней.

Новый комитет по безопасности OpenAI, которому поручено обеспечивать соответствие продуктов компании ее миссии, возглавляется генеральным директором Сэмом Альтманом и включает в себя членов совета директоров и исследователей, которые его поддерживают. Однако комитет по безопасности под руководством генерального директора выразил среди некоторых обеспокоенность тем, что это может привести к конфликту интересов и отсутствию реального контроля. Некоторые эксперты в области искусственного интеллекта и технологий выразили сомнения и критику по поводу этого решения в Твиттере.

OpenAI значительно сместилась в сторону более корпоративного, ориентированного на прибыль подхода, отклонившись от своей первоначальной миссии — гарантировать, что искусственный интеллект «приносит пользу всему человечеству», что означает как создание безопасного и полезного AGI, так и помощь в создании широко распределенных интересов». действия за последний год включали заключение соглашения с Пентагоном о потенциальном военном применении, запуск стороннего рынка чат-ботов и даже изучение создания контента для взрослых.