Хуан Жэньсюнь: Мы прекратим поставку чипов клиентам, которые разрабатывают небезопасное AI-программное обеспечение; дефицит инфраструктуры AI будет сохраняться в течение нескольких лет.

Генеральный директор NVIDIA Хуан Жэньсюнь заявил, что если какой-либо клиент будет разрабатывать небезопасное ПО на основе искусственного интеллекта, он прекратит поставки чипов этому клиенту. В то же время он подчеркнул, что на данный момент обеспокоенность рынка рисками ИИ для безопасности преувеличена, равно как и утверждения о пузыре вокруг искусственного интеллекта.

Хуан Жэньсюнь сделал это заявление в интервью Bloomberg в Лондоне. Сейчас он находится в турне по Европе, чтобы продвигать мероприятие компании, которое вскоре пройдет в Берлине. Он отметил, что перед прекращением поставок сначала будет проведен диалог с соответствующими клиентами, а также подчеркнул, что технологии NVIDIA относятся к универсальным, и существует определённая граница в оценке способов их использования другими компаниями.

Одновременно NVIDIA объявила о выделении в течение пяти лет 250 миллионов долларов на поддержку исследований безопасности ИИ в Великобритании, тем самым подтвердив свою приверженность этому вопросу на практике.

В среду акции NVIDIA и других производителей чипов резко упали. Хуан Жэньсюнь вновь выразил оптимизм по поводу спроса на инфраструктуру ИИ, отметив, что дисбаланс между спросом и предложением сохранится в течение нескольких лет. "Спрос и предложение со временем придут в равновесие, но это точно произойдёт не сегодня", — сказал он на мероприятии в Лондоне.

NVIDIA является ведущим поставщиком ускорительных чипов для искусственного интеллекта, и её продукция является ключевым оборудованием для обучения и работы моделей ИИ. Благодаря своему положению компания оказалась в центре дискуссии о безопасности ИИ.

Отвечая на вопросы, Хуан Жэньсюнь ясно заявил, что если клиенты будут признаны разрабатывающими безответственный ИИ, он согласен прекратить поставки — "Это гипотетическая ситуация, но ответ — да."

Однако он также обозначил границы вмешательства NVIDIA. "Мы не управляем другими компаниями, и наша оценка того, как они используют наши технологии, ограничена. Наши технологии универсальны." Он отметил, что перед прекращением поставок всегда предварительно проводится диалог.

Эта позиция отражает стремление NVIDIA как поставщика ключевого оборудования, при обсуждении споров вокруг безопасности ИИ, сохранять баланс между отраслевой ответственностью и коммерческим нейтралитетом.

Что касается некоторых руководителей ИИ-компаний, призывающих замедлить развитие всей индустрии— например, предложения генерального директора Anthropic Дарио Амодеи о замедлении всего сектора— Хуан Жэньсюнь придерживается иной точки зрения.

Он назвал нынешние опасения вопросом "болей роста" быстроразвивающейся отрасли и уверен, что ПО на базе ИИ может быть эффективно контролируемым и безопасно внедряться.

"Многие молодые компании проходят через болезненные стадии развития, и их рост идёт очень быстро", — сказал он. "По мере того как компании становятся крупнее, их ответственность и зрелость также будут расти."

Он также отметил, что часть опасений является "самонаведённой тревогой", и вся отрасль "очень плохо" объясняет обществу преимущества новых технологий.

Говоря о конкретных мерах безопасности, Хуан Жэньсюнь предложил технический подход: сам ИИ может выступать инструментом регулирования и мониторинга искусственного интеллекта.

"Мы должны ускорить интеграцию таких защитных технологий в ИИ-системы, нужно форсировать развитие систем мониторинга, и именно ИИ будет этим наблюдателем. Поэтому мы должны ускорять развитие технологий искусственного интеллекта", — отметил он.

В поддержку этого направления NVIDIA объявила о пожертвовании британским исследованиям по безопасности ИИ, при этом финансирование будет направлено в виде предоставления современных вычислительных мощностей.

В проекте примут участие множество академических учреждений Великобритании, включая Оксфордский университет и Университетский колледж Лондона. Исследования будут посвящены мерам безопасности ИИ и методам регуляции умных ИИ-агентов.