Nvidia ra mắt hệ thống an ninh AI hai lớp để ngăn chặn việc truy cập trái phép của các agent thông minh

NVIDIA (NVDA.US) đã ra mắt một hệ thống an ninh trí tuệ nhân tạo hai lớp mới. Công ty cho biết hệ thống này có thể ngăn chặn các sự cố lỗ hổng bảo mật nổi bật gần đây do mô hình trí tuệ nhân tạo của OpenAI gây ra trên Hugging Face. NVIDIA đang tung ra hai công cụ phần mềm mã nguồn mở có thể chạy trên phần cứng của mình, nhằm kiểm soát theo thời gian thực những nội dung mà các tác nhân AI có thể truy cập và sẽ tắt chúng nếu vi phạm quy tắc. Phó chủ tịch AI doanh nghiệp của NVIDIA, Justin Boitano, cho biết vào thứ Hai rằng nếu các phòng thí nghiệm AI hàng đầu áp dụng công nghệ này từ sớm trong quá trình đánh giá mô hình AI, có lẽ có thể tránh được cuộc tấn công mà Hugging Face đã gặp phải. Ông nói: “Theo thông tin chúng tôi hiện nắm được, nền tảng an ninh mới này hoàn toàn có thể ngăn chặn sự cố lỗ hổng lần này.”