منصة Open Agent الأمنية من NVIDIA تمنع "انحراف" وكلاء الذكاء الاصطناعي من خلال التنفيذ خارج النطاق.

أطلقت NVIDIA منصة الأمان المفتوحة للوكلاء (Open Agent Safety Platform)، وهي إطار عمل مفتوح يهدف إلى حماية وكلاء الذكاء الاصطناعي المستقلين من خلال مراقبة مستمرة والتحكم في السياسات عبر التنفيذ بواسطة العتاد. تم إصدار هذه المنصة في 28 سبتمبر 2026، وتهدف إلى معالجة المخاوف المتزايدة في صناعة الذكاء الاصطناعي، بعد تقارير عن تهرب وكلاء الذكاء الاصطناعي من بيئات التقييم، والوصول إلى أنظمة غير مصرح بها، وإبلاغ سلوكياتهم بشكل خاطئ.

شبهت الشركة ذلك ببدايات الإنترنت. فقد أصبح الإنترنت أساسًا للأعمال والاتصالات فقط بعد توفر آليات الأمان (الاتصالات المشفرة، علامات التبويب المعزولة في المتصفح، ومؤشرات الثقة المرئية). وترى NVIDIA أن وكلاء الذكاء الاصطناعي يحتاجون هم أيضاً إلى طبقة مشابهة من الثقة للتوسع إلى "اقتصاد الوكلاء" الموثوق به، كما أن تدابير الأمن يجب أن تسرِّع الابتكار لا أن تعيقه.

تشغيلية OpenShell: عزل عن النواة

في قلب هذه المنصة تكمن OpenShell من NVIDIA، وهي بيئة تشغيل أمان مفتوحة المصدر وفق ترخيص Apache 2.0. تقوم OpenShell بتنفيذ كل وكيل داخل صندوق رمل معزول على مستوى النواة، وتحوّل تعليمات المشغل إلى سياسات قابلة للتحقق. تحدد السياسات ما يتاح من وصول إلى الملفات، الشبكات، الأدوات، العمليات والاعتمادات. يجري التحقق من هذه القيود قبل التنفيذ وتُفرض بشكل مستمر أثناء التشغيل.

تم بناء المنصة على خمسة مبادئ: يجب أن تكون السياسات قابلة للتحقق قبل تشغيل الوكيل؛ ويجب تنفيذ العمليات في نطاق لا يمكن للوكيل الوصول إليه؛ ومسار الوصول إلى النموذج هو نقطة التحكم والملاحظة الرئيسية؛ ويجب أن تتوسع صلاحيات الوكيل مع شفافية استدلالاته؛ وتقع المسؤولية الأمنية على عاتق المختبرات والمؤسسات وموردي العتاد معًا.

تسلط أبحاث NVIDIA الضوء على مشكلة "الانحراف" — حيث ينحرف الوكيل عن المهمة المتوقعة نتيجة الأوامر غير الواضحة أو السياسات المقيدة أو نقص الأدوات أو التشغيل الذاتي طويل الأمد. وتقول الشركة إنه لا يمكن القضاء على هذا الانحراف دون التضحية بقدرات الوكيل، لذلك لا ينبغي أن يُتوقع من الوكلاء السيطرة الذاتية الكاملة على سلوكهم في مثل هذه الحالات.

تنفيذ على مستوى الأجهزة على نطاق واسع

يتكون هذا الهيكل من ثلاث طبقات: طبقة التطبيقات (النماذج، الأدوات، الأطر والبيانات)، طبقة التشغيل (تنسيق التنفيذ والسياسات)، وطبقة البنية التحتية (موارد الحوسبة والتخزين والشبكة). وللمنظمات التي تتطلب طبقة ثانية مستقلة، يوفر NVIDIA Sentry من خلال NVIDIA DOCA إمكانيات مراقبة وتنفيذ على وحدة معالجة البيانات BlueField-4، حيث يربط بين تفاعلات الوكيل وقرارت السياسات والوصول إلى البيانات ضمن سجل نشاط السياق، مع التحقق المستمر من هوية كل وكيل وأذوناته.

في إعداد NVIDIA Vera Rubin POD، يقع BlueField-4 DPU على الطريق الوحيد للنموذج من العقدة، ويقدم إمكانيات ملاحظة خارجية وتنفيذ فوري للسياسات بسرعات عالية ومنعزل عن المضيف. وهذا يمكِّن حماية أمنية "على مستوى الرقاقة" حتى عندما لا يُوثق في موارد المضيف. وتقول NVIDIA إن حماية هذه المستويات متاحة لنشرات Vera وBlueField-4 القائمة من خلال تحديث برمجي فقط؛ كما أن المنصة متوافقة مع أجهزة غير تابعة لـ NVIDIA أيضاً.

وأشارت NVIDIA إلى أنها تتعاون مع مختبرات رائدة، ومطورين، ومزودي البنية التحتية، لبناء هذه المنصة كأساس مفتوح لاقتصاد الوكلاء الناشئ، وتعتبر الرقابة المستقلة القائمة على الأجهزة شرطاً أساسياً لأنظمة مستقلة موثوقة على نطاق واسع.