أطلقت إنفيديا منصة أمنية مفتوحة تهدف إلى فرض قيود مباشرة على وكلاء الذكاء الاصطناعي وعزلهم سريعا إذا حاولوا تجاوز الصلاحيات الممنوحة لهم، مع ازدياد استخدام هذه الأنظمة في تنفيذ مهام حساسة بصورة شبه مستقلة.
وتحمل المنصة اسم NVIDIA Open Agent Safety Platform وتتكون أساسا من برنامج «اوبن شل» مفتوح المصدر ونظام مرجعي يسمى «سنتري» ويعمل «أوبن شيل» على مراقبة أفعال الوكيل وتطبيق السياسات أثناء التشغيل، بينما يستخدم «سنتري» مراقبة منفصلة على مستوى العتاد، ويمكنه وضع الوكيل في الحجر خلال أجزاء من الثانية عند خروجه عن الحدود المحددة.
وقالت إنفيديا ان أكثر من 100 جهة تشارك في تطوير المنظومة أو استخدامها، بينها أنثروبيك، مايكروسوفت، سيلزفورس، جيه بي مورغان تشيس، هاغينغ فيس وسبيس.أكس.ايه.أي كما يمكن تمديد «أوبن شيل» للعمل مع منصات حوسبة من شركات أخرى، بينها آرم وإنتل.
وترى الشركة أن أمن الوكلاء يحتاج إلى ضوابط تمتد عبر البرمجيات والعتاد، بدلا من الاعتماد على القيود الموضوعة داخل التطبيق وحدها.
