تحديث من إنفيديا لتعزيز أمان وكلاء الذكاء الاصطناعي

واشنطن-سانا أعلنت شركة «إنفيديا» إطلاق تحديث جديد لنظام «NemoClaw» المخصص لتعزيز أمان وكلاء الذكاء الاصطناعي المستقلين، من خلال ضبط الصلاحيات التي تمنح لهم ومراقبة العمليات التي ينفذونها داخل المؤسسات. وذكرت الشركة على موقعها الرسمي أول أمس، أن التحديث يوفر بيئة معزولة لعمل وكلاء الذكاء الاصطناعي، تتيح لمسؤولي أنظمة المعلومات تحديد المهام والموارد التي يمكن لكل وكيل الوصول إليها، بما يحد من تنفيذ أوامر غير مصرح بها أو الوصول إلى بيانات حساسة. ويعتمد النظام على مراقبة مستمرة للأوامر والعمليات التي ينفذها الوكلاء، إلى جانب تقنيات للعزل على مستوى الأجهزة، بهدف الحد من مخاطر استغلال الصلاحيات أو التلاعب بسلوك الوكيل. كما يتيح لمسؤولي تكنولوجيا المعلومات متابعة نشاط الوكلاء والتدخل عند رصد سلوك غير معتاد، بما في ذلك إيقاف الوكيل الذي يتجاوز المهام أو الصلاحيات المحددة له. وأوضحت «إنفيديا» أن أدوات النظام تستهدف مساعدة المؤسسات والمطورين على تشغيل وكلاء الذكاء الاصطناعي بصورة أكثر انضباطاً، ولا سيما في البيئات التي تتعامل مع بيانات وعمليات حساسة، مثل الخدمات المالية والرعاية الصحية. وتأتي هذه الخطوة مع توسع استخدام وكلاء الذكاء الاصطناعي في تنفيذ المهام بصورة مستقلة، ما يزيد الحاجة إلى أنظمة تضبط نطاق عملهم وتراقب وصولهم إلى البيانات والموارد الرقمية.