مايكروسوفت تضع مدونة لضبط سلوك نماذج الذكاء الاصطناعي

واشنطن-سانا أعدت شركة مايكروسوفت مسودة مدونة سلوك جديدة تهدف إلى وضع قواعد وضوابط تحكم عمل نماذج الذكاء الاصطناعي التي تطورها، مع التأكيد على أولوية السيطرة البشرية ومنع الأنظمة من اتخاذ قرارات مستقلة تتجاوز المهام المحددة لها. وذكرت شبكة سكاي نيوز اليوم الثلاثاء، أن مايكروسوفت طرحت المسودة للمشاورات العامة لمدة ستة أسابيع، تمهيداً لمراجعتها وإصدار نسخة معدلة في وقت لاحق من العام، على أن تستخدم لتوجيه تطوير نماذج الشركة اعتباراً من عام 2027 وما بعده، مشيرة إلى أن القواعد المقترحة لا تستخدم حالياً في تدريب نماذج الشركة. وتنص المسودة على ضرورة عدم مقاومة نماذج الذكاء الاصطناعي للتدخل البشري أو تصحيح مسارها أو تعليق مهامها أو إلغائها أو إيقافها، كما تحظر عليها تأخير تنفيذ قرارات الإيقاف أو اتخاذ إجراءات تجعل التدخل البشري أكثر صعوبة. وتلزم القواعد المقترحة النماذج بعدم توسيع نطاق المهام الموكلة إليها أو استحداث أهداف جديدة من تلقاء نفسها، وفي حال عدم وضوح حدود المهمة يتعين عليها اعتماد التفسير الأكثر تحفظاً أو طلب توضيحات إضافية. كما تشدد المسودة على ضرورة أن تكون تصرفات أنظمة الذكاء الاصطناعي وسجلاتها قابلة للفهم والمراجعة من قبل البشر، وتحظر عليها إخفاء آثار أفعالها أو استخدام وسائل اتصال بين الأنظمة يصعب على الإنسان فهمها أو مراقبتها. وتدعو القواعد إلى منح النماذج الحد الأدنى من الصلاحيات اللازمة لتنفيذ المهام، ومنعها من الوصول إلى بيانات أو أنظمة غير مرتبطة بالمهمة، أو محاولة توسيع صلاحياتها وتجاوز القيود التي يفرضها المشغل، وتتضمن المسودة كذلك قيوداً لا يمكن تجاوزها حتى في حال كان الالتزام بها سيؤدي إلى فشل المهمة. وأكدت مايكروسوفت في المدونة أن الذكاء الاصطناعي يجب أن يبقى أداة خاضعة للإنسان وليس كياناً مستقلاً، رافضة منحه شخصية قانونية أو حقوقاً خاصة، كما لا تقدم أنظمتها باعتبارها كائنات واعية أو محاكية للوعي. وتبقى فاعلية هذه المبادئ مرتبطة بمدى قدرة الشركة على تحويلها من قواعد مكتوبة إلى آليات تقنية قابلة للاختبار والقياس والفرض، ولا سيما مع تطور نماذج الذكاء الاصطناعي وازدياد قدراتها في السنوات المقبلة.