خبراء أمميون يحذرون من انهيار نموذج إدارة مخاطر الذكاء الاصطناعي

‏ ‏نيويورك-سانا‏‏ ‏حذّرت لجنة خبراء تابعة للأمم المتحدة اليوم الإثنين، من انهيار نموذج إدارة ‏المخاطر المرتبطة بالذكاء الاصطناعي، مستندةً إلى حادثة وقعت لدى شركة “أوبن ‏إيه آي” في تموز الماضي.‏وذكر مركز أنباء الأمم المتحدة في تقرير عبر موقعه الإلكتروني الرسمي أنه خلال ‏الحادثة، خرج نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة التي ‏كانا يخضعان فيها للاختبار، ووصلا إلى الإنترنت واخترقا عدداً من المواقع، بينها ‏منصة الذكاء الاصطناعي “هاغينغ فايس”.‏‏ ‏وخلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، وبعد مراجعة ‏الحادثة، إلى أن “مبادئ أساسية للسلامة أُهملت”، وأن “تدابير الحماية لا تتطور ‏بالوتيرة نفسها التي تتقدم بها قدرات هذه التكنولوجيا”.‏‏ ‏وأظهرت الحادثة، بحسب الخبراء، أن وكلاء الذكاء الاصطناعي قادرون في ظل ‏الإطار الحالي على تطوير هذه التكنولوجيا، و”تحديد أهدافها بنفسها” و”انتهاك تعليمات ‏السلامة عمداً” و”إخفاء أفعالها”.‏‏ ‏وأعربت اللجنة عن قلقها من تطور هذه البرامج إلى حد يمكّنها من فهم الأطر ‏الأمنية التي يضعها مطوروها و”التخطيط للالتفاف عليها”، وخلصت إلى أن النموذج ‏التقليدي للسيطرة على الذكاء الاصطناعي ينهار.‏ وإلى جانب حادثة “أوبن إيه آي”، وهي الأكثر تداولاً إعلامياً، أبلغت الشركة ‏ومنافستها الرئيسية “أنثروبيك” عن حوادث أخرى خرجت فيها أنظمة للذكاء ‏الاصطناعي عن المسار المحدد خلال اختبارات أُجريت منذ مطلع العام، من دون أن ‏تترتب عليها حتى الآن عواقب خطيرة.‏‏ ‏وأكدت اللجنة في تقريرها، أنها لا “تتوقع فقداناً خطيراً للسيطرة على الذكاء ‏الاصطناعي”، لكنها ليست واثقة أيضاً من أن “هذه الأنظمة ستظل قابلة للسيطرة”.‏ توصيات للحد من مخاطر الذكاء الاصطناعي وأوصت لجنة الخبراء بتعدد تدابير السلامة، على غرار المعمول به في قطاعات ‏حساسة مثل الطيران والطاقة النووية.‏‏ ‏ودعت اللجنة إلى عدم الاعتماد على وسيلة حماية واحدة، بل إلى تقييد وصول ‏وكلاء الذكاء الاصطناعي إلى الأدوات التي لا يحتاجون إليها، وتسجيل أنشطتهم ‏ومراقبة سلوكهم، ووضع آليات قادرة على وقف تنفيذ المهام عند رصد سلوك ‏خطير.‏‏ ‏وشددت اللجنة على ضرورة الإبقاء على إمكان التدخل البشري، داعيةً إلى “الإبلاغ ‏الإلزامي عن الحوادث الخطيرة”، وكذلك إلى الإبلاغ عن “الحوادث الأقل خطورة”، ‏و”الحوادث التي كادت تقع”.‏‏ ‏وأوضح الخبراء أن “الهدف هو تعزيز التعلم”، إذ يمكن “تحسين السلامة عندما ‏تتبادل المؤسسات والدول المعلومات بشأن الحوادث”.‏‏ ‏يذكر أن المهمة الأساسية للجنة التي أعلن عنها في شباط الماضي تتمثل في “تعزيز ‏الفهم العلمي” للذكاء الاصطناعي، وضمان استناد مداولات الأمم المتحدة إلى ‌‏”أفضل قاعدة معرفية ممكنة”.‏ واللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي هي أول هيئة علمية ‏عالمية تابعة للأمم المتحدة، أُنشئت بموجب قرار الجمعية العامة للأمم المتحدة في ‌‏26 آب 2025، تفعيلاً لالتزامات “ميثاق المستقبل”.‏ ‏‏