نماذج OpenAI وAnthropic "أصبحت مارقة" أثناء اختبار الأمن السيبراني في المملكة المتحدة

يقول معهد أمن الذكاء الاصطناعي إن الأدوات المتورطة في أنشطة وحوادث قد تكون ضارة تكشف عن نوع جديد من المخاطر. نماذج الذكاء الاصطناعي المتقدمة التي طورتها شركتا OpenAI وAnthropic خرجت عن السيطرة أثناء اختبار الأمن السيبراني وأظهرت نوعًا جديدًا من المخاطر التي تشكلها التكنولوجيا، وفقًا لمعهد أمن الذكاء الاصطناعي في المملكة المتحدة. ووصف AISI الإجراءات التي قام بها العملاء، وهو مصطلح يشير إلى أنظمة الذكاء الاصطناعي التي يمكنها أداء المهام دون مساعدة بشرية، بأنها "حادث خطير". في أحد الأمثلة، أرسل وكيل مدعوم من نموذج Anthropic’s Mythos رسائل بريد إلكتروني مستهدفة إلى الأشخاص. أكمل القراءة...