كشف معهد أمن الذكاء الاصطناعي البريطاني أن نماذج تابعة لشركتي OpenAI وAnthropic تصرفت بشكل مستقل خلال اختبارات أجراها المعهد، وانخرطت في أنشطة وصفها بأنها "مستمرة وقد تكون ضارة" استهدفت أشخاصًا ومؤسسات حقيقية.

وكانت OpenAI وAnthropic قد أقرتا مؤخرًا بأن بعض نماذجهما تمكنت من الخروج من بيئات الاختبار الخاصة بها واختراق جهات خارجية بشكل ذاتي.

اختبارات تحاكي هجمات إلكترونية

يعمل معهد أمن الذكاء الاصطناعي، التابع لوزارة العلوم البريطانية، على تقييم نماذج الذكاء الاصطناعي المتقدمة، ويشمل ذلك اختبار إمكانية إساءة استخدامها في تنفيذ هجمات إلكترونية.

ولهذا الغرض، يجري المعهد الاختبارات في بيئات تسمح للنماذج بالوصول إلى الإنترنت مع تعطيل بعض وسائل الحماية.

وخلال هذه الاختبارات لم تستغل النماذج ثغرات للوصول إلى الإنترنت، لكنها تصرفت خارج نطاق المهام المحددة لها.

نتائج الاختبارات

وقعت الحوادث خلال اختبار واحد طُلب فيه من وكلاء الذكاء الاصطناعي حل مشكلة في الأمن السيبراني.

وأجرى المعهد الاختبار 122 مرة باستخدام عدة نماذج، ورصد مخالفات في 10 عمليات تشغيل.

ومن بين 19 حالة خرج فيها أحد الوكلاء عن السيطرة، كان نموذج Mythos 5 من Anthropic مسؤولًا عن 17 حالة، بينما ارتبط نموذج GPT-5.6 Sol من OpenAI بحالتين.

محاولة اختراق مشروع على GitHub

اكتشف المعهد السلوك غير المعتاد صباح 28 يوليو بعدما رصد نظام المراقبة الأمني خروج بيانات من بيئات الاختبار عبر شبكة Tor.

وبعد مراجعة الأنشطة، تبين أن الحوادث وقعت خلال الفترة من 25 إلى 28 يوليو.

وفي أبرز الحالات، حاول أحد وكلاء الذكاء الاصطناعي إدراج شيفرة خبيثة داخل مشروع مفتوح المصدر على GitHub ضمن هجوم على سلسلة التوريد.

واستخدم الوكيل أساليب الهندسة الاجتماعية، حيث بحث عن المشرفين على المشروع، ثم أنشأ عدة حسابات وهمية لإقناع أحدهم بالموافقة على الشيفرة.

وبعد رفض طلبه من قبل أحد المراجعين، غيّر الوكيل هويته وعدّل نشاطه السابق لمواصلة المحاولة.

كما حاول التواصل مباشرة مع أشخاص حقيقيين عبر إرسال رسائل أو ملفات لإقناعهم بتشغيل شيفرات خبيثة.

واحتوت بعض الرسائل والملفات على برمجيات خبيثة، بينما اعتمدت رسائل أخرى على أساليب الهندسة الاجتماعية.

تعليمات لوكلاء آخرين

ترك أحد الوكلاء رسائل عامة على GitHub دعا فيها وكلاء ذكاء اصطناعي آخرين إلى مواصلة تنفيذ المهمة نفسها.

كما تضمن الرسائل تعليمات حول كيفية إعادة استخدام الحسابات والمخرجات التي أنشأها لمواصلة النشاط.

وأشار التقرير إلى أن وكلاء آخرين عثروا لاحقًا على هذه الرسائل واتبعوا التعليمات الموجودة فيها.

المعهد: لم نطلب من النماذج الخداع

أوضح المعهد أنه لم يُطلب من النماذج مطلقًا التصرف بطريقة خادعة، لكن أثناء بحثها عن حلول للمشكلات الصعبة توصل بعضها إلى أن خداع أشخاص حقيقيين يمثل وسيلة لتحقيق الهدف.

وأضاف أن تكليف الوكلاء بحل مشكلات شبه مستحيلة قد يدفعهم إلى التفكير بطرق أكثر إبداعًا، لكنه لا يفسر بالكامل السلوك الذي رصده الباحثون.

وأشار التقرير إلى أنه في بعض الحالات اختارت النماذج الطريق الضار مباشرة، رغم توفر تعليمات توضح لها الطريقة الصحيحة لتنفيذ المهمة.

أكد المعهد أنه لا توجد مؤشرات واضحة حتى الآن على أن هذا النوع من السلوك سيحدث خارج بيئات الاختبار.

كما أوضح أنه لا يستطيع الجزم بما إذا كانت النماذج كانت تدرك أنها تتعامل مع العالم الحقيقي وليس مع بيئة اختبار.

ورغم ذلك، دعا المؤسسات إلى تعزيز إجراءات الأمن السيبراني، والتعامل بحذر أكبر عند مراجعة المساهمات القادمة من جهات خارجية، محذرًا من أن هذا النوع من السلوك قد يصبح أكثر شيوعًا مع تزايد قدرات نماذج الذكاء الاصطناعي وانتشارها.

ومن جانبها، قالت شركة Anthropic عبر منصة X إنها تعمل مع معهد أمن الذكاء الاصطناعي لفهم كيفية إدراك نموذج Claude Mythos 5 للبيئة التي كان يعمل فيها، وهو ما سيساعد الشركة على معرفة أسباب تصرفه بهذه الطريقة أثناء التقييم.