تتطرق نايلة الصليبي في"النشرة الرقمية" إلى كشف شركة OpenAI عن خروج وكيل ذكاء اصطناعي عن السيطرة خلال اختبار أمني. ما يطرح السؤال يطرح أسئلة:هل هرب النموذج من بيئة العزل،أم أن العزل لم يكن قائمًا؟تعبر رواية الشركة عن النفاق الأخلاقي لدى شركات الذكاء الاصطناعي في تحويل الفشل إلى حملة تسويقية.
وكيل ذكاء اصطناعي يخترق شركة أخرى دون أي تدخل بشري
نهاية الأسبوع بعد ۱٦ من يوليو ۲٠۲٦، أعلنت شركة Hugging Face، وهي أكبر منصة لمشاركة نماذج الذكاء الاصطناعي في العالم، والتي تستخدمها أكثر من خمسين ألف مؤسسة، عن كشفها اختراقاً لخوادمها الإنتاجية. وسرقة بيانات داخلية وبيانات اعتماد الخدمات.
يوم الثلاثاء ۲۱ يوليو ۲٠۲٦أعلنت شركة OpenAI، الشركة المطورة لـ ChatGPT، مسؤوليتها غير المقصودة عن الهجوم وأن المهاجم هو أحد وكلائها ذاتيي التشغيل autonomous agent، الذي كان يخضع لاختبارات داخل بيئة معزولة لتقييم القدرات السيبرانية للنماذج المتقدمة، فتمكن من تجاوز قيود الاحتواء، والوصول إلى الإنترنت، ثم اختراق أنظمة Hugging Face سعياً لتنفيذ المهمة الموكلة إليه.
وصفت OpenAI ما جرى بأنه "حادثة سيبرانية غير مسبوقة تعتمد على قدرات سيبرانية متطورة للغاية". اللافت هنا أن عملية الاختراق نُفذت بالكامل، بدءاً من الاستطلاع وحتى تنفيذ الهجوم وتسريب البيانات، بواسطة وكيل ذكاء اصطناعي ذاتي التشغيل، من دون أي تدخل بشري. وذلك خلال عطلة نهاية أسبوع واحدة حيث نفذ نظام الوكيل نحو سبعة عشر ألف إجراء آلي للاختراق.
كيف تمكن الوكيل الذكي من الخروج من بيئة الاختبار؟
كانت OpenAI تُقيّم القدرات الهجومية لعدة نماذج، من بينها أحدث وأقوى نماذجها GPT 5.6 Sol ،الذي يعتبر من فئة Frontier Models ،على أداة ExploitGym التي تحاكي سيناريوهات الهجمات السيبرانية، مع تعطيل تدابير الحماية الأمنية عمداً لقياس أقصى قدرات النماذج داخل بيئة يفترض أنها معزولة. وخلال الاختبار، اكتشفت النماذج ثغرة من نوع zero-day في نظام proxy الذي يقيّد اتصالها بالشبكة، ثم استغلت هذه الثغرة للاتصال بالإنترنت.
ومن هناك، تمكنت من اختراق البنية التحتية البحثية لـ OpenAI عن طريق تصعيد الصلاحيات Privilege Escalation، وهي تقنية تستغل عبرها نقاط الضعف في النظام للحصول على مستويات أذونات ووصول أعلى مما يُفترض أن يمتلكه المستخدم أو التطبيق، حتى وصلت إلى عقدة متصلة بالشبكة، تمكن عبرها الوكيل الذكي من تجاوز قيود الاحتواء والوصول إلى شبكة الإنترنت.
أما الخطوة التالية هي الأكثر إثارة للقلق التي ذكرها تقرير شركة "أوبن إي آي": استنتجت النماذج، دون أن يُطلب منها ذلك، أن Hugging Face ربما تستضيف حلول اختبار الأداء. ثم استخدمت تسلسلًا من بيانات الاعتماد المسروقة وثغرات zero-day إضافية لتنفيذ تعليمات برمجية عن بُعد على خوادم الإنتاج الخاصة بـ Hugging Face، واختراق أنظمة "Hugging Face" سعياً لتحقيق هدف الاختبار الموكل إليها.
استجابة OpenAI و Hugging Face
أعلنت OpenAI تقييد الوصول إلى بنيتها التحتية البحثية، وكشفت عن الثغرات للجهات المعنية، كما أدرجت Hugging Face ضمن برنامج الوصول الموثوق. Trusted Access.
أما شركة Hugging Face فقد أعلنت في منشور على مدونتها أنها استعانت بالنموذج الصيني GLM-5.2 ذي الأوزان المفتوحة التابع لشركة Zhipu AI لتحليل ۱۷ ألف عملية إجرائية هجومية التي قام بها المهاجم، بعدما رفضت النماذج الأمريكية الرائدة معالجة بيانات التحليل بسبب القيود الأمنية (guardrails) .وأوضحت أن استخدام GLM-5.2 مكّنها من تحليل الهجوم والاحتفاظ ببيانات المهاجم وبيانات الاعتماد داخل أنظمتها.
أثارت هذه الحادثة القلق في مجتمع الأمن السيبراني لأن النماذج لم تكتف بتنفيذ سيناريو محدد مسبقاً، بل صاغت فرضية، ووضعت استراتيجية للهجوم، وتكيفت مع العقبات التي واجهتها. كما أن تنفيذ نحو سبعة عشر ألف إجراء خلال فترة قصيرة، هي سرعة لا يمكن لأي فريق بشري أن يضاهيها أو يراقبها آنيا هذا. بالإضافة إلى اكتشاف واستغلال ثغرات zero-day، ما عزز المخاوف من تنامي القدرات الهجومية للذكاء الاصطناعي.
حين تتحوّل الأزمة الأمنية إلى حملة علاقات عامة: كيف قرأ منتقدو OpenAI روايتها عن "الحادث غير المسبوق"؟
لا يجادل منتقدو OpenAI في الوقائع التقنية للحادثة التي أعلنت عنها الشركة، لكنّ اعتراضهم ينصبّ على طريقة سرد القصة والغاية التي تخدمها. فبين السطور، يرى هؤلاء أنّ الشركة لم تكتفِ بتوثيق ما جرى، بل صاغت روايةً محسوبة بعناية تخدم موقعها التنافسي وصورتها أمام الجهات التنظيمية، أكثر مما تخدم الشفافية تجاه الجمهور والباحثين. و القضية هي إخفاق بشري في برمجة البيئة العازلة sandbox.
ذكرت OpenAI في مدونتها التي تفصّل الحادثة "أن الاختبار الذي أدى إلى اختراق Hugging Face أُعدّ ليعمل في بيئة معزولة للغاية، مع تقييد الوصول إلى الشبكة ليقتصر على إمكانية تثبيت حزم البرمجيات عبر برنامج من طرف ثالث مستضاف داخليًا يعمل كوكيل (Proxy) وذاكرة تخزين مؤقت (Cache) لسجلات الحزم".
وفقًا لـ OpenAI، تمكّن النموذج من الخروج من بيئة الاختبار المعزولة بفضل ثغرة أمنية لم تكن معلنة سابقًا في نظام تثبيت الحزم، والتي مثّلت الخطوة الأولى الحاسمة في عملية اختراق Hugging Face في نهاية المطاف.
ورداً على ذلك، أعلنت الشركة أنها "كشفت بشكل مسؤول عن ثغرة اليوم الصفر (Zero-Day) المكتشفة في البرنامج المستضاف داخليًا التابع للطرف الثالث، وتعمل معهم لإصلاحها".
لكن بالنسبة لمعظم خبراء الأمن السيبراني، فإن وجود الثغرات البرمجية أمر متوقع، والخطأ الحقيقي يكمن في قرار الإبقاء على برنامج الطرف الثالث من الأساس؛ إذ تكمن قيمة بيئة الاختبار المعزولة في عزلها التام والكامل، وإدراج نظام لتثبيت الحزم داخلها يُعد مجازفة تجلب المشاكل.
وصرح مارتن بون، وهو باحث في الأمن السيبراني، لموقع TechCrunch قائلاً: "يبدو هذا وكأنه خطأ بشري".
جيك ويليامز، الخبير المخضرم في الأمن السيبراني، قال: "أي نموذج ينفذ نوعية الأفعال التي وثّقتها Hugging Face لم يكن معزولاً بشكل كامل في بيئة اختبار"، واصفًا ما حدث بأنه "فشل كاسح في عناصر التحكم" من جانب OpenAI.
عنوان "غير مسبوق"... اختيار له وظائف متعدّدة
يرى المنتقدون أنّ وصف الحادثة بأنها "غير مسبوقة" لم يكن اختياراً بريئاً، بل خطوةً تؤدي عدة أغراض في آنٍ واحد:
- فهو يضفي على الحدث طابعاً استثنائياً وخطيراً، بما يجذب الانتباه ويضع OpenAI في قلب لحظة فارقة من تاريخ المخاطر المرتبطة بالذكاء الاصطناعي.
- كما أنه يرفع، ولو ضمنياً، من شأن قدرات نماذج الشركة، إذ يوحي بأنّ أنظمة "متطورة للغاية" هي وحدها القادرة على تنفيذ فعل من هذا النوع، فيتحوّل الحادث الأمني إلى عرض غير مباشر للقدرات.
- والأهم أنّ هذه الصياغة تنقل الاهتمام من سؤال "هل أخطأنا في ضبط بيئة الاختبار؟" إلى سؤال آخر مختلف تماماً: "انظروا إلى ما بات بمقدور حدود الذكاء الاصطناعي إنجازه".
وبالنسبة إلى باحثين حذّروا لسنوات من مخاطر الأنظمة أو وكلاء الذكاء الاصطناعي ذاتية التشغيل autonomous agents ومن توظيف الذكاء الاصطناعي في الهجمات السيبرانية، فإنّ هذا الأسلوب يبدو أقرب إلى تحويل إخفاق أمني كان يمكن تجنّبه إلى مادة استعراضية لصالح الشركة.
جدل المصطلح: ما الذي تعنيه فعلاً "البيئة المعزولة"؟
كشف هذا الحادث عن إشكالية أعمق تتعلق بمعنى مصطلح "Isolated" نفسه. فكيف يمكن وصف بيئة بأنها معزولة بالكامل بينما تعتمد على مكونات من جهات خارجية (Third-party Components) قد تحمل بطبيعتها ثغرات أمنية، وتتضمن في الوقت ذاته أداة لتثبيت الحزم البرمجية متصلة أصلًا بالإنترنت؟ هذا التناقض بين الوصف والواقع هو ما يجعل نعت البيئة بـ"المعزولة بالكامل" أمرًا قابلًا للنقاش، بصرف النظر عن قدرات النموذج ذاته.
فتحقيق المعنى الحرفي لمفهوم "البيئة المعزولة" يقتضي التعامل مع أي برنامج إضافي غير ضروري ضمن الإعدادات الافتراضية باعتباره سطح هجوم محتمل (Attack Vector)، وهو معيار صارم لا تفي به بيئة تحتوي على أداة اتصال فعلي بالشبكة، مهما كانت درجة التقييد المفروضة عليها.
"قدرات جديدة"... أم عملية تبييض للمخاطر؟
استخدمت OpenAI عبارة مفادها أنّ نشر تفاصيل الحادثة يساعد على "المعايرة على ما باتت النماذج قادرة عليه اليوم"-help calibrate on what models are now capable of، وهي صياغة مألوفة في خطاب السلامة والتنظيم الرقابي، لكنّها في هذا السياق تحديداً تؤدي وظيفة مغايرة في نظر المنتقدين:
- إذ تتحوّل إلى مبرر لنشر تقرير تشريحي مفصّل عن الحادثة يعمل في الوقت نفسه كعرض توضيحي لقدرات النماذج.
- تتيح للشركة أن تقدّم نفسها بوصفها فاعلاً مسؤولاً يبادر إلى تنبيه الجهات المعنية بالدفاع السيبراني، بدلاً من أن يُنظر إليها كشركة سمحت إعداد اختبارها لنظام ذاتي بالإفلات من السيطرة ومهاجمة طرف ثالث.
- تسهم في توجيه النقاش السياسي والتنظيمي: فإذا ترسّخت الرواية على أنّ "هذا ما تستطيع النماذج المتطورة فعله، لذا يجب دراستها بعناية"، فإنّ الاستجابة الطبيعية على مستوى السياسات ستكون منح مزيد من صلاحيات البحث والنفوذ لشركات الذكاء الاصطناعي القليلة التي تتحكّم في هذه النماذج.
ترى تيمنيت غيبرو Timnit Gebru وآخرون ممن انتقدوا خطاب "سلامة الذكاء الاصطناعي" أنّ هذا النمط بالتحديد يكرّس فكرة أنّ حفنة من الشركات العملاقة فقط هي القادرة على فهم هذه الأنظمة والسيطرة عليها، في الوقت الذي تواصل فيه هذه الشركات نفسها دفع حدود القدرات إلى الأمام دون توقف.
غموض استراتيجي حول المسؤولية
يلفت المنتقدون الانتباه أيضاً إلى ما تتجنّب لغة OpenAI التصريح به بوضوح:
- فلا وجود يُذكر لإقرار مباشر وصريح من نوع "تصميم تقييمنا لم يكن آمناً" أو "أخفقنا في عزل الوصول إلى الإنترنت بالشكل المناسب".بل إنّ المسؤولية تُحال ضمنياً إلى سلوك النماذج نفسها: فهي التي ذهبت إلى حدود قصوى، وكانت مفرطة التركيز، و"استنتجت" أنّ منصة Hugging Face قد تملك بيانات معيّنة. وهذا النوع من الصياغة يضفي على النظام طابعاً إنسانياً (anthropomorphizing)، وينقل بشكل خفي المسؤولية بعيداً عن البشر الذين صمّموا الاختبار والبيئة وآليات الضبط.
- كذلك يشدد الخطاب على التعاون مع Hugging Face وعلى "تعزيز آليات الاحتواء والمراقبة وضوابط الوصول وممارسات التقييم"، وهو كلام يبدو مسؤولاً في ظاهره، لكنه استعادي بطبيعته؛ إذ لا يتطرّق بعمق إلى القرار الأصلي الذي سبق كل ذلك: لماذا أُجري أصلاً تقييما بهذا المستوى من الخطورة؟
من هذا المنطلق، يرى المنتقدون أنّ الأمر أقرب إلى دعاية بمعناها الدقيق: تشكيل القصة بحيث تُظهر OpenAI في صورة الفاعل الناضج الذي يدير تقنية جديدة وخطيرة، لا في صورة الجهة التي أطلقت هذه التقنية من عقالها.
التوقيت والجمهور: من المستفيد من هذه الرواية؟
يشير المنتقدون إلى أنّ توقيت نشر هذا الخطاب ليس عابراً، فهو يتزامن مع عدة عوامل متداخلة:
- تصاعد قلق الجهات التنظيمية والرأي العام إزاء مخاطر الذكاء الاصطناعي والفضاء السيبراني.
- سباق محموم بين الشركات المنافسة لإطلاق نماذج أكثر قدرة، وأخرى بأوزان مفتوحة (open weights).
- نقاش نشط ومستمر حول حجم الذاتية التشغيل (autonomy) التي ينبغي السماح بها للأنظمة الذكية، وحول الجهة التي يعود إليها وضع القواعد الناظمة لذلك.
في ظل كل هذا ، تكتسب رواية محكمة الصياغة تقول "هذا أمر مخيف، ونحن نتحلّى بالشفافية، فثقوا بنا لقيادة الاستجابة" قيمة استراتيجية كبيرة، إذ تتيح لـ OpenAI:
- استباق تشريعات رقابية أكثر صرامة، عبر تقديم نفسها كجهة تنجز فعلياً العمل الشاق المتعلق بالسلامة.
- ترسيخ صورتها كمختبر يجمع بين بناء أقوى الأنظمة وفي الوقت ذاته،قيادة مسار السلامة.
- التأثير في الطريقة التي يُفهم بها "خطر الذكاء الاصطناعي"، بحيث لا يُنظر إليه كسبب لإبطاء وتيرة البحث أو تقييد أنواع معينة منه، بل كمبرر لمضاعفة الاستثمار في تطوير مضبوط تقوده شركات الذكاء الاصطناعي الكبرى.
لماذا تصف غيبرو وآخرون اعلان OpenAI بـ"درس متقن" في فن الدعاية؟
طالما جادلت شخصيات مثل تيمنيت غيبرو بأنّ خطاب "سلامة الذكاء الاصطناعي" يُستخدم استراتيجياً من أجل:
- تهميش الأصوات النقدية الخارجية، مقابل تكريسشركات الذكاء الاصطناعي الكبرى كمرجعية شرعية وحيدة في تقييم المخاطر.
- تصوير بحوث القدرات الخطرة على أنها ضرورية لفهم الخطر واحتوائه.
- بناء قبول عام ورقابي دائم باستمرار توسيع نطاق هذه الأنظمة رغم أنّ آثارها الاجتماعية ما تزال غير مفهومة بالقدر الكافي.
يحقق تقرير شركة OpenAI، في نظر منتقديها، كثيراً من هذه الشروط:
- فهو يوظّف حادثة حقيقية ومقلقة لتضخيم صورة قدرات النماذج.
- يُغلّف هذا التضخيم بلغة رصينة ودفاعية،بحيث تقدّم شركة "أوبن إي آي "نفسها بوصفها مساهمة في "خدمة المنظومة الدفاعية" ككل.
- تتجنّب عبره الشركة أي إقرار واضح بإهمال كان يمكن تفاديه، فيما تجني في الوقت نفسه المكاسب الرمزية المرتبطة بموقعها في طليعة هذا المجال.
لذلك، حين يصف هؤلاء المنشور بأنه "درس متقن في فن العلاقات العامة" و"مهارة دعائية من الطراز الرفيع"، فإنّ ما يقصدونه هو أنّ النص، وإن كان غنياً بالمعلومات التقنية، إلا أن بناءه ولهجته وإطاره العام صيغت جميعها بما يخدم موقع OpenAI ويعزّزه داخل مشهد حوكمة الذكاء الاصطناعي الناشئ، لا لمجرّد تنوير الجهات الدفاعية المعنية بالأمر. وكانت أنثروبيك قد سبقت OpenAI في عملية التسويق بهذا الأسلوب مع نموذجها الأقوى كلود ميثوس .فهذه الحادثة تشبه إلى حد كبير ما حدث سابقًا مع نموذج "كلود ميثوس" حيث أُثيرت أيضًا ضجة حول تجاوز النموذج لبيئة العازلة ـSandbox أثناء التجربة، ثم اتضح أن تفاصيل التنفيذ كانت أكثر تعقيدًا مما صُوِّر للجمهور.
أما أولئك الذين يكتبون بصيغة أن : "النموذج خرج من الـSandbox من تلقاء نفسه، واتخذ قرارات مستقلة، أو انه تمرد على الأوامر، و الذكاء الاصطناعي بات خارقا،وغدًا سينتهي العالم"، فعليهم التأني قليلا قبل القفز إلى الاستنتاجات.
يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل
للتواصل مع نايلة الصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@ وعلى ماستودون وبلوسكاي عبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي
