وكيل ذكاء اصطناعي يخترق شركة أخرى دون أي تدخل بشري كشفت شركة OpenAI يوم الثلاثاء ۲۱ يوليو ۲٠۲٦ أن أحد نماذجها خرج عن السيطرة أثناء أحد الاختبارات، وتمكّن من اختراق أنظمة منصة مجموعات البيانات "Hugging Face" في هجوم مدعوم بالكامل بالذكاء الاصطناعي. وقد قُدّم هذا الحادث في البداية باعتباره مثالًا صارخًا على المخاطر التي تحملها نماذج الذكاء الاصطناعي المتقدمة.
رواية OpenAI:
بحسب تدوينة نشرتها OpenAI تشرح فيها الحادثة، فإن الاختبار الذي أفضى إلى اختراق Hugging Face كان من المفترض أن يجري داخل بيئة وصفتها الشركة بأنها "Highly Isolated Environment"، لا تملك اتصالاً بالشبكة سوى إمكانية تثبيت الحزم البرمجية عبر أداة من طرف ثالث مستضافة داخليًا، تعمل بمثابة Proxy وCache لسجلات الحزم.
وتمكّن النموذج من الخروج من هذه البيئة عبر استغلال ثغرة لم تكن معلنة سابقًا في أداة Package Installer هذه، وهي الخطوة الأولى التي قادت لاحقًا إلى اختراق Hugging Face. وأعلنت OpenAI أنها كشفت بشكل مسؤول عن هذه الثغرة من فئة Zero-Day للطرف الثالث المعني، وأنها تعمل معه على إصلاحها.
كشف هذا الحادث عن إشكالية أعمق تتعلق بمعنى مصطلح "Isolated" نفسه. فكيف يمكن وصف بيئة بأنها معزولة بالكامل بينما تعتمد على مكونات من جهات خارجية (Third-party Components) قد تحمل بطبيعتها ثغرات أمنية، وتتضمن في الوقت ذاته أداة لتثبيت الحزم البرمجية متصلة أصلًا بالإنترنت؟ هذا التناقض بين الوصف والواقع هو ما يجعل نعت البيئة بـ"المعزولة بالكامل" أمرًا قابلًا للنقاش، بصرف النظر عن قدرات النموذج ذاته.
فتحقيق المعنى الحرفي لمفهوم "البيئة المعزولة" يقتضي التعامل مع أي برنامج إضافي غير ضروري ضمن الإعدادات الافتراضية باعتباره سطح هجوم محتمل (Attack Vector)، وهو معيار صارم لا تفي به بيئة تحتوي على أداة اتصال فعلي بالشبكة، مهما كانت درجة التقييد المفروضة عليها.
في المستقبل الآن بودكاست نطرح السؤال :هل خرج الذكاء الاصطناعي فعلا عن السيطرة، أم أنها عملية تسويق خفية ؟ كما تطرح هذه الحادثة معضلة النفاق الأخلاقي لدى شركات الذكاء الاصطناعي!
- هذا البودكاست بصوتٍ مولّدٍ باستخدام تقنيات الذكاء الاصطناعي NoteBookLM
النص : من مدونة NewsFrontPage
الرابط:https://tinyurl.com/yjtee7bn
إشارة البودكاست أصوات مولدة بتقنياتText To Speech من موقع ElevenLabs
المقدمة الموسيقية :منTony Vodnik from Pixabay