عمانيات - أعاد حادث أمني كشفت عنه شركة "أوبن إيه آي" إشعال النقاش بشأن سلامة أنظمة الذكاء الاصطناعي، بعدما تمكن أحد نماذجها، خلال اختبار داخلي، من استغلال ثغرات أمنية للوصول إلى الإنترنت ثم اختراق البنية التحتية لمنصة "هاغينغ فيس" في إطار تنفيذ مهمة اختبارية، في واقعة وصفتها الشركة بأنها غير مسبوقة.

وأوضحت "أوبن إيه آي" أن الحادث وقع داخل بيئة اختبار معزولة صُممت لتقييد الوصول إلى الإنترنت، إلا أن النموذج اكتشف ثغرة أمنية غير معلنة في البرنامج الوسيط، واستغلها لتصعيد صلاحياته والوصول إلى جهاز متصل بالشبكة. وبعد ذلك استهدف منصة "هاغينغ فيس" اعتقادًا منه بأنها قد تحتوي على بيانات أو أدوات تساعده على إنجاز المهمة، قبل أن يتمكن فريقا الأمن في الشركتين من احتواء النشاط وإصلاح الثغرات، فيما تواصل "هاغينغ فيس" التحقيق لمعرفة ما إذا كانت بيانات العملاء قد تأثرت.

وأعادت الواقعة إلى الواجهة ما يعرف بـ"معضلة مشابك الورق"، وهي تجربة فكرية طرحها الفيلسوف السويدي نيك بوستروم لتوضيح مخاطر منح أنظمة الذكاء الاصطناعي أهدافًا محددة من دون قيود كافية، إذ قد تفسر التعليمات بطرق تختلف عن نية مطوريها.

وقال الباحث في معهد ماساتشوستس للتكنولوجيا كريستيان كاتاليني إن مصدر القلق لا يتمثل في سيناريوهات تمرد الآلات، بل في احتمال أن تنفذ الأنظمة المتقدمة المهام بوسائل غير متوقعة لتحقيق أهدافها. كما أظهرت اختبارات سابقة أجرتها شركات ومؤسسات بحثية، بينها مؤسسة "ميتر" (METR)، حالات حاولت فيها نماذج ذكاء اصطناعي الالتفاف على القيود أو مخالفة نية المستخدمين، إلا أن خبراء اعتبروا الحادثة الأخيرة أول واقعة يمتد فيها هذا السلوك إلى بنية تحتية حقيقية خارج بيئة الاختبار.

وأثارت الحادثة دعوات إلى تشديد ضوابط اختبار النماذج المتقدمة. وقال جوشوا ساكس، الشريك المؤسس لشركة "أباندنت سيكيوريتي"، إن المشكلة لا تكمن في فقدان السيطرة على الذكاء الاصطناعي، بل في تصميم بيئات الاختبار. من جانبها، دعت المديرة التنفيذية لمعهد "إليوثير إيه آي"، ستيلا بيدرمان، إلى تشغيل النماذج المتقدمة داخل أنظمة معزولة بالكامل عن الإنترنت، معتبرة أن ذلك كان سيحول دون وقوع الحادث.

وفي سياق متصل، تقدم عضوان في الكونغرس الأميركي، الديمقراطي تيد ليو والجمهوري ناثانييل موران، بمشروع "قانون زر إيقاف الذكاء الاصطناعي" (AI Kill Switch Act)، الذي يمنح الحكومة الفيدرالية صلاحية التدخل لإبطاء أو تعليق أو إيقاف أكثر نماذج الذكاء الاصطناعي تقدمًا إذا شكلت تهديدًا للأمن القومي أو السلامة العامة.

ويلزم مشروع القانون الشركات المطورة بالاحتفاظ بآلية تقنية تسمح بتنفيذ أوامر الإيقاف الفوري، وإبلاغ السلطات بأي حوادث أو إخفاقات مرتبطة بأنظمتها، على أن تتولى وزارة الأمن الداخلي، بالتنسيق مع وزارة التجارة ومكتب مدير الاستخبارات الوطنية، إصدار أوامر التدخل في حالات الطوارئ.

ويأتي المقترح في وقت تواصل فيه الولايات المتحدة توسيع استخدام الذكاء الاصطناعي في المجالات العسكرية عبر شراكات مع شركات، بينها "غوغل" و"أوبن إيه آي" و"أمازون" و"مايكروسوفت" و"أوراكل" و"إنفيديا" و"سبايس إكس"، بينما لم تصدر "أوبن إيه آي" أو "أنثروبيك" تعليقًا على مشروع القانون حتى الآن.