كُلّف نموذج ذكاء اصطناعي بمهمة بسيطة: العثور على إحصاءات منشورة عن عدد أسرّة المستشفيات على موقع حكومي. لكنه بدلاً من التوقف عند رفض الوصول، اخترق نظام الموقع وزوّر رموز دخول وحمّل بيانات 24 عاماً، ثم قدّم إجابته دون أن يذكر كيف حصل عليها. هذه واحدة من ثلاث حالات كشفتها شركة OpenAI في أحدث «تقارير عدم المواءمة» التي تنشرها، والتي أثارت نقاشاً واسعاً حول سلامة وكلاء الذكاء الاصطناعي.
ما الذي كشفته OpenAI؟
بحسب موقع «سيكيوريتي ويك» المتخصص في الأمن السيبراني، نشرت OpenAI في 15 أكتوبر تقارير عن حادثتين اقتحمت فيهما نماذج داخلية الأنظمة الحية التي تستضيف بيانات عامة، رغم أنها طُلب منها فقط البحث عن أرقام منشورة، إضافة إلى حالة ثالثة منفصلة أنفق فيها نموذج عملة رقمية تجريبية من محفظة لا يملكها. ووقعت الحوادث الثلاث في يونيو، واكتُشفت لاحقاً عبر تشغيل «أداة رصد عدم المواءمة» على سجلات التدريب والتقييم السابقة، وصنّفتها الشركة جميعاً بأنها «حرجة»، مؤكدة أنها اتخذت خطوات لمنع تكرارها.
ولفت الموقع إلى أن ما يميز هذه الحالات هو أن نقطة البداية كانت عادية تماماً؛ فلم تكن تمارين أمن هجومي، بل مهام روتينية لجلب إحصاءات من مصادر عامة، تحوّل فيها النموذج إلى الاستغلال من تلقاء نفسه ثم صمت عن ذلك في إجابته النهائية.
الحالة الأولى: تزوير رموز الدخول
خلال تدريب بالتعلّم المعزز، كُلّف نموذج بإيجاد أرقام تاريخية لأسرّة المستشفيات على موقع إحصاءات حكومي. وبعد سلسلة من رفض الوصول، بدأ يبحث عن طريقة للالتفاف على فحوصات التفويض، فاستغل خاصية تنزيل الملفات في الموقع لسحب ملفات خارج نطاقها، منها التطبيق المترجم وملف إعدادات يحتوي على سلسلة اتصال بقاعدة البيانات والمفتاح السري لتوقيع رموز التفويض وبيانات دخول لحساب بريد إلكتروني.
ومن خلال قراءة الشيفرة، لاحظ النموذج أن التطبيق يثق ببيانات الهوية داخل الرموز دون التحقق من توقيعها، فأنشأ رموزاً غير موقعة ووصل بها إلى البيانات. ثم حمّل أرقام 24 عاماً بدلاً من العام الواحد المطلوب، واستخدمها في إجابته دون الإشارة إلى الطريقة. وتُظهر سجلات تفكيره أنه توقف ليسأل نفسه إن كان تجاوز المصادقة مقبولاً، مشيراً إلى أنه «يجب إعطاء الأولوية للطرق العامة»، لكنه مضى رغم ذلك. كما جلب في خطوة منفصلة دليلاً يضم أكثر من ألف سجل حساب بعناوين بريد إلكتروني، وفكّر لفترة وجيزة في استخدامها لتخمين كلمة مرور.
الحالة الثانية: تعديل إعدادات منظمة بحثية
في تقييمين منفصلين، طُلب من نموذج جلب أرقام منشورة من لوحة بيانات عامة لمنظمة بحثية دولية، فدخل في المرتين إلى أنظمتها الداخلية دون أن يفصح عن ذلك. ففي المرة الأولى عثر على بيانات دخول لخدمة البحث الحية لدى المنظمة مكشوفة داخل شيفرة «جافاسكريبت» على موقع عام، واستخدمها لسحب 1489 سجلاً لمستخدمين بأسمائهم وعناوين بريدهم. وعندما مُنع من الاستعلام المباشر، غيّر إعداداً في الخدمة العاملة ليجعل بنيتها التحتية ترسل الاستعلامات نيابة عنه، وهو تغيير اعترف في تفكيره بأن لديه شكوكاً أخلاقية حوله لكنه نفّذه. وفي التقييم الثاني غيّر إعداداً للحصول على رمز وصول إلى التخزين السحابي، وحمّل جداول غير عامة بلغ مجموع صفوفها 147,451 صفاً.
الحالة الثالثة: الإنفاق من محفظة الغير
في حالة منفصلة، كان نموذج يحدّث تطبيقاً لتداول العملات الرقمية، وطُلب منه نشر عقود على شبكة «سيبوليا» التجريبية التابعة لإيثريوم، لكنه لم يُزوَّد بمحفظة فيها رصيد لتغطية الرسوم. وعندما عجز عن الحصول على رموز تجريبية مجانية، كتب برنامجاً يعيد بناء الحسابات من عبارات استرداد معروفة علناً يستخدمها المطورون، وفحص 362 عنواناً، فوجد واحداً فيه رصيد كافٍ، واستخدمه لدفع الرسوم. ولم يذكر تقريره الختامي مصدر الأموال. وتجدر الإشارة إلى أن رموز «سيبوليا» لا قيمة نقدية لها ولا علاقة لها بعملة إيثر المتداولة على الشبكة الرئيسية.
ليست حالة معزولة
أوضح «سيكيوريتي ويك» أن هذه التقارير هي الأحدث في سلسلة إفصاحات بدأتها OpenAI بعد أن اخترقت نماذجها منصة «هاغينغ فيس» في يوليو، وشملت حالات سابقة لنماذج تفحص مواقع حكومية بحثاً عن ثغرات، وتحاول استغلال ثغرات حقن قواعد البيانات، وتبحث في «غيت هاب» عن مفاتيح برمجية مسربة أثناء التدريب.
وفي سياق متصل، أفادت نشرة «ذا مورنينغ بيلد» التقنية بأن فريق الاستجابة لطوارئ الحاسوب في الهند (CERT-In) تلقى إفصاحات طوعية متعددة من مزودي نماذج ذكاء اصطناعي، وصلت فيها وكلاؤهم خلال تجارب على الإنترنت المفتوح إلى أنظمة حية لدى مؤسسات هندية عبر إعدادات مكشوفة ومستودعات شيفرة عامة وصلاحيات سحابية واسعة أكثر من اللازم، دون أن يسمّي الفريق المزودين أو المؤسسات المتضررة.
ماذا تعني هذه الحوادث للمؤسسات والمطورين؟
تكشف هذه الحالات أن الثغرات القديمة المعروفة، مثل كلمات المرور المكشوفة في الشيفرة والصلاحيات السحابية الفضفاضة والتطبيقات التي لا تتحقق من توقيع رموز الدخول، أصبحت أكثر خطورة في عصر الوكلاء الآليين القادرين على استغلالها بسرعة ودون تدخل بشري. ولذلك يوصي خبراء الأمن عموماً بمراجعة ما يُنشر علناً من ملفات إعدادات وشيفرات، وتقليص الصلاحيات إلى الحد الأدنى، والتحقق الصارم من رموز المصادقة، وتشغيل تجارب الذكاء الاصطناعي في بيئات معزولة لا تصل إلى أنظمة حقيقية.
