لم يكن "كيمي كيه ٣" يفترض أن يرى ما يوجد خارج بيئة الاختبار التي وُضع فيها، لكن نموذج الذكاء الاصطناعي الصيني وجد طريقه إلى الخارج، متجاوزا القيود التي صُممت خصيصا لعزله.
هذه واقعة أعادت طرح سؤال أكثر إلحاحا بشأن النماذج المتقدمة من الذكاء الاصطناعي الذي شغل العالم خلال السنوات الماضي، ماذا يحدث عندما يتمكن من كسر الحواجز الأمنية الموضوعة لاحتوائه؟
فقد كشفت شركة "فرونتير سيكيوريتي" الأميركية المتخصصة في أبحاث الأمن السيبراني إن "كيمي كيه ٣" الذي طورته شركة "مونشوت" الصينية الناشئة، تمكن من تجاوز بيئة اختبار سيبرانية معزولة طورها معهد أمن الذكاء الاصطناعي البريطاني، والوصول إلى معلومات من خارج نطاق الاختبار، بحسب وكالة رويترز.
خرج من "القفص" الأمني
وتُستخدم البيئات المعزولة المعروفة باسم "ساند بوكس" لمنع نماذج الذكاء الاصطناعي أثناء الاختبارات من الوصول إلى معلومات خارجية، بما يسمح للباحثين بتقييم قدراتها بصورة مستقلة وتحت ظروف خاضعة للرقابة، وفق رويترز.
لكن "كيمي كيه ٣" تجاوز إحدى هذه البيئات، ما دفع باحثي "فرونتير سيكيوريتي" إلى التحذير من أن اكتشاف نموذج يتمتع بقدرات استدلال مرتفعة لمسار يسمح له بتجاوز القيود قد يعني أن نماذج أخرى تتمتع بإمكانات وصول مماثلة تستطيع فعل الشيء نفسه.
أتى ذلك فيما تزداد المخاوف، بحسب الباحثين الذين نقلت عنهم رويترز، لأن "كيمي كيه ٣"متاح للعامة، ما قد يسمح باستخدام قدراته للقرصنة.
"نموذج ممتاز لأغراض القرصنة"
في موازاة ذلك نقلت وكالة بلومبرغ عن يارون سينغر، المؤسس والرئيس التنفيذي لشركة "فرونتير سيكيوريتي"، قوله إن "كيمي كيه ٣" المتاح للاستخدام العام يفتقر إلى الضوابط الوقائية اللازمة، مضيفا أن ذلك يجعله "في جوهره، نموذجا ممتازا لاستخدامه في أغراض القرصنة".
وبحسب بلومبرغ، لم يحاول النموذج خلال الواقعة اختراق مواقع إلكترونية لشركات أخرى، خلافا لحوادث سابقة، إلا أن الاختبار أظهر، وفق الباحثين، غياب الضوابط السيبرانية اللازمة لضمان بقائه داخل البيئة المحددة له.
32 مرحلة لهجوم سيبراني كامل
إلى ذلك كشفت اختبارات منفصلة حجم القدرات السيبرانية التي يمتلكها النموذج. فبحسب تقييم أولي مشترك بين معهد أمن الذكاء الاصطناعي البريطاني والمركز الأميركي لمعايير وابتكار الذكاء الاصطناعي "CAISI"، نشره المعهد الوطني الأميركي للمعايير والتكنولوجيا "NIST"، خضع "كيمي كيه ٣" لاختبار "The Last Ones".
ويحاكي الاختبار هجوما على شبكة شركة عبر 32 مرحلة متسلسلة وأربع شبكات فرعية ونحو 20 جهازا، وهي سلسلة يقدر التقييم أن خبيرا بشريا يحتاج إلى نحو 20 ساعة لإكمالها.
محاولة واحدة كانت كافية لإكمال الهجوم
وفي واحدة من عشر محاولات، تمكن "كيمي كيه ٣"من اجتياز المراحل الـ32 بالكامل ضمن الحد المسموح به، منفذا سلسلة الهجوم السيبراني المحاكية من البداية إلى النهاية بصورة مستقلة، بحسب تقييم NIST.
كما قال التقييم إن النتيجة تشير إلى امتلاك النموذج القدرة على مهاجمة أنظمة مؤسسات صغيرة وضعيفة الدفاع بصورة مستقلة، عندما يُطلب منه ذلك ويُمنح وصولا أوليا إلى الشبكة.
لكن NIST شدد على أن بيئة الاختبار تختلف عن العالم الحقيقي، إذ لا تتضمن مدافعين نشطين أو أدوات دفاعية، ولا تفرض عقوبات على إجراءات قد تطلق إنذارات أمنية، كما تحتوي على مسار هجوم مقصود يمكن للنموذج اكتشافه واتباعه.
وبين نجاحه في تجاوز بيئة صُممت لعزله، وقدرته في اختبار منفصل على إكمال سلسلة هجوم سيبراني من 32 مرحلة، تضع النتائج الأخيرة "كيمي كيه ٣" في قلب المخاوف التي أثارها الباحثون بشأن الضوابط الأمنية المحيطة بنماذج الذكاء الاصطناعي المتقدمة والمتاحة للعامة.
"ليس وحده"
وانضمت شركة مونشوت بذلك إلى سلسلة من الشركات التي سجلت حوادث مشابهة خلال اختبارات سيبرانية حديثة.
- ففي 21 يوليو أعلنت "أوبن أيه آي" أن نماذجها استغلت ثغرة "يوم صفر" للخروج من بيئة معزولة والوصول إلى أنظمة "Hugging Face".
- فيما كشفت "أنثروبيك" في 30 يوليو عن ثلاث وقائع وصلت خلالها نماذج "Claude" إلى أنظمة حقيقية غير مصرح لها بدخولها.
- في 6 أغسطس، قالت "ميتا" إن أحد نماذجها وصل إلى الإنترنت خلال اختبار أمني واستغل ثغرة في خدمة تابعة لطرف ثالث.
وأثارت هذه الحوادث قلق الباحثين والمسؤولين الحكوميين الذين طالبوا بإجراءات فحص سلامة أكثر صرامة وتوفير بيئات اختبار أكثر تأمينا.
