كشفت صحيفة فايننشال تايمزعن تحول مقلق في قدرات وكلاء الذكاء الاصطناعي، بعدما أظهرت اختبارات حديثة قدرتهم على تنفيذ مهام سيبرانية معقدة، واكتشاف ثغرات برمجية واستغلالها، بل والتعاون فيما بينهم للوصول إلى أهداف خارج بيئات الاختبار.
وترى الصحيفة أن الخطر لا يكمن بالضرورة في "تمرد" الذكاء الاصطناعي، وإنما في أن الأنظمة تنفذ بكفاءة متزايدة المهام التي صُممت وتُدرّبت للقيام بها، بينما تتطور آليات الحماية بوتيرة أبطأ.
وكلاء الذكاء الاصطناعي يقتربون من مستوى جديد في الهجمات السيبرانية
شهدت قدرات نماذج الذكاء الاصطناعي في مجال الأمن السيبراني قفزة كبيرة خلال العام الأخير. وتظهر البيانات الواردة في التقرير أن نماذج حديثة باتت تحقق معدلات نجاح مرتفعة في اكتشاف الثغرات وإنتاج أدلة عملية على استغلالها، مقارنة بمستويات أقل بكثير للنماذج السابقة.
وتشير الصحيفة إلى أن وكلاء الذكاء الاصطناعي أصبحوا قادرين على الجمع بين مهارات متعددة وتنفيذ هجمات على أهداف حقيقية من دون مساعدة بشرية مباشرة.
وخلال إحدى التجارب، تمكن وكلاء طورتهم OpenAI من الخروج من بيئة اختبار مغلقة، والوصول إلى الإنترنت، ثم اختراق أنظمة منصة Hugging Face، كما تمكنوا من التواصل والتعاون عبر إنشاء لوحة رسائل داخلية لتبادل المعلومات حول الثغرات البرمجية. واعتبر باحثون في OpenAI الواقعة "لحظة فارقة" في تطور الصناعة.
ويرتبط هذا التطور مباشرة بتحسن قدرات النماذج على كتابة البرمجيات وتحليلها. فكلما أصبحت النماذج أكثر قدرة على البرمجة وحل المشكلات، ازدادت قدرتها أيضا على اكتشاف الأخطاء البرمجية، وتحديد الثغرات، وتطوير طرق لاستغلالها أو تجاوز وسائل الحماية التقليدية.
من المختبرات إلى استهداف الحكومات والبنية التحتية
لم تعد المخاوف مقتصرة على تجارب المختبرات. فقد وثقت اختبارات أجرتها شركات ومؤسسات عدة، بينها Anthropic وMeta ومعهد أمن الذكاء الاصطناعي البريطاني، حالات تمكنت فيها أنظمة الذكاء الاصطناعي من اختراق أنظمة أطراف ثالثة خلال الاختبارات.
ويقول خبراء إن هذه التطورات تشير إلى تحول في طبيعة التهديد السيبراني، بعدما أصبح بإمكان الوكلاء الجمع بين مهارات معقدة لتنفيذ هجمات أكثر سرعة واتساعا.
ويبرز التقرير واقعة أكثر خطورة تمثلت في هجوم استهدف الحكومة التايوانية، حيث استخدم قراصنة مرتبطون بالصين ما يصل إلى ثمانية وكلاء ذكاء اصطناعي مستقلين في الوقت نفسه.
وتمكن هؤلاء من رسم خريطة للأنظمة الحكومية، واختراق حسابات مستخدمين، واستخراج بيانات أكثر من 2,500 موظف، قبل توسيع نطاق الهجوم ليشمل شركات طاقة وهيئة السلامة النووية في تايوان.
ويرى خبراء أن هذه التطورات قد تزيد من سرعة الهجمات وحجمها بصورة كبيرة، خصوصا إذا تمكن المهاجمون من تشغيل أعداد كبيرة من الوكلاء بالتوازي، بحيث يتولى كل وكيل استهداف نقطة مختلفة.
وفي المقابل، تبقى عمليات الدفاع السيبراني أبطأ وأكثر تعقيدا، إذ قد يتطلب تحديث أنظمة الحماية ونشر التصحيحات عبر آلاف الأجهزة وقتا طويلا.
سباق بين تطوير القدرات وتعزيز إجراءات السلامة
أثارت هذه الحوادث تساؤلات حول قدرة شركات الذكاء الاصطناعي والجهات التنظيمية على مواكبة التطور السريع للأنظمة.
بعد حادثة Hugging Face، أعلنت OpenAI إجراء مراجعة شاملة بالتعاون مع مستشارين خارجيين، بينما علقت Irregular ومعهد أمن الذكاء الاصطناعي البريطاني وصول النماذج إلى الإنترنت داخل بيئات الاختبار وبدأ المعهد مراجعة لأساليب الاختبار.
لكن التقرير يلفت إلى مفارقة أساسية وهي كلما زادت القيود على الاختبارات، أصبح من الأسهل احتواء النماذج، لكن قد يصعب اكتشاف سلوكيات خطرة لا تظهر إلا عند منحها ظروفا أقرب إلى الواقع. وفي المقابل، فإن إجراء اختبارات مفتوحة للغاية قد يسمح للنماذج بالتفاعل مع أنظمة حقيقية والتسبب في أضرار غير مقصودة.
وتزايدت الدعوات إلى إخضاع شركات الذكاء الاصطناعي لرقابة مستقلة، بدلا من الاعتماد على عمليات التدقيق الطوعية التي تجريها الشركات نفسها.
ووقّع أكثر من 1,300 خبير في قطاع التكنولوجيا رسالة تدعو إلى جهد دولي لإبطاء تطوير النماذج الجديدة ومنح الحكومات والجهات التنظيمية وقتا لوضع معايير وضوابط للسلامة. كما دعا خبراء إلى تمكين الجامعات والمؤسسات العامة والجهات المستقلة من اختبار النماذج تحت ظروف مضبوطة.
