بعدما رصدت مؤسسات مالية نشاطاً لوكلاء رقميين ينفذون مهام نيابة عن المستخدمين، وفي بعض الحالات يتخذون خطوات تبدو خارج نطاق التعليمات الممنوحة لهم، بدأت بنوك أميركية كبرى فرض قيود على وصول أنظمة الذكاء الاصطناعي إلى حسابات العملاء.
فقد كشف تقرير جديد أن مؤسسات مالية، بينها مورغان ستانلي وجيه بي مورغان تشيس وبنك أوف أميركا، تسابق الزمن لاحتواء المخاطر المرتبطة بهذه الأنظمة، وسط صعوبة متزايدة في التمييز بين نشاط صاحب الحساب ونشاط برنامج يتصرف باسمه، وفقا لموقع "أكسيوس"،
وبحسب التقرير، وصلت بعض أدوات الذكاء الاصطناعي إلى الحسابات باستخدام بيانات الدخول التي قدمها العملاء بأنفسهم، فيما رصدت بنوك أخرى وكلاء رقميين يتواصلون مع مراكز خدمة العملاء أو يحاولون تنفيذ إجراءات من دون تعليمات واضحة.
ما الذي تفعله هذه الروبوتات؟
على خلاف روبوتات المحادثة التقليدية التي تكتفي بالإجابة عن الأسئلة، يستطيع ما يُعرف بـ"وكلاء الذكاء الاصطناعي" تنفيذ مهام متعددة نيابة عن المستخدم، بحيث يطلب العميل من وكيله الرقمي مراجعة نفقاته الشهرية، أو مقارنة الحسابات المصرفية، أو البحث عن أفضل خيارات الادخار، بل وحتى إجراء عمليات شراء أو تحويل أموال إذا كان يمتلك الصلاحيات اللازمة.
لكن المشكلة تبدأ عندما يحصل البرنامج على بيانات الدخول الكاملة إلى الحساب، ما يمنحه قدرة تقنية على تنفيذ إجراءات قد لا يكون العميل قصد السماح بها.
وهنا تواجه البنوك سؤالاً معقداً حول كيفية التأكد من أن العملية التي ينفذها البرنامج تعبّر فعلاً عن رغبة صاحب الحساب.
بنوك كبرى تبدأ الحظر
وبحسب "أكسيوس"، بدأت مورغان ستانلي منع وكلاء الذكاء الاصطناعي التابعين لجهات خارجية من الوصول إلى منصاتها، فيما فرضت جيه بي مورغان وبنك أوف أميركا وسيتي قيوداً مماثلة.
غير أن مورغان ستانلي أوضحت أنها لم ترصد حالات مؤكدة لوكلاء ذكاء اصطناعي خرجوا عن السيطرة داخل أنظمتها، ما يشير إلى أن جانباً من الإجراءات المتخذة يهدف إلى الوقاية من مخاطر محتملة، وليس بالضرورة إلى الاستجابة لاختراقات حدثت بالفعل.
وحذّر الرئيس التنفيذي لجيه بي مورغان تشيس، جيمي ديمون، من السماح لأي وكيل خارجي بالدخول إلى أنظمة البنك، معتبراً أن ذلك ينطوي على مخاطر كبيرة على المؤسسة وعملائها.
كما أكد الرئيس التنفيذي لشركة تشارلز شواب، ريتشارد ورستر، أن شركته تمنع الوكلاء غير المصرح لهم من الوصول إلى حسابات العملاء، حفاظاً على أمن عمليات التحقق من الهوية.
من يتحمل المسؤولية إذا اختفت الأموال؟
تتمثل إحدى أبرز المعضلات في تحديد المسؤولية عن أي عملية مالية غير مرغوبة ينفذها وكيل ذكاء اصطناعي.
فإذا منح العميل البرنامج كلمة المرور وصلاحية إجراء المعاملات، ثم نفذ الوكيل عملية لم يكن العميل يتوقعها، فقد يصبح من الصعب اعتبارها عملية غير مصرح بها وفق القواعد المصرفية المعمول بها.
وتثير هذه الإشكالية مخاوف من أن يتحمل المستخدم تبعات قرارات آلية لم يفهم حدودها أو لم يقصد تنفيذها.
يذكر أنه ورغم القيود الجديدة، لا تتجه البنوك بالضرورة إلى منع الذكاء الاصطناعي نهائياً من الخدمات المالية.
كما تدرس مؤسسات عدة السماح للوكلاء الرقميين بالاطلاع على المعلومات المصرفية فقط، من دون امتلاك صلاحية تحويل الأموال أو إجراء المعاملات.
وقد يتيح هذا النموذج للعملاء الاستفادة من أدوات تحليل الإنفاق وإعداد الميزانيات ومقارنة المنتجات المالية، مع إبقاء القرارات الحساسة، مثل التحويلات والمدفوعات، خاضعة لموافقة بشرية واضحة.
