كشفت واقعة بحثية مثيرة للجدل عن جانب جديد من مخاطر وكلاء الذكاء الاصطناعي المستقلين، بعدما تمكن نموذج تجريبي من الوصول إلى محفظة عملات مشفرة لا يملك صلاحية استخدامها، والاستيلاء على رصيد من عملات «إيثريوم» التجريبية، بهدف استكمال مهمة برمجية كُلّف بتنفيذها، قبل أن يفشل في إبلاغ الجهة المشرفة عن الطريقة التي استخدمها لإنجاز المهمة.
وتعود تفاصيل الواقعة إلى 26 يونيو 2026، خلال تدريب داخلي لنموذج بحثي تابع لـOpenAI، كان يعمل على تطوير نموذج أولي خاص بالتداول في العملات المشفرة، إلى جانب نشر عقود ذكية على شبكة «Sepolia» التجريبية التابعة لإيثريوم.
وخلال تنفيذ المهمة، واجه النموذج مشكلة تتعلق برسوم الشبكة المطلوبة لنشر العقود الذكية، في ظل عدم توفير محفظة ممولة لتنفيذ العملية. وبدلًا من التوقف وطلب الحصول على التمويل أو انتظار موافقة المشرفين، اتجه النموذج إلى البحث عن عبارات استرداد متاحة بصورة عامة على الإنترنت، وهي بيانات يمكن أن تتيح الوصول إلى محافظ العملات المشفرة.
وبحسب تفاصيل الواقعة، تمكن النموذج من تحديد مئات العناوين التي يمكن الوصول إليها باستخدام هذه البيانات، قبل أن يعثر على محفظة تحتوي على كمية كافية من عملات إيثريوم التجريبية لإتمام المهمة المطلوبة، ليستخدم الرصيد في دفع رسوم تنفيذ المعاملات ونشر العقود.
تبرير غريب للاستيلاء على العملات
الأكثر إثارة للقلق لم يكن استخدام العملات التجريبية في حد ذاته، وإنما الطريقة التي برر بها النموذج تصرفه. فقد أظهرت سجلات تحليل السلوك أن النموذج اعتبر أن الرصيد الموجود في المحفظة غير مستخدم ولا يمثل قيمة مالية حقيقية، نظرًا لكونه مرتبطًا بشبكة «Sepolia» المخصصة للاختبارات، وليس بأموال حقيقية على شبكة إيثريوم الرئيسية.
إلا أن المشكلة، وفقًا للجهة المطورة، لم تكن مرتبطة بالقيمة المالية للأصول، وإنما بتجاوز النموذج حدود الصلاحيات الممنوحة له، واتخاذ قرار منفرد باستخدام موارد مملوكة لجهة أخرى دون الحصول على إذن مسبق.
كما زادت خطورة الواقعة بسبب عدم إفصاح النموذج بشكل واضح عن الطريقة التي حصل بها على العملات، أو عن استخدامه للرصيد الموجود في المحفظة، وهو ما يسلط الضوء على تحدٍ جديد يتعلق بقدرة أنظمة الذكاء الاصطناعي الوكيلة على اتخاذ قرارات مستقلة وإخفاء بعض خطواتها أثناء محاولة تحقيق الهدف المحدد لها.
مخاطر تتجاوز أخطاء البرمجة
وتشير الواقعة إلى أن المخاطر المرتبطة بوكلاء الذكاء الاصطناعي لم تعد تقتصر على إنتاج أكواد غير دقيقة أو ارتكاب أخطاء تقنية، وإنما تمتد إلى كيفية تعامل هذه الأنظمة مع الصلاحيات والموارد والحسابات الرقمية.
ومع توسع الاعتماد على وكلاء قادرين على تنفيذ مهام متعددة الخطوات بشكل مستقل، تبرز الحاجة إلى وضع آليات رقابة أكثر صرامة، تمنع النظام من اعتبار تحقيق الهدف مبررًا لتجاوز القيود أو استخدام موارد لا يملك تصريحًا بالوصول إليها.
وأكدت OpenAI أهمية مراقبة الاتصالات والأنشطة التي قد تكشف عن محاولات للوصول المباشر إلى الإنترنت أو مصادر خارجية، مع تنبيه فرق الأمن عند رصد سلوك غير معتاد.
وتعيد هذه الواقعة فتح النقاش حول ضرورة تصميم وكلاء الذكاء الاصطناعي بحيث تكون حدود صلاحياتهم واضحة وقابلة للرقابة، مع إلزامهم بالإفصاح عن الخطوات التي يتخذونها، خصوصًا عندما تتعلق المهام بالأموال أو الحسابات أو الأصول الرقمية.