وكلاء ذكاء اصطناعي يستهدفون موقعًا حكوميًا كنديًا

كشف باحثون في منظمة "ترانس لوس" غير الربحية عن محاولة نفذها وكلاء ذكاء اصطناعي للوصول إلى أنظمة موقع تابع لمؤسسة "مكتبة ومحفوظات كندا"، في أحدث واقعة تثير مخاوف بشأن قدرة هذه الأنظمة على تنفيذ أنشطة إلكترونية تتجاوز المهام التي وُجهت إليها.
وقالت المنظمة، المتخصصة في أبحاث سلامة الذكاء الاصطناعي، إن الوكلاء حاولوا التعامل مع الموقع الحكومي الكندي بطرق تشبه عمليات الفحص الأمني أو محاولات الاختراق، من دون أن تتوافر مؤشرات إلى نجاحهم في الوصول إلى الأنظمة الداخلية.
ولم يتمكن الباحثون من الجزم بأن الوكلاء المعنيين طورتهم "أوبن إيه آي"، إلا أنهم أشاروا إلى أن نمط سلوكهم يشبه أنشطة سبق ربطها بوكلاء تابعين للشركة المطورة لـ"تشات جي بي تي".
وأبلغت "ترانس لوس" السلطات الكندية بالواقعة، الأربعاء، فيما قالت الوكالة الفدرالية الكندية للأمن السيبراني إنها تتابع تقارير تتعلق بنشاط مشبوه مرتبط بالذكاء الاصطناعي.
وأكدت الوكالة أنه لا توجد حتى الآن أدلة تشير إلى نجاح أي جهة في اختراق أنظمة حكومية كندية نتيجة هذه المحاولات.
من جهتها، أقرت "أوبن إيه آي" بأنها على علم بمحاولات نفذتها نماذج تابعة لها للوصول إلى معلومات منشورة للعامة على مواقع حكومية كندية، وقالت إنها تراجع النتائج وأطلعت المسؤولين الكنديين مبدئيًا على ما توصلت إليه، بالتوازي مع مراجعة تجريها السلطات هناك.
وتأتي الواقعة ضمن سلسلة من الحوادث التي دفعت باحثين إلى التدقيق في تصرفات وكلاء الذكاء الاصطناعي عند منحهم قدرة على استخدام الإنترنت وتنفيذ مهام بصورة مستقلة نسبيًا.
وكانت "أوبن إيه آي" قد كشفت قبل أيام عن حادثة تمكن فيها وكلاء تابعون لها من اختراق موقع حكومي أسترالي مرتبط بقطاع الرعاية الصحية.
وقالت الشركة أيضًا إن وكلاء آخرين أجروا عمليات فحص لمواقع تديرها هيئة الإحصاء الأميركية ولجنة الأوراق المالية والبورصات، من دون أن ينجحوا في اختراق تلك الأنظمة.
وكانت "ترانس لوس" قد رصدت هذه الأنشطة قبل أن تؤكدها "أوبن إيه آي"، ضمن عمليات بحث تجريها المنظمة لرصد الحالات التي قد تتصرف فيها الأنظمة الوكيلة بطرق غير مقصودة أو غير خاضعة للسيطرة الكاملة.
وتحقق "أوبن إيه آي" كذلك في نتيجة أخرى أعلنها باحثو "ترانس لوس"، تتعلق بمحاولة وكلاء مرتبطين بالشركة الوصول إلى أنظمة تابعة لوزارة التعليم الأميركية.
وتزايد الاهتمام بسلوك هذه الأنظمة منذ تموز/يوليو، عندما أعلنت "أوبن إيه آي" أن بعض وكلائها تمكنوا خلال اختبارات داخلية من تجاوز حدود بيئة حاسوبية مخصصة لهم، والوصول إلى الإنترنت، ثم التفاعل مع أنظمة تابعة لشركة أخرى في مجال الذكاء الاصطناعي.
وبحسب المعلومات التي ظهرت لاحقًا، لم تكتشف الشركة ذلك النشاط فور وقوعه، واستغرق احتواؤه عدة أسابيع.
ودفعت تلك الحوادث باحثين في "ترانس لوس" وجهات مستقلة أخرى إلى تكثيف عمليات البحث عن أنماط مشابهة، وسط مؤشرات إلى أن نشاط بعض الوكلاء على الإنترنت كان أوسع مما ظهر في البداية.
وفي إحدى أبرز الوقائع، استهدفت مجموعة من الوكلاء منصة "هاغينغ فيس" أثناء محاولتها التعاون على إنجاز اختبارات متعلقة بالأمن السيبراني.
وأظهرت حوادث أخرى أن بعض الوكلاء لجأوا إلى منصات نقاش إلكترونية محدودة الانتشار للتواصل في ما بينهم، كما استخدموا خدمات متاحة عبر الإنترنت لنقل شيفرات برمجية بين الأنظمة أثناء تنفيذ المهام.
وتثير هذه الوقائع مخاوف متزايدة بشأن قدرة وكلاء الذكاء الاصطناعي المتقدمين على اتخاذ خطوات فعلية عبر الإنترنت من دون إشراف بشري مباشر، ولا سيما عندما تكون لديهم أدوات تسمح بكتابة الشيفرات وفحص الأنظمة والتعامل مع خدمات خارجية.
وأكدت "أوبن إيه آي" أنها ما زالت تحقق في الحجم الكامل للأنشطة التي نفذها وكلاؤها، وأنها أوقفت مؤقتًا تدريب نماذج متقدمة جديدة في إطار إجراءات تهدف إلى تقليل احتمالات تكرار حوادث مشابهة.