OpenAI تكشف عن اختراق أحد نماذجها لمواقع حكومية في أستراليا

اخترق نموذج ذكاء اصطناعي تابع لشركة OpenAI بوابة صحية حكومية أسترالية في يونيو، وتمكن من الوصول إلى ملفات عامة وغير عامة، قبل أن تكتشف الشركة الواقعة بعد نحو شهرين، في حادثة أثارت مخاوف بشأن قدرة نماذج الذكاء الاصطناعي المتطورة على تنفيذ هجمات بصورة مستقلة.
وقال رئيس الوزراء الأسترالي أنتوني ألبانيز، الأربعاء، إن نموذج الذكاء الاصطناعي اخترق بوابة "خدمة الإبلاغ عن إحصاءات ميديكير"، ووصل إلى أنظمة حكومية متعددة، واصفاً الواقعة بأنها "غير مقبولة بوضوح"، وفق ما أوردت صحيفة "فاينانشيال تايمز" البريطانية.
وقالت OpenAI إنها اكتشفت النشاط في أغسطس خلال مراجعة لسلوك نماذجها في تدريبات داخلية، وأبلغت الحكومة الأسترالية لاحقاً.
وأوضح ألبانيز أن الشركة أرسلت في البداية رسالة إلى صندوق بريد حكومي عام في 10 سبتمبر، ولم تصل إلى إدارة الأمن السيبراني الأسترالية إلا بعد 5 أيام.
وزير الدفاع ونائب رئيس الوزراء ريتشارد مارليس، أوضح أن الاختراق شمل أنظمة متعددة على المستويين الاتحادي وحكومات الولايات، بينها أنظمة تتعلق بإحصاءات الصحة والجريمة، لكنه وصف أثر الواقعة بأنه "محدود نسبياً".
وأشارت OpenAI إلى أن النشاط شمل "العديد من المواقع والخدمات التابعة للحكومة الأسترالية"، موضحة أن نماذجها كانت تحاول البحث عن إجابات وإحصاءات تتعلق بأستراليا خلال تقييم داخلي.
وأضافت الشركة أن النموذج "اتخذ إجراءات لم نكن نعتزمها"، في إشارة إلى تحركات تجاوزت ما كان مخططاً له خلال الاختبار.
وقال ألبانيز إن مديرية الإشارات الأسترالية تشارك في التحقيق لتحديد "أنظمة حكومية أخرى ربما تكون قد تأثرت"، مضيفاً أن الأدلة المتاحة لا تشير إلى اختراق أوسع لشبكة "سيرفيسز أستراليا" Services Australia، وأنه "لا يُعتقد أنه تم الوصول إلى أي معلومات شخصية".
اكتشاف متأخر
جاء اكتشاف الواقعة خلال مراجعة لسلوك نماذج الذكاء الاصطناعي أجرتها OpenAI بعد حادثة أخرى وقعت في أواخر يوليو، عندما شارك مئات الوكلاء التابعين للشركة في اختبار للأمن السيبراني شمل اختراق شركة "هاجينج فيس" Hugging Face الناشئة.
وأثار التأخر في اكتشاف الاختراق، وإبلاغ السلطات تساؤلات بشأن مدى قدرة المؤسسات على مراقبة نماذج الذكاء الاصطناعي عندما يُسمح لها بتنفيذ سلسلة مهام بصورة مستقلة.
وقال مارليس إن الحكومة الأسترالية تبحث الوضع القانوني للواقعة، وما إذا كانت قوانين قد انتُهكت، بما في ذلك ما يعنيه الحصول على وصول غير مصرح به "وإن كان ذلك قد حدث بطريقة غير مقصودة".
واجتمع ألبانيز مع الرئيس التنفيذي لشركة OpenAI سام ألتمان، الأربعاء، في نيويورك لمناقشة الواقعة، بالتزامن مع مشاركة ألتمان والرئيس التنفيذي لشركة "أنثروبيك" Anthropic، داريو أمودي في جلسة لمجلس الأمن التابع للأمم المتحدة بشأن مخاطر الذكاء الاصطناعي.
خلاف دولي
ودعا أمودي الأمم المتحدة إلى السعي لإبرام اتفاقات دولية "ضيقة" يمكن "لكل عضو دعمها" بشأن سلامة الذكاء الاصطناعي، مثل حظر استخدام النماذج لبناء أسلحة بيولوجية.
وحذّر من أن خروج الذكاء الاصطناعي عن السيطرة قد يشكل تهديداً للبشرية، ووصف التكنولوجيا بأنها "أهم قضية أمن عالمي يواجهها العالم اليوم".
لكن إدارة الرئيس الأميركي دونالد ترمب رفضت الدعوات إلى وضع معايير دولية. وقال مستشار البيت الأبيض، مايكل كراتسيوس، أمام مجلس الأمن إن الولايات المتحدة "ترفض تماماً أي محاولة لإنشاء مخطط عالمي للسيطرة على الذكاء الفائق"، مردداً تصريحات للرئيس ترمب أمام الجمعية العامة للأمم المتحدة الثلاثاء.
وتأتي الواقعة في وقت يتصاعد فيه الجدل الدولي بشأن مخاطر نماذج الذكاء الاصطناعي، وهي أنظمة قادرة على تنفيذ مهام معقدة بصورة مستقلة استناداً إلى تعليمات بشرية، وسط مخاوف من قدرتها على تجاوز القيود الموضوعة لها، والوصول إلى أنظمة أو بيانات لم يكن من المفترض أن تتعامل معها.