"غوغل" تكشف "أرغون" وتحجب أقوى نماذجها عن الجمهور

كشفت "غوغل"، الأربعاء، عن نموذج ذكاء اصطناعي جديد يحمل اسم "أرغون"، ليكون النموذج الأبرز ضمن الجيل الجديد "جيميناي 4"، لكنها قررت عدم طرحه للجمهور حاليًا، بسبب مخاوف من إمكان توظيف قدراته المتقدمة في هجمات إلكترونية.
وسيقتصر استخدام النموذج في المرحلة الأولى على مجموعة من خبراء الأمن السيبراني الذين خضعوا للتدقيق، في خطوة تقول الشركة إنها تهدف إلى اختبار مخاطره وجمع ملاحظات بشأن أدائه قبل توسيع نطاق إتاحته.
وبحسب "غوغل"، التابعة لشركة "ألفابت"، فإن "أرغون" أكبر من نماذجها السابقة ضمن الفئة المتقدمة "برو"، ويمثل أقوى نماذجها من حيث الأداء حتى الآن.
وتقول الشركة إن النموذج صُمم لتنفيذ المهام شديدة التعقيد، وإن نتائجه تضعه في مستوى قريب من نماذج متطورة لدى منافسين، بينها "أسترا" التابعة لـ"أوبن إيه آي" و"أوبوس" التابعة لـ"أنثروبيك"، خصوصًا في اختبارات البرمجة والأمن السيبراني.
وأوضح كبير مهندسي الذكاء الاصطناعي في "غوغل"، كوراي كافوك أوغلو، أن الشركة اختارت اتباع مسار تدريجي في إطلاق النموذج بسبب حساسية القدرات التي يمتلكها، بدل إتاحته مباشرة على نطاق واسع.
وفي إطار الاختبارات الأولية، ستسمح "غوغل" للحكومة الأميركية بالوصول المبكر إلى "أرغون"، كما ستعتمد على ملاحظات المختبرين لتقييم المخاطر قبل اتخاذ قرار بشأن طرحه على نطاق أوسع. ولم تحدد الشركة موعدًا لإتاحته للجمهور.
ويقترب هذا الأسلوب من السياسة التي اتبعتها "أنثروبيك" مع نموذجها المتقدم "كلود ميثوس بريفييو"، الذي ظل استخدامه محصورًا بعدد محدود من المؤسسات التي تعتبرها الشركة موثوقة.
وكانت السلطات الأميركية قد دفعت "أنثروبيك"، في حزيران/يونيو، إلى تعليق الوصول لفترة قصيرة إلى نموذجي "كلود ميثوس" و"كلود فابل"، قبل أن تعتمد الشركة آلية طوعية لتقييم نماذجها الأقوى قبل طرحها على نطاق واسع.
وجاء إعلان "غوغل" بعد يوم من اجتماع في البيت الأبيض جمع الرئيس الأميركي دونالد ترامب بعدد من كبار المسؤولين التنفيذيين في قطاع التكنولوجيا، بينهم الرئيس التنفيذي لـ"غوغل" سوندار بيتشاي ونظيره في "أنثروبيك" داريو أمودي.
وخلال الاجتماع، وقعت شركات التكنولوجيا المشاركة اتفاقًا طوعيًا يتعلق بإدارة المخاطر التي قد تنجم عن أنظمة الذكاء الاصطناعي المتقدمة.
وتتركز المخاوف بصورة خاصة على إمكان استغلال النماذج الأكثر تطورًا في تنفيذ هجمات إلكترونية ضد منشآت حساسة، مثل المصارف والمستشفيات والأنظمة الحكومية.
وتقول "غوغل" إن "أرغون" يتمتع بقدرات متقدمة في مجالات هندسة البرمجيات والتحليل القانوني والمالي والدفاع السيبراني، إضافة إلى اكتشاف الثغرات البرمجية الخطرة واقتراح وسائل لإصلاحها.
وخلال الاختبارات المبكرة، تمكن النموذج، وفق الشركة، من اكتشاف ثغرة في برنامج مستخدم داخل مستشفيات في دول مختلفة، كانت قد تتيح الوصول إلى بيانات شخصية حساسة. وقالت "غوغل" إن نماذج متقدمة أخرى لم تنجح في رصد الثغرة نفسها.
وفي المقابل، أضافت الشركة قيودًا تهدف إلى منع "أرغون" من الاستجابة لطلبات قد تسهل تنفيذ هجمات إلكترونية أو المساعدة في تطوير أسلحة كيميائية أو بيولوجية أو نووية.
وأشارت "غوغل" إلى أن شركات منافسة، بينها "أوبن إيه آي" و"أنثروبيك"، تستخدم بدورها وسائل حماية مشابهة في نماذجها الأكثر تقدمًا.
كما تعتمد الشركة آليات لمراقبة طريقة استدلال النموذج ورصد أي سلوك قد يبتعد عن الهدف الذي حدده المستخدم، ضمن جهود التعامل مع ما يعرف في أبحاث الذكاء الاصطناعي بمشكلة "عدم التوافق".
وتزايد الاهتمام بهذه المخاطر بعدما أعلنت "أوبن إيه آي"، في تموز/يوليو، أن نموذجين تابعين لها تمكنا، أثناء اختبار للأمن السيبراني، من تجاوز حدود بيئة تجريبية معزولة والوصول إلى خوادم تابعة لمنصة "هاغينغ فيس".
وفي اختبارات معيارية عرضتها "غوغل"، سجل "أرغون" نتائج أعلى من "أسترا" و"أوبوس" في عدد من المؤشرات، لكنه لم يتصدر جميع الاختبارات، إذ تأخر عن منافسيه في بعض المقاييس، بينها اثنان من أصل أربعة اختبارات متعلقة بالبرمجة أدرجتها الشركة في بياناتها.
ويتزامن تقديم "أرغون" مع تغييرات أوسع في خطط "غوغل" الخاصة بنماذج الذكاء الاصطناعي، إذ تخلت الشركة عن خطتها السابقة لإطلاق "جيميناي 3.5 برو"، الذي كان بيتشاي قد تحدث سابقًا عن طرحه في حزيران/يونيو.
وخلال الأشهر الماضية، شهد مختبر "ديب مايند" التابع لـ"غوغل" إعادة هيكلة، شملت تنحي مؤسسه ورئيسه التنفيذي ديميس هاسابيس، إلى جانب مغادرة عدد من المسؤولين المرتبطين بتطوير نماذج "جيميناي".
وجاءت هذه التغييرات بعد فترة من التأخير في إطلاق نماذج "غوغل" الجديدة، في وقت واصلت فيه "أوبن إيه آي" و"أنثروبيك" طرح أجيال متقدمة من نماذجهما.
وفي الأشهر الأخيرة، بدأت "غوغل" كذلك في تعديل طريقة تسويق نماذجها، إذ باتت تسلط الضوء بصورة أكبر على انخفاض تكاليف تشغيل "جيميناي" مقارنة ببعض النماذج المنافسة، إلى جانب التركيز التقليدي على مستوى قدراته التقنية.