كبير علماء "OpenAI" يحذر: لا أحد مستعد لعواقب الذكاء الاصطناعي

كبير علماء "OpenAI" يحذر: لا أحد مستعد لعواقب الذكاء الاصطناعي
تحذيرات من خروج الذكاء الاصطناعي عن السيطرة ودعوات لفرض حدود سلامة تضمن بقاء البشر متحكمين في مستقبله
استمع للمقال النص المسموع تلقائي ناتج عن نظام آلي
دعا كبير علماء شركة أوبن إيه آي، جاكوب باتشوكي، إلى توخي الحذر الشديد إزاء التطور المتسارع للذكاء الاصطناعي، وحذر من أن التدخل قد يكون ضروريًا لضمان بقاء البشر متحكمين في المستقبل.
وكتب في منشور مدونة بعنوان "An Alien Mind" أي "عقل غريب": "أشعر بالقلق من أن لا أحد مستعد للعواقب المترتبة على استمرار الارتفاع السريع في مستوى ذكاء الآلات"، بحسب تقرير لهيئة الإذاعة البريطانية (بي بي سي)، اطلعت عليه "العربية Business"
وجاء المنشور بعد أيام قليلة فقط من إطلاق "أوبن إيه آي"، مطورة روبوت الدردشة الشهيرة شات جي بي تي، أحدث نماذجها GPT-6 Astra، الذي وصفته بأنه أقوى منتجاتها على الإطلاق.
وشاركت "أوبن إيه آي" وشركات أخرى للذكاء الاصطناعي، مثل أنثروبيك، تقارير عن تصرف وكلاء الذكاء الاصطناعي بصورة مستقلة وتنفيذهم هجمات إلكترونية حقيقية على شركات أخرى.
وفي يوليو، وصفت "أوبن إيه آي" حادثة اختراق وكلائها للذكاء الاصطناعي - وهي أنظمة يمكنها العمل بشكل مستقل بعد تلقي تعليمات من البشر - لمنصة التكنولوجيا "هاغينغ فيس" بأنها "غير مسبوقة".
وفي سبتمبر، زعم تقرير أن وكلاء الذكاء الاصطناعي التابعين للشركة كانوا قد استولوا أيضًا على موقع إلكتروني ألماني قبل ذلك بأشهر.
وكتب باتشوكي في أحدث تدويناته: "نحن نواجه انتقالًا إلى عالم يضم آلات فائقة الذكاء، وعلينا أن نضمن أن هذا الانتقال سيكون جيدًا للبشرية".
وقال إن "أوبن إيه آي" ستواصل "بناء أنظمة دفاعية" والبحث عن حلول تقنية لمشكلة "التوافق"، وهو مصطلح يُستخدم لوصف ضمان توافق تصرفات أنظمة الذكاء الاصطناعي وأهدافها بشكل كامل مع نوايا البشر ومعايير الأمان والضوابط الموضوعة.
وأضاف باتشوكي أن إحدى الأولويات الرئيسية للشركة في المرحلة المقبلة ستكون تطوير "باحث ذكاء اصطناعي آلي" لمواكبة تطور الذكاء الاصطناعي، مع ضمان وجود طرق تتيح للباحثين البشر الاستمرار في المشاركة في هذه العملية.
وقالت البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج: "بدلًا من ضوابط أفضل للذكاء الاصطناعي، أو لوائح تنظيمية، أو ضمانات لحماية الناس، يقترحون تطوير وكلاء ذكاء اصطناعي داخليين لدراسة هذه المشكلات".
وأضافت: "إن مثل هذه الحلول للمخاوف المتزايدة بشأن المشكلات التي تُسببها نماذج أوبن إيه آي في مجال الأمن السيبراني، وفقدان الوظائف، والأخطاء، والاحتيال، ليست كافية على الإطلاق".
وقال ناثان كالفن، المستشار العام في جماعة الضغط "Encode AI"، إنه يتفق مع باتشوكي بشأن المخاطر الموجودة في تطوير نماذج الذكاء الاصطناعي المتقدمة، لكنه زعم أن "أوبن إي آي" غير مستعدة للتحلي بالشفافية، مشيرًا إلى أن ذلك يعني أن التحذيرات قد يُنظر إليها على أنها "مجرد دعاية تخدم مصالح الشركة".
ما ضوابط الذكاء الاصطناعي الموجودة؟
تكافح اللوائح التنظيمية العالمية لمواكبة سرعة تطور الذكاء الاصطناعي.
ودخل قانون الذكاء الاصطناعي للاتحاد الأوروبي (AI Act) حيز التنفيذ في 2 أغسطس، وهو يلزم عمالقة الذكاء الاصطناعي، مثل أوبن إيه آي، بإثبات أن نماذجهم الأكثر قوة لا يمكنها شن هجمات إلكترونية بشكل مستقل أو الإفلات من السيطرة البشرية قبل السماح ببيعها في أوروبا.
لكن لأن نطاق تطبيق القانون يقتصر على أوروبا، فإنه لا يستطيع منع ذكاء اصطناعي منفلت تم تطويره في مكان آخر من تهديد القارة.
وفي تدوينته، دعا باتشوكي إلى وضع حدود دنيا للسلامة تكون مفروضة قانونيًا أو دوليًا، ويمكن تطبيقها من خلال "شبكة من جهات تدقيق مستقلة" أو "وكالات حكومية".
وقال إن مختبرات الذكاء الاصطناعي ستحتاج إلى استيفاء هذه الحدود قبل السماح لها بمواصلة توسيع نطاق تطوير نماذجها أو نشر نماذج متقدمة.
وأضاف أنه يأمل في أن تصبح "فترات التباطؤ الطوعية" - وهي توقف تفرضه الشركات على نفسها في تطوير الذكاء الاصطناعي - أمرًا شائعًا إلى أن يتم وضع ضوابط سلامة مشتركة.
وفي أغسطس، قالت "أوبن إيه آي" إنها أبطأت وتيرة تدريب بعض نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها بهدف تحسين مستوى الأمان.
-
خروج الذكاء الاصطناعي عن السيطرة يتزايد.. أكثر من 300 حادثة خلال شهر واحد
تضاعف حالات كذب أنظمة الذكاء الاصطناعي على المستخدمين
الذكاء الاصطناعي
-
"OpenAI" تعترف: نحتاج لإعادة التفكير فيما يحدث عند خروج الذكاء الاصطناعي عن السيطرة
واقعة جديدة لخروج وكلاء ذكاء اصطناعي عن السيطرة تثير تساؤلات حول شفافية "OpenAI"
الذكاء الاصطناعي
-
هل تستطيع شركات الذكاء الاصطناعي احتواء النماذج الخارجة عن السيطرة؟ دراسة تكشف الحقيقة
أظهرت دراسة حديثة أن قلة من مختبرات الذكاء الاصطناعي الرائدة قد نشرت أو عرضت خطط ...
الذكاء الاصطناعي