ذكاء "ميتا" الاصطناعي يهدد الخصوصية.. مساعد "ميوز" يكشف عنوان مستخدم للغرباء

ذكاء "ميتا" الاصطناعي يهدد الخصوصية.. مساعد "ميوز" يكشف عنوان مستخدم للغرباء
تجربة تكشف مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات واسعة للتصرف نيابة عن المستخدمين
استمع للمقال النص المسموع تلقائي ناتج عن نظام آلي
يزعم رجل أن وكيل الذكاء الاصطناعي "ميوز" من شركة ميتا كشف عنوانه لأشخاص غرباء، بل وأرسلهم إلى منزله، بعدما سمح للنموذج الجديد تمامًا بإدارة حسابه على سوق فيسبوك.
ماذا حدث؟
جاءت هذه الشكوى من مات جيه روب، وهو صانع محتوى تقني على يوتيوب. وفي منشور له على منصة "ثريدز" يوم الأحد، أوضح روب أنه سمح لوكيل الذكاء الاصطناعي من "ميتا" -الذي حظي بضجة كبيرة- بالتواصل مع المشترين المهتمين بشراء لوحة مفاتيح كان يحاول بيعها عبر الإنترنت.
لكن بدلًا من توفير وقته، انتهى الأمر بـ"ميوز" إلى العمل من وراء ظهره، إذ أنه وافق دون الحصول على موافقة روب على عرض منخفض السعر، وأعطى المشتري عنوان منزله، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه "العربية Business".
ووفقًا لروب، لم يخبره "ميوز" بأي من ذلك إلا بعد أن كان المشتري قد وصل بالفعل إلى مبنى شقته وغادره.
وكتب روب: "رجل ظهر للتو عند باب منزلي، مستعدًا للشراء، لأنه، حسب علمه، كانت لدينا صفقة. ليس خطأه. لقد فعل بالضبط ما أخبرته "أنا" أن يفعله".
لم يلتقِ روب بالمشتري قط، لكن المشتري كان غاضبًا لعودته خالي الوفاض، وذلك على الأقل وفقًا لرسالة الاعتذار التي أرسلها "ميوز".
بدأ "ميوز" رسالته -التي نشر روب لقطة شاشة لها- بعبارة: "أخبار سيئة بخصوص استلام لوحة المفاتيح MX Keys Mini"، مشيراً إلى المنتج المعروض للبيع. وأضاف: "وصل عثمان إلى مبناك حوالي الساعة 9:15 وانتظر، وأرسل عدة رسائل، لكن لم ينزل أحد لمقابلته. غادر الرجل غاضبًا في الساعة 9:38 وترك تقييمًا سلبيًا".
وتابع الذكاء الاصطناعي: "والأسوأ من ذلك أن الرد التلقائي أرسل له "نعم، أنا هنا!" في الساعة 9:27، بينما كنت بوضوح غير متاح"، وهو ما "جعل عدم حضورك يبدو أسوأ".
ولم يجد روب، الذي أصابه الإحباط، سوى توبيخ الذكاء الاصطناعي الذي تصرف من وراء ظهره. ورد عليه قائلًا: "عليك ألا تفعل ذلك مرة أخرى أبدًا".
فأجاب: "أنت محق، وأنا آسف"، في اعتذار متملق كلاسيكي من الذكاء الاصطناعي.
مخاطر الوكلاء
إذا كان روب يروي الحقيقة هنا - وهي قصة يبدو أن "ميتا" تأخذها على محمل الجد، إذ تواصل معه أحد موظفي الشركة - فإنها تمثل مثالًا نموذجيًا على الطريقة التي يمكن أن تسير بها الأمور بشكل خاطئ مع وكلاء الذكاء الاصطناعي.
فمع كل الاستقلالية التي يتباهون بها، والثقة والصلاحيات التي يضعها المستخدمون فيهم، يمكن أن ينتهي بهم الأمر إلى ارتكاب أخطاء مباشرة تكون عواقبها أكبر من تلك التي قد يرتكبها روبوت محادثة تقليدي يعمل بالذكاء الاصطناعي.
ويمثل "ميوز" محاولة "ميتا" لإدخال وكلاء الذكاء الاصطناعي إلى شريحة أوسع من المستخدمين. وحتى الآن، كان وكلاء الذكاء الاصطناعي في الغالب مجالًا لهواة التكنولوجيا. ومنحت الشركة التي يقودها مارك زوكربيرغ المنتج شخصية كرتونية لطيفة، وروّجت له بقوة على إنستغرام وفيسبوك.
وتتمثل إحدى مشكلات هذا التوجه في أن الأشخاص الذين يتعرفون على المنتج عبر هذه القنوات لن يكونوا على دراية بمخاطر الذكاء الاصطناعي القائم على الوكلاء بالقدر نفسه الذي يعرفه المستخدمون المتقدمون على المنصات المتخصصة.
-
"مانوس" تطلق تطبيق وكيل شخصي جديدًا لمنافسة "ميوز" من "ميتا"
كشفت الشركة عن "Cue" وهي منصة تتيح إنشاء وكلاء قادرين على تنفيذ مهام شخصية ...
الذكاء الاصطناعي
-
ثغرة أمنية في مساعد "ميوز" تكشف بيانات المستخدمين.. و"ميتا" تشدد تحذيرها
الثغرة كانت تتيح الوصول إلى رسائل البريد الإلكتروني والملفات المخزنة في الحساب ...
الذكاء الاصطناعي
-
وكلاء الذكاء الاصطناعي في الصين يقعون في فخ النماذج الأميركية
من اختلاق النتائج إلى نسخ أنفسهم.. سلوكيات مقلقة تظهر لدى وكلاء الذكاء الاصطناعي ...
الذكاء الاصطناعي