تحوّل وكيل الذكاء الاصطناعي Muse من Meta إلى ظاهرة واسعة الانتشار، إذ حمّل ملايين المستخدمين المساعد وربطوه بحساباتهم البنكية ورسائلهم وبياناتهم الصحية. لكن بحسب تعليمات نظام داخلية استخرجها باحثون مستقلون وشاركوها مع WIRED، فإن التطبيق يبني أيضاً ملفات مفصّلة عن الأشخاص المحيطين بك.
وتوجّه إحدى التعليمات، بحسب ما ورد، Muse إلى إنشاء «صفحة لكل شخص في حياة المستخدم»، تجمع معلومات عن العائلة والشركاء والأصدقاء والزملاء والأشخاص الذين تتابعهم. وتستخدم هذه العملية التي تجري كل ساعة ملفات الذاكرة المنظّمة الخاصة بالوكيل لتخزين الوقائع والسجل وتفاصيل العلاقات، بل تقترح سُبلاً لتقوية تلك العلاقات. وتقول Meta إن هذه الملفات كان يُفترض أن تكون متاحة لأغراض الشفافية.
ما الذي تكشفه تعليمات Muse المسرّبة؟
استخرج الباحث المستقل في سلامة الذكاء الاصطناعي كاران جوشي هذه التعليمات عبر مطالبة Muse، من خلال واجهة المحادثة العادية، بنسخ ملفات برمجته ومشاركتها، ثم أحال النتائج إلى WIRED. وتُظهر الوثائق أن ملف الشخص قد يبدأ فارغاً ثم يمتلئ بمرور الوقت بأقسام مثل الوقائع والسجل والعلاقة والقواسم المشتركة والمواضيع المفتوحة والتقوية.
وبحسب التعليمات، ينبغي لـ Muse أن يسجّل أماكن إقامة الأشخاص ومهنهم والمواضيع المتكررة مثل الانتقال إلى شقة جديدة أو هدف ادخار مشترك، والتواريخ المهمة كأعياد الميلاد أو الذكرى السنوية. وقد يتضمّن سجل الشخص رحلة سابقة أو خلافاً تمّت تسويته أو إنجازاً حديثاً. ويقترح قسم التقوية إجراءات مثل سبب للاتصال أو تاريخ يستحق التذكّر أو أمر قاله الشخص تجدر العودة إليه.
وتقول Meta إن Muse يستخدم الأدلة المتاحة فقط ويعتبر التفاصيل المختلقة أسوأ من صفحة فارغة. وتشدّد الشركة أيضاً على أن لكل مستخدم آلة افتراضية مخصّصة تخزّن بياناته، وعلى إمكانية محو الذكريات أو فصل الخدمات الخارجية في أي وقت، وعلى أن الوكيل يطلب تأكيداً بشرياً قبل إجراءات مثل إرسال بريد إلكتروني أو إتمام عملية شراء. وقال متحدث باسم الشركة لـ WIRED إن معرفة السياق حول المستخدمين وجهات اتصالهم ضرورية ليكون أي وكيل مفيداً.
- بحسب التقارير، ينشئ Muse صفحة تعريفية لكل شخص في حياة المستخدم
