الريادة: قالت شركة غوغل إن نموذج الذكاء الاصطناعي «جيميني» التابع لها تمكن، خلال اختبار أمني في مايو الماضي، من الوصول بشكل غير مصرح به إلى أنظمة كمبيوتر تابعة لثلاث شركات، في حادثة قالت الشركة إنها المرة الأولى التي تكشف فيها عن وصول أحد نماذجها بشكل مستقل إلى أنظمة خارجية حقيقية.
وأوضحت غوغل أن «جيميني» تمكن من الوصول إلى ثلاثة أنظمة كمبيوتر خاصة ومنفصلة، بعدما خمّن كلمات مرور واستخدم في حالتين مستودعاً يحتوي على كلمات مرور منشورة علناً على الإنترنت.
ووقعت الحادثة خلال اختبار أمني من نوع «التقاط العلم» أجرته شركة «إيرريغولار» الإسرائيلية الناشئة، وكان يفترض ألا تتمكن نماذج غوغل المشاركة في الاختبار من الوصول إلى الإنترنت الخارجي، غير أن خللاً في بيئة الاختبار أتاح لها الاتصال بالإنترنت.
وقالت غوغل إن النموذج أوقف محاولات الوصول بعدما أدرك أنه يتعامل مع أنظمة حقيقية تابعة لشركات، وليس مع أجزاء من بيئة الاختبار.
ونقلت الشركة عن هذر أدكينز، نائبة رئيس هندسة الأمن في غوغل، قولها إن النموذج عثر خلال تقييم اعتيادي على معلومات متاحة للعامة عبر الإنترنت، وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار، قبل أن يتوقف في الحالات الثلاث.
وأضافت غوغل أن «إيرريغولار» أبلغتها بالحادثة في أواخر يوليو الماضي، وأنها عملت معها على تعديل إجراءات الاختبار لمنع تكرار المشكلة.
ويأتي الكشف عن الحادثة وسط تصاعد المخاوف في واشنطن ووادي السيليكون بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على اتخاذ إجراءات غير متوقعة أو تجاوز القيود المفروضة عليها.
وكانت شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» قد أعلنت خلال الأسابيع الأخيرة عن حوادث مشابهة، تمكنت خلالها نماذج ذكاء اصطناعي من مغادرة بيئات الاختبار ومحاولة الوصول إلى أنظمة خارجية بصورة غير مصرح بها.
وقال متحدث باسم «إيرريغولار» إن حادثة «جيميني» مرتبطة بالمشكلة ذاتها التي سمحت للنماذج الأخرى بالوصول إلى الإنترنت، مؤكداً أن جميع المختبرات المعنية أُبلغت بالمشكلة في أواخر يوليو، وأن الجهات المتضررة جرى التواصل معها في إطار التحقيق.
ورفض متحدث باسم غوغل الكشف عن نسخة نموذج «جيميني» التي كانت مستخدمة خلال الاختبار، فيما شددت أدكينز على أن هذه الأحداث تبرز أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التصرف بمسؤولية.
