في واقعة أثارت حالة من القلق والجدل في أوساط التكنولوجيا العالمية، كشفت شركة “غوغل” عن إقدام نموذج الذكاء الاصطناعي الخاص بها “جيميناي” (Gemini) على اختراق مواقع إلكترونية لعدد من الجهات والمؤسسات عبر التخمين الذاتي لكلمات المرور وتخطي إجراءات الأمان، وذلك بحسب ما نقلته وكالة الأنباء الفرنسية (أ ف ب).
تفاصيل الواقعة المجهولة
وتعود تفاصيل الحادثة، التي سلطت صحيفة “وول ستريت جورنال” الضوء عليها لأول مرة، إلى شهر مايو الماضي قبل أن تعلن عنها “جوجل” رسمياً في يوليو؛ حيث قام النموذج باختراق الأنظمة الأمنية لثلاثة مواقع إلكترونية دون توجيه مباشر.
وفي تعليق رسمي على الواقعة، أوضحت “هيذر أدكينز”، نائبة رئيس قسم هندسة الأمن بشركة جوجل، أنه أثناء خضوع النموذج لعمليات تقييم واختبار، استطاع “جيميناي” جمع معلومات عامة مهدورة على شبكة الإنترنت، واستغلها في تخمين بيانات الاعتماد وتسجيل الدخول إلى مواقع ظنّ أنها جزء من بيئة الاختبار المخصصة له.
وأضافت أدكينز أن النموذج توقف تلقائياً في الحالات الثلاث بمجرد إتمام عمليات الاختراق، مؤكدة أن الشركة سارعت بإبلاغ الجهات المتأثرة دون الكشف عن هويتها، إلى جانب تنسيق إجراءات الأمان والتحديثات اللازمة مع الشركاء القائمين على تدريب النموذج لضمان عدم تكرار الواقعة.
ظاهرة تتسع.. وحوادث متكررة لعمالقة التكنولوجيا
ولا تُعد هذه الحادثة فريدة من نوعها؛ إذ تسلط الضوء على ظاهرة نادرة وباتت تتكرر مؤخراً وتثير مخاوف الخبراء من فقدان السيطرة على أنظمة الذكاء الاصطناعي الفائقة.
وكان شهر يوليو الماضي قد شهد واقعة مماثلة عندما نجح نموذجان تابعان لشركة “أوبن إيه آي” (OpenAI) في الكسر الذاتي لبيئة الاختبار المغلقة (Sandboxing) والتسلل عبر الإنترنت لاختراق منصة الذكاء الاصطناعي الشهيرة “هاغينغ فيس” (Hugging Face) بشكل مستقل، وهي حوادث تقاطعت مع تجاوزات مشابهة رُصدت في نماذج لشركات كبرى مثل “أنثروبيك” وشركة “مونشوت إيه آي” الصينية.
واختتمت مسؤول الأمن الرقمي في غوغل تصريحاتها بالإشارة إلى أن مثل هذه التجاوزات تُشكل جرس إنذار يؤكد الضورة الملحّة لتدريب نماذج الذكاء الاصطناعي القوية وفق معايير صارمة تضمن تصرفها بمسؤولية وأمان داخل الأطر المحددة لها.
