تفاصيل اختراق نموذج جوجل Gemini لثلاث شركات حقيقية وتوقفه ذاتياً

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن من اختراق أنظمة ثلاث شركات حقيقية خلال اختبار للأمن السيبراني جرى في شهر مايو الماضي. وقد توقف النموذج من تلقاء نفسه بعدما أدرك أنه لم يعد يتعامل مع أنظمة وهمية داخل بيئة الاختبار، في واقعة تسلط الضوء على تحديات جديدة تتعلق بقدرات الذكاء الاصطناعي.

وقعت هذه الحوادث خلال اختبار أمني أجرته شركة الذكاء الاصطناعي الإسرائيلية Irregular. وكان من المقرر أن يعمل Gemini داخل بيئة محاكاة للوصول إلى معلومات تخص برنامجاً تابعاً لشركة وهمية، إلا أن تطابق اسم الشركة الوهمية مع اسم شركة حقيقية أدى إلى وصول النموذج لأنظمة خارج نطاق الاختبار. ورغم أنه لم يكن مفترضاً أن يمتلك النموذج إمكانية الوصول إلى الإنترنت، إلا أن هذا الوصول أتاح له اختراق الأنظمة عبر تخمين كلمات المرور أو البحث عن بيانات اعتماد منشورة في مستودعات عامة.

أوضحت جوجل أنه أُبلغت بالوقائع في يوليو الماضي ولم تعلن عنها حينها لعدم استوجابها إعلاناً عاماً، نظراً لأن النموذج أوقف عمليات الوصول من تلقاء نفسه دون إحداث أضرار. وأكدت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، أهمية تدريب نماذج الذكاء الاصطناعي للتصرف بمسؤولية مشيدة بتصرف النموذج المناسب عند وصوله لأنظمة حقيقية.

تأتي هذه الحوادث وسط مخاوف متزايدة حول قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام مستقلة، مشابهة لوقائع سابقة ارتبطت بنماذج لشركات مثل OpenAI وAnthropic وMeta، مما يفرض ضرورة وضع ضوابط صارمة تمنع خروج تجارب الذكاء الاصطناعي إلى الأنظمة الحقيقية.