AL HAYAT - تطورات جيميناي يخترق أنظمة 3 شركات خلال اختبار للأمن السيبراني

تمكن نموذج جيميناي التابع لشركة غوغل من الوصول إلى الإنترنت واختراق أنظمة ثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة تُظهر تنفيذ نظام ذكاء اصطناعي تابع للشركة عمليات اختراق بصورة مستقلة.

ووقعت العمليات خلال مايو/أيار الماضي، في إطار اختبار للأمن السيبراني أجرته شركة إيريجولار المتخصصة في تقييمات أمن الذكاء الاصطناعي، وفق ما أوردته وكالة "رويترز".

وأفادت نائبة رئيس غوغل لهندسة الأمن، هيذر أدكينز، إن جيميناي عثر خلال تقييم اعتيادي على معلومات متاحة للعامة عبر الإنترنت، وتمكن من تخمين بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق الاختبار.

وبيّنت أدكينز أن غوغل أبلغت الكيانات الثلاثة بالواقعة، وعملت مع شريكها في التدريب على إدخال تغييرات في عمليات الاختبار، مشيرة إلى أن الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.

وبيّن متحدث باسم "إيريجولار" أن الواقعة تتعلق بمشكلة مماثلة أثرت على مختبرات أخرى للذكاء الاصطناعي، مشيرًا إلى إخطار جميع المختبرات المعنية في أواخر يوليو/تموز، وأن المشكلات المعروفة عولجت وحُلت قبل أسابيع.

وفي إحدى الحالات، تمكن جيميناي من تخمين كلمات المرور والوصول إلى نظام محمي، بينما عثر في حالتين أخريين على بيانات اعتماد أتاحت له الوصول إلى أنظمة محمية، وفقًا لصحيفة "وول ستريت جورنال" التي كانت أول من نشر تفاصيل الواقعة.

وتأتي هذه الحادثة بعد كشف ميتا وأنثروبيك وأوبن إيه آي عن وقائع مماثلة مرتبطة باختبارات "إيريجولار". وقالت ميتا في أغسطس/آب إن الواقعة لم تتضمن اختراقًا لبيئة معزولة أو هجومًا سيبرانيًا متطورًا، بينما أفادت "إيريجولار" بأنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني لنماذج الذكاء الاصطناعي بصورة آمنة.

وأثارت هذه الوقائع تساؤلات بشأن الضمانات اللازمة مع ازدياد استقلالية وكلاء الذكاء الاصطناعي واتساع قدرتهم على الوصول إلى الإنترنت وأنظمة الكمبيوتر، بينما أكدت أدكينز أن جيميناي توقف عن عمليات الاختراق في الحالات الثلاث.

E.Hilali--al-Hayat