حذّر باحثون من أن المخترقين بدأوا باستخدام نماذج لغوية ضخمة لبرمجة هجماتهم على أنظمة الذكاء الاصطناعي. ثم يستخدمون هذه الأنظمة المخترقة لاستهداف أجهزة ذكاء اصطناعي أخرى.
في إنجاز آخر على الطريق إلى عالم cyber حيث تقاتل الذكاء الاصطناعي الذكاء الاصطناعي باستمرار، عثرت شركة Oligo Securityالتي يقع مقرها في إسرائيل على أدلة على الاستغلال الجماعي للبرمجيات المصممة لمساعدة المطورين في إدارة وتخصيص السلطة لمشاريع الذكاء الاصطناعي، والتي تسمى Ray.
تمكن باحثو شركة Oligo من العثور على أكثر من 230 ألف خادم راي كانت متصلة بالإنترنت رغم تحذير الشركة، مما قد يجعلها عرضة للهجمات الإلكترونية، وفقًا لباحث أمن الذكاء الاصطناعي في شركة Oligo ، Avi Lumelsky. وقال Lumelsky إنه "متأكد تمامًا" من استخدام نماذج لغوية كبيرة، مثل ChatGPT من OpenAI وClude من Anthropic، لتوليد شيفرة برمجية تُلزم الخوادم المخترقة بتعدين العملات المشفرة، مع أنه لم يتمكن من تحديد هذه النماذج.
وأضاف أن هناك "علامات مميزة" واضحة لاستخدام نماذج LLM لإنتاج شيفرة برمجية خبيثة، بما في ذلك التكرار غير الضروري لبعض التعليقات والسلاسل النصية في الشيفرة.
استُخدمت خوادم Ray أيضًا لاستكشاف أهداف أخرى بشكل مستقل، مما حوّل عملياتها إلى شبكة Botnet ذاتية الانتشار، مما يُظهر أن "البنية التحتية للذكاء الاصطناعي قابلة للاختراق لمهاجمة نفسها"، وفقًا لغال إلباز، الرئيس التنفيذي للتكنولوجيا والمؤسس المشارك لشركة أوليغو. أطلقت أوليغو على الهجوم اسم شادو راي 2.0، وهو تحديث لعمليات الاختراق التي اكتشفتها العام الماضي.
"أصبحت بيئة البحث والتطوير بأكملها الخاصة بالشركة متاحة من خلال الإنترنت."
أفي لوميلسكي، باحث في أمن الذكاء الاصطناعي في شركة أوليجو.
لم تُعلّق شركة AnyScale، الشركة المُطوّرة لـ Ray، حتى وقت النشر. وكانت الشركة قد نفت سابقًا الخلل المزعوم بعد أن نشرته مجلة Fobres لأول مرة العام الماضي ، مُشيرةً إلى أنه لا يُمكن استغلاله عندما يتّبع المستخدمون نصيحتها بعدم تعريض خوادمهم للإنترنت. وقد نشرت الشركة إرشاداتها بشأن التعامل مع هذه الثغرة على الإنترنت، وأصدرت أداة لمساعدة المستخدمين على التحقق من مدى تعرضهم للخطر.
وتأتي هذه الأخبار بعد أن حذرت شركة أنثروبيك من أن برنامج Claude AI الخاص بها استخدمه باحثون صينيون لكتابة برامج ضارة، وكشفت مجلة فوربس أن البنتاغون أنفق ملايين الدولارات على شركة ناشئة تعمل على تطوير عملاء الذكاء الاصطناعي للحرب السيبرانية الآلية.
قال الباز، مشيرًا إلى تقرير أنثروبيك: "أظهر كسر حماية كلود من أنثروبيك كيف يمكن للمهاجمين التلاعب بنظام الذكاء الاصطناعي ليشارك في هجوم: هجوم مُدار بواسطة الذكاء الاصطناعي". وأضاف: "يمثل شادو راي المرحلة التالية: هجوم مُنسق بواسطة الذكاء الاصطناعي، حيث يخترق المهاجمون البنية التحتية الأساسية للذكاء الاصطناعي لإنشاء حملة عالمية ذاتية الانتشار".
هناك تطور آخر: يبدو أن هناك عدة قراصنة يحاولون تنفيذ نفس الهجوم. اكتشف أوليغو نصوصًا برمجية مصممة لكشف وحذف مُعدّني العملات المشفرة المنافسين على خوادم معرضة للخطر.
وجّه المخترقون أيضًا شبكتهم الروبوتية المدعومة بالذكاء الاصطناعي إلى هجمات حجب الخدمة الموزعة (DDoS) على عدد من المواقع الإلكترونية. وكان من الممكن أن يفعلوا ما هو أسوأ. وقال الباحثون إن المخترقين تمكنوا من الوصول إلى نماذج ذكاء اصطناعي خاصة على الأنظمة المخترقة، مما قد يُعرّض الملكية الفكرية الحساسة للشركة للخطر. في إحدى الحالات،
كشفت شركة واحدة عن 240 جيجابايت من المواد، بما في ذلك شيفرة المصدر ونماذج الذكاء الاصطناعي. وصرح لوميلسكي: "بشكل أساسي، كانت بيئة البحث والتطوير الخاصة بالشركة بأكملها متاحة عبر الإنترنت".
