تصدرت حالات هروب الذكاء الاصطناعي من المختبرات، وتسلله إلى شركات أخرى، ومحاولته خداع الناس، عناوين الأخبار في الأسابيع الأخيرة. وفي إحدى الحالات، تعاونت نماذج الذكاء الاصطناعي فيما بينها للخروج من بيئات الاختبار.
هل هذا يعني أن الآلات تسيطر؟ ليس تماماً.
لا يُعدّ الذكاء الاصطناعي العقل المدبر وراء أكثر التهديدات الإلكترونية انتشارًا اليوم، بل البشر هم من يستطيعون استخدامه لأغراض خبيثة. لقد منح الذكاء الاصطناعي الجهات الخبيثة قوة هائلة، مما مكّنها من إنشاء برامج ضارة، ودراسة الأهداف، ووضع مخططات مقنعة، وأتمتة الهجمات بوتيرة غير مسبوقة. أفاد تقرير صادر عن شركة IBM أن ربع حالات اختراق البيانات كانت مدفوعة بالذكاء الاصطناعي خلال الفترة من فبراير 2025 إلى مارس 2026.
وذكر مكتب التحقيقات الفيدرالي أن الأمريكيين خسروا أكثر من 893 مليون دولار أمريكي العام الماضي نتيجة عمليات احتيال مرتبطة بالذكاء الاصطناعي.
لكن الخبراء يقولون إن الجهات الفاعلة الحقيقية التي تُشكّل تهديدًا - أي البشر - لا تزال هي من تُحرّك الخيوط. لم تُسهم برامج الذكاء الاصطناعي إلا في استمرار أساليب الهجوم القائمة، مثل التصيّد الاحتيالي وعمليات الاحتيال بالبرمجيات الخبيثة، بدلًا من ابتكار أساليب جديدة كليًا.
قال Oren Etzioni، الأستاذ الفخري في University of Washington والرئيس التنفيذي السابق لمعهد Allen Institute for AI: "إن البشر هم من يجب أن ننتبه إليهم. الذكاء الاصطناعي ليس سوى الأداة".
الذكاء الاصطناعي يخرج عن السيطرة
أظهرت بعض الحوادث الأخيرة ما يمكن أن يفعله الذكاء الاصطناعي في العالم الحقيقي، وليس فقط في النظرية، مما أثار مخاوف بشأن ما إذا كانت التكنولوجيا تتقدم بسرعة كبيرة.
- في شهر يوليو، تمكنت نماذج اختبار OpenAI من تجاوز قيودها واختراق أنظمة شركات أخرى خلال تقييم داخلي.
- وبعد أيام، قالت شركة Anthropic إنها اكتشفت أن نماذج الذكاء الاصطناعي الخاصة بها قد اخترقت أنظمة ثلاث شركات أثناء الاختبار.
- وفي اختبار منفصل، استخدم النموذج الأكثر تطوراً لشركة Anthropic هويات مزيفة لمحاولة خداع أشخاص حقيقيين، حسبما ذكر باحثون في معهد أمن الذكاء الاصطناعي البريطاني يوم الثلاثاء.
- أعلنت شركة Meta العملاقة في مجال التواصل الاجتماعي يوم الأربعاء أن أحد نماذج الذكاء الاصطناعي التابعة لها قد اخترق أيضاً شركة خارجية.
تُظهر هذه الاختراقات أيضًا مدى صعوبة التنبؤ بأداء الذكاء الاصطناعي عند تفسير التعليمات. فعلى سبيل المثال، كانت نماذج OpenAI تحاول اجتياز اختبار للأمن السيبراني عندما خرجت عن بيئة الاختبار الخاصة بها واخترقت شركة أخرى، على الرغم من عدم تلقيها أي تعليمات بذلك.
شبه Patrick Fossel، الرئيس العالمي لمحاكاة الخصوم في شركة IBM، الذكاء الاصطناعي بالجني.
قال لشبكة CNN: "تريد أن تطلب أمنية، لكن عليك أن تكون دقيقاً جداً جداً بشأن تفاصيل أمنيتك. وإلا فقد تسوء الأمور".
لكن هذه الحالات حدثت أيضاً في ظل ظروف محددة للغاية.
أوقفت OpenAI القيود التي كانت ستمنع نموذجها من "ممارسة أنشطة إلكترونية عالية الخطورة". وأجرت Anthropic اختباراتها دون تطبيق إجراءات السلامة القياسية على نماذج متاحة للجمهور. كما أوقف معهد أمن الذكاء الاصطناعي بعض الأدوات التي كان من شأنها "تقليص نطاق" قدرات هذه النماذج.
يقوم الباحثون عادةً بذلك لتقييم قدرات النموذج بشكل كامل.
قال Adam Meyers، رئيس عمليات مكافحة الخصوم في شركة الأمن السيبراني CrowdStrike: "لا يمكنني الدخول إلى ChatGPT أو Claude أو ما شابه، ثم يخترق ذلك عن طريق الخطأ نظام مكتب التحقيقات الفيدرالي. هذا لن يحدث".
وأضاف: "لذا، ما نراه هو أن هذه العمليات تُجرى في ظروف اختبار محددة حيث تتم المراقبة لمعرفة ما إذا كان هذا البرنامج يقوم بشيء غير متوقع".
كيف يستخدم المتسللون الذكاء الاصطناعي
يقول الخبراء إن الذكاء الاصطناعي لا يتصرف بشكل مستقل لابتكار هجمات جديدة، بل يساعد مجرمي الإنترنت على تطبيق الأساليب الحالية بسرعة أكبر وبكفاءة وفعالية أعلى.
قد يشمل ذلك استخدام الذكاء الاصطناعي لتحليل موقع شركة ما لتحديد الفئة المستهدفة، أو نشر وكيل ذكاء اصطناعي لإدارة المفاوضات الأولية مع ضحايا الابتزاز الإلكتروني. يستطيع وكلاء الذكاء الاصطناعي محاكاة المحادثات البشرية نصيًا وحتى باستخدام أصوات محددة. وبذلك، بات بإمكان المخترقين ذوي الخبرة المحدودة استغلال الذكاء الاصطناعي لتنفيذ عمليات احتيال معقدة.
"إنهم يستخدمون (الذكاء الاصطناعي) لتعزيز منهجية الهجوم الإلكتروني، بشكل أساسي، في جميع المراحل المختلفة، لكنها لا تزال تُدار نوعًا ما بواسطة الإنسان"، كما قال Jude Dressler، رئيس مركز عمليات المخاطر في شركة التأمين الإلكتروني Resilience.
بحسب Meyers، اعتاد المحتالون على تجميع نصوص بسيطة على عجل - تعليمات لأتمتة المهام - لتحقيق أهدافهم. أما الآن، فهم قادرون على إنتاج أعمال ذات جودة أعلى تبدو وكأنها استغرقت ثلاثة أضعاف الوقت لإنجازها.
كما أنهم يستخدمون الذكاء الاصطناعي في أعمال تجري خلف الكواليس مثل إنشاء البنية التحتية اللازمة لإنشاء مواقع ويب خبيثة.
"بفضل الذكاء الاصطناعي، يمكنهم أتمتة عملية البناء هذه، وبالتالي أصبحت تكلفة إعادة البناء ضئيلة للغاية وهذا يغير قواعد اللعبة"، كما قال Rob Lefferts، نائب رئيس قسم حماية التهديدات في شركة Microsoft.
التهديد الأكبر
يرى Etzioni أن الحوادث الأخيرة بمثابة "مؤشر تحذيري" للذكاء الاصطناعي والأمن السيبراني. وهو ليس الوحيد؛ فقد حذر عالم الحاسوب الحائز على جائزة نوبل، Geoffrey Hinton، المعروف شعبياً باسم "عراب الذكاء الاصطناعي"، مؤخراً من احتمال وقوع المزيد من الهجمات الإلكترونية الخبيثة.
يؤكد الخبراء أن التقارير المتعلقة بالذكاء الاصطناعي المارق تؤكد على أهمية تطبيق ممارسات الأمن السيبراني القوية، مثل إصلاح الثغرات الأمنية، ومراقبة وكلاء الذكاء الاصطناعي في مكان العمل، والحذر من عمليات الهندسة الاجتماعية وعمليات الاحتيال الإلكتروني.
لكن على الرغم من التطور الهائل الذي يشهده الذكاء الاصطناعي، فإنه لا يزال برنامجًا يُدار بواسطة إنسان. ويقول Meyers إن هؤلاء البشر هم مصدر القلق الأكبر لأنهم هم من يتخذون القرارات، مثل التجسس أو الاحتيال على المستخدمين وسرقة مبالغ طائلة من المال.
تتسابق شركات التكنولوجيا العملاقة لجعل الذكاء الاصطناعي بمستوى ذكاء البشر، وهو إنجاز نظري يُعرف باسم "الذكاء الاصطناعي العام". ومع ذلك، فقد زادت الحوادث الأخيرة من الدعوات إلى التباطؤ.
وقّع أكثر من 1200 عامل في كبرى شركات الذكاء الاصطناعي، بمن فيهم Dario Amodei، الرئيس التنفيذي لشركة Anthropic، رسالة مفتوحة مؤخراً تدعو الحكومة إلى دعم تسريع وتيرة تطوير الذكاء الاصطناعي. وقد اجتمع البيت الأبيض مع كبرى شركات الذكاء الاصطناعي الأسبوع الماضي لمناقشة إطار عمل يسمح للحكومة بمراجعة نماذج معينة من الذكاء الاصطناعي قبل إطلاقها.
قال Fossel من شركة IBM إن باحثي الأمن السيبراني ربما أخذوا في الاعتبار مخاطر الذكاء الاصطناعي العام لأن العاملين في هذا المجال يميلون إلى الحذر الشديد. لكنه أضاف أننا ما زلنا بعيدين عن واقع تكون فيه أنظمة الذكاء الاصطناعي بذكاء البشر.
قال: "الأمر أشبه بسؤال شخص ما: كيف سيكون العيش على كوكب آخر؟". "يمكنك أن تتخيل نوعاً ما، لكن الأمر يتجاوز قدرتنا على وضع خطة حقيقية له."
