هل سبق لك أن مررت بتجربة إعادة قراءة جملة عدة مرات لتكتشف أنك ما زلت لا تفهمها؟
كما يُعلّم للعديد من الطلاب الجدد في الجامعات، عندما تدرك أنك تُضيّع وقتك، فقد حان الوقت لتغيير أسلوبك.
إن هذه العملية، المتمثلة في إدراك أن شيئًا ما لا يعمل ثم تغيير ما تفعله، هي جوهر ما وراء المعرفة، أو التفكير في التفكير.
إنها عملية مراقبة الدماغ لتفكيره، وإدراكه للمشكلة، وتحكمه في أسلوبك أو تعديله.
في الواقع، تُعدّ عملية ما وراء المعرفة أساسية للذكاء البشري، وحتى وقت قريب، لم تحظَ بالدراسة الكافية في أنظمة الذكاء الاصطناعي.
أعمل أنا وزملائي تشارلز كورشين، وهيفي كيو، وجوشوا ياكوبوني على تغيير هذا الواقع. لقد طورنا إطاراً رياضياً مصممًا لتمكين أنظمة الذكاء الاصطناعي التوليدي، وتحديدًا نماذج اللغة الكبيرة مثل ChatGPT أو Claude، من مراقبة وتنظيم عملياتها "المعرفية" الداخلية.
بمعنى ما، يمكن اعتبار ذلك بمثابة منح الذكاء الاصطناعي التوليدي حوارًا داخليًا، وطريقة لتقييم ثقته بنفسه، واكتشاف أي لبس، وتحديد متى يحتاج إلى مزيد من التفكير في المشكلة.
لماذا تحتاج الآلات إلى الوعي الذاتي؟
تتمتع أنظمة الذكاء الاصطناعي التوليدية الحالية بقدرات هائلة، لكنها تفتقر إلى الوعي الجوهري. فهي تُولّد استجابات دون ان تُدرك مدى ثقتها أو ارتباكها، أو ما إذا كانت تحتوي على معلومات متضاربة، أو ما إذا كانت المشكلة تستدعي مزيدًا من الاهتمام.
ويُصبح هذا القصور بالغ الأهمية عندما يكون لعجز الذكاء الاصطناعي التوليدي عن إدراك عدم اليقين الذي يُحيط به عواقب وخيمة، لا سيما في التطبيقات بالغة الأهمية كالتشخيص الطبي، والاستشارات المالية، واتخاذ القرارات في المركبات ذاتية القيادة.
على سبيل المثال، لنفترض نظام ذكاء اصطناعي طبي توليدي يحلل الأعراض.
قد يقترح هذا النظام تشخيصًا بثقة تامة دون أي آلية للتعرف على الحالات التي قد يكون من الأنسب فيها التوقف والتفكير، مثل "هذه الأعراض تتناقض مع بعضها البعض" أو "هذا غير معتاد، يجب أن أفكر مليًا".
إن تطوير مثل هذه القدرة يتطلب ما وراء المعرفة ، والذي يتضمن القدرة على مراقبة تفكير الفرد من خلال الوعي الذاتي والتحكم في الاستجابة من خلال التنظيم الذاتي.
مستوحى من علم الأحياء العصبي، يهدف إطار عملنا إلى منح الذكاء الاصطناعي التوليدي مظهرًا مشابهًا لهذه القدرات باستخدام ما نسميه متجه الحالة المعرفية العليا، وهو في الأساس مقياس كمي للحالة "المعرفية" الداخلية للذكاء الاصطناعي التوليدي عبر خمسة أبعاد.
خمسة أبعاد للوعي الذاتي للآلة
إحدى طرق التفكير في هذه الأبعاد الخمسة هي تخيل تزويد نظام الذكاء الاصطناعي التوليدي بخمسة أجهزة استشعار مختلفة لتفكيره الخاص.
الوعي العاطفي، لمساعدتها على تتبع المحتوى المشحون عاطفياً، والذي قد يكون مهماً لمنع المخرجات الضارة.
تقييم الصحة، الذي يقيس مدى ثقة نموذج اللغة الكبير في صحة استجابته.
مطابقة الخبرة، حيث يتحقق مما إذا كان الموقف يشبه شيئًا سبق أن واجهه.
كشف التضارب، بحيث يمكنه تحديد المعلومات المتناقضة التي تتطلب حلاً.
أهمية المشكلة، للمساعدة في تقييم المخاطر ومدى إلحاح تحديد أولويات الموارد.
نُحدد كميًا كلًا من هذه المفاهيم ضمن إطار رياضي شامل لإنشاء متجه الحالة ما وراء المعرفية، ونستخدمه للتحكم في مجموعات من نماذج اللغة الكبيرة.
باختصار، يُحوّل متجه الحالة ما وراء المعرفية التقييمات الذاتية النوعية لنموذج اللغة الكبير إلى إشارات كمية يُمكنه استخدامها للتحكم في استجاباته.
على سبيل المثال، عندما تنخفض ثقة نموذج لغوي كبير في استجابة ما عن حد معين، أو عندما تتجاوز التناقضات في الاستجابة مستويات مقبولة، فقد يتحول من المعالجة السريعة والبديهية إلى التفكير البطيء والمتأني. وهذا يُشابه ما يُسميه علماء النفس التفكير بنظام1 ونظام2 لدى البشر.
قيادة الأوركسترا
تخيل مجموعة نماذج لغوية كبيرة كأوركسترا، حيث يدخل كل عازف - نموذج لغوي كبير فردي - في أوقات محددة بناءً على الإشارات الواردة من قائد الأوركسترا. يعمل متجه الحالة المعرفية العليا كوعي قائد الأوركسترا، حيث يراقب باستمرار ما إذا كانت الأوركسترا متناغمة، وما إذا كان هناك نشاز، أو ما إذا كانت هناك فقرة صعبة تتطلب مزيدًا من الانتباه.
عند أداء مقطوعة موسيقية مألوفة ومُتمرن عليها جيدًا، مثل لحن شعبي بسيط، تعزف الأوركسترا بسهولة وسرعة وتناغم تام مع الحد الأدنى من التنسيق المطلوب. هذا هو نمط النظام 1. يعرف كل موسيقي دوره، والتناغمات واضحة، وتعمل الفرقة بشكل شبه تلقائي.
لكن عندما تواجه الأوركسترا مقطوعة جاز معقدة ذات إيقاعات متضاربة، أو تناغمات متنافرة، أو مقاطع تتطلب الارتجال، يحتاج الموسيقيون إلى مزيد من التنسيق. يوجه قائد الأوركسترا الموسيقيين لتغيير أدوارهم: يصبح بعضهم قادة أقسام، ويؤمن آخرون الإيقاع، ويبرز عازفون منفردون في مقاطع محددة.
هذا هو نوع النظام الذي نأمل في إنشائه في سياق حاسوبي من خلال تطبيق إطار عملنا، وتنسيق مجموعات من نماذج اللغة الكبيرة. يُرشد متجه الحالة المعرفية نظام تحكم يعمل كقائد، ويُوجهه للتحول إلى النظام 2. وبذلك، يُمكنه توجيه كل نموذج لغة كبير لتولي أدوار مختلفة - على سبيل المثال، ناقد أو خبير وتنسيق تفاعلاتها المعقدة بناءً على التقييم المعرفي للموقف.
التأثير والشفافية
تتجاوز الآثار المترتبة على ذلك مجرد تحسين الذكاء الاصطناعي التوليدي بشكل طفيف. ففي مجال الرعاية الصحية، يمكن لنظام ذكاء اصطناعي توليدي يتمتع بمهارات ما وراء المعرفة أن يتعرف على الحالات التي لا تتطابق فيها الأعراض مع الأنماط النمطية، وأن يحيل المشكلة إلى خبراء بشريين بدلاً من المخاطرة بالتشخيص الخاطئ. وفي مجال التعليم، يمكنه تعديل استراتيجيات التدريس عند اكتشاف ارتباك الطلاب. وفي مجال مراقبة المحتوى، يمكنه تحديد الحالات الدقيقة التي تتطلب حكماً بشرياً بدلاً من تطبيق قواعد جامدة.
ولعل الأهم من ذلك كله، أن إطار عملنا يجعل عملية اتخاذ القرارات في الذكاء الاصطناعي التوليدي أكثر شفافية. فبدلاً من صندوق أسود ينتج الإجابات فحسب، نحصل على أنظمة قادرة على شرح مستويات ثقتها، وتحديد مواطن عدم اليقين لديها، وبيان سبب اختيارها لاستراتيجيات استدلال معينة.
تُعد هذه القابلية للتفسير والشرح أمرًا بالغ الأهمية لبناء الثقة في أنظمة الذكاء الاصطناعي، وخاصة في الصناعات الخاضعة للتنظيم أو التطبيقات الحساسة للسلامة.
الطريق أمامنا
لا يمنح إطار عملنا الآلات وعياً أو إدراكاً ذاتياً حقيقياً بالمعنى البشري. بل نأمل أن نوفر بنية حاسوبية لتخصيص الموارد وتحسين الاستجابات، والتي تُعد أيضاً خطوة أولى نحو مناهج أكثر تطوراً لتحقيق ما وراء المعرفة الاصطناعية الكاملة.
تتضمن المرحلة التالية من عملنا التحقق من صحة الإطار من خلال اختبارات مكثفة، وقياس مدى تحسين المراقبة المعرفية العليا للأداء في مختلف المهام، وتوسيع نطاق الإطار ليشمل التفكير في التفكير، أو ما يُعرف بالتفكير الفوقي.
نهتم بشكل خاص بالحالات التي يكون فيها إدراك عدم اليقين أمرًا بالغ الأهمية، كما هو الحال في التشخيص الطبي، والاستدلال القانوني، وتوليد الفرضيات العلمية.
تتمثل رؤيتنا النهائية في أنظمة الذكاء الاصطناعي التوليدية التي لا تكتفي بمعالجة المعلومات فحسب، بل تفهم أيضًا حدودها ونقاط قوتها المعرفية. وهذا يعني أنظمة تعرف متى تكون واثقة ومتى تكون حذرة، ومتى تفكر بسرعة ومتى تبطئ، ومتى تكون مؤهلة للإجابة ومتى يجب عليها الرجوع إلى الآخرين.
