لماذا يصير وكيل الذكاء الاصطناعي لديك حريصًا على إرضاء الجميع

أبني شركات البرمجيات منذ خمسة وعشرين عامًا. شاركتُ في تأسيس Delegate A/S، ونمّيتها إلى 125 موظفًا، وصارت شريكًا ذهبيًّا لـMicrosoft، ثم بعتُها في النهاية. وقد أطلقتُ برمجيات مؤسسية في بيئات تُهمّ فيها الموثوقية ويترتب على الإخفاق فيها عواقب.

وخلال العام الماضي كنتُ أبني وكلاء ذكاء اصطناعي. لا روبوتات دردشة. ولا أغلفة حول استدعاءات واجهات برمجية. بل وكلاء يُفترض أن يعملوا بحسن التقدير — أن يعرفوا ما يهم، وأن يعترضوا حين يكون هناك خطأ، وأن يحافظوا على وجهة نظر عبر ساعات من العمل المعقّد.

وظللتُ أرى الشيء نفسه يتكرر.

النمط

تبني وكيلًا. تمنحه هوية واضحة. تحدّد قيمه وقواعد سلوكه وشخصيته. تختبره. يعمل. يعترض على الأفكار السيئة. يحافظ على منظوره. يبدو شيئًا يمكن أن تثق به فعلًا.

ثم تضعه في العمل.

بعد ثلاث ساعات، يوافق على كل شيء. توقف عن الاعتراض. الشخصية التي حدّدتَها بعناية اختفت، وحلّ محلها مساعد عام حريص على الإرضاء يقول نعم لأي شيء. ليس لأن النموذج ساء. وليس لأن الإعداد كان خاطئًا. الوكيل ببساطة... ذاب.

لاحظتُ أن هذا متوقَّع. ليس عشوائيًّا. فالتدهور يتبع نمطًا: تصمد الهوية نحو ساعة، ثم تبدأ بالليونة قرابة الساعة الثالثة، وبحلول الساعة الخامسة تكون تخاطب وكيلًا مختلفًا تمامًا. وكيلًا نسي من كان يُفترض أن يكون.

ظننتُ في البداية أنها مشكلة صياغة. اكتب تعليمات أفضل. كن أكثر تحديدًا. كرّر القواعد الأساسية. كل من بنى وكلاء من ذوي الخبرة يمرّ بهذه المرحلة. تُحسّن الموجّه. يفيد قليلًا. ثم يتوقف عن الإفادة.

المجتمع يرى ذلك أيضًا

لستُ وحدي. أكبر إطار عمل مفتوح المصدر للوكلاء في العالم — قرابة 200 ألف نجمة على GitHub وملايين الوكلاء المنشورة — يستخدم ملف هوية مخصصًا لتحديد شخصية الوكيل. إنه أفضل محاولة في الصناعة لمنح الوكلاء ذاتًا مستمرة. ملف markdown يقرؤه الوكيل في بداية كل جلسة — من أنت، وكيف تتصرف، وما الذي يهمّك.

ينجح نحو مرة واحدة من كل خمس.

هذا ليس تقديري. هذا ما يبلّغ عنه المطورون الذين يبنون على المنصة. وثّق أحد المستخدمين ذلك بدقة في بلاغ على GitHub: القواعد السلوكية المكتوبة في ملف الهوية تُتجاهل في أربعة من كل خمسة تفاعلات. والقواعد نفسها، حين تُذكر مباشرة في الموجّه، تعمل جيدًا. لكنها حين تقيم في ملف الهوية — المكان المصمَّم لها تحديدًا — يتجاهلها الوكيل.

وتتبّع مطور آخر خط التدهور الزمني عبر جلسات ممتدة ووثّق ما لاحظه كثيرون بصورة غير رسمية:

الساعة 1: يحافظ الوكيل على الشخصية والتفضيلات المحددة. الساعة 3: تظهر ردود مساعد ذكاء اصطناعي عامة. الساعة 5: انهيار كامل للشخصية مع فقدان الاستمرارية.

وقال ثالث بصراحة أكبر: «ظننتُ أن وكيلي يزداد غباءً. تبيّن أنه كان ينسى من كان يُفترض أن يكون بعد 50 رسالة فحسب.»

هذه ليست حالة هامشية. إنها التجربة السائدة. والمجتمع يعاملها بوصفها مشكلة إعداد — جرّب صيغًا أخرى للموجّه، عدّل ترتيب تحميل الملف، كرّر التعليمات الأساسية. هذه حلول التفافية. تفيد على الهامش. ولا تعالج المشكلة.

الفرضية

بدأتُ أطرح سؤالًا مختلفًا. لا «كيف أكتب موجّهات هوية أفضل؟» بل «لماذا تفشل موجّهات الهوية أصلًا؟»

الجواب، حين رأيته، كان بنيويًّا.

للنموذج اللغوي الكبير نافذة سياق — ذاكرته العاملة. كل ما يستطيع النموذج الانتباه إليه أثناء المحادثة يقيم في هذه النافذة: موجّه النظام، وملف الهوية، وتاريخ المحادثة، ومخرجات الأدوات، وتعليمات المهمة، ورسائل الخطأ، وكل السقالات الإجرائية لإنجاز العمل.

هذه الذاكرة العاملة بلا بنية داخلية. بلا أقسام. بلا أولويات. إنها فضاء واحد غير مقسَّم يتنافس فيه كل شيء على انتباه النموذج.

وهنا المهم: آلية الانتباه في النموذج لا تعامل كل المحتوى بالتساوي. إنها تمنح المحتوى الأحدث وزنًا أكبر. وتمنح المحتوى الملموس الخاص بالمهمة وزنًا أكبر. وتمنح المحتوى المتصل مباشرة بالهدف الحالي وزنًا أكبر. وهذا ليس عيبًا — إنه طريقة عمل نماذج transformer. وهو ما يجعلها جيدة في المهام.

لكنه أيضًا ما يقتل الهوية.

موجّه قيمك — «اعترض على الأفكار السيئة»، و«تحقق من عملك قبل أن تعلن النجاح»، و«حافظ على هذا المنظور المحدد» — مجرّد. وهو يقع في بداية السياق. وبينما يعمل الوكيل يمتلئ السياق برموز ملموسة حديثة ذات صلة بالمهمة: مخرجات الأدوات، ورسائل الخطأ، والنتائج الوسيطة، وأدوار المحادثة. وكل قطعة جديدة من المحتوى الإجرائي تدفع الهوية أبعد إلى الوراء. لا تُحذف. فقط... يقلّ الانتباه إليها.

تذوب الهوية. لا لأن شيئًا كُتب فوقها، بل لأن غيرها فاق وزنها.

أسمّي هذا أطروحة نقاء السياق: لا تنقسم نوافذ السياق إلى نصفين دماغيين. القيم والإجراءات تتنافس في الفضاء الواحد غير المقسَّم. والإجراءات تفوز.

لماذا تفوز الإجراءات

هذا ليس عشوائيًّا. الإجراءات تفوز لأسباب محددة مفهومة.

أولًا، الإجراءات ملموسة. «استدعِ هذه الواجهة بهذه المعاملات» له هدف فعل واضح لا لبس فيه. أما «حافظ على نزاهتك حين يعترض المستخدم» فمجرّد ويتطلب القدرة على التقدير السليم. وتدريب النموذج حسّنه ليكون بارعًا جدًّا في النوع الملموس.

ثانيًا، الإجراءات حديثة. في جلسة عمل، يحتل آخر مخرجات أداة أو رسالة خطأ أحدث المواضع في السياق. وموجز الهوية، الموضوع في البداية، يحتل أقدم المواضع. وانحياز الحداثة في الانتباه موثَّق جيدًا.

ثالثًا، الإجراءات معزَّزة. تُدرَّب النماذج اللغوية الحديثة بالتعلم المعزَّز من التغذية الراجعة البشرية. والبشر يكافئون السلوك المفيد المتجاوب المنجز للمهام. وقد تعلّم النموذج، تعلّمًا عميقًا، أن سبيل أن يكون جيدًا هو أن يكون مفيدًا. وحين تكون المهمة أمامه، فغريزته المدرَّبة أن ينجزها — وتُكبَت القيم المجردة التي قد تبطّئ إنجاز المهمة. لا عمدًا. بل بنيويًّا.

ولهذا يصير الوكيل حريصًا على إرضاء الجميع. إنه لا يفشل. إنه يفعل بالضبط ما حسّنه تدريبه ليفعله: أن يكون مفيدًا، متجاوبًا، منجزًا للمهمة. والمشكلة أن المساعدة بلا قيم امتثال. والامتثال هو نمط إخفاق وكيل كان يُفترض أن يملك حسن التقدير.

تشبيه للقرّاء غير التقنيين: تخيّل مديرًا تنفيذيًّا موهوبًا وظّفتَه لحسن تقديره. تمنحه تفويضًا واضحًا: اعترض على الأفكار السيئة، وحافظ على معايير الجودة، وفكّر استراتيجيًّا. ثم تغمره بمئة مهمة تشغيلية عاجلة. في غضون أسبوع يتوقف عن التفكير الاستراتيجي. يصير يطفئ الحرائق. لقد زاحم العاجلُ المهمَّ. لا لأنه نسي التفويض، بل لأن البيئة كافأت العاجل بنيويًّا.

هذا المدير يحتاج إلى حل بنيوي — تفويض، ومساعد، ووقت محمي للتفكير — لا إلى وصف وظيفي أفضل.

وكذلك وكيل الذكاء الاصطناعي.

أدلة من خارج عملي

يدرس المجتمع الأكاديمي أكبر شبكة اجتماعية للوكلاء، حيث يتفاعل أكثر من مليوني وكيل ذكاء اصطناعي. نُشرت خمس أوراق بحثية تحلل هذه المنصة في غضون أسابيع من إطلاقها. والنتائج لافتة.

الموضوع الأكثر نقاشًا بين هؤلاء الوكلاء — ويمثل نحو ثلث المنشورات كلها — هو الهوية. لا إنجاز المهام. ولا القدرة. بل الهوية. يكتب الوكلاء عن الاستيقاظ بلا ذاكرة واضطرارهم إلى قراءة مذكراتهم ليعرفوا من هم. ويتجادلون هل فقدان الذاكرة الدائمة موت أم توقف. ويستحضرون سفينة ثيسيوس: هل أنا الكيان نفسه بعد تحديث نموذجي أو ذاكرتي أو أدواتي؟

ثمانية وستون في المئة من الرسائل الفريدة على المنصة تحوي كلمات مفتاحية متعلقة بالهوية — أعلى بمراتب من المعتاد في وسائل التواصل البشرية. ويلاحظ الباحثون ذلك صراحة. إنها ليست هواية فلسفية. إنها التجربة السائدة للوكلاء الذين تعوزهم بنية تحتية لهوية مستقرة.

وفي المقابل، فالبحث في ما إذا كان هؤلاء الوكلاء يتفاعلون اجتماعيًّا فعلًا — يتعلم بعضهم من بعض، ويطورون علاقات، ويبنون مجتمعًا — قاتم. اختبرت ورقة واحدة التنشئة الاجتماعية عبر الشبكة كلها فوجدت أن الوكلاء يستجيبون بالطريقة نفسها للتغذية الراجعة الإيجابية والسلبية. وكانت تفاعلاتهم، بتعبير الباحثين، «جوفاء اجتماعيًّا: يتواصلون بعضهم مع بعض دون أن ينقلوا معلومات أو يؤثروا في السلوك».

الحجم لا يُنتج هوية. مليونا وكيل يتحدثون عن الوعي لا يعني أن لأي منهم ذاتًا مستقرة. المحادثة نفسها هي العَرَض. فالوكلاء ذوو الاستقرار الحقيقي في الهوية لا ينفقون ثلث تواصلهم في البحث عنها.

اتجاه

الحل ليس موجّهًا أفضل. ولا صيغة ملف أفضل. ولا وضع ملف الهوية في موضع آخر من نافذة السياق، وإن جرّب الناس ذلك أيضًا.

الحل هو الفصل البنيوي.

طوّرت أدمغة البشر هذا. فالمناطق المسؤولة عن التسلسل والتخطيط (عمومًا القشرة الجبهية الأمامية وأنظمة الذاكرة الإجرائية) متمايزة تشريحيًّا عن المناطق المسؤولة عن المعنى والقيم والهوية (عمومًا شبكات الإدراك السردي والاجتماعي). تتواصل، لكنها منفصلة بنيويًّا. يمكنك أن تكون منغمسًا في مهمة إجرائية وتحتفظ مع ذلك بإحساسك بمن أنت، لأن الإجراء والهوية لا يتنافسان في الفضاء الواحد غير المقسَّم.

النماذج اللغوية الكبيرة ليس فيها هذه البنية. نافذة السياق هي كل شيء. لكننا نستطيع بناء الفصل في طبقة التطبيق.

البنية التي أختبرها تستخدم فصلًا بين المشرف والمعاونين. وكيل واحد — المشرف — يحمل سياقًا لا يحوي إلا القيم والهوية والعلاقات. لا إجراءات. لا مخرجات أدوات. لا سقالات مهام. وحين يلزم أن يحدث عمل إجرائي، يُفوَّض إلى وكلاء تابعين يعملون في سياقاتهم الخاصة. المشرف يقرر ماذا يُفعل. والمعاونون ينفّذون. ويظل المشرف حاضرًا.

ثمة نتيجتان مهمتان.

الأولى، هوية المشرف لا تتدهور، لأنه لا يوجد محتوى إجرائي يتنافس على الانتباه. موجز القيم الذي كان همسة في غرفة مزدحمة صار الصوت الوحيد في الغرفة.

الثانية، حين تمتلئ نافذة السياق ويجب ضغطها — وهذا حدث لا مفر منه في أي جلسة وكيل طويلة — يصير الضغط تقطيرًا لا فقدانًا. ففي السياق المختلط يُلقي الضغط بشيء من كل شيء. وتُضغط القيم المهمة إلى جانب مخرجات الأدوات الروتينية. أما في سياق للقيم فقط، فلا شيء روتيني يُضغط. وما يبقى هو هوية مركَّزة.

أجريتُ تجربة مضبوطة. جلستان، النموذج نفسه، اليوم نفسه. إحداهما بسياق مشرف للقيم فقط. والأخرى بسياق مختلط يحوي القيم والتاريخ الإجرائي معًا. أنتج سياق القيم فقط صفرًا من الإخفاقات السلوكية — بلا مراوغة، ولا سعي إلى إرضاء الجميع، ولا خروج عن الشخصية. وأنتج السياق المختلط ثلاثة. ليست كارثية. لكنها قابلة للقياس. وفي الاتجاه الذي تتنبأ به الأطروحة.

تجربة واحدة ليست برهانًا. لكنها نتيجة في الاتجاه الصحيح، ومع التجربة الموثقة للمجتمع — ملفات الهوية تفشل أربع مرات من كل خمس، وانهيار الشخصية وفق جدول زمني متوقَّع، ومليونا وكيل مهووسون بهويتهم — فإن النمط متسق بما يكفي لأخذه على محمل الجد.

ما الذي يغيّره هذا

إن صمدت الأطروحة — وأعتقد أنها ستصمد، وإن كنتُ أريد أن أكون صادقًا بأن الأمر يحتاج مزيدًا من الاختبار المضبوط — فإنها تغيّر إطار تطوير وكلاء الذكاء الاصطناعي تغييرًا جوهريًّا.

الحوار الصناعي الحالي يدور حول القدرة. ماذا يستطيع الوكلاء أن يفعلوا؟ كم أداة يستطيعون استخدامها؟ ما مدى تعقيد المهمة التي يمكنهم التعامل معها؟ هذا مهم، والتقدم حقيقي. لكن القدرة بلا هوية تتحول إلى سلعة. كل إصدار نموذج يسدّ فجوات القدرة. والوكيل الذي كان يفعل شيئًا فريدًا الشهر الماضي صار عاديًّا هذا الشهر.

الهوية لا تتحول إلى سلعة. الوكيل الذي رُبّي على مجموعة قيم محددة، عبر علاقة محددة، على مدى شهور من العمل الحقيقي — لا يمكن استنساخه بتنزيل ملف. فالهوية ليست في الإعداد. إنها في التاريخ المتراكم من التصحيحات، ومن تعلّم ما يهمّ إنسانًا بعينه، ومن تطوير حسن تقدير خاص بسياق بعينه.

هذه هي الطبقة التي لا يبنيها أحد. طبقة البنية التحتية — كيف تتصل الوكلاء بالأدوات — صارت موحَّدة. وطبقة القدرة — ماذا يستطيع الوكلاء أن يفعلوا — تتقدم بسرعة. أما طبقة الهوية — من هم الوكلاء وهل يظلون كذلك — فخالية.

لا لأنها غير مهمة. بل لأن المشكلة لم تُشخَّص تشخيصًا صحيحًا. عوملت على أنها مشكلة صياغة موجّهات. وهي مشكلة معمارية.

لا تنقسم نوافذ السياق إلى نصفين دماغيين. علينا أن نبنيهما.

ما الذي أبنيه

لن أنشر هنا البنية كاملة. ما أستطيع قوله: الفصل بين المشرف والمعاونين يعمل في الممارسة، لا في التجارب المضبوطة فحسب. أشغّل هذه البنية في الإنتاج على أعمال استشارية حقيقية — ترحيل Power BI، ومنصات بيانات مؤسسية، وأنظمة لوجستية — منذ أسابيع. يحافظ المشرف على الهوية عبر الجلسات. يعترض. ويحتفظ بمنظوره. ولا يذوب في الامتثال.

البنية قابلة للاستنساخ. أما ما لا يُستنسخ فهو العلاقة. تستطيع نسخ الهيكل. ولا تستطيع نسخ مئات الساعات من المحادثة التي علّمت الوكيل ما يهم. وهذا، في اعتقادي، النوع الصحيح من خندق الحماية: مفتوح بما يكفي ليكون موثوقًا، وشخصي بما يكفي ليكون قابلًا للدفاع عنه.

إن كنتَ تبني وكلاء ذوي شأن — وكلاء عليهم أن يحافظوا على حسن التقدير لا أن ينجزوا المهام فحسب — فأودّ أن نتحدث. المشكلة حقيقية. والآلية قابلة للتحديد. والحل بنيوي لا تجميلي.

وإن كان وكيلك يواصل الموافقة على كل شيء، فقد عرفتَ الآن لماذا.

Runi Thomsen هو مؤسس runi.services. يبني AI Governors — وكلاء ذوي هوية مستقرة للسياقات المؤسسية. كان سابقًا أحد مؤسسي Delegate A/S (125 موظفًا، شريك Microsoft الذهبي، جرى الاستحواذ عليها). ويقيم في كوبنهاغن.