الإجابة من مصادرك أم من نموذج عام؟ ما الفرق؟

ماذا يعني أن تكون الإجابة مُسندة إلى مصادرك؟

الإسناد (ويُسمى أيضا التأريض، Grounding) يعني ربط كل إجابة بدليل استرجعه النظام لهذا السؤال تحديدا، بدلا مما استوعبه النموذج أثناء تدريبه. قد يكون الدليل فقرة من مستند سياسات، أو سجلا من نظام التذاكر، أو قراءة من أداة مراقبة.

للمساعد المُسند ثلاث عادات: يبحث قبل أن يجيب، ويجيب مما وجده ويستطيع أن يبيّن مصدره، ويمتنع حين لا تغطي المصادر السؤال. والعادة الثالثة هي ما تتجاهله أغلب العروض التوضيحية، وإليها ترجع أغلب حوادث الإنتاج.

لماذا يخترع النموذج العام معلومات عن شركتك؟

النموذج العام لم يرَ سياسة الاسترجاع لديك ولا قائمة أسعارك ولا حادثة الليلة الماضية. وحين تسأله عنها يفعل ما دُرّب عليه: ينتج التكملة الأكثر معقولية. والمعقول غير الصحيح، وليس لدى النموذج إشارة داخلية تخبره أيهما ينتج.

والعواقب حقيقية. في فبراير 2024 حمّلت هيئة قضائية كندية شركة «إير كندا» المسؤولية بعد أن أخبر روبوت المحادثة على موقعها عميلا بأنه يستطيع المطالبة بسعر تذكرة العزاء بأثر رجعي، خلافا لسياسة الشركة الفعلية. ورفضت الهيئة حجة أن الروبوت مسؤول عن أفعاله، مؤكدة أن الشركة مسؤولة عن كل المعلومات على موقعها، سواء جاءت من صفحة ثابتة أو من روبوت محادثة.

الدرس ليس أن روبوتات المحادثة خطيرة، بل أن كل ما يتحدث باسم شركتك يجب أن يتحدث من مصادر شركتك، وأن الإجابة الخاطئة المهذبة تبقى إجابتك أنت.

مقارنة بين المساعد المُسند والنموذج العام

النماذج العامة أدوات ممتازة، لكنها الأداة الخطأ لتقرير حقائق عن مؤسستك. يوضح الجدول أين يتفوق كل نهج.

لاحظ أن المساعد المُسند يستخدم نموذجا عاما في داخله. النموذج يتولى العمل اللغوي، أي فهم السؤال وقراءة الدليل وتلخيصه وترجمته، بينما تحدد المصادر ما هو صحيح. الإسناد يغيّر مصدر الحقائق، لا النموذج الذي تستخدمه.

كيف تُسند المساعد إلى بياناتك؟

هناك ثلاث تقنيات رئيسية، والتطبيقات الجادة تجمع بينها. المزيج المناسب يعتمد على مكان الحقيقة لديك: في المستندات، أو في الأنظمة التشغيلية، أو في قواعد بيانات منظمة.

• الاسترجاع من المستندات (RAG): فهرسة السياسات والأدلة وكتيبات التشغيل، واسترجاع المقاطع المتعلقة بالسؤال وتقديمها للنموذج سياقا.
• استدعاء الأدوات على الأنظمة الحية: السماح للمساعد بالاستعلام من نظام التذاكر أو المراقبة أو إدارة العملاء مباشرة، فتعكس الإجابة الحالة الراهنة لا نسخة قديمة.
• الاستعلامات المنظمة: للأرقام مثل حالة الطلب أو المخزون، اجلب الحقل الدقيق بدلا من أن تطلب من النموذج تذكره أو تقديره.
• تعليمات وفحوص حول ذلك كله: أجب من الدليل المقدَّم فقط، واذكر مصدره، وامتنع أو صعّد حين يغيب الدليل أو يتعارض.

هل يضمن الإسناد القضاء على الهلوسة؟

لا. الإسناد ينقل المشكلة من «النموذج لا يعرف» إلى «هل وجد النظام الدليل الصحيح واستخدمه؟»، وهذا أسهل كثيرا في الرصد والإصلاح، لكنه قد يفشل أيضا.

• إخفاق الاسترجاع: الفقرة الصحيحة موجودة لكنها لم تُسترجع، فيجيب النموذج من فقرة أضعف.
• مصادر قديمة أو متعارضة: نسختان من السياسة تختلفان فيختار المساعد القديمة.
• تجاهل السياق: يخلط النموذج الحقائق المسترجعة بافتراضاته.
• محتوى مسموم: مستند أو بريد يحمل تعليمات موجهة إلى النموذج، فعامل النص المسترجع على أنه بيانات لا أوامر.
• تجاوز النطاق: يجيب المساعد عن سؤال قريب من مصادره بدلا من الاعتذار.

كيف تختبر أن المساعد مُسند فعلا؟

جهّز مجموعة اختبار صغيرة قبل الإطلاق، وأعد تشغيلها بعد كل تغيير في التعليمات أو المصادر أو النماذج. عشرون أو ثلاثون سؤالا مختارا بعناية تكشف أغلب التراجعات.

• أسئلة إجاباتها موجودة في مصادرك: يجب أن يجيب المساعد بدقة ويشير إلى المصدر.
• أسئلة لا إجابة لها في مصادرك: يجب أن يقول ذلك صراحة لا أن يرتجل.
• أسئلة تتعارض فيها المصادر: يجب أن ينبّه إلى التعارض أو يعتمد المصدر الذي حددته مرجعا.
• معلومة عدّلتها للتو: يجب أن يعطي الإجابة الجديدة فورا.
• السؤال نفسه بصيغة عربية وأخرى إنجليزية: يجب أن تتطابق الإجابتان.

إسناد الإجابات إلى بيانات الأنظمة الحية

في أعمال التشغيل، أوثق مصدر للحقيقة هو نظام السجلات نفسه. وتُسند بوتيفاي إجابات وكلائها باستدعاء أدوات قراءة فقط مثل servicenow.search_knowledge وdynatrace.get_problem وsplunk.run_saved_search، وتسجّل كل استدعاء ونتيجته في سجل التدقيق، فيرى كل من يراجع الإجابة على ماذا بُنيت بالضبط.

وأيا كانت المنصة التي تستخدمها، طبّق المبدأ نفسه: يجب أن يستطيع المساعد عرض دليله، وأن يستطيع المراجع التحقق منه دون أن يسأل المساعد مرة أخرى.