انتقل إلى المحتوى

/articlesمفاهيم

موافقة بشرية قبل أن ينفّذ المساعد إجراء حسّاسا

الموافقة البشرية على الذكاء الاصطناعي تعني أن المساعد يسأل شخصًا من فريقك قبل الخطوات الحساسة، مثل إرسال عرض سعر أو بريد. أي الخطوات تنتظر، وماذا يرى من يوافق.

آخر تحديث
نُشر
دقائق قراءة
06
في هذه الصفحة
09
في هذه الصفحة09

ما معنى الموافقة البشرية قبل التنفيذ؟

يشارك شخص في القرار قبل أن ينفّذه المساعد الذكي. يقترح المساعد خطوة محددة، ثم يتوقف، فيوافق عليها أحد من فريقك أو يرفضها. ويسمى هذا بالإنجليزية Human-in-the-Loop، أي «الإنسان في الحلقة».

خذ متجر أدوات مكتبية في الرياض. يطلب عميل في واتساب 20 كرتون ورق A4. يتحقق المساعد من السعر في Odoo ويجهّز عرض سعر بقيمة 2,900 ريال. وقبل إنشاء العرض، يراه موظف المبيعات ويضغط «موافقة».

هذا يختلف عن المراقبة بعد التنفيذ، حيث يراجع الناس ما حدث فعلًا. الموافقة تقع بين الخطة والنتيجة، وهي النقطة الوحيدة التي يكون فيها إيقاف الخطأ بلا كلفة.

الموافقة الجيدة انتقائية. البحث عن سعر يتم فورًا. أما إرسال بريد أو إنشاء عرض سعر أو تعديل سجل فيمكن أن ينتظر شخصًا.

لماذا يحتاج المساعد الذكي إلى موافقات؟

بعض الإجراءات لا رجعة فيها. بريد أُرسل، أو عرض سعر بسعر خاطئ، أو طلب أُلغي، كلها تصل إلى أشخاص حقيقيين فورًا.

والمساعد قد يُخدع. فهو يقرأ رسائل بريد ومحادثات وصفحات ويب كتبها أشخاص من خارج شركتك، وقد يحاول بعض هذا النص توجيهه. والشخص الذي يراجع الخطوة الفعلية قبل تنفيذها يمنع أسوأ النتائج.

ولا بد أن يتحمل أحد القرار. الموافقة تربط الإجراء بشخص معروف في وقت معروف.

والأنظمة تسير في الاتجاه نفسه. تشترط المادة 14 من قانون الذكاء الاصطناعي الأوروبي أن تُبنى الأنظمة عالية المخاطر بحيث يستطيع الناس الإشراف عليها وإيقافها. أغلب مساعدي الشركات ليسوا عالي المخاطر وفق القانون، لكن الموافقات هي الطريقة العملية لإثبات أن شخصًا، لا نموذجًا، هو من سمح بالإجراء.

أي الخطوات تنتظر الموافقة؟

أعطِ كل إجراء إعدادًا واضحًا، ثم دع قواعدك تحسم الحالات الوسطى. ثلاثة إعدادات تكفي لأغلب الحالات.

  • إذا تعارضت قاعدتان، تفوز الأشد: المنع يتقدم على طلب الموافقة، وطلب الموافقة يتقدم على السماح.
  • تستطيع أن تجعل مساعدًا واحدًا أشد من قواعدك العامة، لكن لا أخف منها.
  • الإجراء المضبوط على «يسأل دائمًا» لا تستطيع أي قاعدة أن تجعله يعمل وحده.
الإعدادالمعنىأمثلة
يعمل وحدهبلا موافقة، للإجراءات التي تقرأ فقطالتحقق من سعر، قراءة حالة طلب، البحث في البريد
حسب قواعدكقواعدك تحسم لكل إجراء ولكل مساعدإنشاء عرض سعر في Odoo، حفظ مسودة بريد، إضافة تصنيف
يسأل دائمًاينتظر شخصًا في كل مرةإرسال بريد أو الرد عليه أو تحويله من Gmail أو Outlook

كيف يقرر بوتيفاي متى يسأل

يصنّف بوتيفاي كل إجراء حسب أثره: قراءة، أو تعديل بيانات، أو حذف، أو إرسال شيء خارج شركتك. القراءة تعمل وحدها. والإرسال والحذف ينتظران الموافقة ما لم تقل قواعدك غير ذلك، وبعض الإرسال، مثل البريد من Gmail أو Outlook، ينتظر دائمًا.

وفي دردشة موقعك، حيث يكتب أي زائر، يحتاج الإرسال إلى الخارج والحذف إلى موافقة دائمًا.

وداخل Odoo، حين يطلب موظف من المساعد تعديل سجل، يؤكد الموظف التعديل أولًا افتراضيًا.

أما عرض السعر الذي يطلبه العميل في واتساب، فأنت تختار: فعّل الموافقة لهذا المساعد، أو أضف قاعدة لمساحة العمل كلها.

ماذا يرى من يوافق؟

ما يكفي ليقرر في ثوانٍ دون أن يفتح نظامًا آخر. طلب الموافقة الجيد يجيب: ماذا سيحدث، ولمن، وبأي محتوى، وما درجة خطورته.

  • سطر واحد يقول ما سيحدث: «إنشاء عرض سعر: 20 كرتون ورق A4، الإجمالي 2,900 ريال.»
  • من يتأثر: العميل، أو مستلمو البريد، أو السجل الذي سيتغيّر.
  • المحتوى كما هو، مع إخفاء كلمات المرور والمفاتيح.
  • زران واضحان: موافقة أو رفض.

أين يوافق فريقك؟

في بوتيفاي، يصل كل طلب يحتاج شخصًا إلى صندوق الوارد في لوحة التحكم. ويوافق عليه أو يرفضه أعضاء الفريق الذين يملكون الصلاحية.

وفي واتساب وتيليجرام يمكن أن تصل الموافقة أزرارًا داخل المحادثة، فيوافق المدير من هاتفه. أما طلبات Slack فتذهب إلى صندوق الوارد.

كيف يتوقف المساعد ثم يكمل؟

تسمي أطر بناء المساعدين هذا التوقف «مقاطعة» (interrupt). في LangGraph مثلًا، يتوقف التشغيل وتُحفظ حالته، ثم يكمل من النقطة نفسها حين يجيب الشخص. وتنبّه وثائقه إلى أن الخطوة المتوقفة تبدأ من أولها عند الاستئناف.

وهذه التفصيلة مهمة. كل ما فعلته الخطوة قبل التوقف يُعاد، فالبناء المتسرع قد يرسل البريد نفسه مرتين. تأكد أن المنصة التي تختارها تحفظ طلب الموافقة قبل التوقف، وتنفّذ كل إجراء موافق عليه مرة واحدة فقط.

المهلة والتدقيق وإرهاق الموافقات

كل طلب موافقة يحتاج وقتًا ينتهي عنده، وانتهاء الوقت يجب أن يعني «لم يُنفَّذ»، لا «نُفِّذ تلقائيًا». الرد على عميل قد يفقد قيمته بعد ساعات، وتعديل سجل يحتمل يومًا.

احفظ السلسلة كاملة في سجل التدقيق: ما الذي طُلب، وأي قاعدة طُبقت، ومن قرر، وما النتيجة. وفي بوتيفاي تبقى كل خطوة من عمل المساعد في سجل التدقيق.

المشكلة الشائعة هي الموافقة دون قراءة. إذا وافق الناس على عشرات الطلبات الصغيرة يوميًا، توقفوا عن النظر فيها. أبقِ الموافقة للخطوات التي لا رجعة فيها أو التي تخرج من شركتك، وراجع الطلبات المرفوضة: كل رفض يبين أين يحتاج المساعد أو بياناتك إلى تحسين.

أسئلة شائعة

01

ما الفرق بين «الإنسان في الحلقة» و«الإنسان فوق الحلقة»؟

في الأول يوافق شخص على الإجراء قبل تنفيذه. وفي الثاني تُنفَّذ الإجراءات وحدها، ويراقبها الناس ويتدخلون بعدها. المساعد الذي يرسل رسائل أو يعدّل سجلات يحتاج غالبًا الأول لهذه الخطوات.

02

هل تبطئ الموافقات المساعد؟

فقط عند الخطوات التي تنتظر. البحث يعمل بسرعته الكاملة، والمساعد يجهّز كل شيء حتى الخطوة الحساسة، فيقرر من يوافق في اقتراح جاهز بدل أن يؤدي العمل بنفسه.

03

ماذا يحدث إذا رُفضت الخطوة؟

لا يُنفَّذ الإجراء. يستطيع المساعد أن يخبر العميل أن أحدًا من الفريق سيتابع معه، ويبقى الرفض في سجل التدقيق للمراجعة.

04

من يستطيع الموافقة في بوتيفاي؟

أعضاء الفريق بدور «عضو» فما فوق. يقررون من صندوق الوارد في لوحة التحكم، أو بالأزرار في واتساب وتيليجرام.

05

هل الموافقة البشرية مطلوبة قانونيًا؟

تشترط المادة 14 من قانون الذكاء الاصطناعي الأوروبي رقابة بشرية فعالة على الأنظمة عالية المخاطر. كثير من مساعدي الشركات خارج هذه الفئة، لكن الموافقة تبقى أبسط طريقة لإثبات أن شخصًا، لا نموذجًا، هو من سمح بالإجراء المهم.

المصادر

  1. [1]LangGraph documentation: Interrupts
  2. [2]EU AI Act, Article 14: Human Oversight

أين تجد هذا في بوتيفاي

المقالات

مقالات ذات صلة

  1. 01

    ما هو MCP؟ معيار مفتوح يربط تطبيقات الذكاء الاصطناعي بالأدوات والبيانات. كيف تعمل خوادمه، ومخاطره وكيف تضبطها، وكيف يعمل خادم MCP في بوتيفاي.

    مفاهيم7 دقائق قراءة

  2. 02

    ما هو تنسيق الذكاء الاصطناعي؟ هو ما يجعل المساعد يعمل في أنظمتك وفق قواعدك وينتظر موافقة فريقك. شرح مبسط بأمثلة من متجر وعيادة وما تتحقق منه قبل الاختيار.

    مفاهيم6 دقائق قراءة

  3. 03

    إطار حوكمة الذكاء الاصطناعي للشركات في السعودية والأردن: احصر أنظمتك، وسمِّ مسؤولًا لكل نظام، واشترط الموافقة، واحمِ البيانات، واحتفظ بسجل تدقيق.

    أدلة8 دقائق قراءة

ابدأ بمساعد واحد في واتساب أو موقعك.

احجز عرضًا توضيحيًا، ونريك مساعدًا يرد على أسئلة مثل أسئلة عملائك. نجهّز معك أول مساعد، ونراجع النتائج معًا قبل أن تضيف غيره.