انتقل إلى المحتوى

/articlesأدلة

حوكمة الذكاء الاصطناعي في المؤسسات: إطار عملي للسعودية والأردن

إطار حوكمة الذكاء الاصطناعي للشركات في السعودية والأردن: احصر أنظمتك، وسمِّ مسؤولًا لكل نظام، واشترط الموافقة، واحمِ البيانات، واحتفظ بسجل تدقيق.

آخر تحديث
نُشر
دقائق قراءة
08
في هذه الصفحة
10
في هذه الصفحة10

ماذا تعني حوكمة الذكاء الاصطناعي عمليًا؟

أغلب الشركات لديها صفحة بمبادئ الذكاء الاصطناعي. والحوكمة تحوّلها إلى خمسة أشياء يمكن فحصها: قائمة بأنظمة الذكاء الاصطناعي المستخدمة، ومسؤول مسمّى لكل نظام، وقواعد لما يحق لكل نظام فعله، وشخص يوافق على الإجراءات الخطرة، وسجلات تثبت أن كل ذلك حدث.

والمساعدون المربوطون بأنظمتك يجعلون الأمر عاجلًا. المساعد المربوط بـ Gmail يستطيع إرسال بريد، والمربوط بـ ServiceNow يستطيع فتح بلاغ، والمربوط بـ Odoo يستطيع إنشاء عرض سعر. لذلك يجب أن يكون جزء من الحوكمة داخل المنتج نفسه: صلاحيات وموافقات تُفحص قبل تشغيل أي أداة.

هذا الدليل نقطة بداية وليس استشارة قانونية. تحقق من التزاماتك مع محاميك ومسؤول حماية البيانات لديك.

ما الأنظمة والأطر التي تنطبق في السعودية والأردن؟

أنظمة حماية البيانات ملزمة كلما عالج الذكاء الاصطناعي بيانات شخصية. أما أطر الذكاء الاصطناعي ومعاييره فطوعية في الغالب، لكنها تعطيك بنية مجرّبة ولغة يستخدمها المدققون أصلًا.

المرجعالجهة المُصدِرةالحالة والتاريخما الذي يطلبه منك
نظام حماية البيانات الشخصية، المملكة العربية السعوديةالهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) جهة الإشراف والتطبيقنافذ منذ 14 سبتمبر 2023، وملزم بالكامل منذ 14 سبتمبر 2024 بعد مهلة سنةمعالجة مشروعة، وتقليل البيانات، وسجلات أنشطة المعالجة، وضوابط النقل خارج المملكة، وتعيين مسؤول حماية بيانات في حالات محددة
مبادئ أخلاقيات الذكاء الاصطناعيالهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)الإصدار الأول، سبتمبر 2023سبعة مبادئ: النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية والقابلية للتفسير، والمساءلة والمسؤولية
قانون حماية البيانات الشخصية رقم 24 لسنة 2023، الأردنوزارة الاقتصاد الرقمي والريادة، ومجلس حماية البيانات الشخصيةنُشر في 17 سبتمبر 2023، وسرى في 17 مارس 2024، مع مهلة سنة لتوفيق أوضاع المعالجة القائمةالموافقة المسبقة ما لم ينطبق استثناء، وحقوق صاحب البيانات، وقيود النقل للخارج، والإبلاغ عن الاختراقات، ومسؤول حماية بيانات في حالات محددة
إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0)المعهد الوطني الأمريكي للمعايير والتقنية (NIST)نُشر في 26 يناير 2023، طوعيأربع وظائف: الحوكمة، والتحديد، والقياس، والإدارة (Govern, Map, Measure, Manage)
ISO/IEC 42001:2023المنظمة الدولية للمعايير (ISO) واللجنة الكهروتقنية الدولية (IEC)نُشر في ديسمبر 2023متطلبات نظام إدارة الذكاء الاصطناعي (AIMS) وفق دورة «خطط، نفّذ، تحقق، صحّح»؛ والحصول على الشهادة طوعي وتمنحه جهات إصدار شهادات مستقلة

الخطوة 1: احصر أنظمة الذكاء الاصطناعي وقيّم خطورتها

لا تستطيع ضبط ما لم تحصره. ووظيفة الحوكمة (Govern) في إطار NIST تطلب جردًا لأنظمة الذكاء الاصطناعي. سجّل لكل نظام غرضه ومسؤوله والبيانات التي يقرؤها والأنظمة التي يستطيع تغييرها، ومنها الأدوات التي اشترتها فرق منفردة.

ثم قيّم الخطورة بحسب ما يستطيع النظام فعله، لا بحسب ذكاء النموذج. ومع المساعدين قيّم كل إجراء على حدة، لأن المساعد الواحد قد يملك أداة بحث آمنة وأداة إرسال خطرة.

فئة الإجراءأمثلةالإعداد المقترح
قراءةالبحث في السجلات، قراءة بلاغ، قراءة بريدمسموح للأدوار المناسبة، مع التسجيل
كتابةإنشاء مسودة، إضافة تصنيف، تحديث حقل في تذكرةمسموح أو بموافقة، حسب قواعدك
حذفحذف البيانات أو نقلها إلى المهملات، إغلاق السجلاتموافقة، ولأدوار محدودة
إرسال خارجيإرسال بريد أو إعادة توجيهه، إرسال عرض سعر لعميلموافقة على المحتوى نفسه

الخطوة 2: سمِّ المسؤولين

المبدأ السابع في مبادئ سدايا، المساءلة والمسؤولية، يحمّل من يصمم أنظمة الذكاء الاصطناعي ويبيعها ويشتريها ويطورها ويملكها ويقيّمها مسؤولية آثارها، مع إشراف بشري طوال عمر النظام. ويطلب إطار NIST أيضًا توثيق الأدوار، وأن تتحمل القيادة قرارات مخاطر الذكاء الاصطناعي. وقائمة قصيرة من الأدوار المسمّاة تغطي معظم ذلك.

  • راعٍ تنفيذي: يحدد مقدار المخاطرة المقبولة ويوافق على الاستخدامات عالية الخطورة.
  • لجنة مراجعة: من الأمن والشؤون القانونية وحماية البيانات وتقنية المعلومات وأصحاب الأعمال، تعتمد الأنظمة الجديدة وتراجع الحوادث.
  • مسؤول حماية البيانات: مطلوب في حالات محددة في النظام السعودي والقانون الأردني، ويراجع مسار البيانات الشخصية قبل الإطلاق.
  • مالك النظام: شخص واحد مسؤول عن مساعد واحد وإعداداته وقواعده ومراجعة سجله.
  • الموافِقون: أشخاص مسمّون يحق لهم الموافقة على إجراءات محددة.
  • التدقيق الداخلي: يختبر الضوابط من سجل التدقيق، لا من المقابلات.

الخطوة 3: صمّم موافقات يستخدمها الناس فعلًا

يفشل الإشراف البشري بطريقتين: لا يُسأل أحد، أو يُسأل الجميع كثيرًا حتى تصبح الموافقة ضغطة تلقائية.

ضع الموافقة على الإجراء لا على المحادثة. قراءة البيانات نادرًا ما تحتاج شخصًا، أما الإرسال أو الحذف أو تغيير سجلات خارج المنصة فيحتاجه عادة.

الموافقة الجيدة تعرض الإجراء ومحتواه بالضبط، مثل نص البريد، وتبيّن من طلبه، ويسهل رفضها كما يسهل قبولها. وتنتظر المهمة حتى يقرر أحد، ويُسجَّل القرار.

راجع الموافقات كل شهر. إذا كان إجراء يُقبل دائمًا دون تعديل، ففكّر في تشغيله مباشرة. وإذا كان الموافقون يرفضون النوع نفسه من الطلبات، فأصلح تعليمات المساعد.

الخطوة 4: طبّق حماية البيانات على عمل الذكاء الاصطناعي

ينقل المساعد البيانات الشخصية بطرق جديدة: إلى التعليمات المرسلة للنموذج، وعبر مزوّدي النماذج، وإلى التقارير والذاكرة. ارسم كل مسار قبل الإطلاق.

النظام السعودي يؤكد تقليل البيانات وسجلات أنشطة المعالجة. وقواعد سدايا لنقل البيانات خارج المملكة تعتمد ضمانات مثل البنود التعاقدية القياسية حين لا تكون جهة الوصول ذات حماية كافية.

والقانون الأردني يقوم على الموافقة المسبقة ما لم ينطبق استثناء، ويقيّد النقل إلى جهات أقل حماية، ويوجب إبلاغ أصحاب البيانات والجهة المختصة بأي اختراق خلال المهل التي يحددها.

اسأل كل مزوّد ذكاء اصطناعي أين تُعالَج التعليمات ونتائج الأدوات والسجلات وأين تُخزَّن، واطلب الإجابة مكتوبة.

  • أرسل إلى النموذج الحقول التي تحتاجها المهمة فقط.
  • أضف معالجة الذكاء الاصطناعي، ومنها مزوّدو النماذج، إلى سجلات أنشطة المعالجة.
  • حدّد ما يحق للمساعد تذكّره، ولأي مدة، وعن من.
  • طبّق قواعد الاحتفاظ على المحادثات والتقارير المُنتَجة، لا على البيانات الأصلية فقط.

الخطوة 5: التدقيق والمراقبة والتعامل مع الحوادث

لأي مهمة، يجب أن تجيب سجلاتك: من طلب، وماذا فعل المساعد، وبأي مدخلات، ومن وافق، وما النتيجة. نصوص المحادثات وحدها لا تجيب عن ذلك.

ووظيفتا القياس والإدارة (Measure وManage) في إطار NIST تضيفان الروتين: راقب السلوك أثناء التشغيل الفعلي، وتابع المخاطر الجديدة، وخطّط للاستجابة والتعافي وإيقاف النظام.

عامل حوادث الذكاء الاصطناعي كالحوادث الأمنية: بريد خاطئ أُرسل، أو سجل تغيّر دون صلاحية، أو بيانات شخصية ظهرت في تقرير. حدّد من يفرز الحادثة، وكيف توقف مساعدًا أو تفصل أداة، وكيف يغيّر الدرس قواعدك.

ما الذي يفرضه بوتيفاي داخل المنتج؟

القواعد المكتوبة لا تعمل إلا إذا فرضها البرنامج. في بوتيفاي يمر كل اتصال بنظام مربوط بالخطوات نفسها: فحص الصلاحية، ثم قواعدك، ثم الموافقة إن لزمت، ثم النظام.

  • الأدوار: مالك، ومدير، ومشغّل، وعضو، ومشاهد. الأعضاء ومن فوقهم يقررون الموافقات، والمشاهد يطّلع فقط.
  • لكل أداة درجة خطورة (قراءة، كتابة، حذف، إرسال خارجي) ووضع موافقة: بدون موافقة، أو حسب قواعدك، أو دائمًا. الإرسال من Gmail وإنشاء بلاغ في ServiceNow يحتاجان موافقة شخص دائمًا.
  • قواعدك تسمح أو تمنع أو تطلب موافقة. والمنع يتغلب، والقواعد تضيف موافقات ولا تلغي «دائمًا».
  • عروض الأسعار تحتاج موافقة فقط إذا فعّلت ذلك، في إعداد المساعد أو بقاعدة.
  • يُرد على الموافقات بأزرار في واتساب وتيليجرام، ومن صندوق الوارد في غيرهما. وكل موافقة تحفظ من قرر ومتى.
  • سجل التدقيق في لوحة التحكم تحت «التحليلات».

ما الذي لا تفعله المنصة نيابة عنك؟

هذه الضوابط تدعم برنامج الحوكمة ولا تحل محله. واستخدام أي منصة لا يجعل الشركة وحده ملتزمة بنظام حماية البيانات السعودي أو القانون الأردني أو أي معيار.

لا يذكر بوتيفاي على هذا الموقع شهادات أو منطقة استضافة، فاطلب التفاصيل التي تحتاجها مراجعتك. والإطار أعلاه، حين يملكه أشخاص مسمّون ويُراجع بانتظام، هو ما يؤدي العمل الحقيقي.

أسئلة شائعة

01

ما هو إطار حوكمة الذكاء الاصطناعي؟

هو مجموعة القواعد والأدوار والضوابط والمراجعات التي تحدد بها الشركة أنظمة الذكاء الاصطناعي التي تشغّلها وكيف تراقبها. ويغطي الحصر والخطورة والمسؤولية والموافقة البشرية وحماية البيانات والتدقيق. ومن المراجع الشائعة NIST AI RMF وISO/IEC 42001.

02

هل ينطبق نظام حماية البيانات الشخصية السعودي على أنظمة الذكاء الاصطناعي؟

نعم، كلما عالج النظام بيانات شخصية. والنظام ملزم بالكامل منذ 14 سبتمبر 2024، ويشمل أيضًا الجهات خارج المملكة التي تعالج بيانات شخصية لمقيمين فيها.

03

هل شهادة ISO/IEC 42001 إلزامية في السعودية أو الأردن؟

تصف ISO الشهادة بأنها طوعية تمنحها جهات مستقلة، وتقول إن المعيار لا يحل محل القوانين. راجع الجهة التنظيمية لقطاعك وعقودك الرئيسية لمعرفة أي متطلبات خاصة.

04

ما الفرق بين حوكمة الذكاء الاصطناعي وحوكمة البيانات؟

حوكمة البيانات تضبط جودة البيانات والوصول إليها وعمرها. وحوكمة الذكاء الاصطناعي تضيف ضبط ما تفعله الأنظمة الآلية بها: أي إجراءات يحق لها، ومتى تلزم موافقة شخص، وكيف تُراقب النتائج.

05

ما الإجراءات التي يجب أن تحتاج موافقة شخص دائمًا؟

الإجراءات التي تخرج من الشركة أو يصعب التراجع عنها: إرسال البريد أو إعادة توجيهه، وإرسال مستندات للعملاء، وحذف البيانات، وتغيير سجلات يعتمد عليها الآخرون. أما البحث والقراءة فيمكن تشغيلهما مباشرة غالبًا.

06

من يجب أن يملك حوكمة الذكاء الاصطناعي في الشركة؟

مسؤول تنفيذي مسمّى يحدد مقدار المخاطرة المقبولة، بدعم من الأمن والشؤون القانونية وحماية البيانات وتقنية المعلومات والأعمال. ويحتاج كل مساعد أيضًا مالكًا يحدّث قواعده ويراجع سجله.

المصادر

  1. [1]Saudi Arabia’s Personal Data Protection Law becomes enforceable (Clyde & Co, 2024)
  2. [2]SDAIA AI Ethics Principles, Version 1.0 (September 2023)
  3. [3]SDAIA AI Ethics Principles (sdaia.gov.sa)
  4. [4]Jordan issues first personal data protection law (Clyde & Co, 2023)
  5. [5]NIST AI Risk Management Framework (AI RMF 1.0)
  6. [6]NIST AI RMF Core: Govern, Map, Measure, Manage
  7. [7]ISO/IEC 42001:2023 AI management systems
  8. [8]ISO/IEC 42001 explained (ISO)

أين تجد هذا في بوتيفاي

المقالات

مقالات ذات صلة

  1. 01

    كيف تختار منصة وكلاء ذكاء اصطناعي لشركتك: 10 معايير تختبرها على أنظمتك، من التكاملات والموافقات إلى فصل البيانات والعربية والقنوات، مع خطة تجربة.

    أدلة7 دقائق قراءة

  2. 02

    الموافقة البشرية على الذكاء الاصطناعي تعني أن المساعد يسأل شخصًا من فريقك قبل الخطوات الحساسة، مثل إرسال عرض سعر أو بريد. أي الخطوات تنتظر، وماذا يرى من يوافق.

    مفاهيم6 دقائق قراءة

  3. 03

    عزل بيانات العملاء في منصات الذكاء الاصطناعي لفرق تقنية المعلومات: أين يُفرض الفصل بين الشركات، وكيف تُشفَّر بيانات الدخول بـ AES-256-GCM وتُغيَّر المفاتيح.

    مفاهيم7 دقائق قراءة

ابدأ بمساعد واحد في واتساب أو موقعك.

احجز عرضًا توضيحيًا، ونريك مساعدًا يرد على أسئلة مثل أسئلة عملائك. نجهّز معك أول مساعد، ونراجع النتائج معًا قبل أن تضيف غيره.