/articlesأدلة
حوكمة الذكاء الاصطناعي في المؤسسات: إطار عملي للسعودية والأردن
إطار حوكمة الذكاء الاصطناعي للشركات في السعودية والأردن: احصر أنظمتك، وسمِّ مسؤولًا لكل نظام، واشترط الموافقة، واحمِ البيانات، واحتفظ بسجل تدقيق.
- آخر تحديث
- نُشر
- دقائق قراءة
- 08
- في هذه الصفحة
- 10
في هذه الصفحة10
- ماذا تعني حوكمة الذكاء الاصطناعي عمليًا؟
- ما الأنظمة والأطر التي تنطبق في السعودية والأردن؟
- الخطوة 1: احصر أنظمة الذكاء الاصطناعي وقيّم خطورتها
- الخطوة 2: سمِّ المسؤولين
- الخطوة 3: صمّم موافقات يستخدمها الناس فعلًا
- الخطوة 4: طبّق حماية البيانات على عمل الذكاء الاصطناعي
- الخطوة 5: التدقيق والمراقبة والتعامل مع الحوادث
- ما الذي يفرضه بوتيفاي داخل المنتج؟
- ما الذي لا تفعله المنصة نيابة عنك؟
- أسئلة شائعة
01
ماذا تعني حوكمة الذكاء الاصطناعي عمليًا؟
أغلب الشركات لديها صفحة بمبادئ الذكاء الاصطناعي. والحوكمة تحوّلها إلى خمسة أشياء يمكن فحصها: قائمة بأنظمة الذكاء الاصطناعي المستخدمة، ومسؤول مسمّى لكل نظام، وقواعد لما يحق لكل نظام فعله، وشخص يوافق على الإجراءات الخطرة، وسجلات تثبت أن كل ذلك حدث.
والمساعدون المربوطون بأنظمتك يجعلون الأمر عاجلًا. المساعد المربوط بـ Gmail يستطيع إرسال بريد، والمربوط بـ ServiceNow يستطيع فتح بلاغ، والمربوط بـ Odoo يستطيع إنشاء عرض سعر. لذلك يجب أن يكون جزء من الحوكمة داخل المنتج نفسه: صلاحيات وموافقات تُفحص قبل تشغيل أي أداة.
هذا الدليل نقطة بداية وليس استشارة قانونية. تحقق من التزاماتك مع محاميك ومسؤول حماية البيانات لديك.
02
ما الأنظمة والأطر التي تنطبق في السعودية والأردن؟
أنظمة حماية البيانات ملزمة كلما عالج الذكاء الاصطناعي بيانات شخصية. أما أطر الذكاء الاصطناعي ومعاييره فطوعية في الغالب، لكنها تعطيك بنية مجرّبة ولغة يستخدمها المدققون أصلًا.
| المرجع | الجهة المُصدِرة | الحالة والتاريخ | ما الذي يطلبه منك |
|---|---|---|---|
| نظام حماية البيانات الشخصية، المملكة العربية السعودية | الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) جهة الإشراف والتطبيق | نافذ منذ 14 سبتمبر 2023، وملزم بالكامل منذ 14 سبتمبر 2024 بعد مهلة سنة | معالجة مشروعة، وتقليل البيانات، وسجلات أنشطة المعالجة، وضوابط النقل خارج المملكة، وتعيين مسؤول حماية بيانات في حالات محددة |
| مبادئ أخلاقيات الذكاء الاصطناعي | الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) | الإصدار الأول، سبتمبر 2023 | سبعة مبادئ: النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية والقابلية للتفسير، والمساءلة والمسؤولية |
| قانون حماية البيانات الشخصية رقم 24 لسنة 2023، الأردن | وزارة الاقتصاد الرقمي والريادة، ومجلس حماية البيانات الشخصية | نُشر في 17 سبتمبر 2023، وسرى في 17 مارس 2024، مع مهلة سنة لتوفيق أوضاع المعالجة القائمة | الموافقة المسبقة ما لم ينطبق استثناء، وحقوق صاحب البيانات، وقيود النقل للخارج، والإبلاغ عن الاختراقات، ومسؤول حماية بيانات في حالات محددة |
| إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0) | المعهد الوطني الأمريكي للمعايير والتقنية (NIST) | نُشر في 26 يناير 2023، طوعي | أربع وظائف: الحوكمة، والتحديد، والقياس، والإدارة (Govern, Map, Measure, Manage) |
| ISO/IEC 42001:2023 | المنظمة الدولية للمعايير (ISO) واللجنة الكهروتقنية الدولية (IEC) | نُشر في ديسمبر 2023 | متطلبات نظام إدارة الذكاء الاصطناعي (AIMS) وفق دورة «خطط، نفّذ، تحقق، صحّح»؛ والحصول على الشهادة طوعي وتمنحه جهات إصدار شهادات مستقلة |
03
الخطوة 1: احصر أنظمة الذكاء الاصطناعي وقيّم خطورتها
لا تستطيع ضبط ما لم تحصره. ووظيفة الحوكمة (Govern) في إطار NIST تطلب جردًا لأنظمة الذكاء الاصطناعي. سجّل لكل نظام غرضه ومسؤوله والبيانات التي يقرؤها والأنظمة التي يستطيع تغييرها، ومنها الأدوات التي اشترتها فرق منفردة.
ثم قيّم الخطورة بحسب ما يستطيع النظام فعله، لا بحسب ذكاء النموذج. ومع المساعدين قيّم كل إجراء على حدة، لأن المساعد الواحد قد يملك أداة بحث آمنة وأداة إرسال خطرة.
| فئة الإجراء | أمثلة | الإعداد المقترح |
|---|---|---|
| قراءة | البحث في السجلات، قراءة بلاغ، قراءة بريد | مسموح للأدوار المناسبة، مع التسجيل |
| كتابة | إنشاء مسودة، إضافة تصنيف، تحديث حقل في تذكرة | مسموح أو بموافقة، حسب قواعدك |
| حذف | حذف البيانات أو نقلها إلى المهملات، إغلاق السجلات | موافقة، ولأدوار محدودة |
| إرسال خارجي | إرسال بريد أو إعادة توجيهه، إرسال عرض سعر لعميل | موافقة على المحتوى نفسه |
04
الخطوة 2: سمِّ المسؤولين
المبدأ السابع في مبادئ سدايا، المساءلة والمسؤولية، يحمّل من يصمم أنظمة الذكاء الاصطناعي ويبيعها ويشتريها ويطورها ويملكها ويقيّمها مسؤولية آثارها، مع إشراف بشري طوال عمر النظام. ويطلب إطار NIST أيضًا توثيق الأدوار، وأن تتحمل القيادة قرارات مخاطر الذكاء الاصطناعي. وقائمة قصيرة من الأدوار المسمّاة تغطي معظم ذلك.
- راعٍ تنفيذي: يحدد مقدار المخاطرة المقبولة ويوافق على الاستخدامات عالية الخطورة.
- لجنة مراجعة: من الأمن والشؤون القانونية وحماية البيانات وتقنية المعلومات وأصحاب الأعمال، تعتمد الأنظمة الجديدة وتراجع الحوادث.
- مسؤول حماية البيانات: مطلوب في حالات محددة في النظام السعودي والقانون الأردني، ويراجع مسار البيانات الشخصية قبل الإطلاق.
- مالك النظام: شخص واحد مسؤول عن مساعد واحد وإعداداته وقواعده ومراجعة سجله.
- الموافِقون: أشخاص مسمّون يحق لهم الموافقة على إجراءات محددة.
- التدقيق الداخلي: يختبر الضوابط من سجل التدقيق، لا من المقابلات.
05
الخطوة 3: صمّم موافقات يستخدمها الناس فعلًا
يفشل الإشراف البشري بطريقتين: لا يُسأل أحد، أو يُسأل الجميع كثيرًا حتى تصبح الموافقة ضغطة تلقائية.
ضع الموافقة على الإجراء لا على المحادثة. قراءة البيانات نادرًا ما تحتاج شخصًا، أما الإرسال أو الحذف أو تغيير سجلات خارج المنصة فيحتاجه عادة.
الموافقة الجيدة تعرض الإجراء ومحتواه بالضبط، مثل نص البريد، وتبيّن من طلبه، ويسهل رفضها كما يسهل قبولها. وتنتظر المهمة حتى يقرر أحد، ويُسجَّل القرار.
راجع الموافقات كل شهر. إذا كان إجراء يُقبل دائمًا دون تعديل، ففكّر في تشغيله مباشرة. وإذا كان الموافقون يرفضون النوع نفسه من الطلبات، فأصلح تعليمات المساعد.
06
الخطوة 4: طبّق حماية البيانات على عمل الذكاء الاصطناعي
ينقل المساعد البيانات الشخصية بطرق جديدة: إلى التعليمات المرسلة للنموذج، وعبر مزوّدي النماذج، وإلى التقارير والذاكرة. ارسم كل مسار قبل الإطلاق.
النظام السعودي يؤكد تقليل البيانات وسجلات أنشطة المعالجة. وقواعد سدايا لنقل البيانات خارج المملكة تعتمد ضمانات مثل البنود التعاقدية القياسية حين لا تكون جهة الوصول ذات حماية كافية.
والقانون الأردني يقوم على الموافقة المسبقة ما لم ينطبق استثناء، ويقيّد النقل إلى جهات أقل حماية، ويوجب إبلاغ أصحاب البيانات والجهة المختصة بأي اختراق خلال المهل التي يحددها.
اسأل كل مزوّد ذكاء اصطناعي أين تُعالَج التعليمات ونتائج الأدوات والسجلات وأين تُخزَّن، واطلب الإجابة مكتوبة.
- أرسل إلى النموذج الحقول التي تحتاجها المهمة فقط.
- أضف معالجة الذكاء الاصطناعي، ومنها مزوّدو النماذج، إلى سجلات أنشطة المعالجة.
- حدّد ما يحق للمساعد تذكّره، ولأي مدة، وعن من.
- طبّق قواعد الاحتفاظ على المحادثات والتقارير المُنتَجة، لا على البيانات الأصلية فقط.
07
الخطوة 5: التدقيق والمراقبة والتعامل مع الحوادث
لأي مهمة، يجب أن تجيب سجلاتك: من طلب، وماذا فعل المساعد، وبأي مدخلات، ومن وافق، وما النتيجة. نصوص المحادثات وحدها لا تجيب عن ذلك.
ووظيفتا القياس والإدارة (Measure وManage) في إطار NIST تضيفان الروتين: راقب السلوك أثناء التشغيل الفعلي، وتابع المخاطر الجديدة، وخطّط للاستجابة والتعافي وإيقاف النظام.
عامل حوادث الذكاء الاصطناعي كالحوادث الأمنية: بريد خاطئ أُرسل، أو سجل تغيّر دون صلاحية، أو بيانات شخصية ظهرت في تقرير. حدّد من يفرز الحادثة، وكيف توقف مساعدًا أو تفصل أداة، وكيف يغيّر الدرس قواعدك.
08
ما الذي يفرضه بوتيفاي داخل المنتج؟
القواعد المكتوبة لا تعمل إلا إذا فرضها البرنامج. في بوتيفاي يمر كل اتصال بنظام مربوط بالخطوات نفسها: فحص الصلاحية، ثم قواعدك، ثم الموافقة إن لزمت، ثم النظام.
- الأدوار: مالك، ومدير، ومشغّل، وعضو، ومشاهد. الأعضاء ومن فوقهم يقررون الموافقات، والمشاهد يطّلع فقط.
- لكل أداة درجة خطورة (قراءة، كتابة، حذف، إرسال خارجي) ووضع موافقة: بدون موافقة، أو حسب قواعدك، أو دائمًا. الإرسال من Gmail وإنشاء بلاغ في ServiceNow يحتاجان موافقة شخص دائمًا.
- قواعدك تسمح أو تمنع أو تطلب موافقة. والمنع يتغلب، والقواعد تضيف موافقات ولا تلغي «دائمًا».
- عروض الأسعار تحتاج موافقة فقط إذا فعّلت ذلك، في إعداد المساعد أو بقاعدة.
- يُرد على الموافقات بأزرار في واتساب وتيليجرام، ومن صندوق الوارد في غيرهما. وكل موافقة تحفظ من قرر ومتى.
- سجل التدقيق في لوحة التحكم تحت «التحليلات».
09
ما الذي لا تفعله المنصة نيابة عنك؟
هذه الضوابط تدعم برنامج الحوكمة ولا تحل محله. واستخدام أي منصة لا يجعل الشركة وحده ملتزمة بنظام حماية البيانات السعودي أو القانون الأردني أو أي معيار.
لا يذكر بوتيفاي على هذا الموقع شهادات أو منطقة استضافة، فاطلب التفاصيل التي تحتاجها مراجعتك. والإطار أعلاه، حين يملكه أشخاص مسمّون ويُراجع بانتظام، هو ما يؤدي العمل الحقيقي.
10
أسئلة شائعة
01ما هو إطار حوكمة الذكاء الاصطناعي؟
هو مجموعة القواعد والأدوار والضوابط والمراجعات التي تحدد بها الشركة أنظمة الذكاء الاصطناعي التي تشغّلها وكيف تراقبها. ويغطي الحصر والخطورة والمسؤولية والموافقة البشرية وحماية البيانات والتدقيق. ومن المراجع الشائعة NIST AI RMF وISO/IEC 42001.
02هل ينطبق نظام حماية البيانات الشخصية السعودي على أنظمة الذكاء الاصطناعي؟
نعم، كلما عالج النظام بيانات شخصية. والنظام ملزم بالكامل منذ 14 سبتمبر 2024، ويشمل أيضًا الجهات خارج المملكة التي تعالج بيانات شخصية لمقيمين فيها.
03هل شهادة ISO/IEC 42001 إلزامية في السعودية أو الأردن؟
تصف ISO الشهادة بأنها طوعية تمنحها جهات مستقلة، وتقول إن المعيار لا يحل محل القوانين. راجع الجهة التنظيمية لقطاعك وعقودك الرئيسية لمعرفة أي متطلبات خاصة.
04ما الفرق بين حوكمة الذكاء الاصطناعي وحوكمة البيانات؟
حوكمة البيانات تضبط جودة البيانات والوصول إليها وعمرها. وحوكمة الذكاء الاصطناعي تضيف ضبط ما تفعله الأنظمة الآلية بها: أي إجراءات يحق لها، ومتى تلزم موافقة شخص، وكيف تُراقب النتائج.
05ما الإجراءات التي يجب أن تحتاج موافقة شخص دائمًا؟
الإجراءات التي تخرج من الشركة أو يصعب التراجع عنها: إرسال البريد أو إعادة توجيهه، وإرسال مستندات للعملاء، وحذف البيانات، وتغيير سجلات يعتمد عليها الآخرون. أما البحث والقراءة فيمكن تشغيلهما مباشرة غالبًا.
06من يجب أن يملك حوكمة الذكاء الاصطناعي في الشركة؟
مسؤول تنفيذي مسمّى يحدد مقدار المخاطرة المقبولة، بدعم من الأمن والشؤون القانونية وحماية البيانات وتقنية المعلومات والأعمال. ويحتاج كل مساعد أيضًا مالكًا يحدّث قواعده ويراجع سجله.
11
المصادر
- [1]Saudi Arabia’s Personal Data Protection Law becomes enforceable (Clyde & Co, 2024)
- [2]SDAIA AI Ethics Principles, Version 1.0 (September 2023)
- [3]SDAIA AI Ethics Principles (sdaia.gov.sa)
- [4]Jordan issues first personal data protection law (Clyde & Co, 2023)
- [5]NIST AI Risk Management Framework (AI RMF 1.0)
- [6]NIST AI RMF Core: Govern, Map, Measure, Manage
- [7]ISO/IEC 42001:2023 AI management systems
- [8]ISO/IEC 42001 explained (ISO)
12