مقالات عن إدخال الذكاء الاصطناعي في الجهات الحكومية والمنشآت السعودية بأمان.https://malqasmi.sa/articles/arhttps://malqasmi.sa/articles/ai-usage-policy/https://malqasmi.sa/articles/ai-usage-policy/سياسة استخدام الذكاء الاصطناعي في الجهات والمنشآت: إطار سدايا لإدارة المخاطر، و3 مستويات، وخارطة طريق من 4 مراحل.Tue, 03 Nov 2026 00:00:00 GMT<p>82٪ من المهنيين في الخليج يستخدمون الذكاء الاصطناعي مرة واحدة على الأقل في الأسبوع، وواحد من كل ثلاثة يستخدمه يومياً. معنى هذا أن الذكاء الاصطناعي لم يعد رفاهية، بل أصبح واقعاً مفروضاً.</p> <p>الموظفون يستخدمونه اليوم في كتابة الرسائل، وإعداد التقارير، وتجهيز العروض التقديمية. في المقابل، التدريب شبه معدوم. واضح أمامنا أن التقنية تسبق قدرة الجهات والمنشآت على المواكبة، والسؤال: هل لدى الجهات والمنشآت سياسة استخدام واضحة للذكاء الاصطناعي، وأطر عمل تتعامل بها مع هذه التقنية؟</p> <h2 id="مفارقة-الجاهزية">مفارقة الجاهزية</h2> <p>نحن نعيش اليوم ما يمكن تسميته مفارقة الجاهزية. الجهات والمنشآت تطلب من الموظف أن ينجز أكثر، والذكاء الاصطناعي يساعده فعلاً على مضاعفة إنجازه. لكن 20٪ فقط من المهنيين تلقّوا تدريباً موسعاً. و39٪ فقط يشعرون بثقة عالية في استخدامه، والبقية مترددون خوفاً من العواقب.</p> <p>والتدريب الموجود لا يصل إلى من يحتاجه أكثر: 36٪ من القيادات حصلوا على تدريب موسع، مقابل 8٪ فقط من موظفي الخطوط الأمامية. وهؤلاء هم من يعدّون التقارير، ويردّون على العملاء، ويجهّزون العروض التقديمية.</p> <p>تخيّل أنك اشتريت سيارات فيراري ووزعتها على موظفيك، ثم قلت لهم: يلا، ادخلوا السباق، نريدكم أن تفوزوا على المنافسين. وأنت لم تعلّمهم القيادة أصلاً، وبعضهم ربما لا يعرف أين الفرامل. أنت بهذا تتجه نحو كارثة.</p> <p>الموظف لا يعرف هل يؤثر على أمن بيانات جهته، ولا هل يخالف نظاماً، ولا هل ستظهر بياناتها للمنافسين. قد يقع في مشكلة كبيرة دون أن يقصد.</p> <p>اعتمدت في هذا المقال على ثلاثة مراجع: دراسة الفطيم عن استخدام المهنيين في الخليج للذكاء الاصطناعي (1,143 مشاركاً في 6 دول خليجية، مارس 2026)، والإطار الوطني لإدارة مخاطر الذكاء الاصطناعي من الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)، ودليل التوعية بتبني الذكاء الاصطناعي في شركات التقنية من هيئة الاتصالات والفضاء والتقنية.</p> <h2 id="التدريب-وحده-لا-يكفي-لماذا-تحتاج-سياسة-استخدام-الذكاء-الاصطناعي">التدريب وحده لا يكفي: لماذا تحتاج سياسة استخدام الذكاء الاصطناعي</h2> <p>مهما درّبت الجهة موظفيها على كتابة أفضل الأوامر للذكاء الاصطناعي، فإن لم توفّر لهم سياسة واضحة تحدد البيانات والاستخدامات المسموحة، سيبقى الموظف يشعر بالتهديد، أو سيقع في مشكلة وهو لا يدري.</p> <p>لا بد من حوكمة واضحة للذكاء الاصطناعي تحمي الموظف والجهة والعميل في الوقت نفسه. فبيانات العملاء تخرج اليوم إلى أدوات الذكاء الاصطناعي، فمن يحمي العميل في هذه الحالة؟</p> <h2 id="لماذا-يختلف-الذكاء-الاصطناعي-عن-البرامج-التقليدية">لماذا يختلف الذكاء الاصطناعي عن البرامج التقليدية</h2> <p>كل برنامج في العالم له مخاطر، لكن الذكاء الاصطناعي يختلف عنها كثيراً.</p> <p>البرامج التقليدية تسير على مسارات واضحة ومعرّفة من البداية. إذا أدخلت بيانات معينة، فالمخرج هو هذه البيانات بعد معالجتها. لذلك تعرّف المسارات وتختبرها قبل التشغيل، فيعمل النظام كما اختبرته.</p> <p>أما الذكاء الاصطناعي فيعمل بالاحتمالات. قد تعطيه الأمر نفسه أكثر من مرة فتحصل على نتائج مختلفة، لأنه لا يسير على مسار ثابت. وهو أيضاً يعاني من الهلوسة، وإذا جاء المخرج خاطئاً يصعب أن تتتبّع الخطأ إلى سطر محدد وتصححه كما تفعل مع البرامج التقليدية. ويعاني كذلك من التحيز، فإذا دُرّب على بيانات متحيزة فغالباً سيكرر التحيز في قراراته.</p> <p>تخيّل البرامج التقليدية مثل القطار؛ تضع له السكة، فلا يخرج عنها مهما حدث. أما الذكاء الاصطناعي فمثل سيارة دفع رباعي في صحراء مفتوحة. هذه المرة يرى هذا المسار أفضل، والمرة القادمة يرى مساراً آخر. لا تستطيع أن تحدد إلى أين يذهب؛ قد يتجه يميناً أو يساراً، وقد يصعد التلة أو ينزل منها فجأة بحسب ظروف الطريق.</p> <p>ولهذا بُني الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي.</p> <h2 id="الإطار-الوطني-لإدارة-مخاطر-الذكاء-الاصطناعي">الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي</h2> <p>يركّز إطار سدايا على دورة حياة كاملة لإدارة المخاطر تتكرر باستمرار. تبدأ بتحديد سياق النظام ونطاقه، ثم أربع خطوات رئيسية: تحديد المخاطر، وتقييمها، ومعالجتها، ومتابعتها.</p> <p>لنأخذ مثالاً: بنك قرر استخدام أداة ذكاء اصطناعي لتحليل طلبات القروض وإصدار توصية مبدئية.</p> <h3 id="1-تحديد-المخاطر">1. تحديد المخاطر</h3> <p>يحدد البنك السيناريوهات المحتملة. مثلاً، إذا دُرّب النموذج على بيانات تميل إلى رفض فئة معينة من العملاء، فقد يرفضهم بتحيّز غير عادل. وقد تتسرب بيانات العملاء إذا كان النموذج مستضافاً لدى طرف خارجي.</p> <h3 id="2-تقييم-المخاطر">2. تقييم المخاطر</h3> <p>يحسب البنك احتمالية كل خطر وأثره بالأرقام. ما احتمال أن يرفض النموذج عميلاً مهماً؟ وما الأثر المالي والقانوني إذا حدث ذلك؟</p> <p>وهنا خطر قلّما يتحدث عنه أحد: انخفاض الكفاءات البشرية. تخيّل موظفاً توقف عن إعمال عقله، يطبّق ما يأتيه من الذكاء الاصطناعي كما هو. مع الوقت تضعف قدراته، لأن الذكاء الاصطناعي صار يفكر عنه، ولم يعد يحتاج أن يطوّر نفسه. والإطار نفسه يعدّ الاعتماد المفرط على النظام من مخاطر التفاعل بين الإنسان والآلة.</p> <h3 id="3-معالجة-المخاطر">3. معالجة المخاطر</h3> <p>المعالجة ليست تقنية بالضرورة؛ قد تكون إدارية أو تنظيمية أو تقنية. مثلاً، لمعالجة خطر انخفاض الكفاءات أو التحيز، يجب على الموظف أن يبرّر كل قرار اتُّخذ بمساعدة الذكاء الاصطناعي، بالقبول أو بالرفض. يقول: أتفق مع التوصية للأسباب 1 و2 و3، أو أرفضها للأسباب 1 و2 و3.</p> <h3 id="4-المتابعة">4. المتابعة</h3> <p>يجب أن يكون هناك تقييم دوري لأداء النموذج، وتقييم لأداء الموظفين بعيداً عن الذكاء الاصطناعي. هل النموذج يتحسن أم يسوء؟ هل البيانات التي تدرّب عليها ما زالت حديثة أم قدمت؟ وهل أداء الموظفين ينخفض، ويحتاجون تدريباً في جوانب معينة؟</p> <h2 id="مستويات-مخاطر-الذكاء-الاصطناعي-لا-مسطرة-واحدة-لكل-الاستخدامات">مستويات مخاطر الذكاء الاصطناعي: لا مسطرة واحدة لكل الاستخدامات</h2> <p>لو طبّقت الجهة هذه الخطوات الأربع بالصرامة نفسها على كل أداة، فالأفضل لها ألا تستخدم الذكاء الاصطناعي أصلاً. ليس من المعقول أن تعامل برنامجاً لحجز المواعيد بالصرامة نفسها التي تعامل بها نظاماً يقترح دواءً يُعطى لإنسان. ستكون النتيجة بيروقراطية تقتل التقنية، ولن تستفيد منها بأي حال.</p> <p>لهذا يصنّف دليل هيئة الاتصالات والفضاء والتقنية المخاطر في ثلاثة مستويات، بحسب معايير منها: درجة استقلالية النظام، وحساسية البيانات التي يعالجها، وأثره على الأفراد أو الجهة. والدليل موجّه لشركات التقنية، لكن منطقه يصلح لأي جهة أو منشأة.</p> <p>فكّر في تقييم المخاطر كأنه تفتيش في المطار:</p> <table><thead><tr><th>المستوى</th><th>التشبيه</th><th>أمثلة</th><th>الضوابط</th></tr></thead><tbody><tr><td>منخفض</td><td>رحلة داخلية، تفتيشها سريع</td><td>أدوات تلخّص الرسائل أو ترتّب الاجتماعات</td><td>إرشادات واضحة للموظفين، وسياسة عامة للاستخدام، ومراقبة أساسية</td></tr><tr><td>متوسط</td><td>رحلة دولية، تفتيش صارم وجوازات</td><td>أدوات تردّ على استفسارات العملاء أو تحلل البيانات</td><td>عنصر بشري يراجع، ومراقبة دورية لأداء النموذج، وضوابط موثقة</td></tr><tr><td>مرتفع</td><td>رحلة تحتاج تأشيرة وتصاريح خاصة، وتفتيشاً دقيقاً في الذهاب والعودة</td><td>أنظمة التوظيف التي تفرز السير الذاتية، والوكلاء الذين يملكون صلاحية تنفيذ عمليات مالية دون تدخل بشري</td><td>موافقة صريحة من القيادة العليا قبل التشغيل، ومسارات واضحة للتصعيد، وقدرة تقنية على إيقاف النظام والتراجع عن قراراته، ومراقبة مستمرة</td></tr></tbody></table> <p>المستوى المرتفع هو الذي يمسّ حقوق الناس، أو تمسّ قراراته سمعة الجهة مباشرة. مثال ذلك أن أمازون بنت أداة ذكاء اصطناعي تقيّم السير الذاتية للوظائف التقنية، ودرّبتها على سير ذاتية وصلتها خلال 10 سنوات، كان أغلب أصحابها من الرجال. فتعلّم النموذج أن يخفض تقييم أي سيرة فيها كلمة «نسائي»، مثل «قائدة نادي الشطرنج النسائي»، وأن يخفض تقييم خريجات كليتين للنساء. اكتشفت الشركة المشكلة وأوقفت المشروع، بحسب ما نشرته رويترز في 2018.</p> <h2 id="ماذا-تكسب-الجهة-من-هذا-كله">ماذا تكسب الجهة من هذا كله</h2> <p>كل ما سبق يجعل الموظف المتردد، والجهة المترددة، يعرفان أن هناك ما يحميهما، فيتشجعان على الاستخدام. والنتيجة تحسّن كبير في الإنتاجية.</p> <p>ويبني أيضاً بيئة عمل مستدامة. الموظف يعرف ما له وما عليه، والجهة تعرف ما لها وما عليها. الجهة ترفع إنتاجيتها، والموظف يؤدي عمله بأريحية.</p> <h2 id="خارطة-طريق-حوكمة-الذكاء-الاصطناعي-4-مراحل-تبدأ-الأحد">خارطة طريق حوكمة الذكاء الاصطناعي: 4 مراحل تبدأ الأحد</h2> <h3 id="المرحلة-الأولى-حصر-كل-أداة-وتوثيقها">المرحلة الأولى: حصر كل أداة وتوثيقها</h3> <ul> <li><strong>حصر شامل:</strong> سجل موحّد يضم كل تطبيقات الذكاء الاصطناعي وأنظمته في الجهة.</li> <li><strong>توثيق نطاق الاستخدام:</strong> الغرض التشغيلي لكل أداة، والبيانات التي تدخلها، ومخرجاتها.</li> <li><strong>تقييم حساسية البيانات:</strong> مدى سرية البيانات التي تعالجها كل أداة، وتصنيفها.</li> </ul> <h3 id="المرحلة-الثانية-التصنيف-إلى-ثلاثة-مستويات">المرحلة الثانية: التصنيف إلى ثلاثة مستويات</h3> <ul> <li><strong>المستوى الأول، العمليات الداخلية:</strong> أدوات مساندة منخفضة المخاطر لرفع الإنتاجية.</li> <li><strong>المستوى الثاني، الحلول الموجهة للعملاء:</strong> تطبيقات تتفاعل مباشرة مع المستفيدين، وتتطلب نضجاً أعلى.</li> <li><strong>المستوى الثالث، الوكلاء المستقلون:</strong> أنظمة تنفيذية تملك صلاحيات، وتتخذ قرارات ذاتية مقيدة.</li> </ul> <h3 id="المرحلة-الثالثة-صياغة-السياسة-العامة-للمستوى-الأول">المرحلة الثالثة: صياغة السياسة العامة للمستوى الأول</h3> <ul> <li><strong>إرشادات الاستخدام المقبول:</strong> سياسة عامة تضع الضوابط الأساسية لاستخدام الأدوات.</li> <li><strong>حظر إدخال البيانات الحساسة:</strong> منع رفع البيانات السرية والمصنّفة إلى المنصات بشكل صريح.</li> <li><strong>التوعية بحدود قدرات النموذج:</strong> تدريب الموظفين على رصد أخطائه وعدم الاعتماد المفرط عليه.</li> </ul> <h3 id="المرحلة-الرابعة-تطبيق-قاعدة-برّر-القرار">المرحلة الرابعة: تطبيق قاعدة «برّر القرار»</h3> <ul> <li><strong>التبرير الموثّق:</strong> إلزام المراجع البشري بتسجيل أسباب قبول مخرجات النظام أو تعديلها.</li> <li><strong>مستويات التدخل البشري:</strong> اشتراطات واضحة للاعتماد البشري الإلزامي في القرارات عالية الأثر.</li> <li><strong>المتابعة وتدقيق سجلات الاستخدام:</strong> رصد فجوات الأداء، وتوثيق حالات الفشل لتحديث السياسات.</li> </ul> <h2 id="الخلاصة">الخلاصة</h2> <p>الجهات والمنشآت التي تمنع الذكاء الاصطناعي ستتأخر كثيراً، فهو لم يعد رفاهية بل واقعاً مفروضاً. والتي تتركه مفتوحاً على مصراعيه دون تنظيم ستتسبب في كوارث لنفسها ولعملائها ولموظفيها.</p> <p>الحل هو التبني المسؤول، وأن يبقى العقل البشري هو الحَكَم الأخير في أي قرار يصدر عن نظام ذكاء اصطناعي.</p> <h2 id="المراجع">المراجع</h2> <ul> <li>الفطيم، دراسة استخدام المهنيين في الخليج للذكاء الاصطناعي (2026)، كما نشرتها <a href="https://www.middleeastainews.com/p/82-of-gcc-professionals-use-ai-weekly">Middle East AI News، 22 أكتوبر 2026</a> و<a href="https://www.khaleejtimes.com/business/82-of-gcc-workers-use-ai-weekly-but-only-39-feel-confident-study-finds">Khaleej Times، 22 أكتوبر 2026</a>.</li> <li>سدايا، <a href="https://sdaia.gov.sa/ar/MediaCenter/KnowledgeCenter/ResearchLibrary/ExecutiveSummaryAr.pdf">الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي: الملخص التنفيذي</a> (2026).</li> <li>هيئة الاتصالات والفضاء والتقنية، <a href="https://www.cst.gov.sa/ai-adoption-guide-en">دليل التوعية بتبني الذكاء الاصطناعي في شركات التقنية</a> (يوليو 2026).</li> <li>رويترز، «Amazon scraps secret AI recruiting tool that showed bias against women»، 10 أكتوبر 2018؛ كما نشرته <a href="https://www.arabnews.com/node/1385386">Arab News</a>.</li> </ul>سياسة استخدام الذكاء الاصطناعيحوكمة الذكاء الاصطناعيمخاطر الذكاء الاصطناعيسداياالإطار الوطني لإدارة مخاطر الذكاء الاصطناعيmohammed@malqasmi.sa (Mohammed AlQasmi)