حوكمة الذكاء الاصطناعي في الشركات: إطار عملي للاستخدام المسؤول

ينتشر استخدام الذكاء الاصطناعي في الشركات أسرع مما تنتشر القواعد المنظمة له، فكثير من الموظفين يستخدمون أدوات توليد النصوص والتحليل في عملهم اليومي قبل أن تصدر إداراتهم أي توجيه بشأنها. وهنا تظهر الحاجة إلى الحوكمة: لا بوصفها قيدًا على الابتكار، بل إطارًا يحدد ما المسموح، ومن المسؤول، وكيف تُحمى البيانات والأشخاص المتأثرون بالقرارات. ويعرض هذا المقال عناصر هذا الإطار بصورة عملية.

1. لماذا تحتاج الشركة إلى حوكمة للذكاء الاصطناعي

غياب الحوكمة لا يعني غياب الاستخدام، بل يعني استخدامًا عشوائيًا لا تعرف الإدارة حجمه ولا مخاطره. فقد يُدخل موظف عقدًا سريًا في أداة عامة لتلخيصه، وقد يعتمد قسم على نموذج لتصنيف الطلبات دون أن يعرف أحد كيف يتخذ قراراته. وتتمثل المخاطر الرئيسية في:

• تسرب البيانات: خروج معلومات العملاء أو أسرار العمل إلى خدمات خارجية دون ضوابط.
• القرارات غير العادلة: نماذج تميز ضد فئة من الناس دون قصد بسبب بيانات تدريب منحازة.
• الأخطاء غير المكتشفة: اعتماد مخرجات غير صحيحة لأن أحدًا لم يراجعها.
• المخاطر النظامية: مخالفة الالتزامات المتعلقة بالبيانات الشخصية وما يترتب عليها.
• فقدان الثقة: تضرر سمعة الشركة لدى العملاء إذا اكتشفوا استخدامًا لم يُبلَّغوا به.

والحوكمة الجيدة تعالج هذه المخاطر مع إبقاء الطريق مفتوحًا أمام الاستخدامات النافعة.

2. الإطار التنظيمي في المملكة

تعمل الشركات في المملكة ضمن بيئة تنظيمية تهتم بالبيانات والذكاء الاصطناعي اهتمامًا واضحًا. فنظام حماية البيانات الشخصية يحدد التزامات الجهات التي تجمع البيانات الشخصية وتعالجها، ومنها تحديد الغرض من المعالجة، وعدم جمع ما يزيد على الحاجة، وحماية البيانات من الوصول غير المصرح به، واحترام حقوق أصحابها. كما تصدر الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) مبادئ وإرشادات تتعلق بأخلاقيات الذكاء الاصطناعي واستخداماته، وتتناول قيمًا مثل العدالة والشفافية والمساءلة والخصوصية.

ولا يغني هذا المقال عن الرجوع إلى النصوص الرسمية واستشارة المختصين النظاميين، فالتفاصيل تختلف بحسب القطاع وطبيعة البيانات. لكن الفكرة العامة واضحة: الشركة مسؤولة عن أنظمة الذكاء الاصطناعي التي تستخدمها، سواء بنتها بنفسها أو اشترتها من مورد خارجي.

3. سياسة استخدام واضحة للموظفين

أول وثيقة تحتاجها الشركة هي سياسة استخدام قصيرة يفهمها كل موظف دون الحاجة إلى خلفية تقنية. والسياسة الفعالة تجيب عن أسئلة عملية محددة بدل العبارات العامة. ومن أهم ما ينبغي أن تتضمنه:

• الأدوات المعتمدة: قائمة بالأدوات المسموح بها، وطريقة طلب اعتماد أداة جديدة.
• البيانات المحظورة: ما لا يجوز إدخاله في أي أداة خارجية، كالبيانات الشخصية للعملاء والمعلومات المالية غير المعلنة.
• مسؤولية المراجعة: الموظف مسؤول عن صحة أي محتوى ينتجه بمساعدة الأداة قبل استخدامه.
• الإفصاح: متى يجب الإشارة إلى أن المحتوى أُعد بمساعدة الذكاء الاصطناعي.
• الإبلاغ: الجهة التي يتواصل معها الموظف عند ملاحظة خطأ أو استخدام مقلق.

ويُفضل أن تُراجع السياسة دوريًا، لأن الأدوات وطرق استخدامها تتغير بسرعة.

4. الخصوصية وتصنيف البيانات

لا يمكن ضبط استخدام الذكاء الاصطناعي دون معرفة طبيعة البيانات التي تمر عبره. لذلك يُعد تصنيف البيانات حجر الأساس في الحوكمة: ما العام منها، وما الداخلي، وما السري، وما يُعد بيانات شخصية تخضع لحماية خاصة. وعلى أساس هذا التصنيف تتحدد الأدوات التي يجوز استخدامها مع كل فئة.

مثال توضيحي: لنفترض أن إدارة الموارد البشرية تريد استخدام نموذج لغوي لمساعدتها في فرز السير الذاتية. هذه البيانات شخصية بطبيعتها، لذلك تسأل الشركة قبل البدء: أين ستُعالج البيانات؟ هل يحتفظ المورد بها أو يستخدمها في تدريب نماذجه؟ هل أُبلغ المتقدمون بأن طلباتهم ستمر على نظام آلي؟ ومن سيراجع نتائج الفرز؟ الإجابة عن هذه الأسئلة قبل التشغيل أسهل كثيرًا من معالجة المشكلات بعد وقوعها.

5. التحيز والعدالة في مخرجات النماذج

تتعلم النماذج من البيانات التاريخية، وإذا كانت هذه البيانات تعكس أنماطًا غير عادلة فإن النموذج يكررها وقد يضخمها. ولا يحدث ذلك عن سوء نية، بل لأن النموذج يبحث عن الأنماط دون أن يميز بين ما هو مشروع منها وما هو غير مشروع.

مثال توضيحي: لنفترض أن شركة تمويل بنت نموذجًا لتقييم طلبات التمويل اعتمادًا على قراراتها السابقة. إذا كانت الطلبات القادمة من منطقة معينة قد رُفضت تاريخيًا لأسباب لم تعد قائمة، فقد يتعلم النموذج رفضها تلقائيًا. ولاكتشاف ذلك تحتاج الشركة إلى اختبار مخرجات النموذج على فئات مختلفة من المتقدمين، ومقارنة النتائج، ومراجعة المتغيرات التي يعتمد عليها. ويُستحسن أن يتولى هذه المراجعة فريق متنوع يجمع خبرات الأعمال والبيانات والجانب النظامي، لأن التحيز قد لا يظهر لمن ينظر من زاوية واحدة.

6. الشفافية والإشراف البشري

من حق من يتأثر بقرار أن يعرف أن نظامًا آليًا شارك فيه، وأن يجد طريقًا للاعتراض عليه. والشفافية هنا لا تعني نشر تفاصيل النموذج التقنية، بل إبلاغ الناس بما يكفي لفهم ما يجري. ومن الممارسات المفيدة في هذا الجانب:

• الإفصاح للمستخدم: إبلاغ العميل بأنه يتعامل مع نظام آلي عندما يكون الأمر كذلك.
• قابلية التفسير: القدرة على توضيح العوامل الرئيسية التي أثرت في قرار معين.
• حق المراجعة: إتاحة طريق واضح لطلب مراجعة بشرية للقرار.
• مستويات الإشراف: تحديد القرارات التي يكفي فيها الإشراف العام، والقرارات التي يجب أن يعتمدها إنسان قبل تنفيذها.

وكلما زاد أثر القرار على حياة الناس أو أموالهم، زادت الحاجة إلى إشراف بشري مباشر.

7. الأدوار والمسؤوليات والمراجعة الدورية

الحوكمة التي لا يملكها أحد تتحول إلى وثيقة منسية. لذلك تحتاج الشركة إلى تحديد واضح للأدوار: من يعتمد الأدوات الجديدة، ومن يقيّم المخاطر قبل إطلاق أي نظام، ومن يتابع أداءه بعد التشغيل. وفي الشركات الكبيرة قد تتولى ذلك لجنة تضم ممثلين عن التقنية والشؤون النظامية والأمن السيبراني والأعمال، أما في الشركات الأصغر فقد يكفي مسؤول واحد بصلاحيات واضحة.

ومن الأدوات العملية سجل لأنظمة الذكاء الاصطناعي المستخدمة، يوثق لكل نظام الغرض منه، ومصادر بياناته، والمسؤول عنه، ومستوى المخاطر، وتاريخ آخر مراجعة. كما ينبغي مراجعة الأنظمة دوريًا، لأن أداء النموذج قد يتراجع مع تغير البيانات والظروف، وما كان مقبولًا عند الإطلاق قد لا يبقى كذلك بعد مدة.

الخلاصة

حوكمة الذكاء الاصطناعي ليست مشروعًا قانونيًا منفصلًا عن العمل، بل طريقة لإدارة أداة قوية بمسؤولية. وتبدأ بخطوات واضحة: سياسة استخدام يفهمها الموظفون، وتصنيف للبيانات يحدد ما يجوز إدخاله في كل أداة، والتزام بنظام حماية البيانات الشخصية وبالمبادئ التي تصدرها سدايا، واختبار للنماذج بحثًا عن التحيز، وشفافية مع المتأثرين بالقرارات، وأدوار محددة للمساءلة. والشركة التي تبني هذا الإطار مبكرًا تتوسع في استخدام الذكاء الاصطناعي بثقة أكبر، لأن موظفيها يعرفون الحدود، وعملاءها يطمئنون إلى طريقة التعامل مع بياناتهم. ولا يلزم أن يكتمل الإطار دفعة واحدة، فالبدء بالسياسة والسجل ثم تطويرهما مع الخبرة نهج واقعي لأغلب الشركات.