جودة البيانات أساس نجاح الذكاء الاصطناعي: الجمع والتنظيف والتوثيق والملكية
- نُشر في:
- مدة القراءة: 4 دقائق
- الكاتب: فريق كُميت
يتجه الاهتمام في مشاريع الذكاء الاصطناعي عادة إلى النماذج والخوارزميات، بينما يتحدد مصير أغلب هذه المشاريع في مرحلة أقل بريقًا: مرحلة البيانات. فالنموذج يتعلم مما يُقدَّم له، فإذا كانت البيانات ناقصة أو متضاربة أو غير ممثلة للواقع، جاءت نتائجه على الصورة نفسها مهما كان متقدمًا. ويتناول هذا المقال أربعة محاور لبناء بيانات يمكن الاعتماد عليها: الجمع، والتنظيف، والتوثيق، والملكية.
1. ماذا تعني جودة البيانات عمليًا
جودة البيانات ليست صفة واحدة، بل مجموعة أبعاد يمكن فحص كل منها على حدة. والبيانات الجيدة لمشروع معين قد لا تكون كافية لمشروع آخر، لأن الجودة تُقاس دائمًا بالغرض الذي ستُستخدم فيه. ومن أهم أبعادها:
- الاكتمال: هل الحقول الأساسية معبأة في أغلب السجلات، أم أن كثيرًا منها فارغ؟
- الدقة: هل تعكس القيم المسجلة الواقع فعلًا، كعنوان العميل الصحيح أو الكمية المباعة الفعلية؟
- الاتساق: هل يُسجَّل الشيء نفسه بالطريقة نفسها في كل الأنظمة والأقسام؟
- الحداثة: هل تُحدَّث البيانات بالسرعة التي يحتاجها الاستخدام؟
- التفرد: هل يظهر العميل أو المنتج الواحد مرة واحدة، أم في سجلات مكررة بأسماء مختلفة؟
- التمثيل: هل تغطي البيانات الحالات المختلفة التي سيواجهها النموذج، أم تقتصر على فئة أو فترة محدودة؟
تحديد الأبعاد الأهم لكل مشروع يوجّه الجهد إلى المكان الصحيح بدل محاولة إصلاح كل شيء دفعة واحدة.
2. جمع البيانات من مصادر متعددة
نادرًا ما تأتي البيانات اللازمة لمشروع واحد من نظام واحد. فبيانات العملاء قد تكون في نظام إدارة علاقات العملاء، والمبيعات في نظام تخطيط الموارد، والتفاعلات في منصات التواصل والجداول اليدوية. والخطوة الأولى هي رسم خريطة لهذه المصادر: ما الذي يحتويه كل مصدر، وكيف يُحدَّث، ومن يديره، وما المفتاح الذي يربط سجلاته بالمصادر الأخرى.
مثال توضيحي: لنفترض أن سلسلة صيدليات تريد بناء نموذج يتوقع احتياج كل فرع من الأدوية. عند جمع البيانات يتضح أن بعض الفروع تسجل المبيعات برمز المنتج، وأخرى باسمه التجاري، وأن التحويلات بين الفروع تُوثق في جداول منفصلة. هنا يصبح توحيد رموز المنتجات وربط التحويلات بالمبيعات شرطًا مسبقًا لأي تحليل. كما ينبغي التأكد من أن جمع البيانات واستخدامها يتوافقان مع الغرض المعلن ومع نظام حماية البيانات الشخصية، خاصة إذا تضمنت بيانات تخص الأفراد.
3. تنظيف البيانات وتجهيزها
التنظيف هو العمل الذي يستهلك غالبًا الجزء الأكبر من وقت فرق البيانات، وهو عمل لا يمكن تجاوزه. والهدف منه ليس الوصول إلى بيانات مثالية، بل إلى بيانات صالحة للغرض المحدد، مع توثيق كل تعديل أُجري عليها. ومن أبرز مهامه:
- إزالة التكرار: دمج السجلات التي تشير إلى العميل أو المنتج نفسه رغم اختلاف كتابتها.
- معالجة القيم المفقودة: تقرير ما إذا كانت تُستكمل من مصدر آخر، أو تُقدَّر بطريقة منطقية، أو تُستبعد السجلات الناقصة.
- توحيد الصيغ: كتوحيد صيغ التواريخ وأرقام الهواتف والوحدات وكتابة الأسماء العربية بأشكالها المختلفة.
- اكتشاف القيم الشاذة: مراجعة القيم البعيدة عن المألوف، فقد تكون خطأ إدخال أو حدثًا حقيقيًا يستحق الفهم.
- تصحيح التصنيفات: التأكد من أن الفئات والوسوم مستخدمة بالمعنى نفسه في جميع السجلات.
والأهم أن يتحول التنظيف من جهد لمرة واحدة إلى ضوابط دائمة عند نقطة الإدخال، حتى لا تتكرر المشكلات نفسها.
4. توثيق البيانات وفهم سياقها
البيانات غير الموثقة تفقد قيمتها بمرور الوقت، لأن من يفهم معناها قد ينتقل إلى عمل آخر أو ينسى التفاصيل. والتوثيق الجيد يجيب عن أسئلة بسيطة لكنها حاسمة: ما معنى كل حقل؟ ما مصدره؟ متى يُحدَّث؟ ما القيم المسموح بها؟ وما التغييرات التي طرأت على طريقة تسجيله عبر الزمن؟
مثال توضيحي: لنفترض أن فريقًا يبني نموذجًا يتنبأ بإلغاء العملاء لاشتراكاتهم، ويعتمد على حقل اسمه «حالة الحساب». بعد أسابيع من العمل يكتشف أن تعريف «الحساب غير النشط» تغيّر في منتصف الفترة التاريخية بقرار إداري لم يُوثق، فصار الحقل نفسه يحمل معنيين مختلفين. كان قاموس بيانات بسيط يسجل هذا التغيير سيوفر على الفريق وقتًا طويلًا ويجنبه نتائج مضللة. لذلك يُنصح ببناء قاموس للبيانات وسجل للتغييرات، وتحديثهما ضمن الإجراءات المعتادة لا بوصفهما مهمة إضافية.
5. ملكية البيانات والمسؤولية عن جودتها
حين تكون البيانات مسؤولية الجميع، فإنها في الواقع لا تكون مسؤولية أحد. لذلك تحتاج الشركة إلى تحديد مالك من جهة الأعمال لكل مجموعة بيانات رئيسية، كبيانات العملاء أو المنتجات أو الموردين. هذا المالك لا يُطلب منه العمل التقني، بل يتولى تحديد التعريفات المعتمدة، وقواعد الجودة، ومن يحق له الوصول إلى البيانات وتعديلها.
وإلى جانب المالك، يحتاج العمل اليومي إلى أمناء بيانات يتابعون الجودة ويعالجون المشكلات عند ظهورها، وإلى فريق تقني يوفر الأدوات والضوابط. ومن المفيد وضع مؤشرات بسيطة تُراجع دوريًا، كعدد السجلات المكررة أو الحقول الفارغة في البيانات الأساسية، حتى تظهر المشكلات مبكرًا. وتنسجم هذه الممارسات مع التوجه الوطني نحو حوكمة البيانات الذي تقوده الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)، وتفيد الشركة في تقاريرها وقراراتها اليومية قبل أي مشروع ذكاء اصطناعي.
الخلاصة
نجاح مشروع الذكاء الاصطناعي يبدأ قبل اختيار النموذج بوقت طويل. فالبيانات تحتاج إلى خريطة واضحة لمصادرها، وتنظيف يجعلها صالحة للغرض، وتوثيق يحفظ معناها وسياقها، ومالك يتحمل المسؤولية عن جودتها. وهذا الاستثمار لا يخدم مشروعًا واحدًا، بل يصبح أساسًا تبني عليه الشركة مشاريعها اللاحقة بسرعة أكبر ومخاطر أقل. وإذا كان لا بد من البدء من نقطة واحدة، فابدأ بمجموعة البيانات التي يعتمد عليها أول مشروع تخطط له، وأصلحها جيدًا، ثم انقل التجربة إلى بقية البيانات. وتذكّر أن الجودة ليست حالة تصل إليها مرة واحدة، بل ممارسة مستمرة تحتاج إلى متابعة كلما تغيرت الأنظمة أو الإجراءات أو مصادر البيانات.
الأسئلة الشائعة
لماذا تفشل بعض مشاريع الذكاء الاصطناعي رغم استخدام نماذج متقدمة؟
كثيرًا ما يعود السبب إلى البيانات لا إلى النموذج، كأن تكون ناقصة أو مكررة أو متضاربة التعريفات أو غير ممثلة للحالات الحقيقية التي سيتعامل معها النظام.
ما الفرق بين تنظيف البيانات وحوكمة البيانات؟
التنظيف عمل فني لمعالجة الأخطاء والتكرار والقيم المفقودة، أما الحوكمة فإطار يحدد الملكية والتعريفات وقواعد الجودة والصلاحيات حتى لا تتكرر المشكلات.
من يجب أن يكون مسؤولًا عن جودة البيانات في الشركة؟
يُفضل أن يكون لكل مجموعة بيانات رئيسية مالك من جهة الأعمال يحدد التعريفات وقواعد الجودة، يدعمه أمناء بيانات يتابعون العمل اليومي وفريق تقني يوفر الأدوات.
ما هو قاموس البيانات ولماذا نحتاجه؟
هو وثيقة تشرح معنى كل حقل ومصدره وقيمه المسموح بها وتغيراته عبر الزمن، ويساعد الفرق على فهم البيانات واستخدامها بصورة صحيحة دون الاعتماد على ذاكرة الأشخاص.
كتب بواسطة
فريق كُميت
فريق كُميت للإنتاج الإبداعي والتسويق في الرياض، يكتب هنا عن التقنية والتحول الرقمي من واقع المشاريع التي يعمل عليها.