قبل أن تثق في تدفّق ذكاء اصطناعي، احسم سؤال: من يملك الأدلة؟

كثير من المؤسسات بات لديها اليوم تدفّقات ذكاء اصطناعي تعمل فعلاً. لكن عددًا أقل بكثير منها يستطيع أن يثبت، بثقة، ما الأدلة التي تخلّفها هذه التدفّقات وراءها.

هذه الفجوة أهم مما تبدو عليه في البداية. ففي المرحلة التجريبية قد تكفي لقطة شاشة من لوحة متابعة أو عرض مطمئن من المزوّد. أما في الإنتاج، وخصوصًا داخل العمليات الحساسة أو المرتبطة بالامتثال، فإن الإدارة تحتاج في النهاية إلى إجابات أكثر صلابة: ماذا حدث؟ ما البيانات التي شكّلت النتيجة؟ من راجع؟ ما الذي تغيّر؟ وهل تستطيع المؤسسة استرجاع هذا السجل من دون أن تبقى رهينة لواجهة المزوّد أو حسن تعاونه؟

لهذا أصبح امتلاك الأدلة سؤال حوكمة استراتيجيًا. فقبل أن تسأل المؤسسة إن كان تدفّق الذكاء الاصطناعي سريعًا أو مبهرًا، ينبغي أن تسأل إن كانت أدلته التشغيلية تبقى متاحة وقابلة للمراجعة والنقل عندما يفرض التدقيق أو الحوادث أو تغيير المزوّد نظرةً أدق.

ما المقصود فعلًا بامتلاك الأدلة؟

امتلاك الأدلة لا يعني امتلاك كل مكوّن تقني في البنية. المقصود هو امتلاك القدرة العملية على إعادة بناء سلوك التدفّق. وهذا يشمل غالبًا سجلات الأحداث، والتعليمات أو الأوامر عند الحاجة، والمراجع المصدرية، والموافقات، والاستثناءات، والتجاوزات، والطوابع الزمنية، والسجلات التي تُظهر أي إنسان أو حساب نظام كان مسؤولًا عن كل خطوة ذات معنى.

بصياغة أخرى: القضية ليست هل توجد الأدلة في مكان ما فحسب. القضية هي: هل تستطيع مؤسستك تصديرها، والاحتفاظ بها للفترة المناسبة، والاستعلام عنها بلا تعقيد، وربطها بالقرار التجاري عندما يحدث خلل أو عندما يطلب المدقّق دليلًا واضحًا؟

لماذا لا يُعدّ هذا مجرد تفضيل تقني؟

يضع إطار NIST لإدارة مخاطر الذكاء الاصطناعي الحوكمة والقياس والإدارة في قلب الممارسة الموثوقة. فوظائفه الأساسية منظّمة حول الحوكمة، ورسم السياق، والقياس، والإدارة، ويؤكد الإطار أن الحوكمة وظيفة عابرة يجب أن تسري عبر بقية الوظائف كلها. وهذه نقطة مهمة لأنها تنقل النقاش من قائمة الخصائص إلى منطق التشغيل. فإذا كانت إدارة مخاطر الذكاء الاصطناعي تعتمد على الحوكمة والقياس، فلا بد من أدلة تُثبت أن هذه الأنشطة حدثت فعلًا.

كما يوضح NIST أن إدارة المخاطر الفعّالة تحتاج إلى آليات مساءلة مناسبة، وأدوار ومسؤوليات واضحة، وثقافة تنظيمية، وبنية حوافز ملائمة. ومن الصعب تحقيق ذلك إذا كان السجل الفعلي لسلوك النظام ناقصًا، أو قصير العمر، أو محبوسًا داخل لوحة طرف ثالث لا يملك العميل سيطرة حقيقية عليها.

وتأتي مطبوعة NIST الأخرى Guide to Computer Security Log Management لتضع النقطة التشغيلية بصياغة مباشرة: الإدارة السليمة للسجلات ضرورية لضمان حفظ السجلات الأمنية بالتفصيل الكافي وللفترة المناسبة. كما تشير إلى أن التحليل الروتيني للسجلات يفيد في اكتشاف الحوادث الأمنية، ومخالفات السياسات، والنشاط الاحتيالي، والمشكلات التشغيلية، ويدعم التدقيق والتحليل الجنائي والتحقيقات الداخلية. وتدفّقات الذكاء الاصطناعي لا تخرج عن هذه القاعدة؛ بل تزيدها أهمية، لأن المسار من المدخل إلى النتيجة قد يكون أصعب تفسيرًا من البرمجيات التقليدية.

ما الذي تسيء المؤسسات فهمه عادة؟

أول سوء فهم هو الخلط بين الرؤية والسيطرة. قد يوفّر المزوّد لوحات متابعة وتتبّعًا للتشغيل وسجلًا مرئيًا جميلًا، لكنه يترك العميل معتمدًا على أنماط وصول خاصة بالمنصة، أو فترات احتفاظ قصيرة، أو إمكانات تصدير محدودة. هذه رؤية، وليست امتلاكًا للأدلة.

وثاني سوء فهم هو التعامل مع الأدلة على أنها قضية امتثال فقط. في الواقع، هي مسألة تشغيلية أيضًا. فعندما ينتج تدفّق مدعوم بالذكاء الاصطناعي توصية خاطئة، أو يفوّت استثناءً، أو يوجّه العمل على نحو غير صحيح، تحتاج المؤسسة إلى معرفة ما إذا كان الخلل نابعًا من البيانات المصدرية، أو حدود الاسترجاع، أو تعليمات النموذج، أو قاعدة الموافقة، أو تجاوز بشري. ومن دون أدلة قابلة لإعادة البناء، تتحول النقاشات إلى انطباعات.

أما سوء الفهم الثالث فهو افتراض أن جميع التدفقات تحتاج المستوى نفسه من الأدلة. وهذا غير صحيح. فمساعد داخلي منخفض المخاطر لا يحتاج إلى الصرامة نفسها التي يحتاجها تدفّق يؤثر في قرارات العملاء، أو وثائق الامتثال، أو العمليات الأمنية، أو الموافقات المنظمة. المطلوب هو ضبط متناسب مع مستوى الخطر، لا بيروقراطية شاملة.

إطار عملي لتقييم امتلاك الأدلة

1. التقط الأحداث المهمة لا النتيجة النهائية فقط

حفظ المخرَج وحده لا يكفي. يجب أن يشمل السجل المحفّزات، ونقاط القرار، والموافقات، ومعالجة الاستثناءات، واستخدام المصادر، وأي تغييرات جوهرية في النظام. وإلا فستحتفظ المؤسسة بالنتائج دون أن تحتفظ بسياقها.

2. احفظ المساءلة البشرية إلى جانب نشاط النظام

إذا قام إنسان بالمراجعة أو الموافقة أو التصعيد أو التجاوز، فيجب أن يصبح ذلك جزءًا من السجل. يضعف امتلاك الأدلة عندما يعيش تاريخ النظام في مكان، ويعيش تاريخ القرار البشري في مكان آخر، ولا يمكن التوفيق بينهما بسرعة.

3. اجعل الأدلة قابلة للتصدير والاستعلام

الأدلة التي لا يمكن تصديرها بصيغة عملية هي أدلة هشّة تشغيلًا. وينبغي أن تعرف الإدارة هل يمكن نقل السجلات إلى الأرشيف الداخلي، أو أدوات الأمن، أو أنظمة إدارة القضايا، أو ملفات التدقيق، من دون جهد يدوي استثنائي.

4. حدّد الاحتفاظ والوصول عن قصد

تشدد إرشادات NIST الخاصة بالسجلات على ضرورة الاحتفاظ بتفصيل كافٍ وللمدة المناسبة. وهذا يفرض قرارات صريحة بشأن مدة الاحتفاظ، وصلاحيات الوصول، وحماية سلامة السجلات. ولا يمكن وصف تدفّق بأنه جاهز للإنتاج إذا لم يستطع أحد الإجابة: إلى متى تبقى سجلاته متاحة؟ ومن يستطيع استرجاعها؟ وكيف يمكن كشف العبث بها؟

5. اختبر القدرة على إعادة البناء تحت الضغط

الاختبار الحقيقي ليس أن يقول المزوّد إن أثر التدقيق موجود. الاختبار الحقيقي هو: هل يستطيع فريقك أن يأخذ تشغيلًا سابقًا فعليًا ويعيد بناء ما حدث من البداية إلى النهاية خلال وقت معقول؟ إذا فشل هذا التمرين، فمعنى ذلك أن الضبط أضعف مما توحي به الكتيبات.

لماذا تزداد أهمية هذه القضية الآن؟

كلما انتقل الذكاء الاصطناعي من المساعدة المنفصلة إلى التدفّقات التشغيلية، ارتفعت كلفة ضعف الأدلة. ففرق المشتريات تحتاج إلى مقارنة المنصات بأكثر من سهولة الاستخدام. وفرق الامتثال تحتاج إلى سجلات تصمد أمام الفحص. وفرق الأمن تحتاج إلى تفاصيل كافية للتحقيق في السلوك غير المعتاد. أما قادة العمليات فيحتاجون إلى التمييز بين مشكلة في النموذج ومشكلة في العملية نفسها. وامتلاك الأدلة يقع تحت هذه المخاوف كلها.

ولهذا أيضًا تتحول نماذج تشغيل الذكاء الاصطناعي من مرحلة الانبهار إلى مرحلة الانضباط. فعندما يؤثر التدفّق في الموافقات، أو الاستثناءات، أو تعاملات العملاء، أو الضوابط الداخلية، فإن المؤسسة لا تشتري راحةً فحسب، بل تشتري سطح تشغيل سيُطلب منه لاحقًا أن يصمد أمام المراجعة.

حدود وتكاليف ينبغي الاعتراف بها

امتلاك الأدلة ليس مجانيًا. فالسجلات الأعمق تعني تكاليف تخزين، وقرارات احتفاظ، واعتبارات خصوصية، وحملًا إضافيًا على العملية. وبعض البيانات لا ينبغي الاحتفاظ بها إلى أجل غير مسمى، وبعض الأوامر أو المدخلات قد تحتاج إلى تقليل أو تنقيح. لذلك فالحل ليس تسجيل كل شيء إلى الأبد، بل تصميم نموذج أدلة متناسب مع خطر التدفّق، وحساس لالتزامات الخصوصية، وقابل للاستخدام من الفرق التي قد تحتاجه لاحقًا.

ومن غير الواقعي أيضًا أن تتوقع كل جهة مشتَرية بناء طبقة أدلة داخلية مثالية من اليوم الأول. لكن من المعقول تمامًا أن تطلب منصة تجعل السيطرة على الأدلة ممكنة، لا صعبة بنيويًا.

أسئلة ينبغي أن يطرحها القادة قبل الاعتماد

• هل نستطيع إعادة بناء تشغيل واحد كامل من المحفّز إلى النتيجة من دون الاعتماد على لقطات شاشة؟
• ما الموافقات والتجاوزات والاستثناءات التي تُحفَظ ضمن السجل الدائم؟
• هل يمكننا تصدير الأدلة بصيغة عملية إذا غيّرنا المزوّد أو واجهنا تدقيقًا؟
• إلى متى تُحتفَظ السجلات، ومن يسيطر على هذه السياسة؟
• أي التدفقات عالية المخاطر تحتاج إلى معايير أدلة أقوى من حالات الاستخدام الداخلية منخفضة المخاطر؟

خطوة عملية أولى

اختر تدفّق ذكاء اصطناعي حيًا يؤثر في عملية حساسة، ثم نفّذ تمرين إعادة بناء كامل. اطلب من المالك أن يعرض السجل الكامل لحالة تاريخية واحدة: ما الذي دخل التدفّق، وماذا فعل النظام، وما المصادر التي استخدمها، ومن وافق، وما الاستثناءات التي ظهرت، وكيف يمكن تصدير الأدلة إذا لزم الأمر. هذا التمرين الواحد يكشف غالبًا إن كانت المؤسسة تملك الأدلة فعلًا أم تستعير مجرد الرؤية إليها.

الخلاصة الأوسع

الذكاء الاصطناعي الموثوق لا تصنعه المخرجات وحدها، بل تصنعه القدرة على حوكمة هذه المخرجات ومراجعتها وشرح كيف تكوّنت تحت ظروف تشغيل حقيقية. فعندما تبقى الأدلة تحت سيطرتك، يصبح التدقيق أسهل، والحوادث أكثر قابلية للتشخيص، وقرارات تغيير المزوّد أقل خطورة. أما عندما لا تبقى كذلك، فتبقى الحوكمة ناقصة وقابلة للادعاء أكثر من قابليتها للإثبات.

لهذا يجب التعامل مع امتلاك الأدلة بوصفه شرطًا تشغيليًا، لا مجرد وسيلة تقريرية. قبل أن تثق في تدفّق ذكاء اصطناعي، احسم سؤال: من يملك الأدلة؟