أين يجب أن ينتهي الضبط الحتمي… وأين يجب أن يبدأ حكم الذكاء الاصطناعي؟

حين تناقش المؤسسات إدخال الذكاء الاصطناعي إلى سير العمل، يكون السؤال الشائع: هل نستخدم الذكاء الاصطناعي هنا أم لا؟ لكن السؤال الأهم في العادة هو: في أي نقطة ينبغي أن يبقى القرار تحت سيطرة منطق حتمي واضح، وفي أي نقطة يمكن للذكاء الاصطناعي أن يمارس حكمًا تفسيريًا، ومتى يجب أن يظل الإنسان هو صاحب القرار المسؤول؟ كثير من الأعطال التشغيلية تبدأ من غياب هذا الحد الفاصل. فإما أن تُدفَع النماذج إلى مواضع تحتاج إلى قواعد ثابتة، أو تُحمَّل الفرق البشرية مراجعات يدوية واسعة تمنع التوسع الحقيقي.

من منظور NOVA، لا ينبغي التعامل مع الذكاء الاصطناعي بوصفه بديلًا عامًا عن القرار، بل كطبقة تفيد حين تكون المهمة قائمة على تفسير الغموض، أو ترتيب الأولويات، أو قراءة مدخلات غير مهيكلة. أما حين تكون المهمة مرتبطة بالتزامات، أو موافقات، أو حسابات، أو إجراءات لا يمكن التراجع عنها بسهولة، فيجب أن يبقى الضبط الأساسي حتميًا وواضحًا. هذا ليس تفضيلًا تقنيًا فحسب، بل قرار تشغيلي يمسّ المخاطر والإنتاجية وقابلية التدقيق.

لماذا أصبحت هذه الحدود مسألة ملحّة الآن؟

الأطر المرجعية الموثوقة تسير في الاتجاه نفسه. فدليل NIST المرافق لإطار إدارة مخاطر الذكاء الاصطناعي يدعو المؤسسات إلى النظر في البدائل غير المعتمدة على الذكاء الاصطناعي، وإلى تحديد سياق الاستخدام، وتوثيق المستوى المناسب من التدخل البشري في القرارات المعززة بالذكاء الاصطناعي. كما تؤكد مبادئ OECD للذكاء الاصطناعي ضرورة وجود ضمانات وآليات تدعم الفاعلية البشرية والإشراف البشري بما يلائم السياق. ويذهب قانون الذكاء الاصطناعي الأوروبي أبعد من ذلك في الأنظمة عالية المخاطر، إذ تنص المادة 14 على الإشراف البشري الفعّال، بينما تفرض المادة 12 سجلات تشغيل تدعم التتبّع والمراقبة. الرسالة المشتركة هنا واضحة: جودة النموذج وحدها لا تكفي؛ الأهم هو تحديد نوع الضبط المطلوب في كل خطوة.

ما الذي تُخطئ فيه المؤسسات عادةً؟

أحد الأخطاء الشائعة هو معاملة الذكاء الاصطناعي كبديل عام للحكم البشري. لكن ليست كل القرارات أفضل حين تُدار بمنطق احتمالي. فحدود الصلاحيات، وشروط الأهلية، ومسارات الموافقات، وتنفيذ المدفوعات، والاحتفاظ بالسجلات، وضوابط الوصول، كلها تحتاج غالبًا إلى منطق ثابت قبل أي شيء آخر. وإذا أُسندت هذه الوظائف إلى نموذج حرّ الصياغة، فقد تكسب المؤسسة مرونة ظاهرية لكنها تخسر الاتساق وقابلية الإثبات.

وفي المقابل، ترتكب بعض المؤسسات الخطأ المعاكس: تُبقي الذكاء الاصطناعي محصورًا في صياغة نصوص منخفضة القيمة، بينما تواصل الفرق البشرية فرز الاستثناءات يدويًا، وتصنيف القضايا، ومقارنة الحالات بالسوابق. هنا يكون الذكاء الاصطناعي حاضرًا شكليًا، لكنه عاجز بنيويًا عن تحسين التشغيل.

أين يجب أن يبقى الضبط الحتمي هو الأساس؟

• إنفاذ السياسات: إذا كانت القاعدة معروفة مسبقًا، فيجب ترميزها بوضوح. ففحوص الأهلية، وتوجيه الموافقات، وحدود الإنفاق، وقواعد الاحتفاظ، وفصل الصلاحيات، لا ينبغي أن تتبدل تبعًا لتقدير نموذج.
• الإجراءات ذات الأثر غير القابل للتراجع بسهولة: مثل تحويل الأموال، أو إغلاق الحسابات، أو تغيير الصلاحيات، أو إرسال إفصاحات تنظيمية، أو حذف السجلات. هذه الأعمال تحتاج إلى منطق صريح وبوابات موافقة واضحة.
• إنشاء الأدلة وحفظ سلامة السجل: سجلات التدقيق، والطوابع الزمنية، وهوية المراجع، وحفظ المصادر، كلها تحتاج إلى تعامل حتمي يمكّن المؤسسة من إعادة بناء ما حدث لاحقًا.
• القيود المتعلقة بالسلامة والامتثال: ما هو محظور سلفًا، أو ما يستدعي تصعيدًا إلزاميًا، أو ما يرتبط بمتطلبات اختصاص قانوني معين، ينبغي ضبطه قبل السماح لمخرجات الذكاء الاصطناعي بالتأثير في النتيجة.

وأين يضيف حكم الذكاء الاصطناعي قيمة حقيقية؟

• تفسير المدخلات المعقدة أو غير المهيكلة: مثل تلخيص المراسلات، وتصنيف القضايا، واستخراج النية، ورصد المشكلات المحتملة عبر كمّ كبير من المواد النصية.
• الفرز وترتيب الأولويات: كترتيب الاستثناءات، وتوجيه الحالات إلى المسار المناسب، وإبراز ما يستحق مراجعة بشرية أسرع.
• دعم القرار لا تنفيذه مباشرة: مثل تجهيز خيارات للمراجع، أو إبراز سوابق مشابهة، أو اقتراح تفسير أو خطوة تالية يمكن قبولها أو تعديلها أو رفضها.
• التعامل مع الحالات الحدّية: حين يواجه سير العمل غموضًا لم تتوقعه القواعد الثابتة، يمكن للذكاء الاصطناعي أن يساعد في تضييق الاحتمالات بدل أن يُترك ليحسم النتيجة وحده.

الفارق الجوهري هو أن الذكاء الاصطناعي ينبغي أن يُستخدم غالبًا لتحسين الفهم قبل أن يُسمح له بإطلاق فعل ذي أثر مباشر. وهنا يظهر الفرق بين المساعدة والانفلات.

إطار عملي لتحديد الحد الفاصل

يمكن للقيادات أن ترسم حدًا تشغيليًا أكثر صحة إذا طرحت أربعة أسئلة على كل خطوة في سير العمل:

1. هل تحكم هذه الخطوة قاعدة أم تفسير؟ إذا كانت هناك قاعدة ثابتة، فالأصل أن تتولاها طبقة حتمية. أما إذا كانت المهمة قائمة على اللغة أو المقارنة أو الغموض، فقد يكون الذكاء الاصطناعي مناسبًا.
2. ما تكلفة الخطأ؟ كلما ارتفع الأثر على العملاء أو الحقوق أو الأموال أو الامتثال، زادت الحاجة إلى مراجعة بشرية وضوابط صريحة وسجل قابل للتتبع.
3. هل يمكن شرح النتيجة وإعادة بنائها لاحقًا؟ إذا كانت الإجابة لا، فسير العمل غير جاهز بعد للاستخدام المؤثر.
4. من يملك حق الاعتراض أو الإلغاء أو التصعيد؟ التشغيل الجاد يحتاج إلى مسار رجوع واضح، لا إلى مخرجات فقط.

لماذا يعدّ هذا التوازن قرارًا استراتيجيًا؟

تصميم الحدود لا يحدد مستوى الأمان وحده، بل يحدد أيضًا اقتصاديات التشغيل. فإذا بقي كثير من العمل يدويًا، تتضخم طوابير الاستثناءات ولا يتحسن نموذج الجهد. وإذا جرى تفويض كثير من الخطوات إلى الذكاء الاصطناعي بلا حدود واضحة، ترتفع لاحقًا كلفة الحوادث وإعادة العمل وعبء الحوكمة. أما النماذج التشغيلية الأقوى، فهي التي تستخدم الضبط الحتمي لتضييق مساحة القرار، ثم تستخدم الذكاء الاصطناعي لتفسير ما بقي غامضًا، وتُبقي المراجعة البشرية للحالات الأعلى أثرًا أو لفحوص الجودة المنتظمة.

أسئلة تشخيص سريعة للقيادة

• ما الخطوات في برامجنا الحالية التي لا تزال بلا مالك واضح: طبقة قواعد، أم نموذج، أم مراجع بشري؟
• أين نستخدم الذكاء الاصطناعي في موضع يمكن لقواعد ثابتة أن تؤديه بصورة أوثق؟
• وأين نُبقي البشر في عمل تفسيري متكرر كان يمكن للذكاء الاصطناعي أن يضيّق نطاقه أو ينظّمه؟
• هل تُظهر سجلاتنا ما الذي اقترحه النظام، وما الذي غيّره الإنسان، وما الإجراء النهائي الذي اتُّخذ؟
• هل يستطيع مسؤول المخاطر أو التدقيق أو العمليات أن يشرح سبب هذا الحد الفاصل في كل سير عمل عالي الأثر؟

بداية عملية مفيدة

اختر سير عمل واحدًا قيد الإنتاج، ثم ارسمه سطرًا بسطر. صنّف كل خطوة إلى: ضبط حتمي، أو حكم ذكاء اصطناعي، أو موافقة بشرية. بعد ذلك ابحث عن مواضع الخلل: قواعد تُركت للنموذج، ومهام تفسير ما تزال يدوية بالكامل، وإجراءات لا تملك نقطة إلغاء أو مساءلة واضحة. غالبًا ما يكشف هذا التمرين دينًا تصميميًا أسرع من أي تجربة جديدة.

الغاية ليست المزيد من الذكاء الاصطناعي

الغاية الحقيقية ليست تعظيم استخدام النماذج، بل وضع الحكم في المكان الذي يحسن العمل، ووضع الضبط في المكان الذي يجب أن تبقى فيه المؤسسة دقيقة وصريحة. المؤسسات التي تنجح هنا ليست معادية للذكاء الاصطناعي ولا مبهورة به، بل واعية بما يجب أن يبقى ثابتًا، وما يمكن أن يتكيّف، وما الأدلة التي ستحتاج إليها إذا جرى التشكيك في النتائج لاحقًا.

وللاستكمال، يمكن قراءة ماذا نقيس بدلًا من استخدام الذكاء الاصطناعي؟ وقبل أن تثق في تدفّق ذكاء اصطناعي، احسم سؤال: من يملك الأدلة؟.