لماذا تتعثر حوكمة الذكاء الاصطناعي بين السياسة والممارسة اليومية؟
فريق نوفا
تملك مؤسسات كثيرة اليوم سياسةً للذكاء الاصطناعي، وقائمةً بالأدوات المعتمدة، وشريحةً تعريفية تشرح من يملك الإشراف. لكن العمل اليومي يجري غالبًا في مكانٍ آخر. يجرّب الموظفون أدوات غير معتمدة، أو ينسخون مواد حسّاسة إلى واجهات استهلاكية، أو يتجاوزون المسار الرسمي لأن الطريق المعتمد أبطأ من اللازم أو أضيق من الحاجة أو غير واضح في التطبيق. وعندما يحدث ذلك، لا يكون الخلل مجرد سلوك فردي، بل خللًا في التصميم التشغيلي نفسه.
هذه هي الفجوة بين السياسة والممارسة اليومية. على الورق، تبدو المؤسسة وكأنها تحكم استخدام الذكاء الاصطناعي. أما في الواقع، فقرارات العمل تتشكل عبر المسار الأسهل في اللحظة الراهنة. ولهذا تبدو كثير من برامج الحوكمة أقوى داخل اللجان والعروض التقديمية منها داخل سير العمل الفعلي.
السياسة ليست مسارًا تشغيليًا
وجود سياسة مكتوبة مهم. فهي تحدد النية والأدوار والحدود. لكنها لا تخبر المدير أي أداة معتمدة لتلخيص شكوى عميل، ولا توضح لمحلل مالي كيف يصعّد مخرجات مشكوكًا فيها، ولا تحدد ما الأدلة التي يجب الاحتفاظ بها عندما تؤثر توصية مدعومة بالذكاء الاصطناعي في قرار أعمال.
إطار NIST لإدارة مخاطر الذكاء الاصطناعي 1.0 يوضح الفكرة بصورة غير مباشرة ولكن حاسمة: فإدارة المخاطر الفعّالة تحتاج إلى آليات مساءلة، وأدوار ومسؤوليات واضحة، وثقافة تنظيمية، وحوافز مناسبة. وهذا مطلب أوسع بكثير من مجرد نشر قواعد مكتوبة. معناه أن الحوكمة يجب أن تظهر في طريقة توزيع العمل، ومراجعته، ومراقبته، وتحسينه.
وتسير مبادئ OECD للذكاء الاصطناعي في الاتجاه نفسه؛ فهي تربط الذكاء الاصطناعي الجدير بالثقة بالمساءلة والشفافية والمتانة، وتوصي بتهيئة بيئة حوكمة قابلة للتشغيل وبناء قدرات بشرية أقوى. أي إن الذكاء الاصطناعي المسؤول ليس خاصيةً تقنية في النظام وحده، بل هو أيضًا خاصية في المؤسسة التي تستخدمه.
ما الذي تُسيء الفرق فهمه عادةً؟
أكثر سوء الفهم شيوعًا هو التعامل مع الاستخدام غير المصرح به للذكاء الاصطناعي بوصفه مشكلة تواصل فقط. يفترض القادة أن الموظفين تجاهلوا التعميم، فيردّون بتعميم جديد، أو بتحذير إضافي، أو بطبقة موافقات جديدة. وقد يكون هذا ضروريًا أحيانًا، لكنه نادرًا ما يكون كافيًا.
من منظور نوفا، يلتف الموظفون حول السياسة لثلاثة أسباب متكررة:
- المسار الرسمي أبطأ من المسار غير الرسمي. عندما يضيف الطريق المعتمد تأخيرًا واضحًا من دون قيمة ظاهرة، يبدأ الناس بالبحث عن طرق التفاف.
- الأدوات المعتمدة لا تلائم المهمة الفعلية. فالسياسة العامة كثيرًا ما تتجاهل وظائف عملية مثل الصياغة، والفرز، والتصنيف، ومراجعة الاستثناءات، والبحث في المعرفة الداخلية.
- مسارات التدخل غير واضحة. لا يعرف الناس متى يحق لهم استخدام الحكم البشري، ومتى يجب التصعيد، ومن يملك القرار النهائي إذا بدا المخرج معقولًا لكنه غير مؤكّد.
لهذا لا يمكن قياس نضج الحوكمة بوجود وثائق السياسات وحدها. بل يجب قياسه بقدرة المسار المعتمد على العمل تحت الضغط التشغيلي الطبيعي.
إطار عملي لسد الفجوة
لا تحتاج القيادة إلى سيطرة مثالية حتى تتحسن. لكنها تحتاج إلى نموذج تشغيلي أفضل. ويمكن البدء بإطار عملي من خمسة عناصر:
- صمّم المسار المعتمد انطلاقًا من العمل الحقيقي. ابدأ بحالات الاستخدام الأكثر تكرارًا في العمليات اليومية، لا بالمبادئ المجردة. فإذا كانت الفرق تستخدم الذكاء الاصطناعي فعليًا في تلخيص تذاكر الدعم أو مقارنة عروض المشتريات أو الصياغة الداخلية، فامنح هذه الأعمال مسارًا معتمدًا وحدودًا واضحة وضوابط معروفة.
- اجعل السلطة مرئية. في كل تدفق مهم، حدّد من يحق له استخدام الذكاء الاصطناعي، وتحت أي صلاحية، وأي القرارات تبقى بحاجة إلى اعتماد بشري صريح. هذا يقلل المنطقة الرمادية التي تتوفر فيها الأدوات بينما تغيب المسؤولية.
- ابنِ أدلة خفيفة افتراضيًا. تصبح الحوكمة قابلة للاستمرار عندما تُلتقط السجلات الأساسية، وملاحظات المراجعة، والاستثناءات، ومعرفة النسخة المستخدمة، كجزء من سير العمل نفسه لا كمهمة تُضاف لاحقًا عند وقوع حادثة أو تدقيق.
- أنشئ مسارًا واضحًا للاستثناءات والتجاوزات المنظمة. سيخترع العاملون طرقًا جانبية إذا كان الجواب الرسمي الوحيد هو الرفض. الأفضل هو مرونة منضبطة: من يطلب توسيع الاستخدام؟ وكيف يُراجع الطلب؟ وكيف تُوثّق الاستثناءات المؤقتة؟
- تعامل مع الإلمام بالذكاء الاصطناعي بوصفه ضبطًا تشغيليًا. تنص المادة الرابعة من قانون الذكاء الاصطناعي الأوروبي على أن على المزوّدين والجهات المستخدمة اتخاذ ما يلزم، بقدر الإمكان، لضمان مستوى كافٍ من الإلمام بالذكاء الاصطناعي لدى الموظفين ومن يشغّلون الأنظمة أو يستخدمونها نيابةً عنهم. وحتى خارج النطاق القانوني المباشر، تبقى القاعدة التشغيلية واضحة: لا يمكن للناس الالتزام بما لا يفهمونه في سياقه العملي.
لماذا يزداد هذا الأمر أهمية الآن؟
تزداد أهمية هذه القضية لأن الذكاء الاصطناعي ينتقل من التجارب المتفرقة إلى روتين الأعمال اليومي. فعندما يبدأ النظام بالمساعدة في تصنيف الطلبات، وإعداد التوصيات الداخلية، وتوجيه الحالات، وصياغة النصوص الموجهة للعملاء، أو تشغيل إجراءات لاحقة، تصبح الحدود بين "استخدام أداة" و"اتخاذ قرار تشغيلي" أرق بكثير.
عندها لا تعود فجوة الحوكمة مجرد إحراج على مستوى السياسة. بل تصبح مشكلة جودة ومساءلة ومرونة تشغيلية. فالاستخدام الضعيف الحوكمة قد ينتج معاملة غير متسقة للعملاء، وقرارات غير موثقة، ومسارات اعتماد هشّة، وفجوات أدلة لا تظهر إلا بعد شكوى أو حادثة أو طلب تدقيق.
ولهذا يجب أن تعني هذه الفجوة القيادات التنفيذية، لا فرق الامتثال أو الأمن وحدها. فإذا كان المسار المعتمد غير عملي، فالمؤسسة تختار فعليًا التوسع غير المُدار.
الحدود الصادقة للسيطرة
لن يقضي أي نموذج تشغيلي على الارتجال تمامًا. فالعاملون في المعرفة سيصادفون دائمًا حالات طرفية، وضغوط وقت، وأدوات جديدة أسرع من قدرة فرق الحوكمة على فهرستها. لذلك لا ينبغي أن يكون الهدف هو المنع المطلق، بل جعل المسار الآمن مقنعًا ومفيدًا وأسهل في التبنّي من المسار غير الآمن.
وهذا يفرض مفاضلات حقيقية. فالضبط الأشد قد يخفض المخاطر لكنه قد يبطئ العمل. والمرونة الأوسع قد تحسن التبنّي لكنها قد تضعف الاتساق إذا كانت الأدلة والتصعيد ضعيفين. الحوكمة الناضجة لا تتظاهر بزوال هذه التوترات، بل تديرها بوضوح.
أسئلة ينبغي أن يطرحها القادة الآن
- في أي مهام يومية يؤثر الذكاء الاصطناعي بالفعل، سواء أكان ذلك معتمدًا رسميًا أم لا؟
- هل يستطيع الموظفون تسمية المسار المعتمد لهذه المهام من دون الرجوع إلى وثيقة سياسة؟
- هل يعرف المديرون متى تكون المراجعة البشرية إلزامية، ومتى يقتصر دور الذكاء الاصطناعي على الدعم لا القرار؟
- ما الأدلة التي ستحتفظ بها المؤسسة إذا احتاجت إلى إعادة بناء قرار مدعوم بالذكاء الاصطناعي بعد شهر؟
- أين أصبح المسار المعتمد مرهقًا إلى درجة تجعل الالتفاف حوله متوقعًا؟
خطوة عملية أولى
اختر تدفقًا واحدًا عالي التكرار يحدث فيه استخدام غير رسمي للذكاء الاصطناعي بالفعل. لا تبدأ بالعملية الأكثر تعقيدًا أو الأكثر حساسية سياسيًا. ابدأ حيث تستطيع المؤسسة أن تتعلم بسرعة. حدّد الأداة المعتمدة، والمراجع البشري، والحد الأدنى من الأدلة التي يجب الاحتفاظ بها، ومسار التصعيد عند المخرجات غير المؤكدة. ثم راقب أين يواصل الموظفون الالتفاف حول المسار. فسلوكهم سيكشف لك عن جودة تصميم الحوكمة أكثر مما تكشفه جولة جديدة من مراجعة السياسات.
كيف تبدو الحوكمة المتينة في الواقع؟
الحوكمة المتينة للذكاء الاصطناعي ليست كتيب قواعد أكثر سماكة، بل بيئة تشغيلية يرى فيها الناس المسار المعتمد، ويفهمون الحدود، ويصعّدون عدم اليقين، ويواصلون العمل من دون الاختفاء داخل مسارات ظل. وعندما تُبنى السياسة، والإلمام، والسلطة، والأدلة داخل سير العمل نفسه، تتوقف الحوكمة عن كونها وثيقة يلتف حولها الموظفون، وتصبح جزءًا من الطريقة التي تعمل بها المؤسسة فعلًا.