هوية الوكيل تسبق استقلاليته
فريق نوفا
تتحرّك المؤسسات بسرعة من أدوات ذكاء اصطناعي تقترح العمل إلى وكلاء قادرين على تنفيذ أفعال داخل الأنظمة الفعلية. الوعد الظاهر هو الاستقلالية. أمّا السؤال التشغيلي الأصعب فهو الهوية. قبل أن يُسمح لوكيل بأن يرفع تذكرة، أو يحدّث سجلًا، أو يمرّر خطوة في سير عمل، أو يتصرّف في طلب عميل، تحتاج المؤسسة إلى إجابة واضحة عن أربعة أسئلة أساسية: أيّ وكيل قام بالفعل؟ ومن يملكه داخل العمل؟ وما الصلاحيات التي استخدمها؟ وكيف يمكن إعادة بناء ما حدث لاحقًا؟
ترى NOVA أن هوية الوكيل ليست تفصيلًا ضيقًا في إدارة الوصول، بل هي نقطة الضبط التي تجعل المساءلة ممكنة. فإذا اشترك عدة وكلاء في الاعتمادات نفسها، أو بقيت الملكية الفعلية مبهمة، أو تعذّر فصل الأفعال في السجلات، تفقد المؤسسة قدرتها على التحقيق في الحوادث، وفرض فصل الواجبات، واتخاذ قرار واعٍ بشأن ما إذا كان هذا الوكيل يجب أن يستمر في التصرّف أصلًا.
ما المقصود فعلًا بهوية الوكيل؟
في الواقع، لا تعني هوية الوكيل مجرد اسم يظهر في لوحة تحكم. بل تعني أن لكل وكيل غرضًا تجاريًا محددًا، ومالكًا معروفًا، ونطاق صلاحيات مضبوطًا، وبيئة تنفيذ معروفة، وسجلًا يمكن تتبعه لما فعله. هذا هو ما يحوّل الوكيل من ميزة واعدة إلى مكوّن تشغيلي يمكن مساءلته.
وهذا ينسجم مع اتجاه الأطر المرجعية الكبرى. فإطار NIST لإدارة مخاطر الذكاء الاصطناعي يؤكد أن الإدارة الفعّالة للمخاطر تحتاج إلى آليات مساءلة، وأدوار ومسؤوليات واضحة، وثقافة تنظيمية تدعم ذلك. كما تنص مبادئ OECD للذكاء الاصطناعي على أن الجهات الفاعلة في الذكاء الاصطناعي يجب أن تكون مسؤولة عن حسن عمل الأنظمة وفق أدوارها، وأن تضمن قابلية التتبّع فيما يتعلق بالبيانات والعمليات والقرارات عبر دورة الحياة. أما قانون الذكاء الاصطناعي الأوروبي فيضيف نسخة تنظيمية أوضح من الفكرة نفسها في الأنظمة عالية المخاطر عبر متطلبات السجلات، وحفظ الآثار، والإشراف البشري. الرسالة المشتركة بسيطة: حين يصبح الذكاء الاصطناعي جزءًا من التشغيل، لا يمكن أن تبقى المسؤولية فكرة عامة غير محددة.
أين تخطئ الفرق عادةً؟
كثير من المؤسسات ما زالت تنشر الوكلاء كما لو كانوا وحدات أتمتة متقدمة فحسب. ينصبّ الاهتمام على ما إذا كان التدفق يعمل، لا على ما إذا كان الفاعل داخل هذا التدفق قابلًا للحوكمة. وهنا تظهر ثلاث مشكلات متكررة.
- سلطة مشتركة: عدة وكلاء يرثون بيانات اعتماد واحدة، فلا يعود ممكنًا معرفة أيّ وكيل نفّذ أيّ فعل.
- ملكية غير واضحة: يطلق فريقٌ وكيلًا جديدًا، لكن لا يبقى مالك أعمال واحد مسؤولًا عن نطاقه، واستثناءاته، وإيقافه عند الحاجة.
- أدلة ضعيفة: تكون النتيجة النهائية ظاهرة، لكن مسار الموافقة، أو السياق الذي استند إليه الوكيل، أو سجل التدخل البشري، لا يُحفَظ بما يكفي للتدقيق أو التحقيق.
قد تبقى هذه الثغرات خفية ما دام الوكيل يعمل في مهام منخفضة العواقب. لكنها تصبح خطيرة حين يبدأ التعامل مع سجلات منظّمة، أو عمليات حساسة للعملاء، أو تغييرات في الوصول، أو خطوات مالية، أو موافقات داخلية. عندها لا تعود المسألة مسألة راحة تشغيلية، بل مسألة ضبط.
إطار عملي لقادة الأعمال
لا يحتاج القادة إلى تصميم كل آلية تقنية بأنفسهم، لكنهم يحتاجون إلى إطار قرار عملي قبل توسيع وصول الوكلاء.
1. تعيين مالكٍ مسؤول واحد لكل وكيل
يجب أن يكون لكل وكيل مالك أعمال محدد بالاسم، لا مجرد مطوّر أو راعٍ للمشروع. هذا المالك مسؤول عن غرض الوكيل، وحدود المخاطر المقبولة، ودورية المراجعة، وقرار الإيقاف. حين تصبح الملكية جماعية، تصبح غالبًا اختيارية.
2. الفصل بين دور الوكيل ودور المعتمد البشري
قد يُعِدّ الوكيل المعلومات، أو يوجّهها، أو يلخّصها، أو يصنّفها، أو يوصي بها. لكن ذلك لا يعني تلقائيًا أنه يجب أن يوافق، أو ينفّذ دفعة، أو يمنح صلاحية، أو يحسم استثناءً. تصميم الهوية يجب أن يدعم فصل الواجبات بدل أن يختصره.
3. حصر الصلاحيات في أضيق نطاق مفيد
لا ينبغي أن تتوسع استقلالية الوكيل إلا داخل حدود صلاحيات واضحة. والاختبار المفيد هنا هو: هل تستطيع المؤسسة أن تشرح بلغة مباشرة ما الأنظمة التي يستطيع الوكيل لمسها، وما الأفعال التي يمكنه تنفيذها، وما الأفعال التي ما زالت تحتاج إلى اعتماد بشري صريح؟
4. جعل كل فعل قابلًا للإسناد في سجل الأدلة
ينبغي أن يكون ممكنًا إعادة بناء ما تلقّاه الوكيل، وما السياسة أو السياق الذي وجّه قراره، وما الفعل الذي اتخذه، وهل تدخّل إنسان بالتأكيد أو الإيقاف أو التعديل. هنا تلتقي الهوية بالسجلات وملكية الأدلة. ومن دون هذه السلسلة، يصبح التحقيق بعد الحادثة أقرب إلى التخمين.
5. تحديد مسار التدخل قبل الإنتاج
إذا تصرّف الوكيل بصورة غير متوقعة، يجب أن تعرف المؤسسة مسبقًا من يستطيع إيقافه مؤقتًا، أو سحب وصوله، أو فحص أفعاله الأخيرة، أو إعادة تشغيله ضمن شروط أشدّ. مسار التعطيل السريع جزء من حوكمة الهوية، لا تفصيل لاحق.
ما الذي يجب سؤاله قبل توسيع وصول الوكلاء؟
- هل نستطيع التمييز بين أفعال كل وكيل وآخر في السجلات والتقارير؟
- هل لكل وكيل مالكٌ معروف عليه التزام بالمراجعة؟
- هل صلاحيات الوكيل أضيق من الوصول العام المتاح للفريق البشري؟
- هل نستطيع إظهار المواضع التي يبقى فيها الاعتماد البشري إلزاميًا؟
- هل يمكن إعادة بناء فعلٍ محل نزاع من دون الاعتماد على ذاكرة المورّد أو لقطات الشاشة؟
إذا كانت الإجابة عن عدد من هذه الأسئلة هي «لا»، فالمؤسسة على الأرجح لا تواجه بعدُ مشكلة استقلالية. إنها تواجه مشكلة هوية.
انطلاقة عملية واقعية
ابدأ بجرد الوكلاء الموجودين بالفعل داخل العمل. ولكل وكيل، وثّق غرضه، ومالكه، والأنظمة المتصلة به، ونطاق صلاحياته، ونقاط الاعتماد البشري الإلزامية، والسجلات المتاحة عنه. قد يبدو هذا عملًا إداريًا، لكنه يكشف فجوات الضبط الحقيقية أسرع من إطلاق تجربة جديدة أو ترقية نموذج إضافي.
ما الذي لا تحلّه الهوية وحدها؟
وضوح الهوية لا يضمن جودة الحكم، ولا سلامة السياق، ولا امتثال المخرجات للسياسات. لكنه يحقق أمرًا أبسط وأكثر أهمية: يمنح المؤسسة وسيلة لتوزيع السلطة، وتقليص مساحة الضرر، والتحقيق في الإخفاقات حين تقع. بمعنى آخر، الهوية لا تجعل الوكيل موثوقًا بذاتها، لكنها تجعل الإشراف الموثوق ممكنًا.
ولهذا تسبق هوية الوكيل استقلاليته. فالمؤسسات التي ستوسّع الذكاء الاصطناعي بمسؤولية ليست هي التي تمنح أكبر قدر من الحرية بأسرع وقت، بل هي التي تستطيع في أي لحظة أن تشرح: أيّ وكيل تصرّف، وتحت سلطة من، وضمن أي حدود، وبأي أدلة. هذا هو الحد الفاصل في نموذج تشغيل ذكاء اصطناعي محكوم.
للاستزادة: ما الذكاء الاصطناعي المحوكم؟، وقبل أن تثق في تدفّق ذكاء اصطناعي، احسم سؤال: من يملك الأدلة؟، وأسئلة المشتريات قبل اعتماد منصّة ذكاء اصطناعي.