حوكمة وكلاء الذكاء الاصطناعي:

AI Agent Governance: Managing Authority and Decision Quality

عندما يستخدم الموظف الذكاء الاصطناعي لتلخيص تقرير، يستطيع مراجعة النص قبل مشاركته. لكن ماذا يحدث عندما يمتلك النظام صلاحية تحديث سجل عميل، أو إرسال عرض تجاري، أو تنفيذ خطوة في عملية شراء؟ هنا يصبح السؤال متعلقًا بما يُسمح للنظام بفعله، وبمن يتحمل مسؤولية مراجعة نتائجه.

حوكمة وكلاء الذكاء الاصطناعي هي مجموعة السياسات والمسؤوليات والضوابط التي تحدد المهام المسموح للوكيل بتنفيذها، والبيانات التي يمكنه الوصول إليها، والحالات التي تستلزم موافقة بشرية، وكيفية مراقبة أدائه والتدخل عند الخطأ.

وتزداد أهمية هذه الحوكمة كلما اتسع دور الوكيل داخل العمليات. فصلاحية قراءة مستند تختلف عن صلاحية تعديله، واقتراح قرار يختلف عن تنفيذه. لذلك تحتاج المؤسسات إلى ربط استقلالية الوكيل بأثر الإجراء وحساسية البيانات وإمكانية التراجع عن النتيجة.

لماذا يتصدر الموضوع النقاش العالمي الآن؟

تعكس تطورات حديثة اهتمامًا متزايدًا بالانتقال من تجربة الوكلاء إلى تشغيلهم ضمن مسؤوليات وضوابط واضحة.

في 14 أكتوبر 2026، خصّص المنتدى الاقتصادي العالمي جلسة بعنوان «اختبار الثقة في الذكاء الاصطناعي الوكيل» — Trust Test for Agentic AI. وركّز وصف الجلسة على ضرورة الحفاظ على المساءلة والحكم البشري والثقة مع دخول الأنظمة القادرة على العمل باستقلالية أكبر إلى الأعمال والخدمات العامة.

المصدر: World Economic Forum — Trust Test for Agentic AI. events.weforum.org

وفي 12 أكتوبر 2026، أعلنت HCLTech شراكة مع Anthropic لتوسيع تبنّي وكلاء الذكاء الاصطناعي في المؤسسات، مع التركيز على السلامة والأمن السيبراني والحوكمة. وشمل الإعلان تدريب العاملين وبناء القدرات المؤسسية، إضافة إلى ضوابط السياسات ومعالجة الاستثناءات والإشراف البشري على التغييرات عالية التأثير. ويعبّر الإعلان عن نطاق الشراكة وخططها، ولا يثبت بمفرده تحقق نتائج تشغيلية لدى جميع العملاء.

المصدر: HCLTech — Global Premier Partnership with Anthropic. www.hcltech.com

ومن منظور إداري، تبرز هذه التطورات سؤالًا يستحق الإجابة قبل التوسع: هل تعرف المؤسسة حدود صلاحيات كل وكيل، ومن يراجع عمله، وكيف توقفه عند الحاجة؟

ما الفرق بين المساعد والوكيل الذي ينفّذ العمل؟

لأغراض الإدارة والحوكمة، من المفيد التمييز بين نظام يقدّم مخرجات يراجعها المستخدم، ونظام يستطيع استخدام أدوات وتنفيذ خطوات لتحقيق هدف.

قد يساعد النظام الأول في صياغة رسالة للمورد. أما الوكيل المتصل بأنظمة المؤسسة فقد يجمع بيانات المورد، ويعدّ الرسالة، ثم يرسلها إذا مُنح الصلاحية اللازمة.

ولا يكفي الاسم التجاري لتحديد مستوى المخاطر؛ فالعبرة بما يستطيع النظام فعله فعليًا. لذلك ينبغي أن تبدأ المراجعة بثلاثة أسئلة:

• ما الأنظمة والبيانات التي يمكنه الوصول إليها؟
• ما الإجراءات التي يستطيع تنفيذها دون موافقة؟
• ما أثر التنفيذ الخاطئ، وهل يمكن التراجع عنه؟

هذه الأسئلة تجعل تقييم الوكيل مرتبطًا ببيئة العمل الفعلية.

مصفوفة مقترحة لضبط صلاحيات الوكلاء

يمكن للمؤسسات استخدام المستويات التالية نقطة بداية لتصميم الصلاحيات. وهي مصفوفة إدارية مقترحة تُكيَّف مع طبيعة العملية ومخاطرها، وليست معيارًا إلزاميًا.

وقد تتغير درجة المخاطر داخل المهمة نفسها. فتحديث ملاحظة داخلية يختلف عن تعديل بيانات الدفع، حتى لو جرى الإجراءان في النظام ذاته.

مثال تطبيقي: وكيل لمقارنة عروض الموردين

لنفترض أن مؤسسة تريد استخدام وكيل لتسريع مراجعة عروض الموردين. هذا مثال افتراضي يوضّح كيفية تصميم العملية.

يستخرج الوكيل الأسعار، ومدد التسليم، وشروط الضمان، والاستثناءات الواردة في العروض. ثم يقارنها بمعايير معتمدة ويجهّز ملخصًا للمراجع.

تبدأ الحوكمة هنا قبل ترتيب الموردين. ينبغي تحديد المستندات المعتمدة، وطريقة معالجة اختلاف العملات أو وحدات التسعير، وكيفية إظهار البنود غير المتوافرة. فإذا غابت تكلفة الصيانة من عرض، يجب تسجيلها بوصفها معلومة ناقصة، لا افتراض أنها صفر.

بعد ذلك يراجع الموظف المقارنة ويرجع إلى النص الأصلي عند الحاجة. وتظل صلاحية اختيار المورد أو إصدار أمر الشراء خاضعة للتفويض المعتمد.

ولتعزيز الرقابة، يمكن الفصل بين الوصول إلى ملفات العروض وصلاحية الإرسال أو الشراء. بذلك تصبح حدود المهمة مطبقة داخل الأنظمة، وتقلّ احتمالية تجاوزها بسبب تعليمات غير دقيقة.

متى تكون الموافقة البشرية ضرورية؟

يمكن بناء قواعد الموافقة حول خصائص الإجراء، مع إعطاء اهتمام أكبر للحالات الآتية:

• إنشاء التزام مالي أو تجاري.
• إرسال معلومات حساسة إلى جهة خارجية.
• تعديل بيانات تؤثر في حقوق عميل أو موظف.
• تنفيذ إجراء يصعب التراجع عنه.
• وجود تعارض بين المصادر أو نقص في المعلومات الأساسية.
• طلب يتجاوز نطاق المهمة أو حدود التفويض.

وتحتاج الموافقة إلى معلومات كافية. فإظهار زر «اعتماد» دون توضيح الإجراء ونتيجته المتوقعة قد يحوّل المراجعة إلى خطوة شكلية.

الأفضل أن يرى المراجع ما الذي سيتغير، وما البيانات المستخدمة، وما الاستثناءات، ولماذا طُلبت موافقته. ويجب أن يمتلك الوقت والصلاحية لرفض الإجراء أو إعادته للتصحيح.

من يتحمل مسؤولية الإشراف؟

ينبغي تعيين مالك واضح للعملية التي يخدمها الوكيل، مع توزيع أدوار التنفيذ والرقابة:

مالك العملية يحدد الهدف ومعايير القبول وحدود التفويض، ويقرر ما إذا كانت النتائج مناسبة للاستخدام التشغيلي.

تقنية المعلومات والأمن تضبط الوصول والتكاملات والسجلات وآليات الإيقاف، وتختبر ما إذا كانت القيود قابلة للتطبيق تقنيًا.

الحوكمة والمخاطر والامتثال تراجع الاستخدام بحسب طبيعة البيانات والقطاع والسياسات المعمول بها.

المستخدمون والمراجعون يفحصون المخرجات والاستثناءات ويرفعون المشكلات وفق مسار محدد.

أما إدارة التدريب، فتساعد كل فئة على اكتساب المهارات اللازمة لدورها. ويظل تعيين المسؤوليات قرارًا تنظيميًا واضحًا؛ فوجود أكثر من جهة مشاركة لا يغني عن تحديد الشخص المخوّل بإقرار التوسع أو تعليق الاستخدام.

كيف نقيس الأداء دون الاكتفاء بسرعة الإنجاز؟

قد ينفّذ الوكيل المهمة بسرعة، بينما يقضي الموظفون وقتًا أطول في التصحيح. لذلك يُفضّل مقارنة الأداء قبل التطبيق وبعده باستخدام مهام متقاربة في الصعوبة.

يمكن اعتماد مؤشرات مثل:

• جودة النتيجة: نسبة المخرجات المقبولة وفق معايير معلنة.
• الوقت الكلي: التنفيذ والمراجعة والتصحيح ومعالجة الاستثناءات.
• سلامة التنفيذ: الإجراءات المخالفة للسياسة أو المتجاوزة للصلاحية.
• التصعيد المناسب: الحالات التي أحالها الوكيل للمراجع عندما كان ذلك مطلوبًا.
• التكلفة التشغيلية: الأدوات والاستخدام والدعم ووقت الإشراف.
• قابلية التتبع: القدرة على معرفة ما نُفّذ والبيانات التي استند إليها.

كما ينبغي تحليل أسباب الرفض والتصحيح. فقد تكون المشكلة في جودة البيانات أو تصميم المهمة أو معايير القبول، مما يستلزم تعديل العملية قبل تغيير الأداة.

المهارات التي يحتاجها المديرون والفرق

يتطلب الإشراف الفعّال القدرة على تحويل هدف عام إلى مهمة محددة، ثم تقييم النتيجة في سياق العمل.

ويشمل ذلك صياغة معايير قبول قابلة للفحص، وتمييز الحقائق عن الافتراضات، وتحديد المعلومات التي لا يجوز مشاركتها، وفهم حدود التفويض، والتعامل مع الحالات غير المتوقعة.

ويمكن أن يتضمن التدريب محاكاة لعرض مورد ناقص، أو تعليمات متعارضة، أو طلب تنفيذ خارج النطاق. ويُقيَّم المشاركون على جودة قرارهم: هل يوافقون، أم يطلبون معلومات إضافية، أم يوقفون الإجراء؟

وللمؤسسات التي تطوّر قدراتها في هذا المجال، يمكن الاطلاع على دورات الذكاء الاصطناعي والتحول الرقمي لدى يوروماتيك،  وربط الاحتياجات التقنية بمهارات التفويض والمساءلة من خلال الدورات الإدارية والقيادية وتطوير الذات.

خطوات عملية قبل إطلاق أول وكيل

تبدأ التجربة المناسبة بمهمة محدودة، ومعايير نجاح واضحة، وآثار يمكن احتواؤها عند الخطأ.

1. حدّد المهمة: ما المدخلات والمخرجات والإجراءات المسموح بها؟
2. عيّن المسؤول: من يعتمد النتائج ومن يملك قرار الإيقاف؟
3. اضبط الوصول: امنح الوكيل الصلاحيات اللازمة للمهمة فقط.
4. اختبر الاستثناءات: استخدم بيانات ناقصة وتعليمات متعارضة وحالات خارج النطاق.
5. وثّق التنفيذ: احتفظ بالسجلات اللازمة للمراجعة مع مراعاة حساسية البيانات.
6. اختبر الإيقاف والاستعادة: تحقق من إمكانية تعليق العمل والتعامل مع الإجراءات المنفذة.
7. راجع النتائج قبل التوسع: وسّع النطاق بناءً على أدلة أداء، وأعد الاختبار عند تغيير الأداة أو البيانات أو الصلاحيات.

  الجهة الناشرة والمرجع التدريبي:

EuroMaTech Training & Consultancy — يوروماتيك للتدريب والاستشارات