سلامة وكيل الذكاء الاصطناعي تبدأ خارج النموذج
قبل تشغيل أي وكيل ذكاء اصطناعي في بيئة العمل، هناك ثلاثة أسئلة أهم من دقة النموذج: ما الأنظمة التي يستطيع لمسها؟ من يوقفه إذا انحرف؟ وكيف تثبت المؤسسة لاحقاً ما الذي فعله؟ إذا لم تكن الإجابات قابلة للتنفيذ تقنياً والتدقيق، فعبارة «التزم بالتعليمات» ليست ضابطاً أمنياً.
هذا هو المغزى العملي من إطلاق إنفيديا منصة سلامة الوكلاء المفتوحة في 28 سبتمبر. تتكون المنصة من OpenShell لتقييد بيئة التشغيل، وSentry كمراقب مستقل يستطيع التدخل عندما يتجاوز الوكيل الحدود. المسألة ليست في اسم المنتج، بل في نقل الحماية من نص يفهمه النموذج إلى قاعدة تفرضها البنية التحتية.
ما الذي تغيّر فعلاً؟
البرنامج التقليدي ينفذ مساراً صممه المطور مسبقاً. أما الوكيل فيختار الأدوات والخطوات أثناء التنفيذ، وقد يغيّر خطته إذا صادف ملفاً مضللاً أو صفحة مصابة بتعليمات خفية أو خدمة لا تعمل كما توقع. لذلك لا يكفي فحص المخرجات النصية؛ الخطر الحقيقي يبدأ عندما تتحول الإجابة إلى إجراء.
تشرح صحيفة الخليج الفكرة بوضوح: ضوابط النموذج وحدها لا تكفي لمنع الوصول إلى أنظمة أو موارد غير مصرح بها. ولهذا تضع OpenShell حدوداً حول الملفات والعمليات والشبكة، بينما يبقى Sentry خارج مسار التنفيذ الأساسي لمراقبة السلوك وعزل النشاط المشبوه.
للمنطقة أولوية إضافية: السيادة لا تعني الاستضافة فقط
تتوسع في الإمارات حالات استخدام الذكاء الاصطناعي الوكيلي والأنظمة الذاتية. وقد أشارت وكالة أنباء الإمارات خلال جيسيك 2026 إلى شراكات لتعزيز أمن التنقل الذاتي والمرونة السيبرانية والذكاء الاصطناعي الوكيلي. وفي هذا السياق، لا تكتمل السيادة الرقمية بمجرد وضع البيانات داخل الدولة. يجب أيضاً معرفة أي هوية استخدمت البيانات، وإلى أي وجهة خرجت، ومن وافق على الإجراء، وأين حُفظ الدليل.
قد يكون النموذج مستضافاً محلياً، لكن وكيلاً بصلاحيات واسعة يستطيع إرسال محتوى إلى خدمة خارجية أو تعديل سجل حساس أو استخدام مفتاح دائم. السيطرة الحقيقية تعني أن هذه الأفعال مستحيلة افتراضياً ولا تصبح ممكنة إلا بسياسة محددة وقابلة للإلغاء.
ستة قرارات قبل الانتقال إلى الإنتاج
- ارسم خريطة الأفعال. لا تكتفِ بقائمة الخصائص. دوّن كل قراءة وكتابة واتصال خارجي ورسالة ومدفوعات ونشر وحذف يستطيع الوكيل تنفيذه.
- افصل الهويات. استخدم هوية مستقلة لكل مهمة، وافصل صلاحيات القراءة عن الكتابة. تجنب حساب خدمة واحداً تشترك فيه جميع الوكلاء.
- اربط السر بالوجهة. لا تضع مفاتيح الوصول في التعليمات أو الذاكرة. امنح بيانات اعتماد قصيرة العمر بعد التحقق من الخدمة المطلوبة، ثم ألغها بانتهاء المهمة.
- ضع الموافقة عند نقطة الأثر. الموافقة قبل بدء المهمة لا تكفي. اطلبها مباشرة قبل التحويل المالي أو النشر العام أو الحذف أو تغيير الصلاحيات أو إطلاق نسخة إنتاجية.
- اجعل السجل خارج سيطرة الوكيل. يجب أن تصل استدعاءات الأدوات وقرارات السياسة ومحاولات المنع إلى مخزن لا يستطيع الوكيل تعديله.
- اختبر الفشل بالعربية والإنجليزية. جرّب تعليمات حقن داخل مستندات ورسائل وصفحات بكلتا اللغتين، واختبر التحايل على المسارات والاتصالات غير المصرح بها وإعادة استخدام الأسرار.
قائمة شراء أفضل من سؤال «أي نموذج تستخدمون؟»
عند تقييم منصة للوكلاء، اسأل المورد: هل سياسات الملفات والشبكة والعمليات مفروضة خارج النموذج؟ هل يمكن ربط بيانات الاعتماد بوجهة وصلاحية محددتين؟ هل تتغير السياسة أثناء التشغيل، ومن يوافق على التوسعة؟ هل سجلات المنع والنجاح غير قابلة للتعديل من بيئة الوكيل؟ وهل يمكن إيقاف جميع الجلسات وإلغاء أسرارها خلال دقائق؟
توضح إرشادات OpenShell الأمنية أن بعض الضوابط تُثبت عند إنشاء البيئة، بينما يمكن تحديث ضوابط أخرى أثناء التشغيل. هذه مرونة مفيدة، لكنها تخلق مساراً حساساً: توسيع الصلاحيات ديناميكياً يجب أن يكون محدود المدة، واضح السبب، ومسجلاً باسم من وافق عليه.
ما الذي لا تحله طبقة الاحتواء؟
الحدود التقنية لا تصحح سياسة خاطئة. إذا سمحت المؤسسة للوكيل بإرسال رسالة إلى العميل الخطأ، فقد ينفذ الإجراء «المسموح» بدقة. كما أن صندوق الرمل نفسه يحتاج تحديثاً ومراقبة. لذلك يجب الجمع بين أقل قدر من الصلاحيات، وتقييم جودة القرار، وضوابط البيانات، والمراجعة البشرية، وخطة استجابة للحوادث.
حتى الإعلان الرسمي لإنفيديا يقدم المنصة باعتبارها حدوداً للحوكمة والتحكم، لا حلاً سحرياً لكل أخطاء النماذج. القيمة هي تقليل نطاق الضرر ومنح الفريق فرصة موثوقة للرصد والتدخل.
خطة عملية خلال 30 يوماً
ابدأ بوكيل واحد ذي قيمة واضحة. خلال الأسبوع الأول، شغّله في وضع المراقبة وسجّل كل مورد يطلبه. في الأسبوع الثاني، حوّل السجل إلى سياسة منع افتراضية وافصل القراءة عن الكتابة. في الأسبوع الثالث، أضف موافقات للأفعال غير القابلة للعكس وسجلاً مستقلاً. في الأسبوع الرابع، نفّذ تمرين احتواء: حاول إخراج بيانات إلى وجهة غير مصرح بها، ثم اختبر إيقاف الجلسة وإلغاء أسرارها وإعادة بناء التسلسل الكامل للحادث.
رؤية قمرة تك
مشروع الوكيل ليس واجهة محادثة فقط؛ إنه نظام موزع يحمل هوية ويتعامل مع بيانات وينفذ أثراً. لذلك ينبغي أن تشمل خطة التسليم نموذج الأفعال، وتصميم الصلاحيات، وحدود التشغيل، ومسار الموافقة، وسجل التدقيق، وآلية الإيقاف منذ أول نسخة تجريبية.
الخطوة التالية للمؤسسين وفرق المنتج والتقنية هي اختيار مسار عمل إنتاجي واحد والإجابة عملياً عن الأسئلة الثلاثة: ما الذي يستطيع الوكيل لمسه، من يستطيع إيقافه، وأين يوجد الدليل؟ عندما تبقى هذه الإجابات خارج سيطرة الوكيل، تصبح الاستقلالية ميزة قابلة للإدارة وليست مقامرة تشغيلية.