حوكمة نموذج الذكاء الاصطناعي المتقدم أصبحت الآن تحكمًا في الأمن السيبراني

NIST artificial intelligence topic hero graphic صورة المصدر: صفحة برنامج الذكاء الاصطناعي التابع لـ NIST.

يشكل النقاش الذي دار في يوليو 2026 حول نماذج Fable وMythos لشركة Anthropic نقطة تحول لأمن الذكاء الاصطناعي في المؤسسات. لم يعد حوكمة النماذج المتقدمة مجرد نقاش سياساتي فقط. بل أصبح تحكماً عملياً يؤثر على تطوير البرمجيات، وبحوث الثغرات، وأتمتة الأمن، والخدمات المالية، والصمود التشغيلي.

ذكرت صحيفة الغارديان أن شركة Anthropic أعادت الوصول للعملاء إلى Fable بعد رفع القيود الأمريكية على الصادرات. وقد فُرضت هذه القيود بعد المخاوف من أن النماذج يمكن أن تُساء استغلالها في هجمات إلكترونية خطيرة. وأفادت Axios بأن Fable عاد بسلوك أمني قد يوجه الاستفسارات الخطرة إلى نماذج أقل قدرة. كما ذكرت الغارديان أن الوصول إلى Mythos ظل محدودًا بالمؤسسات الأمريكية الموثوق بها للاستخدام الدفاعي في الأمن السيبراني.

في الوقت نفسه، بدأت الجهات المنظمة للخدمات المالية في المملكة المتحدة تتعامل مع مخاطر نماذج الذكاء الاصطناعي باعتبارها قضية على مستوى القطاع. وأفادت صحيفة الغارديان بأن مراجعة ميلز الموكلة من قبل هيئة السلوك المالي حذرت من أن الذكاء الاصطناعي قد يزيد من الاحتيال ومخاطر الأمن السيبراني وإلحاق الضرر بالمستهلكين وتركيز السوق. هذه إشارة رئيسية: يتم التعامل مع أنظمة الذكاء الاصطناعي القوية كتكنولوجيا طرف ثالث حاسمة، وليس مجرد برمجيات إنتاجية.

لماذا هذه قصة عن الأمن السيبراني

تستخدم فرق الأمن الذكاء الاصطناعي لمراجعة الشيفرة البرمجية، واكتشاف الثغرات، وتصنيف التنبيهات، وتحليل البرمجيات الخبيثة، والتحقيق في السحابة، وتلخيص معلومات التهديدات، والاستجابة للحوادث. يمكن لنفس القدرات أن تساعد المهاجمين في تحديد الثغرات، وإنشاء مسارات الاستغلال، وكتابة محتوى التصيد، وأتمتة الاستطلاع، وتكييف أدوات الهجوم.

إن طبيعة الاستخدام المزدوج هذه تخلق مشكلة في الحوكمة. إذا كان بإمكان نموذج متقدم تحسين العمليات السيبرانية بشكل ملموس، فإن الوصول إلى النموذج، توقيت الإطلاق، اختبارات السلامة، التسجيل، والإبلاغ عن إساءة الاستخدام تصبح بضوابط أمنيّة.

هذا يختلف عن الحوكمة العادية لخدمات SaaS. انقطاع محرر المستندات هو مشكلة إنتاجية. النموذج المقيد الذي يعتمد عليه سير عمل التطوير الآمن الخاص بك يمكن أن يصبح مشكلة في الهندسة والامتثال والمرونة. النموذج الذي يكون متاحًا لفريق الاختراق الأحمر ولكن ليس لفريق الدفاع الأزرق يمكن أن يغير ميزة الدفاع. النموذج الذي يحول بعض الطلبات إلى أنظمة أقل قدرة يمكن أن يغير موثوقية سير عمل الأمان الآلي.

مشكلة الاعتماد التشغيلي

يجب على المؤسسات أن تفترض أن سلوك النموذج وتوافره يمكن أن يتغير بسرعة. يمكن أن يتم تقييد الوصول من قبل مزود الخدمة، أو جهة تنظيمية، أو قرار السيطرة على الصادرات، أو حادث أمني، أو حملة إساءة استخدام، أو سياسة منصة السحابة. حتى عندما يظل الوصول متاحًا، قد تقوم فلاتر السلامة بتغيير المخرجات، أو حظر سير العمل، أو نقل الطلبات إلى نماذج بديلة.

هذا يخلق عدة مخاطر:

تتدهور سير عمل الأمان بصمت عند إعادة توجيه النموذج أو تقييده.
يتجاوز المطورون الأدوات المعتمدة عند الحظر.
تنتقل المطالبات الحساسة إلى نماذج غير مصرح بها.
تصبح سجلات التدقيق غير مكتملة إذا استخدمت الفرق حسابات شخصية.
يتباطأ الاستجابة للحوادث عندما تعتمد سير العمل بمساعدة الذكاء الاصطناعي على مزود واحد.
يزداد خطر التركيز على طرف ثالث عندما تعتمد العديد من الفرق على نفس النموذج ونفس بنية السحابة.

ما الذي يجب أن تفعله المنظمات الآن

اعتبر الذكاء الاصطناعي الحدودي كاعتماد أمني مُدار:

الاحتفاظ بمخزون من نماذج الذكاء الاصطناعي المستخدمة في الهندسة، والأمن، والقانون، والمالية، والدعم، والعمليات.
تصنيف أي سير عمل يعتبر حيويًا للأعمال وأي منها تجريبي.
اشتراط وجود حسابات معتمدة، وتسجيل العمليات، وضوابط التعامل مع البيانات لحالات الاستخدام الأمنية.
تحديد نماذج بديلة أو إجراءات يدوية لسير العمل الحرج.
مراقبة تغييرات سياسات البائعين، وإيقاف دعم النماذج، والقيود الإقليمية، وتحديثات فلاتر الأمان.
حظر لصق الأسرار، وبيانات العملاء، وكود الاستغلال، أو مخرجات الحوادث في أدوات غير معتمدة.
مراجعة ما إذا كان مقدمو خدمات الذكاء الاصطناعي يعتبرون أطرافًا ثالثة حيوية بموجب تنظيم القطاع.
اختبار سير العمل الأمني المعتمد على الذكاء الاصطناعي بعد تغييرات كبيرة في النماذج أو السياسات.

النقطة الأساسية على مستوى مجلس الإدارة

أصبح Frontier AI جزءًا من سطح المخاطر السيبرانية. لم يعد السؤال ما إذا كانت الشركة تستخدم الذكاء الاصطناعي، بل السؤال هو ما إذا كانت تعرف أين تم دمج الذكاء الاصطناعي في القرارات والتحقيقات وتسليم البرمجيات وسير عمل العملاء.

يجب على قادة الأمن أن يوضحوا هذا ببساطة: إذا كان نموذج الذكاء الاصطناعي يمكن أن يساعد في حماية الأعمال، فإنه يمكن أيضًا أن يصبح اعتمادًا، أو مسرعًا للهجوم، أو نقطة تحكم خاضعة للتنظيم.