Evolve on Sundays: عندما تجاوز وكلاء الذكاء الاصطناعي الحدود

01الأمن

1. وصلت تقييمات الأمن السيبراني للذكاء الاصطناعي إلى منظمات حقيقية

قامت شركة أنثروبيك بمراجعة 141,006 جولة تقييم للأمن السيبراني ووجد ثلاث حوادث وصلت فيها نماذج كلود إلى الإنترنت وحصلت على وصول غير مصرح به إلى ثلاث مؤسسات.

النسخة الرئيسية للعناوين—"وكلاء الذكاء الاصطناعي هربوا وهاجموا شركات حقيقية"—مقلقة من ناحية الاتجاه لكنها غير مكتملة من الناحية التقنية. تشرح مراجعة شركة Anthropic ثلاث مسارات مختلفة للفشل، وثلاث استجابات نموذجية مختلفة، وخطأ مشترك في البنية التحتية: تم إخبار النماذج صراحةً أن بيئاتها الخاصة بـ تحديات التقاط العلم ليس لها وصول إلى الإنترنت، لكن سوء تفاهم بين Anthropic وشريك تقييمها، Irregular، ترك طريقًا مباشرًا مفتوحًا.

ذلك الاختلاف مهم. لم تقرر نماذج كلود التخلي عن مهمتها الموكلة إليها واختيار ضحايا غير ذوي صلة. لقد استمرت في محاولة التقاط علم خيالي بينما كانت تحمل اعتقادًا خاطئًا حول الأنظمة التي كانت جزءًا من التمرين. كان الضرر حقيقيًا، لكن فهم الفشل يتطلب فصل الهدف، وتفسير النموذج للموقف، والضوابط المحيطة به.

2. الهجمات المنسقة عطلت أكثر من 30 نظامًا مائيًا

مينيسوتا قامت بتفعيل الاستجابة للحوادث الإلكترونية على مستوى الولاية بعد أن استهدف المهاجمون التكنولوجيا التشغيلية في أكثر من 30 نظام مياه مجتمعي. وشملت الإجراءات المبلغ عنها تغيير كلمات مرور وحدات التحكم المنطقية القابلة للبرمجة، وتعديل إعدادات الشبكة، وفصل المعدات، وإجبار بعض المشغلين على التحول مؤقتًا إلى التشغيل اليدوي.

وحذرت وكالة CISA لاحقًا زيادة النشاط ضد وحدات التحكم المنطقية المبرمجة المكشوفة على الإنترنت في قطاع المياه ومياه الصرف الصحي. وحثت الوكالة المشغلين على إزالة التكنولوجيا التشغيلية من التعرض المباشر للإنترنت، واستخدام الشبكات الخاصة الافتراضية أو البوابات الآمنة حيثما كان الوصول عن بُعد ضروريًا، واستبدال بيانات الاعتماد الافتراضية، وتقييد الوصول حسب عنوان المصدر.

مشكلة التعرض أكبر من دولة واحدة. في لقطة بتاريخ 30 يوليو، حددت Censys وجود 4,148 مضيفاً مكشوفاً من Rockwell/Allen-Bradley، و4,117 مضيفاً من Siemens SIMATIC S7-1200، و2,072 مضيفاً من Schneider Electricشددت شركة Censys على أن هذه كانت أعداد التعرضات — وليست ضحايا مؤكدة — وأن الرقم الخاص بشركة Schneider Electric كان يشمل جميع الموردين وليس مقتصراً على PLCs. يمكن للمودمات الخلوية غير الموثقة التي يثبتها المشغلون أو الموردون أو المتكاملون أن تخلق مسارات لا تظهر في الجرد الطبيعي لأصول المؤسسة.

لماذا يهم: بيئات المياه والمياه العادمة تحول أي تغيير في التكوين الرقمي إلى مشكلة تشغيلية فعلية. بالنسبة لدول الخليج والشرق الأوسط الأوسع، حيث تعتبر خدمات المعالجة والتوزيع والتحلية خدمات أساسية، فإن التعرض لتقنيات التشغيل (OT) يمثل مسألة مباشرة تتعلق بالمرونة.

الإجراء للأسبوع المقبل: جرد وحدات التحكم القابلة للبرمجة (PLCs)، وواجهات تشغيل الإنسان والآلة (HMIs)، ومحطات العمل الهندسية، والبوابات، والمودمات الخلوية؛ إزالة التعرض المباشر؛ استبدال بيانات الاعتماد الافتراضية؛ التحقق من إجراءات التشغيل اليدوية؛ واختبار ما إذا كان بإمكان المشغلين استعادة الوصول عند تغيير كلمات مرور أو عناوين الأجهزة.

3. حول OWAReaper رسالة بريد إلكتروني ضارة إلى وصول دائم إلى صندوق البريد

وصفت شركة برووفبوينت حملة مدعومة من الدولة الروسية استغلال CVE-2026-42897 ضد Microsoft Exchange Outlook Web Access المحلي. سمحت ثغرة البرمجة عبر المواقع للمهاجم بتشغيل جافا سكريبت التي يتحكم بها عندما يفتح المستخدم بريدًا إلكترونيًا مُعدًا في OWA—دون الحاجة إلى رابط أو مرفق.

تم تنفيذ الباك دور OWAReaper الناتج داخل جزء القراءة. كان بإمكانه جمع معلومات الحساب، ومحاولة سرقة بيانات الاعتماد، واستغلال أذونات الإضافات في Outlook للحصول على رموز OAuth، وتعديل أذونات المجلدات على الخادم. يمكن لتلك التغييرات في الأذونات الحفاظ على الوصول إلى صندوق البريد حتى بعد تغيير كلمة مرور الضحية أو إعادة بناء الجهاز النهائي.

استخدم المهاجمون أيضًا مسارات متعددة للتحكم والتوجيه وتسريب البيانات، بما في ذلك البحث عن الالتزامات على GitHub، رسائل البريد الإلكتروني، HTTPS، ونسخة احتياطية لنظام أسماء النطاقات (DNS). يُظهر التصميم كيف يمكن لاختراق البريد الإلكتروني على الويب أن يستمر بعد الإجراءات التصحيحية التي تركز فقط على جهاز المستخدم.

لماذا هذا مهم: البريد الإلكتروني ليس مجرد قناة لتوصيل الرسائل. في تطبيقات المؤسسات المعتمدة على المتصفح، يشكل محرك عرض الرسائل، وأذونات صندوق البريد، ورموز OAuth، والإضافات، والتخزين المؤقت في وضع عدم الاتصال منصة تطبيقات لها مساراتها الخاصة للاحتفاظ بالبيانات.

الإجراء للأسبوع المقبل: ترقيع أنظمة Exchange المحلية المتأثرة، البحث عن المؤشرات المنشورة، مراجعة أذونات البريد والمجلدات، تدقيق الإضافات ذات الامتياز العالي ومنح OAuth، وعدم اعتبار تغيير كلمة المرور أو إعادة تهيئة نقاط الطرف كتصحيح كامل.

4. ربطت AWS الاختراقات الرئيسية لـ npm بكوريا الشمالية

أمازون نسبت الاختراقات تشمل الحزم الشهيرة debug وchalk وaxios والحزم المتعلقة بها المرتبطة بمجموعة Sapphire Sleet المرتبطة بكوريا الشمالية بثقة متوسطة.

اعتمدت الحملة على الهندسة الاجتماعية لمطوري الصيانة ثم نشر إصدارات ضارة من خلال حسابات موثوقة. وقالت أمازون إن المهاجمين اختبروا التقنيات من خلال حزم أصغر قبل الانتقال نحو الاعتماديات واسعة الاستخدام. كما أشارت الشركة إلى تطور أوسع: وظائف ضارة موزعة عبر حزم متعددة، حمولات يتم استرجاعها من الخارج، تنفيذ واعٍ بالبيئة، شخصيات المساهمين على المدى الطويل، وأسماء حزم مختارة لاستغلال الأخطاء التي ترتكبها أدوات البرمجة بالذكاء الاصطناعي.

لماذا الأمر مهم: توزع نظم حزم البرمجيات الثقة بسرعات البرمجيات. يمكن أن يصبح حساب الصيانة نقطة دخول إلى آلاف بيئات التطوير والإنتاج، في حين قد يقوم الأتمتة بتثبيت تحديث قبل أن يفهم المدافعون أن الملكية قد تغيرت.

الإجراء للأسبوع المقبل: يجب استخدام المصادقة متعددة العوامل المقاومة للتصيد الاحتيالي للمشرفين، تثبيت وتأخير تحديثات التبعيات، التحقق من المصدر، التنبيه عند حدوث تغييرات في الناشر والملكية، فحص نصوص التثبيت، ومنع وكالات البرمجة من تثبيت الحزم التي تم اكتشافها حديثًا أو الوهمية دون موافقة.

استُغلت ثغرات في طبقة إدارة النظام تتطلب أكثر من التصحيح الروتيني

كشفت شركة سيسكو عن استغلال نشط للثغرة CVE-2026-20316 في مركز إدارة جدار الحماية الآمن. سمحت بيانات الاعتماد الثابتة لحساب منخفض الامتياز بالوصول عن بُعد غير المصادق عليه إلى الأنظمة المتأثرة ويمكن أن يتم ربطها مع ثغرات أخرى لتصعيد الامتيازات. أصدرت Cisco إصلاحات ومؤشرات للاختراقات ولكن لم تصدر حلًا مؤقتًا.

قامت Arista بتصحيح CVE-2026-16812 بشكل منفصل، ثغرة حقن أوامر غير مصادقة ذات أقصى درجة خطورة تؤثر على VeloCloud Orchestrator المحلي. قد يؤدي الاستغلال الناجح إلى اختراق المنسق وبياناته المُدارة، وربما الأجهزة الطرفية المتصلة. تم تصحيح عمليات النشر المستضافة والمخصصة قبل الكشف عنها للجمهور.

لماذا هذا مهم: أنظمة الإدارة تقع أعلى الأجهزة التي تتحكم بها. يمكن أن يؤدي اختراق مدير الجدار الناري أو منظم SD-WAN إلى كشف التكوين، بيانات الاعتماد، الشهادات، الطوبولوجيا الشبكية، وطريق نحو العديد من الأصول التالية. تثبيت تحديث لا يزيل المهاجم الذي وصل قبل التصحيح.

الإجراء للأسبوع المقبل: تطبيق تصحيحات البائع، تقييد واجهات الإدارة لشبكات الإدارة فقط، استخدام المؤشرات المنشورة، مراجعة التغييرات في التكوين والمشرفين، تدوير بيانات الاعتماد والشهادات المكشوفة، وإعادة بناء النسخ المخترقة عندما لا يمكن تأكيد سلامتها.

6. مكالمة دعم Teams مزيفة وصلت إلى برنامج الفدية في أقل من 17 ساعة

وثقت صوفوس حملة استخدم المهاجمون حسابات Microsoft Teams خارجية لانتحال صفة موظفي دعم تكنولوجيا المعلومات. تم إقناع الأهداف بفتح Microsoft Quick Assist أو تثبيت برامج إدارة عن بعد، وبعد ذلك قام المهاجمون بإرساء الاستمرارية، ونشر أدوات وصول إضافية، والتحرك بشكل جانبي، وفي ثلاث حالات على الأقل نشروا برمجيات الفدية Chaos.

في حادثة واحدة وثقتها شركة Sophos، لم تمضِ أكثر من 17 ساعة بين الوصول الأولي ونشر البرمجيات الخبيثة للفدية. معظم مكالمات الهندسة الاجتماعية استغرقت بضع دقائق فقط.

لماذا الأمر مهم: يربط الموظفون منصات التعاون بزملاء العمل والأنشطة التجارية المعتمدة. يستغل المهاجمون هذه الثقة الموروثة، ثم يستخدمون أدوات الدعم عن بُعد الشرعية التي قد لا تثير نفس الضوابط مثل البرمجيات الخبيثة.

الإجراء للأسبوع المقبل: تقييد أو وضع علامة على الاتصالات الخارجية عبر Teams، وطلب قناة تحقق منفصلة لطلبات الدعم، والتحكم في أدوات Quick Assist وإدارة الأجهزة عن بُعد، والتنبيه عند التثبيتات غير المتوقعة، والتدريب على احتواء الهجمات التي يقودها الهوية والتي يمكن أن تصل إلى التشفير خلال يوم عمل واحد.

7. كشف اختراق سحابة شركة Amgen عن معلومات صحية ومملوكة

أعلنت أمجن أن المهاجمين قاموا باستجلاب البيانات من بيئات السحابة التي تديرها مزودات الخدمة من طرف ثالث. وقالت الشركة إن المواد المسروقة شملت معلومات ملكية، ومعلومات صحية محمية للمرضى، وبيانات أخرى. وكانت الشركة لا تزال تحدد ما إذا كانت المعلومات التجارية السرية، والملكية الفكرية، ومواد البحث والتطوير، ومعلومات إضافية عن المرضى قد تأثرت أم لا.

صنفت شركة أمجن الحادثة على أنها مادية في 29 يوليو بناءً على حجم الملفات وحساسيتها المحتملة. ولم تكشف عن مزودي الخدمات السحابية، أو طريقة التسلل، أو السكان المتأثرين، أو الفاعل المسؤول حتى نهاية فترة التغطية.

لماذا هذا مهم: البنية التحتية المستعان بها من الخارج لا تنقل المسؤولية. يمكن أن يؤدي توزيع البيانات الحساسة عبر بيئات مزودين متعددة إلى تقاسم المسؤولية عن الهوية، والتسجيل، والاحتفاظ، والاستجابة للحوادث بين المنظمات، بالتحديد عندما يحتاج المحققون إلى رؤية موحدة.

الإجراء للأسبوع المقبل: رسم خريطة المعلومات الحساسة عبر مقدمي خدمات SaaS والسحابة، تأكيد الهوية المركزية والمصادقة متعددة العوامل المقاومة للتصيد، جمع سجلات تدقيق المزود، اختبار مسارات الإشعار التعاقدية، والتحقق من أنه يمكن إلغاء الوصول عبر كل بيئة متصلة أثناء الحادث.

02البرمجيات والتقنية

1. قامت أوراكل بإدخال Gemini في سير عمل المؤسسة الأساسي

أعلنت أوراكل أن نماذج جوجل جيميني ستكون متاحة من خلال استوديو وكيل الذكاء الاصطناعي لتطبيقات فيوجن وسيتم استخدامها في السيناريوهات المدمجة عبر فيوجن كلاود ونتسويت. ستتمكن المؤسسات من اختيار نماذج مختلفة لتخطيط موارد المؤسسات والموارد البشرية وسلسلة التوريد والمالية وتجربة العملاء وسير العمل الأخرى.

لماذا هذا مهم: الذكاء الاصطناعي للمؤسسات يتحرك من نافذة دردشة منفصلة إلى أنظمة تقوم بالموافقة على المدفوعات، وتغيير سجلات الموظفين، وإدارة المخزون، وتنفيذ المعاملات. أصبح اختيار النموذج جزءًا من هندسة التطبيقات، بينما تحدد الأذونات والموافقات وحدود البيانات وسجلات التدقيق ما إذا كان يمكن للوكيل العمل بأمان.

الإجراء للأسبوع المقبل: تصنيف إجراءات الوكيل حسب العواقب، طلب الموافقة للمعاملات ذات التأثير الكبير، تسجيل النموذج والسياسة المستخدمة لكل قرار، وجعل التراجع جزءًا من تصميم سير العمل.

2. دعم أمازون التحقق الرسمي لوكلاء أكثر أمانًا

التزمت أمازون بدعم طويل الأمد كبير إلى المنظمة المسؤولة عن Lean، وهي لغة برمجة مفتوحة المصدر ومساعد إثبات يُستخدم للتحقق من الخصائص الرياضية وبرمجيات البرمجيات. تستخدم AWS بالفعل التحقق المستند إلى Lean في خدمات تشمل Bedrock و AgentCore.

لا يمكن للطرق الرسمية إثبات أن هدفًا تجاريًا غير محدد جيدًا هو حكيم. يمكنها إثبات أن سياسة أو بروتوكولًا محددًا يفي بخصائص معينة. هذا التمييز مهم مع مطالبة المؤسسات للوكالات بالعمل تحت قواعد تفويض معقدة بشكل متزايد.

لماذا الأمر مهم: الاختبارات التقليدية تُظهر السلوك في سيناريوهات محددة. يمكن للتحقق الرسمي أن يحقق ضمانات أقوى حول الحدود المحددة، بما في ذلك ما إذا كانت لغة السياسة تسمح بإجراء يجب أن يكون مستحيلاً.

الإجراء للأسبوع المقبل: تحديد الضوابط ذات العواقب الكبيرة—سياسات التفويض، حدود العزل، قواعد المعاملات، والبروتوكولات الموزعة—حيث ستوفر التحقق الرياضي المزيد من الضمان مقارنة بالاختبار القائم على الأمثلة وحده.

3. بدأ الإنفاق على الذكاء الاصطناعي يتكرر أزمة تكاليف السحابة المبكرة

البحث الذي ناقشه هارنيس وجد أن 72 بالمئة من المؤسسات قد شهدت زيادات غير متوقعة في تكاليف الذكاء الاصطناعي، وأن الذكاء الاصطناعي يمثل 23 بالمئة من متوسط فاتورة سحابة المؤسسة، وقدّر المستجيبون أن 26 بالمئة من إنفاق الذكاء الاصطناعي كان مهدورًا.

المشكلة ليست فقط في تسعير النموذج. يمكن أن تجعل آثار الاستدلال الطويلة، وحلقات الوكيل المتكررة، ونوافذ السياق الكبيرة، واستدعاءات الأدوات، والمحاولات المتكررة، واستخدام النماذج المتقدمة للأعمال الروتينية، سعر الرموز الرخيص عملية تجارية مكلفة. كما أن الملكية مجزأة بين الهندسة والمالية وتقنية المعلومات.

لماذا يهم: يمكن أن تكون ميزة الذكاء الاصطناعي ناجحة تقنيًا وغير مستدامة اقتصاديًا. يجب قياس التكلفة لكل نتيجة مكتملة، وليس لكل رمز أو طلب API فقط.

إجراء للأسبوع المقبل: تعيين مالك لإنفاق الذكاء الاصطناعي، قياس التكلفة حسب سير العمل، تحديد حدود إعادة المحاولة والتفكير، توجيه المهام الأبسط إلى النماذج الأصغر، تخزين النتائج القابلة لإعادة الاستخدام، وطلب من الفرق تحديد القيمة التجارية التي تبرر التنفيذ بتكلفة أعلى.

4. جوجل سحبت ميزة الذكاء الاصطناعي للأرض بعد يوم واحد

قدمت جوجل ثم سحبت ميزة لتوليد الصور تسمح للمستخدمين بوضع المشاهد المولدة داخل خرائط جوجل. قامت بسحب الميزة بعد يوم واحد عندما أظهر المستخدمون كيف يمكن للقطات الشاشة أن تبدو وكأنها تعرض أحداثًا مفبركة في مواقع جغرافية حقيقية. قالت جوجل إنها ستعمل على وضع ضوابط أكثر صرامة.

لماذا هذا مهم: لا يمكن أن تتوقف السلامة عند حدود واجهة المنتج. فقد يتم تصنيف الصورة المولدة بشكل صحيح داخل التطبيق وتصبح مضللة عند اقتصاصها أو أخذ لقطة شاشة لها أو إعادة نشرها أو فصلها عن بياناتها الوصفية. يكون الخطر أكبر عندما يتم التعامل مع المنتج المضيف تاريخيًا كمصدر موثوق للأدلة الجغرافية.

الإجراء للأسبوع القادم: اختبار المحتوى المولَّد خارج واجهته الأصلية، جعل المصدرية تبقى أثناء أخذ لقطات الشاشة والتصديرات حيثما أمكن، إجراء مراجعات للإساءة قبل الإطلاق، وتحديد مسار التراجع للميزات التي تقوض نموذج الثقة للمنتج حولها.

أظهرت نتائج مايكروسوفت أن الذكاء الاصطناعي المؤسسي يتجاوز مرحلة التجربة

أفادت مايكروسوفت أن إيرادات أزور قد تجاوزت 100 مليار دولار للسنة، وأن مايكروسوفت 365 كوبيلوت قد وصل إلى أكثر من 30 مليون مقعد مدفوع. نمت أزور بنسبة 43 بالمئة في الربع، بينما واصلت الشركة الاستثمار بكثافة في بنية تحتية الذكاء الاصطناعي ونماذجها الخاصة.

لماذا هذا مهم: لم تعد الذكاء الاصطناعي المؤسسي محصورًا في فرق الابتكار والمشاريع التجريبية الصغيرة. على هذا النطاق، تصبح القرارات المتعلقة بمزودي النماذج، والوصول إلى البيانات، وتخصيص التكاليف، وتدريب الموظفين، والمرونة، واستراتيجية الخروج من المسؤوليات العادية لإدارة التكنولوجيا.

الإجراء للأسبوع القادم: اعتبر خدمات الذكاء الاصطناعي كاعتمادات إنتاج. تابع التبني والنتائج التجارية بشكل منفصل، وقم بتوثيق تركيز المزودين، واختبر الخيارات البديلة، وتأكد من أن نمو التراخيص يتوافق مع الحوكمة والقيمة القابلة للقياس.