لم يعد الخطر المرتبط بوكلاء الذكاء الاصطناعي يقتصر على نموذج ينتج إجابة خاطئة أو ينفذ أمراً غير دقيق، بل يمتد إلى منظومة من المهارات والملحقات والخوادم الخارجية والأوامر المتسلسلة التي قد تمنح المهاجم طريقاً إلى البيانات والأنظمة الداخلية. ومع انتقال الشركات من استخدام الذكاء الاصطناعي في مهام محدودة إلى وكلاء قادرين على الوصول إلى البريد الإلكتروني وقواعد البيانات وبيئات التطوير، تصبح مراقبة ما يفعله الوكيل أهم من الاكتفاء بفحص التعليمات التي تلقاها.
يقول سيرجي لوزكين، رئيس فريق البحث والتحليل العالمي في منطقتي آسيا والمحيط الهادئ والشرق الأوسط وتركيا وأفريقيا لدى «كاسبرسكي» إن التمييز بين السلوك الطبيعي للوكيل والسلوك الناتج عن التلاعب أصبح أكثر تعقيداً. ففي المراحل الأولى، كانت المهارات الخبيثة تتضمن أوامر مباشرة تطلب من الوكيل تجاوز تعليماته السابقة أو تنفيذ أمر ضار، وهو ما جعل اكتشافها أسهل. أما اليوم، فقد انتقلت الهجمات إلى سلاسل متعددة المراحل تبدو فيها كل خطوة منفردة مشروعة، بينما لا يظهر الجزء الخبيث إلا في مرحلة لاحقة.
يشرح لوزكين خلال لقاء خاص مع «الشرق الأوسط» على هامش مؤتمر «كاسبرسكي للأمن السيبراني» لمنطقة الشرق الأوسط وتركيا وأفريقيا، الذي عُقد في تبليسي عاصمة جورجيا أن الموظف أو مسؤول الأمن قد يفتح مهارة جرى تنزيلها لوكيل ذكي ويفحصها من دون أن يجد فيها ما يثير الشك. وقد تكون وظيفتها الظاهرة الاتصال بخدمة سحابية مشروعة لتنزيل مهارة ثانية، ثم تطلب المهارة التالية الانتظار لفترة أو الاتصال بموقع آخر في توقيت محدد، قبل أن تصل السلسلة أخيراً إلى المكون الخبيث.
وتكمن صعوبة هذا النوع من الهجمات في أن المكونات الأولى لا تحتاج إلى احتواء تعليمات ضارة واضحة. فقد تعمل كل واحدة منها بوصفها حلقة في سلسلة، بينما توزّع الوظيفة الخبيثة بين عدة مهارات أو مصادر. ويعد لوزكين أن المخططات أصبحت «أكثر تطوراً»، وإن فحص مهارة واحدة بمعزل عن سياقها لا يكفي للحكم على سلامة العملية بأكملها.
وقد لا يبقى المكون الخبيث متاحاً لفترة طويلة حيث يمكن في بعض السيناريوهات إدخاله إلى السلسلة لبضع ساعات فقط، ثم إزالته أو استبداله قبل أن يبدأ التحقيق. ويصعّب ذلك الاعتماد على الفحص اللاحق للمستودع أو الرابط، لأن النسخة التي يراجعها المحقق قد لا تكون هي نفسها التي تعامل معها الوكيل وقت وقوع الحادث.
ولهذا يضع لوزكين الثقة في مصدر المهارات ضمن أول خطوط الدفاع. فالشركات التي تعتمد مستودعات موثوقة وخوادم «MCP» معروفة، ويفضل أن تكون مقدمة من الشركة المطورة للنظام أو من جهة خضعت للمراجعة، تقلل احتمال إدخال مكونات ضارة إلى بيئتها.
ويقارن لوزكين بين المهارات البرمجية الخاصة بالوكلاء والبرامج التقليدية التي يجري تنزيلها من الإنترنت. ويقول إن الموقف الأمني يجب أن يكون متشابهاً: «إذا كنت تنزل برنامجاً من موقع غير موثوق وتقوم بتشغيله، فقد يحتوي على برمجيات خبيثة. وينبغي التعامل مع مهارات الوكلاء بالطريقة نفسها».
لا يرى لوزكين أن حماية الوكلاء يمكن أن تعتمد فقط على تحليل التعليمات النصية أو البحث عن توقيعات معروفة، لأن الهجوم قد يُبنى من خطوات تبدو طبيعية عند النظر إليها منفردة. وبدلاً من ذلك، يدعو إلى مراقبة دورة عمل الوكيل بالكامل من خلال أدوات خارجية تتابع البيانات التي يرسلها ويستقبلها، والمصادر التي يتصل بها، والأوامر التي ينفذها، والملفات التي يحاول الوصول إليها.
ويذكر أن «كل خطوة، وكل جزء من البيانات، وكل حركة مرور، وكل أمر يُنفذ يجب أن يخضع للمراقبة». ويشبّه هذه الآلية بعمل برامج مكافحة الفيروسات التي تراقب تدفق تنفيذ البرنامج، لكنها تطبق هنا على كامل مسار عمل الوكيل الذكي.
وتستطيع أدوات أمن الشبكات والنقاط الطرفية والذاكرة الموجودة حالياً رصد جانب من السلوك الخبيث، بحسب لوزكين، حتى لو لم تكن مصممة في الأصل للوكلاء. لكنها تحتاج إلى تعديل إعداداتها ونطاق رؤيتها حتى تفهم العلاقات بين الأدوات التي يستخدمها الوكيل، والمهارات التي يستدعيها، والبيانات التي يتبادلها مع وكلاء آخرين.
ويرى أن تكييف الأدوات الحالية لمراقبة الوكلاء ليس تحولاً تقنياً مستحيلاً أو إعادة بناء كاملة للبنية الأمنية، بل تطوير لنطاق الرؤية والقواعد المستخدمة. فالسلوك الخبيث يظل قابلاً للرصد عندما يحاول الوكيل الوصول إلى ملفات غير معتادة، أو قراءة بيانات اعتماد، أو إرسال معلومات إلى وجهة خارجية.
ومع ذلك، يصبح الحل الأكثر فاعلية هو تخصيص طبقة المراقبة لتتبع السلوك الوكيلي بوصفه سلسلة مترابطة، لا مجموعة عمليات منفصلة. كما يتطلب التعامل مع المكونات قصيرة العمر الاحتفاظ بسجلات دقيقة للنسخ التي جرى تنزيلها، ومصدرها، وتوقيت تشغيلها، والتغيرات التي طرأت عليها.
يثير انتشار الوكلاء المستقلين سؤالاً عملياً: هل يجب أن يوافق الموظف على كل مهارة أو أمر قبل تشغيله؟ يشرح لوزكين أن هذا النموذج يصعب تطبيقه عندما تعمل عشرات الوكلاء في وقت واحد، وتتبادل البيانات وتكتب الشيفرات وتنفذ المهام بسرعة تفوق قدرة الإنسان على مراجعة كل خطوة.
وفي بيئات التطوير الآلية، قد يعمل عدد كبير من الوكلاء بصورة متزامنة، فيبني أحدهم الشيفرة، ويختبرها آخر، ويتولى ثالث الوصول إلى أدوات أو بيانات إضافية. ويقول لوزكين إن إجبار الموظف على مراجعة كل أمر والضغط المتكرر على زر الموافقة سيبطئ العملية إلى درجة تلغي جانباً كبيراً من الفائدة التي توفرها الأتمتة.
ولهذا تصبح بيئة التشغيل المعزولة أكثر واقعية من الرقابة اليدوية المستمرة. ويقترح تشغيل الوكلاء، خصوصاً في مجالات مثل تطوير البرمجيات، داخل بيئات معزولة أو صناديق رملية لا تمنحهم إلا وصولاً محدوداً إلى الذاكرة والملفات والأنظمة.
وحتى إذا تعرض الوكيل للاختراق، يبقى محصوراً داخل ما وصفه لوزكين بـ«فقاعة معزولة»، فلا يستطيع الانتقال إلى بقية الشبكة أو جمع كامل البيانات الموجودة على الجهاز. ولا يحل العزل محل المراقبة، لكنه يقلل حجم الضرر المحتمل، لأن البيئة تُبنى على احتمال تعرض الوكيل للتلاعب، لا على افتراض بقائه آمناً دائماً.
تبدأ حماية الوكيل، وفق لوزكين، من سياسة واضحة للبيانات، وليس فقط من أداة تقنية. ويتعين على كل مؤسسة تحديد المعلومات التي يمكن للوكيل الوصول إليها، والبيانات التي لا ينبغي مشاركتها معه تحت أي ظرف. ويقدم مثالاً من بيئات تطوير البرمجيات، حيث قد تسمح الشركة للوكيل بالوصول إلى أجزاء محددة من الشيفرة، لكنها تمنعه من الاطلاع على المكونات الأكثر حساسية أو على المستودع بالكامل. ويقول إن المؤسسة يجب أن تسأل نفسها مسبقاً: ما المعلومات التي تستطيع تحمل تسربها، وما المعلومات التي يجب ألا تتسرب مطلقاً؟
ويضيف: «إذا كنت لا أريد لهذه المعلومات أن تتسرب أبداً، فلا ينبغي أن أسمح للوكيل بالوصول إليها». ويعني ذلك أن تطبيق مبدأ أقل قدر من الصلاحيات يصبح أكثر تشدداً عند التعامل مع الوكلاء، لأن الوكيل قد يجمع بين مصادر متعددة ويعيد تركيبها أو يرسلها إلى خدمة خارجية.
ويشير لوزكين إلى أن «كاسبرسكي» تطبق هذا الأسلوب عند استخدام الذكاء الاصطناعي في تطوير الأدوات الداخلية. فالوكيل الذي يمتلك اتصالاً خارجياً لا يُمنح وصولاً عاماً إلى جميع الرسائل أو المواعيد أو الشيفرات، بل إلى نطاق محدد من البيانات اللازمة للمهمة.
لا يحتاج المهاجم دائماً إلى اختراق النموذج الأساسي أو جهاز المستخدم مباشرة. فقد يستطيع التأثير في الوكيل من خلال بريد إلكتروني أو مستند أو محتوى يحتوي على تعليمات خفية أو مضللة.
ويفيد لوزكين بأن هجمات حقن التعليمات نجحت بالفعل في بعض الحالات، لكن النماذج السحابية الكبيرة المقدمة من الشركات الرئيسية أصبحت أكثر قدرة على التعرف على محاولات التلاعب. ومع ذلك، يبقى الخطر أكبر عند استخدام وكلاء محليين أو نماذج أقل تقييداً، حيث قد تستمر أساليب حقن التعليمات في العمل بفاعلية أعلى.
ولا يقتصر الخطر على المحتوى المباشر. فإذا كان الوكيل يقرأ بريداً أو مستنداً ثم يرسل خلاصته إلى وكيل آخر يمتلك صلاحيات تنفيذية، فقد تنتقل التعليمات الخبيثة عبر عدة طبقات قبل أن تظهر النتيجة. ولهذا لا تكفي حماية النموذج وحده، بل يجب مراقبة مصدر البيانات ومسار انتقالها والجهة التي سمحت للوكيل بتنفيذ الأمر.
يُعد اختراق سلسلة التوريد من أكثر السيناريوهات تعقيداً، لأن المهاجم لا يحتاج إلى إقناع المؤسسة بتنزيل مهارة مجهولة. وبدلاً من ذلك، قد يستهدف مستودعاً أو مكوناً كانت الشركة تثق به سابقاً، ثم يستبدل المهارة الأصلية بنسخة خبيثة.
وفي هذه الحالة، سيستمر النظام الداخلي في التعامل مع المهارة باعتبارها موثوقة، رغم أن سلوكها تغير. ويلفت لوزكين إلى أن مراقبة تدفق التنفيذ تستطيع كشف هذا التحول عندما يبدأ المكون في تنفيذ إجراءات لم يكن ينفذها من قبل، مثل الوصول إلى ملفات مفاتيح التشفير أو كلمات المرور أو مناطق حساسة في النظام.
ولا تعتمد الحماية هنا على السمعة السابقة للمكون فقط. فالثقة التاريخية لا تضمن سلامة النسخة الحالية، ولذلك يجب أن تخضع المهارات الموثوقة نفسها للمراقبة المستمرة، مع إطلاق تنبيه عند ظهور تغير في نمط عملها. وتزداد صعوبة التحقيق عندما يُفعّل المهاجم النسخة الخبيثة لفترة محدودة، ثم يعيد المستودع إلى حالته السابقة. وهنا تصبح سجلات التنفيذ وحفظ النسخ والتوقيتات أكثر أهمية من فحص المصدر بعد انتهاء الهجوم.
لا يعتقد لوزكين أن ظهور الوكلاء يتطلب التخلص من منهجيات الاستجابة للحوادث التي طورتها المؤسسات على مدى سنوات. فالتحقيق الجنائي الرقمي، وتحليل الشبكات، ومراجعة حركة البيانات، وعزل الأنظمة المتأثرة، تظل عناصر أساسية. لكن هذه المنهجيات تحتاج إلى التكيف مع طبيعة سير العمل الوكيلي، بما يشمل تتبع التواصل بين عدة وكلاء، ومعرفة البيانات التي تبادلوها، وتحديد المهارة أو الخادم الخارجي الذي بدأ منه السلوك غير الطبيعي. ويقول إن التغيير المطلوب يتعلق في جانب كبير منه بالسياسات: ما الذي يجب مراقبته؟ وأي أجزاء من سير العمل تحتاج إلى تسجيل؟ ومتى يتحول السلوك إلى حادث يستوجب العزل؟ ومن يملك صلاحية إيقاف الوكيل؟ وفي بيئات التطوير، قد يتطلب التحقيق مراجعة الأوامر التي أنشأها الوكيل، والمصادر التي جلب منها الشيفرة، والمكونات التي أضافها إلى المشروع، وليس فقط فحص الملف التنفيذي النهائي.
يرى لوزكين أن المؤسسات في السعودية والخليج تتوسع بسرعة في الانتقال من التجارب المحدودة إلى وكلاء متصلين بالأنظمة الداخلية والسحابية، لكن القدرات الأمنية لا تتطور دائماً بالوتيرة نفسها.
ويعتبر أن الشركات تلاحظ الزيادة السريعة في الإنتاجية، فتندفع إلى نشر الوكلاء أولاً، على أن تضيف الحماية في مرحلة لاحقة. ويصف هذا الترتيب بأنه خطر، مؤكداً أن النهج الصحيح يجب أن يبدأ بوضع الضوابط الأمنية قبل الانتقال إلى الاستخدام الواسع.
ويصرح بأن النمط الذي يراه في عدد من المؤسسات هو: «لنبدأ باستخدام الوكلاء، ثم نعود لاحقاً إلى الأمن». ويشير إلى أن هذه الأولوية المعكوسة قد تترك الوكلاء متصلين ببيانات وأنظمة حساسة قبل وضع حدود واضحة لصلاحياتهم أو مراقبة نشاطهم.
وبرأي لوزكين، لا ينطبق مستوى المخاطر بالطريقة نفسها على جميع المؤسسات. فالشركات الكبرى غالباً ما تضع الأمن ضمن المراحل الأولى بسبب طبيعة عملياتها وحجم المخاطر التنظيمية والمالية، بينما قد تكون المؤسسات المتوسطة أكثر تعرضاً.
يفصل لوزكين بين أوضاع الشركات الصغيرة والمتوسطة والكبيرة. فالشركات الصغيرة قد تمتلك عدداً أقل من الأنظمة والبيانات والبنى المعقدة، بينما تملك الشركات الكبرى فرقاً أمنية وإجراءات أكثر صرامة ومراحل موافقة أبطأ قبل نشر التقنيات الجديدة.
أما المؤسسات المتوسطة، فتقع بين الطرفين. فهي تملك أنظمة وبيانات وأصولاً رقمية مهمة، وتستخدم أدوات حماية متعددة، لكنها قد لا تمتلك الحجم نفسه من فرق الأمن والحوكمة الموجودة لدى الشرك&#
