CAISEC’25: 5 توصيات لمواجهة اختراقات تعتمد على الذكاء الاصطناعي والفيديوهات الزائفة

كتبت – سماء طارق

حذر خبراء الأمن السيبراني خلال فعاليات اليوم الثاني من مؤتمر CAISEC’25 من التغيرات الجذرية التي يشهدها قطاع أمن المعلومات، نتيجة التطور السريع في تقنيات الذكاء الاصطناعي والحوسبة الكمومية، مؤكدين أن هذه التقنيات تمثل “سلاحًا ذا حدين”؛ إذ تتيح فرصًا لتطوير أدوات الحماية، لكنها في المقابل تفتح الباب أمام هجمات إلكترونية غير مسبوقة في تعقيدها وذكائها، يصعب رصدها بالأساليب التقليدية.

وتناول المتحدثون التحديات الراهنة وسبل المواجهة، مشددين على أهمية الابتكار، وتحديث التشريعات، وتطوير الكفاءات البشرية، لتجنب فجوة الحماية في عصر الذكاء الاصطناعي المتقدم.

أبرز ما جاء في الجلسة:

• تكنولوجيا الكم تفتح جبهة جديدة للهجمات

  • ريكاردو فيريا، رئيس أمن المعلومات بشركة “فورتينت”، أوضح أن الحوسبة الكمومية تمثل خطرًا متصاعدًا، داعيًا إلى تصميم برمجيات مقاومة للهجمات الكمية.

  • شدد على ضرورة توازن التشريعات بين الحماية والتطوير، لتجنب كبح الابتكار.

• ذكاء اصطناعي غير دقيق وأحيانًا مُضلل

  • أشار فيريا إلى أن نماذج الذكاء الاصطناعي قد تعطي نتائج خاطئة إذا لم تُدرّب جيدًا، موضحًا أن بعض الاستخدامات غير الدقيقة قد تعوق الأمن بدلاً من دعمه.

• الهجمات أصبحت “أكثر ذكاءً”

  • وليد عمر، مدير الابتكار في “سايبرتك”، حذر من قدرة الذكاء الاصطناعي على:

    • توليد فيديوهات مزيفة لخداع المستخدمين.

    • تعديل الأكواد لاختراق الحواجز الأمنية.

    • خداع نماذج الذكاء الاصطناعي من خلال طلبات مموّهة تحقق أهدافًا ضارة.

• دور الحوسبة الكمومية في تعزيز الهجمات

  • أحمد أبو عياد، استشاري الأمن السيبراني بشركة “دل تكنولوجيز”، أشار إلى:

    • أن بعض الدول بدأت فعليًا في بناء دفاعات ضد الهجمات الكمية.

    • أهمية تنفيذ مبادئ “الثقة الصفرية” وربط فرق البرمجة بالأمن السيبراني داخل المؤسسات.

• تحذير من استغلال نماذج الذكاء الاصطناعي

  • أوضح وليد عمر أن المخترقين يمكنهم التحايل على الذكاء الاصطناعي، من خلال إعادة صياغة الأسئلة للحصول على أكواد ضارة تحت غطاء بريء.

  • دعا إلى تطبيق آليات لحماية مدخلات الذكاء الاصطناعي من الاستخدامات المسيئة التي ترهق مراكز البيانات وتُستخدم في الهجمات.

• اختبار البيانات قبل استخدامها

  • هدير لبيب، رئيسة خدمات “بلو تيم” في شركة Liquid C2، شددت على:

    • ضرورة اختبار كل البيانات المدخلة في بيئات آمنة قبل دمجها في الأنظمة الفعلية.

    • أهمية تطوير منهجيات تحقق صارمة لضمان “نظافة البيانات” وصلاحيتها.