أبحاث جديدة من شركة KnowBe4 تحذّر من أنَّ وكلاء الذكاء الاصطناعي غير الخاضعين للرقابة والتزييف العميق المتطور يشكلان تهديدات خطيرة لمؤسسات الإمارات العربية المتحدة والمملكة العربية السعودية

 أعلنت اليوم شركة KnowBe4، الرائدة عالميًا في أمن القوى العاملة الرقمية وتأمين كل من وكلاء الذكاء الاصطناعي والبشر، عن إطلاق تقريرها البحثي الجديد بعنوان: “من مخاطر الوكلاء إلى انتصارات البشر: بناء ثقافة أمنية في عصر الذكاء الاصطناعي الوكيلي.” تكشف النتائج عن واقع خطير تواجهه المؤسسات الحديثة في الإمارات العربية المتحدة والمملكة العربية السعودية، حيث تعمل أدوات الذكاء الاصطناعي المستقلة على توسيع نطاق الهجوم المؤسسي بشكل أسرع من قدرة فرق الأمن على وضع الضوابط الوقائية.

مع تغلغل الذكاء الاصطناعي الوكيلي بشكل واسع في الأعمال اليومية، أفاد 84% من قادة الأمن السيبراني في الإمارات العربية المتحدة والمملكة العربية السعودية بأنَّ وكلاء الذكاء الاصطناعي أصبحوا بالفعل ينفذون إجراءات داخل سير العمل المؤسسي. ومع ذلك، فإنَّ غياب مبادئ الحوكمة يترك المؤسسات عرضة للمخاطر؛ إذ يُظهر التقرير أنَّ نحو مؤسسة واحدة من كل أربع مؤسسات (24%) تُفيد بأنَّ استخدام الذكاء الاصطناعي لديها غير مُعتمد أو غير خاضع لمبادئ الحوكمة. وعليه، يُعدّ “الذكاء الاصطناعي الظِلّي” غير المُدار بمثابة طبقة خفية من الموظفين الظليين الذين يتعاملون مع بيانات مؤسسية حساسة من دون أي رقابة.

أبرز النتائج من التقرير:

• يذكر 88% من الموظفين في الإمارات العربية المتحدة والمملكة العربية السعودية أنَّ محتوى الصوت والفيديو بتقنية التزييف العميق أصبح واقعيًا لدرجة أنه من المستحيل معرفة ما يمكن الوثوق به، كما يعترف 52% صراحةً بأنهم قد ينخدعون بهجمات احتيالية تعتمد على التزييف العميق في العمل.
• يُفيد أكثر من نصف (54%) قادة الأمن السيبراني في الإمارات العربية المتحدة والمملكة العربية السعودية بأنَّ الأخطاء المرتكبة في أثناء العمل اليومي كان لها التأثير الأكبر على أمن مؤسساتهم السيبراني في غضون الأشهر 12 الماضية. ومما يفاقم هذه المشكلة، أنَّ 44% من الموظفين يقرون بأنَّ ضغوط الوقت ومشتتات بيئة العمل تدفعهم فعليًا لارتكاب أخطاء أمنية جسيمة، حتى عندما يكونون على دراية تامة بالبروتوكول الآمن.
• يفيد 36% من قادة الأمن السيبراني في الإمارات العربية المتحدة والمملكة العربية السعودية بأنَّ الهجمات المدعومة بالذكاء الاصطناعي تُعدّ من العوامل الرئيسية المسببة لمخاطر الأمن السيبراني المرتبطة بالعنصر البشري في المستقبل.
• أفاد 41% من الموظفين بأنهم غالبًا ما يلجؤون إلى استخدام أدوات الذكاء الاصطناعي الوكيلي الخاصة بهم عندما تكون الخيارات المتاحة غير متوفرة أو مقيدة، ما يترك المؤسسات عُرضة لهجمات سيبرانية. وفي الوقت نفسه، أفاد 52% من قادة الأمن السيبراني بأنَّ استخدام البرمجيات غير المُصرَّح بها وتطبيقات الذكاء الاصطناعي غير المعتمدة قد أثّر تأثيرًا مباشرًا في وضعهم الأمني في غضون الأشهر 12 الماضية.
• على الرغم منَّ أنَّ 76% من قادة الأمن السيبراني يشعرون بأنهم “على أتم استعداد” للتعامل مع التهديدات غير المتوقعة أو الناشئة القائمة على الذكاء الاصطناعي في العام المقبل، فإنَّ 84% منهم أكدوا أنَّ هناك حاجة إلى تحسينات إضافية لضمان عمل أدوات ووكلاء الذكاء الاصطناعي ضمن سياسات الأمن وحدود المخاطر المعتمدة في المؤسسة.

يُظهر التقرير أنَّ المؤسسات التي تحقق تقدمًا هي تلك التي تعطي أولوية للأمن السيبراني باعتباره ثقافة مؤسسية وليس مجرد وظيفة بحتة، حيث تدمج سلوكيات الأمان بشكل سلس في سير العمل اليومي. وعليه، تُنشئ هذه المؤسسات بيئات عمل يشعر فيها الموظفون بالأمان عند الإبلاغ عن الأخطاء، حيث وافق 82% من الموظفين على ذلك.

صرح الدكتور Martin Kraemer، مستشار الرئيس التنفيذي لقسم أمن المعلومات في KnowBe4، قائلاً: “لقد دخل الأمن السيبراني مرحلة متقلبة، حيث تحاول المؤسسات تأمين قوة عمل هجينة من البشر والذكاء الاصطناعي، ولكن موازين هذه المنظومة تتغير بسرعة تفوق قدرة قادة الأمن على مواكبتها”. “يتحرك المهاجمون بسرعة فائقة، مستخدمين هجمات مثل التزييف العميق لاستهداف الموظفين، وتقنيات حقن التعليمات لاختطاف وكلاء الذكاء الاصطناعي. ثم إنَّ ترك نحو ربع استخدامات الذكاء الاصطناعي داخل مؤسستك من دون رقابة يُعدّ بمثابة دعوة مفتوحة لجهات التهديد.”

يخلص تقرير “من مخاطر الوكلاء إلى انتصارات البشر: بناء ثقافة أمنية في عصر الذكاء الاصطناعي الوكيلي” إلى أنَّ تحقيق “الانتصارات” يتطلب من المؤسسات تصميم أنظمة تُوجّه السلوك، وبناء ثقافات داعمة، والتحول من تتبّع الإخفاقات إلى تعزيز السلوكيات الإيجابية، مع ترسيخ منهجية فعالة تُعطي الأولوية للأمن ويتوسع نطاقها ليشمل كلاً من وكلاء الذكاء الاصطناعي والبشر.

 نزّل رؤى البيانات الخاصة بالإمارات العربية المتحدة والمملكة العربية السعودية هنا والتقرير العالمي هنا.

 المنهجية

يعتمد هذا البحث على استطلاع رأي عالمي أجرته شركة Vanson Bourne، وشمل 4,000 من المتخصصين: شمل الاستطلاع 800 من صُنّاع القرار في مجال الأمن و3,200 من الموظفين الذين يمثلون مؤسسات تضم 250 موظفًا أو أكثر عبر مناطق الأمريكيتين وأوروبا والشرق الأوسط وأفريقيا وآسيا والمحيط الهادئ.