كيف يمكن أن تهدد أدوات الذكاء الاصطناعي على الأمن السيبراني؟

نظرًا لأن أدوات الذكاء الاصطناعي أصبحت أكثر تعقيدًا ، يمكن استخدامها لشن هجمات إلكترونية أكثر تعقيدًا ويصعب اكتشافها.

في هذه المقالة ، سوف نستكشف كيف يمكن لأدوات الذكاء الاصطناعي أن تهدد الأمن السيبراني وما هي التدابير التي يمكن اتخاذها للتخفيف من هذه التهديدات.

ينتشر اليوم مصطلح الذكاء الاصطناعي بكثرة الذي يعتبر من أهم المصطلحات في عصرنا الحالي، على الرغم من بدايته القديمة في خمسينات القرن الماضي.

و يعتمد الذكاء الاصطناعي على تطوير الأنظمة والتقنيات التي تساعد على إنجاز المهام التي تحتاج إلى ذكاء وتفكير مشابه للإنسان، ويعد ChatGPT حالياً من أشهر نماذج هذا الذكاء في يومنا هذا، والتي سببت اهتمام شعبي ودولي غير مسبوق خلال عام 2023.

لنتعرف في هذا المقال عليه وعلى تأثيراته على الأمن السيبراني.

ما هي أدوات الذكاء الاصطناعي؟

هي تقنية تعلم الآلة المسماة بالتعلم العميق لتوليد النصوص والردود المنطقية والمفهومة في المحادثات وتعتبر ChatGPT من أحد أبرز أدوات الذكاء الاصطناعي تم تطويرها من قبل شركة OpenAI.

يتم تدريب نموذج أدوات الذكاء الاصطناعي على كميات كبيرة من البيانات اللغوية للتعلم والتحسين المستمر، وعندما يتم تفعيلها في الحوارات، يمكن لأدوات الذكاء الاصطناعي إدراك محتوى الحوار وتوليد ردود ذات دلالة، وهو ما يجعله مفيداً في التفاعل مع البشر في مجالات مثل خدمة العملاء والتعليم، والإعلام، والتسويق، والتصميم والترجمة وغيرها من المجالات الاخرى.

 ماهي آلية عمل أدوات الذكاء الاصطناعي؟

تعتمد آلية عمل أدوات الذكاء الاصطناعي AI على تدريبها على مجموعة كبيرة جداً من البيانات اللغوية، مثل الكتب والمقالات والمواقع الإلكترونية.

حيث يتعلم النموذج العلاقات اللغوية والنمطية في النصوص كما تم تدريب أدوات الذكاء الصناعي AI عن طريق إدخال النصوص الطويلة وتدريب النموذج على مهمة معينة، مثل مهمة التنبؤ بالكلمة التالية في النص.

عند تشغيل أدوات الذكاء الصناعي على نص معين، يتم تحويل النص إلى مجموعة من الأرقام والبيانات الرياضية التي يتعرف عليها النموذج، ويتم استخدام هذه الأرقام لتوليد النص الجديد باستخدام قواعد اللغة التي تعلمها النموذج خلال عملية التدريب، يمكن استخدام أدوات الذكاء الاصطناعي لإنشاء نصوص مختلفة مثل المقالات والشعر والروايات او حتى كتابة رسالة بريد الالكتروني.

تعد أدوات الذكاء الصناعي نموذجًا مفيدًا لعدد من الخدمات، مثل إعداد الخطط التسويقية والإجابة على أسئلة العملاء وإعداد المحتوى، وتستخدم بشكل واسع في المجالات المختلفة مثل التسويق الرقمي، والترجمة ، والتعلم الإلكتروني وحتى في إنتاج التعليق الصوتي وإعداد التصاميم وغيرها العديد من الخدمات.

وعلى الرغم من فوائدها إلا أنه يمكن استخدامها في أنشطة غير مشروعة تهدد الأمن السيبراني. لنتعرف على هذه التهديدات والمخاطر.

ما هي مخاطر استخدام  أدوات الذكاء الاصطناعي على الأمن السيبراني؟

• الاختراق:

 من الممكن أن يتم استغلال هذه التقنية في عمليات اختراق الأنظمة السيبرانية، وذلك بسبب العديد من العوامل التي قد تؤدي إلى تعرض هذه الأنظمة للخطر.

ومن بين الأسباب التي يمكن أن تؤدي إلى خطر الاختراق عن طريق الذكاء الاصطناعي في أدوات AI:

• ثغرات الأمان:

 يمكن أن تتعرض تطبيقات الدردشة الآلية التي تستخدم أدوات الذكاء الصنعي للعديد من الثغرات الأمنية التي يمكن استغلالها من قبل المهاجمين للدخول إلى النظام والحصول على المعلومات الحساسة.

• التصيد الاحتيالي:

يمكن استخدام أدوات الذكاء الاصطناعي في إنشاء رسائل بريد الكترونية مزيفة وإجراءات احتيالية بمستوى عالي من الاحترافية، ويمكن استخدام هذه التقنية لإقناع المستخدمين بإعطاء معلومات حساسة مثل الأرقام السرية والبيانات المالية.

• الهندسة الاجتماعية:

يمكن استخدام أدوات AI في إجراء عمليات الهندسة الاجتماعية، حيث يمكن للمهاجمين استخدام هذه التقنية للتلاعب بالمستخدمين والحصول على المعلومات الشخصية منهم.

• التصيد الصوتي:

يمكن استخدام أدوات الذكاء الصناعي في تعرف الأصوات، وهو ما يعرف باسم “التحريض الصوتي”، حيث يتم استخدام تلك التقنية في الغالب للحديث بأصوات مزيفة لإجراءات احتيالية.

• البرمجيات الخبيثة:

يمكن استخدام أدوات الذكاء الاصطناعي في إنشاء برامج خبيثة، حيث يمكن للمهاجمين استخدامها لذلك الغرض.

• الاحتيال الإلكتروني:

يمكن استخدامه لإنشاء رسائل بريد إلكتروني أو رسائل نصية متعددة الوسائط تبدو وكأنها من مصادر موثوقة وحقيقية، ويتم إقناع الضحايا بتزويدهم بمعلومات حساسة مثل تسجيل الدخول وكلمات المرور أو المعلومات المالية، وعندما يقوم الضحايا بتقديم هذه المعلومات، يمكن استخدامها في عمليات الاحتيال والاختراق.

• ومن الممكن أيضًا استخدام أدوات الذكاء الصناعي في إنشاء مواقع الكترونية مزيفة بطريقة احترافية، تبدو وكأنها من المواقع الموثوقة والحقيقية، ويتم استخدامها لجمع معلومات حساسة أو لتحميل برمجيات خبيثة على الأجهزة الخاصة بالضحايا.
• بالإضافة إلى ذلك، يمكن استخدام أدوات الذكاء الاصطناعي في إجراء عمليات الاحتيال المتعلقة بالتسويق، حيث يتم إنشاء إعلانات ومحتويات تسويقية مضللة تهدف إلى إقناع الأشخاص بشراء منتجات أو خدمات غير موثوق بها.

•  الهجمات الإلكترونية الموجهة: 

يمكن استخدام التقنيات الذكية مثل أدوات الذكاء الاصطناعي لتنفيذ هجمات موجهة على أهداف محددة، مثل الشركات والمؤسسات عن طريق:

1. الحصول على معلومات حساسة:

يمكن استخدام أدوات الذكاء الاصطناعي لإيهام المستخدمين بأنه يتم جمع بيانات منهم لأغراض شرعية، مما يتيح للمهاجمين الحصول على معلومات حساسة عنهم واستخدامها في الهجمات المستقبلية.

2. تجنب الكشف:

يمكن للمهاجمين استخدام أدوات الذكاء الاصطناعي للتواصل مع الضحايا دون الكشف عن هويتهم، مما يجعل من الصعب تحديد مصدر الهجوم والتحقق من صحة المعلومات التي تم تبادلها.

  بعض المخاطر الأخرى لاستخدام أدوات AI: 

1. التمييز والتحيز:

 يمكن أن يتم التحيز ضد فئات محددة من المستخدمين وتمنح المزيد من الفرص والامتيازات للفئات الأخرى.

2. الأخطاء:

يمكن أن يؤدي استخدام أدوات الذكاء الاصطناعي إلى الأخطاء اللغوية والنحوية أو حتى وجود نسخة غير محدثة من المعلومات في الردود التي يقدمها. وقد يؤدي هذا الخطأ إلى سوء فهم المستخدمين وتوجيههم إلى إجراءات خاطئة وتقديم معلومات قديمة.

3. التهديدات الجديدة:

 قد يؤدي استخدام التقنيات الذكية إلى ظهور تهديدات جديدة في مجال الأمن السيبراني، حيث قد تصبح بعض الأنظمة الذكية عرضة للاختراق والاستغلال.

كيف يمكن تجنب أخطار أدوات AI على الأمن السيبراني؟

لتجنب هذه المخاطر، يجب على المستخدمين الحذر والانتباه عند التفاعل مع أي رسائل أو صفحات ويب مشبوهة، ويجب أن يتأكدوا دائمًا من المصدر قبل تقديم أي معلومات حساسة.

كما ينبغي على الشركات والمنظمات تطوير إجراءات وتقنيات أمنية قوية لحماية بيانات المستخدمين والتصدي لعمليات الاحتيال الإلكتروني المستخدمة لـأدوات الذكاء الاصطناعي.

الخلاصة:

يمكن أن يكون تأثير أدوات الذكاء الاصطناعي على الأمن السيبراني، إيجابيًا أو سلبيًا اعتمادًا على كيفية استخدام هذه التقنية. فعلى سبيل المثال، يمكن استخدامه بشكل إيجابي في التعليم والتدريب عن بعد، وفي تحسين تجربة خدمة العملاء، وتوفير إجابات سريعة وفعالة لهم، وفي تطوير التسويق الإلكتروني وترجمة النصوص من لغة إلى لغات أخرى، وفي تسهيل عمليات التصميم، والعديد من الاستخدامات المفيدة الأخرى. ويمكن أيضاً اكتشاف كثيرا من التهديدات الالكترونية عن طريق معالجة وتحليل ملايين من السجلات الأمنية والملفات الخبيثة و بيانات الشبكات.

ومن ناحية أخرى، فإن الاستخدامات السلبية لأدوات الذكاء الصناعي تكون عن طريق انتحال الشخصية، وإنشاء نصوص تحتوي على الإساءة والتحريض، وإنشاء نصوص احتيالية تؤدي إلى الخداع والضرر للمستخدمين.

وبالتالي، فإن الذكاء الاصطناعي يمثل تحديًا للأمن السيبراني، ومن المهم اتخاذ التدابير اللازمة للحد من التهديدات المحتملة والمحافظة على سلامة الأنظمة الحاسوبية والتقنية.

ويمكن للمنشآت تقديم برامج محاكاة التصيد لموظفيها لتقليل الهجمات الناجحة وتثقيفهم

وهذا ما نقدمه في شركة سيريبرا حيث توفر منتجات تقنية وتعمل على تطوير تقنيات حديثة للأمن السيبراني.