الزيادة المطردة في عمليات الاحتيال والنصب الرقمي أجبرت الجرائم الإلكترونية على مواقع التواصل الاجتماعي وتطبيقات المراسلة كبرى شركات التكنولوجيا على تحسين إجراءاتها الأمنية بشكل ملحوظ. وبات من الشائع بشكل متزايد أن يحاول مجرمو الإنترنت سرقة الحسابات أو البيانات المصرفية أو انتحال شخصيات علامات تجارية معروفة من خلال الرسائل والإعلانات وجهات الاتصال التي تبدو بريئة للوهلة الأولى.
في هذا السياق، مييتااا تعمل على تعزيز استراتيجيتها الأمنية بجيل جديد من تطبيق الذكاء الاصطناعي لمكافحة الاحتيال على فيسبوك وواتساب وماسنجرالنهج واضح: تحذير المستخدم قبل أن يقع في الفخ، وتقليل التعرض للمحتوى الضار، وجعل الحياة صعبة قدر الإمكان على المحتالين الذين يعملون على منصاتهم.
نظام ذكاء اصطناعي لمكافحة الاحتيال للبقاء متقدماً على عمليات الاحتيال على منصة ميتا
تقوم شركة ميتا بنشر مجموعة من الميزات التي تجمع الذكاء الاصطناعي على الجهاز نفسه والتحليل على خوادم بعيدةتتيح هذه البنية، من ناحية، احترام التشفير من طرف إلى طرف في خدمات مثل واتساب وماسنجر، ومن ناحية أخرى، توفير طبقة إضافية من الكشف المتقدم عندما يقرر المستخدم إرسال محتوى مشبوه معين للمراجعة.
تعتمد الأدوات على نماذج قادرة على التحليل النصوص والصور والروابط وأنماط السلوكالهدف هو تحديد كل شيء بدءًا من الإعلانات الاحتيالية التي تستخدم وجوه المشاهير دون إذن، وصولًا إلى رسائل "الدعم الفني" التي تحاول الحصول على رموز التحقق، بالإضافة إلى طلبات الصداقة من حسابات مزيفة تسعى إلى كسب ثقة الضحية.
وفقًا للبيانات التي شاركتها الشركة، فإن المشكلة ليست بسيطة: تدعي شركة ميتا أنها تم تعطيل ملايين الحسابات والإعلانات المرتبطة بشبكات الاحتيال المنظمة على مواقع فيسبوك وإنستغرام وواتساب، وفي بعض الحالات ترتبط بمراكز احتيال حقيقية منتشرة في عدة دول.
يعتمد هذا الهجوم التكنولوجي أيضًا على فرق المراجعة البشرية التي تعمل جنبًا إلى جنب مع الذكاء الاصطناعي، بحيث يتم تدريب النماذج بأمثلة حقيقية ويتم تقليل هامش الخطأ في تصنيف المحتوى المشكوك فيه.
واتساب: جدار حماية ضد اختراق الحسابات والمجموعات المشبوهة
في حالة واتس ابيركز نظام الذكاء الاصطناعي لمكافحة الاحتيال من ميتا على العديد من أساليب الهجوم الشائعة بشكل خاص: اختطاف الحسابات من خلال ربط الأجهزةعمليات الاحتيال والخداع في مجال الدعم الفني من قبل مجموعات مجهولة.
إحدى الميزات الجديدة الرئيسية هي نظام من تنبيهات عند محاولة شخص ما ربط الحساب بجهاز غير معروف.في حال رصد طلب مشبوه، يعرض التطبيق معلومات مثل الموقع الذي انطلق منه الطلب، بالإضافة إلى تحذير واضح بأنه قد يكون عملية احتيال. يتيح هذا للمستخدم إيقاف العملية قبل أن يتمكن طرف ثالث من الوصول الكامل إلى محادثاته.
يتدخل الذكاء الاصطناعي أيضًا في حالات مشاركة الشاشة أثناء مكالمات الفيديو مع جهات اتصال غير معروفةعند اكتشاف نمط المخاطر هذا، يصدر النظام تحذيراً تلقائياً، حيث تعتمد العديد من عمليات الاحتيال المتعلقة بـ "الدعم الفني" على مشاهدة شاشة المستخدم مباشرة لالتقاط بيانات الاعتماد المصرفية أو الرموز لمرة واحدة أو غيرها من المعلومات الحساسة بشكل خاص.
علاوة على ذلك، تُظهر المجموعات التي ينضم إليها المستخدمون دون معرفة الكثير عن أعضائها الآن لوحة السلامة الوقائيةتوفر هذه اللوحة تفاصيل حول المجموعة، ونصائح لاكتشاف محاولات الاحتيال، وخيار المغادرة دون التفاعل، مع كتم الإشعارات حتى يؤكد المستخدم رغبته في البقاء.
تقوم شركة ميتا أيضاً بالاختبار تنبيهات سياقية عند بدء محادثات مع أرقام غير موجودة في دفتر العناوينإذا رصد النظام علامات نموذجية للتصيد الاحتيالي أو الاستثمارات المزيفة أو طلبات الأموال غير الواضحة، فإنه يوصي بتوخي الحذر الشديد ويوفر إمكانية الحظر أو الإبلاغ ببضع نقرات.
فيسبوك: التدقيق في طلبات الصداقة وصفحات "الدعم" المزيفة
En فيسبوكللذكاء الاصطناعي لمكافحة الاحتيال جبهتان رئيسيتان: طلبات صداقة مشبوهة والمواقع الإلكترونية التي تنتحل صفة أقسام خدمة العملاء أو العلامات التجارية المعروفة.
عند تلقي طلب صداقة، قد تعرض المنصة تحذيرًا إذا رصدت عوامل خطر: حسابات ذات عدد قليل جدًا من الأصدقاء المشتركين، أو ملفات تعريف تم إنشاؤها حديثًا، أو أصل جغرافي لا يتطابق مع شبكة المستخدم، أو سلوكيات تتطابق مع أنماط مرتبطة بشبكات الروبوتات. وبهذه الطريقة، يمكن للمستخدم تقييم أفضل لما إذا كان ينبغي قبول الطلب أو تجاهله أو حظره قبل فتح الباب أمام محتال محتمل.
ومن بين المحاور الأخرى ذات الصلة ما يلي: صفحات وحسابات دعم مزيفة تحاول هذه المواقع الاحتيال على المستخدمين الذين يسعون للحصول على مساعدة لاستعادة حساباتهم أو حل مشاكلهم. وتزعم شركة ميتا أنها اتخذت إجراءات ضد عشرات الآلاف من هذه المواقع، التي كانت تطلب عادةً بيانات تسجيل الدخول أو وثائق الهوية أو دفع مبالغ مالية "لتسريع" عمليات الاستعادة المزعومة.
كما تعمل الشركة على تعزيز آلياتها لـ التحقق من المعلنين والكشف عن الإعلانات الاحتياليةيشمل ذلك من يستخدمون صور المشاهير أو رجال الأعمال أو الشخصيات العامة دون إذن. يقوم الذكاء الاصطناعي بمقارنة الوجوه وتحديد التلاعبات المتكررة المستخدمة لإضفاء الشرعية على الاستثمارات الوهمية أو العروض الترويجية غير الموجودة أو المنتجات التي لا تصل أبدًا.
تُعد هذه النقطة حساسة بشكل خاص للشركات ومنشئي المحتوى في إسبانيا وبقية أوروبا، حيث تستخدم الإعلانات استخدام صور رواد الأعمال أو الشخصيات المحلية المعروفة لجذب الضحايامما يؤدي إلى حدوث ارتباك وإلحاق ضرر بالسمعة يصعب إصلاحه.
ماسنجر: خاصية كشف الاحتيال القابلة للتخصيص من قبل المستخدم
تطبيق المراسلة المرتبط بفيسبوك، رسول، يتضمن وظيفة محددة تسمى "كشف عمليات الاحتيال"يُتيح هذا الخيار، الذي يمكن الوصول إليه من خلال إعدادات الخصوصية والأمان، تحليل المحادثات التي يبدأها جهات اتصال غير معروفة بتفصيل أكبر. وبمجرد تفعيله، توفر هذه الميزة تحليلاً أكثر تعمقاً للمحادثات.
يركز الذكاء الاصطناعي على الأنماط المميزة للعروض الوهميةتشمل هذه الأساليب: عروض العمل عن بُعد التي تتطلب دفعات مقدمة، والاستثمارات ذات العوائد المضمونة، والرسائل العاجلة التي تطلب المال، أو محاولات انتحال صفة موظفي الدعم في شركات معروفة. في حال رصد أي شيء غير معتاد، يُظهر النظام تنبيهًا يُشير إلى نوع المخاطر الموجودة، ويقترح حظر المُرسِل أو الإبلاغ عنه.
عند منح المستخدم إذناً صريحاً، يمكن إرسال الرسائل المميزة على أساس كل حالة على حدة إلى خوادم ميتا لتحليل الذكاء الاصطناعي بشكل أعمقتؤدي هذه الخطوة إلى كسر التشفير من طرف إلى طرف مؤقتًا فقط لهذا المحتوى المحدد، وهو قرار يجب على كل شخص أن يزنه وفقًا لتحمله للمخاطر ومخاوفه المتعلقة بالخصوصية.
وفي الوقت نفسه، حسّن تطبيق ماسنجر نظامه الخاص بـ حماية الروابطتعتمد ميزة التصفح الآمن، التي كانت تحلل عناوين المواقع الإلكترونية على الجهاز نفسه، الآن على طبقة إضافية تسمى الحماية المتقدمة، والمتصلة بـ قوائم يتم تحديثها باستمرار من المواقع الخطيرة. يهدف التصميم إلى منع الوصول إلى صفحات التصيد الاحتيالي أو تنزيل البرامج الضارة دون الكشف عن هوية المستخدم أو سجل تصفحه بالكامل.
بالنسبة لفرق الدعم أو المبيعات أو خدمة العملاء التي تستخدم ماسنجر كقناة اتصال منتظمة، تمثل هذه التحسينات كلاً من حاجز إضافي ضد عمليات الاحتيال التي تستهدف علامتك التجارية باعتبارها بيئة أكثر أمانًا إلى حد ما للمستخدمين الذين يتفاعلون معهم يوميًا.
الذكاء الاصطناعي الكامن وراء الكواليس
تعتمد ميزات الأمان الجديدة في Meta على بنية هجينة تجمع بين نهجين متكاملين. الأول هو تحليل الجهازيعمل مباشرة على الهاتف المحمول أو الكمبيوتر الخاص بالمستخدم ويحترم التشفير من طرف إلى طرف، لأنه لا يحتاج إلى إرسال المحتوى إلى خوادم خارجية لاكتشاف أنماط المخاطر.
يركز هذا التحليل المحلي على إشارات مثل حقيقة أن تلقي رسائل من أرقام غير محفوظةتشمل هذه المحاولات مشاركة الشاشة مع غرباء، والتغيرات المفاجئة في سلوك الحساب، أو ظهور روابط تتطابق مع تقارير الاحتيال السابقة. ومن خلال التشغيل على الجهاز نفسه، يتم تقليل حجم البيانات المرسلة خارجيًا، مما يوفر خط دفاع أولي فوري.
يتم تفعيل الطبقة الثانية عندما يختار المستخدم ذلك إرسال المحتوى للمراجعة باستخدام الذكاء الاصطناعي في السحابةفي هذه الحالة، تُعالج الرسائل أو العناصر المُعلّمة بواسطة أنظمة ميتا، التي تستخدم نماذج أكثر تعقيدًا لتقييم ما إذا كان ما يحدث يندرج ضمن نوع معروف من عمليات الاحتيال. إذا خلص التحليل إلى وجود خطر، تعرض المنصة شروحات حول عملية الاحتيال المحتملة وتوصي بإجراءات محددة.
تؤكد الشركة أنه بالإضافة إلى الذكاء الاصطناعي، هناك فرق الإشراف البشري التي تراجع ملايين المحتويات يوميًاهذا العنصر البشري هو ما يسمح، من بين أمور أخرى، بتحسين النماذج، وإدارة الحالات الأكثر حساسية، وتفكيك الحملات المنسقة واسعة النطاق التي تتجاوز الرسائل المعزولة البسيطة.
وتكتمل هذه الآلية بأكملها باتفاقيات مع قوات الأمن والجهات الفاعلة الأخرى في قطاع التكنولوجيا، من أجل تبادل المعلومات الاستخباراتية حول النطاقات الخبيثة وشبكات الحسابات المزيفة والتكتيكات الناشئة التي تستخدمها المنظمات الإجرامية.
أهم أنواع عمليات الاحتيال التي يحاول الذكاء الاصطناعي الخاص بشركة ميتا إيقافها
تُعدّ المنصات الميتا أرضًا خصبة لـ مجموعة واسعة من عمليات الاحتيال الرقميصُممت الأدوات الجديدة للكشف عن أنواع الاحتيال الشائعة التالية التي تستهدف المستخدمين في إسبانيا وأوروبا وإيقافها، من بين أمور أخرى:
- عمليات احتيال الدعم الفني الوهمي: الأشخاص الذين ينتحلون صفة خدمات دعم البنوك أو المشغلين أو حتى شركة ميتا نفسها لطلب رموز التحقق أو كلمات المرور أو الوصول عن بعد إلى الجهاز.
- عمليات احتيال في مشاركة الشاشة: مكالمات فيديو يقوم فيها المحتال بإقناع الضحية بعرض شاشته من أجل الحصول على تفاصيل مصرفية، أو رسائل نصية قصيرة تحتوي على رموز لمرة واحدة، أو بيانات اعتماد لخدمات مثل الخدمات المصرفية عبر الإنترنت أو بوابات الدفع.
- عروض عمل ومنح دراسية غير موجودة: إعلانات أو رسائل خاصة تعد بوظائف سهلة أو ذات أجور جيدة مقابل دفعة أولية مقابل "إجراءات" أو مقابل تقديم معلومات شخصية حساسة.
- مخططات الاستثمار والعملات المشفرة: حملات تعد بعوائد سريعة ومضمونة، وغالباً ما يتم دعمها بالاستخدام غير المصرح به لأشخاص مشهورين أو رجال أعمال معروفين.
- التصيد الاحتيالي والروابط الضارة: عناوين URL التي تحاكي البوابات الشرعية - البنوك ومنصات التجارة الإلكترونية والخدمات العامة - بهدف سرقة بيانات الاعتماد أو تثبيت البرامج الضارة على الجهاز.
إن الجمع بين المراقبة الآلية، والقوائم السوداء للمواقع الخطرة، وآليات إبلاغ المستخدمين يسمح بذلك يتكيف النظام بسرعة مع الأشكال الجديدة لهذه الاحتيالات.والتي غالباً ما تتحور لتفادي اكتشافها بسهولة أكبر.
التأثير على المستخدمين والشركات والمؤسسين الذين يعتمدون على ميتا
إلى جانب حماية المستخدم العادي، فإن ميزات الذكاء الاصطناعي الجديدة لمكافحة الاحتيال لها تأثيرات مباشرة على الشركات التي تستخدم فيسبوك وواتساب وماسنجر كبنية تحتية أساسية لها للمبيعات، أو خدمة العملاء، أو بناء المجتمع.
من جهة أخرى، إذا كانت الشركة تستخدم واتساب للأعمال أو ماسنجر للتواصل مع العملاء، قد تؤدي رسائلهم إلى إطلاق تنبيهات إذا اعتبرها النظام مشبوهة.على سبيل المثال، من خلال تضمين العديد من الروابط أو طلب بيانات حساسة. وهذا يستلزم مراجعة النصوص والأسلوب والتكرار لتقليل الإنذارات الكاذبة والحفاظ على ثقة الجمهور.
من ناحية أخرى، الشركات الناشئة في قطاعات حساسة بشكل خاص - مثل التكنولوجيا المالية، أو الصحة الرقمية، أو الخدمات القانونية— يجدون في هذه الأدوات علامة واضحة: لم يعد الأمن القائم على الذكاء الاصطناعي "ميزة إضافية" وأصبح الآن جزءًا من الحد الأدنى من التوقعات في أي منتج أو خدمة تتعامل مع البيانات الحساسة.
كما أن تعاون ميتا المتزايد مع جهات فاعلة أخرى في مجال التكنولوجيا والهيئات العامة يفتح الباب أمام فرص جديدة للشركات المتخصصة في الأمن السيبرانيوالتي يمكنها دمج حلولها مع أنظمة الكشف عن التهديدات الخاصة بالمنصات الكبيرة أو تقديم خدمات استشارية للشركات الصغيرة.
في نهاية المطاف، ستعتمد فعالية هذه التدابير على تبني كل من المستخدمين والمنظمات للممارسات الجيدة: تفعيل ميزات مكافحة الاحتيال المتاحة، والحفاظ على تحديث التطبيقات، والحذر من الرسائل غير المرغوب فيها، والإبلاغ عن أي سلوك مشبوه لتغذية أنظمة الكشف.
مع تطبيق نظامها الجديد الذكاء الاصطناعي لمكافحة الاحتيال على فيسبوك وواتساب وماسنجرتتخذ Meta خطوة مهمة نحو بيئة رقمية يصعب على المحتالين التعامل معها إلى حد ما، وتكون أكثر أمانًا لمن يستخدمون خدماتها يوميًا، بدءًا من المستخدمين الأفراد وصولًا إلى الشركات التي تعتمد على هذه المنصات في جزء أساسي من نشاطها.
