التوسع في طائرات بدون طيار ذاتية القيادة مزودة بالذكاء الاصطناعي إنها تُغير بشكل جذري مشهد الأمن والمراقبة، بل وحتى الحروب الحديثة. ما كان يبدو خيالاً علمياً قبل بضع سنوات أصبح الآن أمراً روتينياً: طائرات بدون طيار قادرة على تتبع الأشخاص، ودوريات الحدود، أو تسجيل أي حركة بتفصيل دقيق، دون أي تدخل بشري تقريباً.
في هذا السياق المليء بالتكنولوجيا المتطورة، يكاد يكون من السريالي اكتشاف أن شيء شائع مثل المظلة قد يُشكّل ذلك تحدياً لبعض هذه الأنظمة المتقدمة. فقد أثبت فريق من الباحثين من جامعة كاليفورنيا في إرفاين (UC Irvine) أنه باستخدام النمط البصري المناسب، يمكن لمظلة بسيطة أن "تخدع" وتجذب، بل وتُعطّل، بعض طرازات الطائرات المسيّرة التجارية التي تستخدم التتبع الذاتي القائم على رؤية الحاسوب.
صعود الطائرات المسيّرة ذاتية القيادة وأسباب القلق الكبير الذي تثيره
في السنوات الأخيرة، ازداد استخدام المركبات الجوية غير المأهولة على مستوى العالم. لم نعد نتحدث فقط عن طائرات بدون طيار ترفيهية صغيرة لتسجيل مقاطع فيديو مذهلة، بل عن منصات أكثر جدية تستخدم للمراقبة الحضرية، ومراقبة البنية التحتية الحيوية، ومراقبة الحدود، أو دعم العمليات الشرطية والعسكرية.
في سيناريوهات مثل الحرب بين روسيا وأوكرانيا لقد بات من الواضح مدى أهمية الطائرات بدون طيار. فهناك نماذج انتحارية، وأجهزة متخصصة في تتبع الأهداف، وأنظمة متصلة بالألياف الضوئية لضمان اتصال مستقر، وبشكل متزايد، أجهزة تتضمن الذكاء الاصطناعي لاتخاذ القرارات بشكل مستقل أثناء الطيران.
وتستند هذه الاستقلالية على استخدام أجهزة استشعار بصرية متطورة و خوارزميات رؤية الحاسوب تُمكّن هذه الميزات الطائرة المسيّرة من تحديد الأشخاص أو الأشياء، وتتبّعها، والتفاعل مع حركاتها دون الحاجة إلى تصحيح المسار باستمرار. في المنتجات الاستهلاكية، يُسوّق هذا النوع من الميزات تحت مسمّى "التتبّع النشط" أو "التتبّع الديناميكي".
تكمن المشكلة في أنه مع توسع استخدام هذه الأنظمة لـ عمليات المراقبة والدوريات والأمنوهناك أيضًا خطر متزايد لسوء الاستخدام: التحرش، والتجسس، وانتهاك الخصوصية، أو المراقبة السرية في الأماكن التي لا يدرك فيها الناس أنهم مراقبون.
لطالما حذر الباحثون وخبراء الأمن السيبراني من أن حماية هذه الأنظمة لا يمكن أن تقتصر على المكونات الإلكترونية (الروابط اللاسلكية، والاتصالات المشفرة، وجدران الحماية). الإدراك البصري وخوارزميات الذكاء الاصطناعي أولئك الذين يتخذون القرارات بناءً على ما "يرونه" يمكن أن يصبحوا نقطة ضعف، وهذا هو بالضبط المكان الذي تلعب فيه تجربة المظلة الغريبة دورها.
مشروع مصيدة الذباب: عندما تصبح المظلة سلاحًا دفاعيًا
فريق من المتخصصين في مجال الأمن ورؤية الحاسوب من جامعة كاليفورنيا في ايرفين قرروا عدم اتباع المسار المعتاد المتمثل في تصميم طائرات بدون طيار متطورة وهجومية بشكل متزايد. وبدلاً من ذلك، طرحوا سؤالاً مختلفاً: هل هذا ممكن؟ حماية النفس من الطائرات المسيرة ذاتية القيادة باستخدام أشياء بسيطة، دون اللجوء إلى أجهزة تشويش الترددات أو القرصنة أو المعدات العسكرية باهظة الثمن؟
ومن هذه الفكرة، وُلدت لعبة FlyTrap، وهي لعبة أسلوب الهجوم المادي ضد خوارزميات التتبع الذاتي تعتمد هذه التقنية على نمط رسومي مصمم خصيصًا لتضليل نظام الرؤية في الطائرة المسيرة. فبدلاً من تعطيل الجهاز إلكترونيًا، يكمن الهدف في التلاعب بما "تعتقد" الطائرة أنه يحدث أمام كاميرتها.
ركز الباحثون تحليلهم على الطائرات بدون طيار التي تستخدم تتبع الأهداف باستخدام الرؤية الآليةهذه أجهزة تقوم برصد وتتبع الأشخاص أو الأشياء بناءً على المعلومات المرئية التي تلتقطها كاميراتها. ومن بين الطرازات التي تم تحليلها بعض الطرازات الشائعة جدًا في السوق، مثل DJI Mini 4 Pro وDJI Neo وHoverAir X1.
بعد دراسة كيفية تفسير هذه الأنظمة لحركة الهدف، اكتشف الفريق نقطة ضعف رئيسية: في ظل ظروف معينة، يمكن التلاعب بالخوارزمية إذا تم تزويدها بـ نمط بصري مصمم بعناية وهذا يغير إدراكهم للمسافة واتجاه الحركة.
طُبع هذا النمط، المسمى "مصيدة الذباب"، على سطح مظلة عادية. وكانت النتيجة سلاحًا دفاعيًا رخيصًا وسهل الاستخدام بشكلٍ مدهش ضد الطائرات المسيّرة ذاتية التشغيل، والتي من المفترض نظريًا أن يكون من الصعب جدًا التغلب عليها دون وسائل تقنية متطورة.
كيف تعمل خدعة المظلة البصرية بالضبط؟
يكمن جوهر لعبة FlyTrap في الطريقة التي تعمل بها خوارزميات التتبع الذاتي القائم على الشبكات العصبية تقوم هذه الأنظمة بتفسير ما تلتقطه كاميرات الطائرة المسيرة. تحلل هذه الأنظمة الصورة إطارًا بإطار وتحسب كيفية تحرك الهدف على الشاشة لتحديد المكان الذي يجب أن تتحرك فيه الطائرة والسرعة التي يجب أن تتحرك بها.
يتسبب التصميم الجرافيكي المطبوع على المظلة في "قراءة" الطائرة بدون طيار لحالة لا تتوافق مع الواقع: فقد صُمم النمط بحيث يستنتج نظام الرؤية أن الهدف هو الابتعاد عن الطائرة بدون طيار، بينما في الواقع، الشخص الذي يحمل المظلة لا يزال عمليًا في نفس المكان.
في مواجهة هذا التفسير الخاطئ، يقوم برنامج التتبع بما تمت برمجته للقيام به: يحاول تقليل المسافة حتى يصل إلى هدفه، مع الحفاظ عليه ضمن نطاق التتبع الأمثل. بعبارة أخرى، تقترب الطائرة المسيرة تدريجياً، وتصحح مسارها باستمرار في محاولة "للتعويض" عن هذه المسافة المُدركة.
يُنتج هذا السلوك قيمة حقيقية هجوم الانجذاب عن بعدبدلاً من إرباك الطائرة المسيّرة وفقدانها لمسارها، تجذبها المظلة في الواقع للاقتراب أكثر فأكثر. يمكن للجهاز أن يقترب كثيراً من الشخص الذي يحمل المظلة، مما يجعله هدفاً سهلاً للإمساك به بشبكة أو حتى لإحداث اصطدام مُتحكم به.
تتمثل الميزة الكبرى لهذا النهج في أنه لا يتطلب التداخل الكهرومغناطيسي أو الوصول إلى برنامج الطائرة بدون طيارلا حاجة لاختراق النظام، أو اعتراض إشارة التحكم، أو استخدام معدات عسكرية. كل ما يتطلبه الأمر هو مظلة مصممة بشكل مناسب لاستغلال ثغرة محددة في خوارزميات رؤية الحاسوب.
اختبارات أجريت على طائرات بدون طيار تجارية ونتائج الدراسة
وللتأكد من أن الفكرة لم تكن مجرد فضول مختبري، قام فريق جامعة كاليفورنيا في إرفاين بتنفيذ تجارب منهجية باستخدام طائرات بدون طيار تجارية التي تتضمن وظائف التتبع الذاتي المستخدمة على نطاق واسع اليوم.
اختار الباحثون ثلاثة نماذج تمثيلية من سوق المستهلكين: دي جي آي ميني 4 برو، و دي جي آي نيو و هوفر إير إكس 1تتميز جميعها بأوضاع "التتبع النشط" أو "التتبع الديناميكي" المصممة للسماح للجهاز بمتابعة الشخص دون الحاجة إلى تشغيل جهاز التحكم عن بعد باستمرار.
في الاختبارات، وقف شخص في منطقة مفتوحة مع فتح مظلة FlyTrap، بينما فعّلت الطائرة المسيّرة وضع التتبع التلقائي على هذا الشخص. ثم سُمح للنظام المستقل بأداء وظيفته، دون أي تعديلات يدوية، مع مراقبة كيفية تفاعله مع... نمط رسومي للمظلة.
كانت النتائج قاطعة: في جميع نماذج الطائرات بدون طيار الثلاثة التي تم تحليلها، نجحت طريقة مصيدة الذباب في جذب الطائرات حتى مسافات قصيرة جدًا، تكفي للإمساك بها فعليًا بشبكة أو جعلها تصطدم بهيكل أو جهاز آخر إذا رغب في ذلك.
أعاد الباحثون إجراء التجارب في ظل ظروف إضاءة وجوية مختلفة، وحققوا معدلات نجاح عالية للغاية. ووفقًا للبيانات التي عُرضت في منتديات أمنية مثل مؤتمر NDSS، حافظ النظام على فعاليته حتى مع تغيرات في الإضاءة المحيطة والبيئة المحيطةمما يعزز جدواها العملية.
كجزء من عملية الإفصاح المسؤول، أبلغ الفريق عن الثغرة الأمنية إلى الشركات المصنعة للطائرات بدون طيار المعنية، بما في ذلك شركتي DJI وHoverAir، قبل الكشف عن جميع التفاصيل التقنية. كان الهدف هو منح الشركات الوقت الكافي لاستكشاف حلول التخفيف المحتملة أو تحديثات البرامج الثابتة التي من شأنها تعزيز متانة خوارزمياتها ضد هذا النوع من الهجمات المادية.
المخاطر وحالات الاستخدام: من السلامة العامة إلى التحرش
وبعيدًا عن الحكاية المتعلقة بالقدرة على "صيد" طائرة بدون طيار باستخدام مظلة، فإن دراسة FlyTrap تقدم ما يلي: تداعيات خطيرة على الأمن والانتشار الواسع للأنظمة المستقلة. ويؤكد البروفيسور ألفريد تشين، المؤلف المشارك في البحث وأستاذ علوم الحاسوب في جامعة كاليفورنيا في إرفاين، أن التتبع التلقائي سلاح ذو حدين.
من ناحية أخرى، هذه الوظائف مفيدة للغاية لـ عمليات السلامة العامة، أو دوريات الحدود، أو مراقبة البنية التحتيةفهي تسمح للطائرة بدون طيار بمراقبة مناطق واسعة أو تتبع مشتبه به دون الحاجة إلى قيادة مستمرة، مما يوفر الموارد ويحسن قدرة السلطات على الاستجابة.
من ناحية أخرى، يمكن استخدام نفس التقنية لأغراض أقل نبلاً بكثير: التحرش الفردي، والتجسس، وانتهاك الخصوصية في الأماكن العامة أو الخاصة، والتتبع غير المصرح به للأشخاص، وما إلى ذلك. عندما يستطيع أي شخص شراء طائرة بدون طيار مزودة بنظام تتبع ذاتي واستخدامها لأغراض مشكوك فيها، يصبح التوازن بين السلامة والمخاطر معقدًا.
يسلط شاويوان شي، المؤلف الرئيسي للدراسة وهو أيضاً عالم حاسوب، الضوء على سهولة استخدام مظلة بسيطة للسيطرة على سلوك بعض الطائرات بدون طيار ذاتية القيادة يدفعنا هذا إلى إعادة النظر في استخدام هذه الأجهزة في البيئات الحساسة. فإذا كان من السهل التلاعب بها مادياً، فربما ينبغي تقييد استخدامها أو تنظيمها في الحالات التي قد يكون للاختراق الأمني فيها عواقب وخيمة.
علاوة على ذلك، لا يمكن استخدام الهجوم فقط لـ تحييد الطائرات المسيرة المعادية أو الغازيةولكن أيضاً للتهرب من المراقبة المشروعة. يمكن لجماعة منظمة أن تستخدم أشكالاً مختلفة من نمط "مصيدة الذباب" لإخفاء نفسها عن طائرات الشرطة أو الطائرات العسكرية بدون طيار، مما يخلق مناطق ظل أو يتسبب في اقتراب الطائرات بشكل مفرط ويجعلها عرضة للخطر.
هجوم مادي يعيد فتح النقاش حول الأمن السيبراني للطائرات بدون طيار
من أبرز جوانب قضية مصيدة الذباب أنها تتضمن هجوم مادي على خوارزميات الإدراكليس هذا اختراقاً رقمياً. لا يوجد اختراق للبرامج الثابتة، ولا وصول عن بُعد إلى النظام، ولا تلاعب بالاتصالات اللاسلكية. كل ذلك يحدث في العالم الحقيقي، أمام كاميرا الطائرة المسيّرة.
تُظهر هذه الأنواع من الثغرات الأمنية، والمعروفة باسم الهجمات العدائية المادية، أن أمن أنظمة الذكاء الاصطناعي الأمر يتجاوز بكثير برامج التحكم وشبكات البيانات. فإذا كان بالإمكان خداع الخوارزمية التي تفسر الواقع بأنماط بصرية في البيئة، فقد تكون نقطة الضعف شيئًا بسيطًا كنمط المظلة.
في حالة ذبابة المصيدة، تم تصميم النمط خصيصًا لاستغلال أوجه القصور في طريقة حساب الشبكات العصبية للحركة والمسافة إلى الهدف. وبدلاً من إخفاء الشخص، يتم التلاعب بالإدراك بحيث تعتقد الطائرة بدون طيار أن الشخص يبتعد.
يُبرز هذا النهج أن التدابير الأمنية القياسية - تشفير الاتصالات، والمصادقة القوية، وضوابط الوصول - لا تكفي لحماية نظام طائرات بدون طيار بوظائف مستقلةومن الضروري أيضاً تعزيز متانة خوارزميات رؤية الكمبيوتر في مواجهة الأنماط البصرية الخبيثة.
مع ازدياد استخدام الطائرات المسيّرة التي تعمل بالذكاء الاصطناعي على نطاق أوسع في البيئات الحضرية والبنية التحتية الحيوية والعمليات الشرطيةإن تجاهل هذه الأنواع من المخاطر قد يفتح الباب أمام حوادث خطيرة. فالأمر لا يقتصر على إسقاط طائرة مسيرة تجارية فحسب، بل يتعلق بتطبيق استراتيجيات مماثلة في سياقات ذات حساسية استراتيجية أكبر.
التطبيقات الدفاعية وقيود أسلوب المظلة
من وجهة نظر الجمهور، يقدم اكتشاف جامعة كاليفورنيا في إرفاين أيضًا احتمالًا أداة دفاعية منخفضة التكلفةمن الناحية النظرية، يمكن للشخص الذي تتبعه طائرة بدون طيار في وضع التتبع الذاتي أن يستخدم مظلة بنمط مصيدة الذباب لجذب الجهاز وتحييده، وذلك دائمًا في حدود القوانين في بلده.
هذا الاحتمال يفتح باب النقاش حول الحق في الدفاع عن النفس ضد المراقبة الجويةوخاصة في حالات التحرش أو التجسس أو التطفل غير القانوني على الحياة الخاصة. في مواجهة تقنيات المراقبة التي تبدو بعيدة المنال عن المواطن العادي، يصبح شيء بسيط كالمظلة بمثابة وسيلة مضادة متاحة للجميع.
ومع ذلك، يحذر فريق البحث نفسه من أن نبات صائد الذباب ليس حل سحري قابل للتطبيق على أي طائرة بدون طيارتعتمد فعاليته على استخدام الجهاز لخوارزميات تتبع معينة تعتمد على رؤية الكمبيوتر وعلى تفعيل وضع التتبع الذاتي.
علاوة على ذلك، فإن تكرار النمط دون فهم عميق لكيفية معالجة الشبكات العصبية للصور قد لا يُؤدي إلى النتيجة نفسها. فمجرد طباعة تصميم لافت للنظر وتوقع نجاحه أمر غير كافٍ: يكمن نجاح هذه الطريقة في التحسين الرياضي والتجريبي للنمط الرسومي.
يجب أيضًا مراعاة الإطار القانوني: فقد يكون إسقاط أو الاستيلاء على طائرة بدون طيار خاضعًا للتنظيم أو حتى محظورًا، وذلك بحسب الدولة ونوع العملية التي تقوم بها الطائرة. قبل استخدام أي تقنية تحييد، مهما بدت بسيطة، من الضروري... فهم لوائح الهواء والخصوصية تيار.
من الواضح أن هذا النوع من الأبحاث مفيد لـ الضغط على المصنّعين والجهات التنظيمية عندما يتعلق الأمر بتحسين معايير السلامة، سواء لمنع إساءة استخدام الطائرات بدون طيار أو لمنع التلاعب بها بسهولة عن طريق جسم مادي.
وبالنظر إلى كل ذلك، تُظهر قضية FlyTrap أن التطور التكنولوجي للطائرات بدون طيار ذاتية القيادة لا يجعلها محصنة ضد الهجمات. مظلة بالنمط المناسببالإضافة إلى فهم جيد لكيفية "رؤية" الذكاء الاصطناعي الموجود على متن الطائرة للعالم، فإنه يستطيع تحويل نزهة بسيطة تحت المطر إلى أسوأ سيناريو ممكن لطائرة بدون طيار اعتقدت أنها تسيطر على كل شيء.
