Son yıllarda insansız hava araçlarını basit birer araç olarak görmekten, çok daha ileriye taşıdık. video kaydetmek için yüksek teknoloji ürünü oyuncak Bu teknolojiler, güvenlik, gözetim ve hatta silahlı çatışmalarda önemli bir araç haline geldi. Ve çoğu zaman olduğu gibi, bu kadar hızlı gelişen teknolojilerde güvenlik ve koruma yönü her zaman aynı hızda ilerlemiyor.
Bu bağlamda, Kaliforniya Üniversitesi, Irvine'den bir grup araştırmacı, şaka gibi görünen ancak hiç de şaka olmayan bir şeyi ortaya koydu: Belirli renk desenine sahip bir şemsiye kullanarak bazı otonom dronları cezbetmek ve etkisiz hale getirmek mümkündür.Radyo sinyal bozucu cihazlar yok, uzaktan hackleme yok, gelişmiş silahlar yok. Sadece "garip" bir şemsiye ve bu cihazların dünyayı nasıl algıladığına dair biraz tersine mühendislik.
Otonom dronların artan endişelere yol açmasının nedenleri
İnsansız hava araçlarının yükselişi kesinlikle sadece eğlenceyle sınırlı değil. Çin, Rusya, Amerika Birleşik Devletleri ve diğer ülkeler Kendi başlarına karar verebilen yapay zekâ sistemleriyle donatılmış insansız hava araçlarının geliştirilmesini agresif bir şekilde destekliyorlar. Artık sadece influencer'lar için uçan kameralardan değil, taktiksel ve gözetleme uygulamalarına sahip otonom platformlardan bahsediyoruz.
Bunun çok açık bir örneği şu savaşta bulunabilir: Rusya ve UkraynaBurada her türlü insansız hava aracı konuşlandırıldı: kamikaze cihazları, takip üniteleri, veri iletimini iyileştirmek için fiber optik kablolara bağlı sistemler vb. Buna ek olarak, Rusya'nın iddia edilen deneyleri gibi bilim kurguya yakın gelişmeler de var. güvercinler biyolojik insansız hava araçlarına dönüştürüldüBu durum, bazı aktörlerin savaş alanında avantaj elde etmek için her türlü teknolojik yolu denemeye ne kadar istekli olduklarını göstermektedir.
Sorun şu ki, aynı teknoloji sivil sektöre aktarıldığında çok daha rahatsız edici senaryoların önünü açıyor: insanların sürekli gözetimiBunlar arasında yetkisiz otomatik izleme, hassas bölgelerde veri toplama veya bu cihazlardan biriyle yanlış zamanda karşılaşan herkesin günlük mahremiyetine yönelik basit bir müdahale yer almaktadır.
Özel güvenlik gibi görevlerde otonom takip fonksiyonlarına sahip insansız hava araçlarının yaygın olarak kullanılmaya başlanması, sınır gözetimiKalabalık kontrolü veya kritik altyapıların devriyesi, operasyonel olanaklarını genişletiyor… ancak aynı zamanda risk vektörlerini de artırıyor. Sadece dronların arızalanabilmesi değil, aynı zamanda manipüle edilebilmeleri, aldatılabilmeleri veya onları kullananlara karşı kullanılabilmeleri de risk oluşturuyor.
Bu durum göz önüne alındığında, iletişimleri şifrelemenin veya radyo frekanslarını korumanın yeterli olmadığı giderek daha açık hale geliyor. Gerçek mücadele aynı zamanda fiziksel alanda da veriliyor.Bu, görme ve yapay zeka algoritmalarının dronun kamerasından gördüklerini nasıl yorumladıkları ve onları şaşırtmak için tasarlanmış görsel desenlere nasıl tepki verdikleriyle ilgilidir.
UC Irvine araştırması: yapay zekâya karşı bir şemsiye
Yeni bir saldırı insansız hava aracı geliştirmek yerine, ekip... Kaliforniya Üniversitesi, Irvine (UC Irvine) Soruna diğer taraftan yaklaşmaya karar verdi: yapay zekâ tabanlı otonom takip sistemlerinden fiziksel olarak nasıl korunabileceği. Amacı açıktı: "fiziksel siber güvenlik" olarak adlandırılan yöntemi geliştirmek. günlük ve ucuz nesnelerÖzel donanım veya ileri düzey bilgisayar korsanlığı bilgisine ihtiyaç duymadan.
Uzmanlar, araştırmaları sırasında birçok ticari drone'a entegre edilen takip algoritmalarının nasıl çalıştığını kapsamlı bir şekilde analiz ettiler. Özellikle, ticari olarak bilinen işlevlere odaklandılar. Aktif İzleme, Dinamik İzleme veya benzeri diğer sistemlerBu özellik, pilotun yörüngeyi sürekli olarak manuel olarak ayarlamasına gerek kalmadan, dronun bilgisayar görüşü kullanarak bir kişiyi veya nesneyi otomatik olarak takip etmesini sağlar.
Birçok deneyden sonra, şaşırtıcı derecede basit bir zayıflık keşfettiler: belirli drone modelleri performans açısından sorun çıkarıyor. Sinir ağları ve görüntü hareket analizi kullanarak hedef takibi Çok spesifik bir görsel desenle karşılaştıklarında kafaları karışabilir. Bu yönteme şu isim verildi: sinek kapanı"Sinek kapanı" olarak da bilinen bu yöntem, insansız hava aracını yakalanabileceği veya vurulabileceği bir konuma çekme şekline atıfta bulunuyor.
Bu olaydaki en dikkat çekici şey, FlyTrap'in pratik uygulamasının şemsiye gibi sıradan bir şey kullanılarak gerçekleştirilmiş olmasıdır. Şemsiyenin yüzeyine uygun görsel deseni damgalayarak Ve bunu dronun önünde açtığınızda, takip yapay zekası görüntüdeki bir dizi değişikliği yorumlayarak hedef nesnenin uzaklaştığına inanır, oysa onu tutan kişi hareketsizdir.
Sonuçlar, bilgisayar güvenliği konusunda uzmanlaşmış uluslararası bir konferansta (NDSS) sunuldu ve bu yaklaşımın sadece bir laboratuvar merakı olmadığı ayrıntılı olarak açıklandı. Yapılan testler, fiziksel saldırının çeşitli koşullar altında işe yaradığını gösterdi.Aydınlatma ve hava koşullarındaki değişikliklerle birlikte, bu durum onu kontrollü bir ortam dışında gerçek dünya kullanım senaryosuna tehlikeli derecede yaklaştırıyor.
Sinekkapan saldırısının adım adım (kavramsal düzeyde) nasıl çalıştığı
Bir şemsiyenin otonom bir dronu neden zor durumda bırakabileceğini anlamak için, şemsiye tabanlı hedef takip sistemlerinin nasıl çalıştığını incelememiz gerekiyor. yapay görüşEsasen, drone sürekli olarak çevresinin görüntülerini yakalar ve sinir ağları ve hareket analizi algoritmalarını kullanarak, her karede takip etmesi gereken nesneyi bulmaya çalışır.
Bu algoritmalar şunlara odaklanmaktadır: şekil, renk, kontrast ve hareket desenleri Nesnenin mevcut görüntüdeki konumunu önceki görüntüye göre tahmin etmek için, bu bilgiden yola çıkarak nesnenin yaklaşıyor mu, uzaklaşıyor mu, yana doğru hareket ediyor mu, bir engelin arkasına mı saklanıyor vb. hesaplarlar. Ardından drone, nesneyi "optimal" kabul edilen bir mesafede çerçeve içinde tutmak için hızını ve yörüngesini ayarlar.
FlyTrap saldırısı tam olarak bu mantığı kullanıyor. Şemsiye için tasarlanan grafik desen, drone'un hafifçe hareket etmesi veya görüş açısını değiştirmesi durumunda bile desenler oluşturmasına neden oluyor. hedefin ölçeğinde ve konumunda belirgin değişiklikler Algoritma bunu sürekli bir uzaklaşma hareketi olarak yorumluyor. Yapay zeka, gerçekte hareketsiz duran kişinin geriye doğru hareket ettiğine inanıyor.
Peki drone ne yapıyor? Bu varsayılan mesafeyi telafi etmek için, mesafeyi kademeli olarak azaltınTakip sisteminin iç kurallarına göre kadrajı korumak için nesneye "daha da yaklaşmaya" çalışılıyor. Sonuç olarak, uçak giderek daha agresif bir yaklaşma sarmalına giriyor... ta ki şemsiyeye ve onu taşıyan kişiye tehlikeli derecede yaklaşana kadar.
İHA çok yakın olduğunda, saldırı operatörü çok avantajlı bir duruma sahip olur: Bir ağla yakalamak, vurmak, dengesini bozmak veya çarpışmasına neden olmak Yakındaki bir yüzeye karşı. Sadece dronun hedefini kaybetmesini veya izlemeyi bırakmasını amaçlayan diğer savunma yöntemlerinin aksine, FlyTrap, dronun fiziksel olarak etkisiz hale getirilmesi için ideal konuma getirilmesine olanak tanır.
Etkilenen drone modelleri ve sorunun gerçek kapsamı
UC Irvine araştırmacıları simülasyonlarla yetinmediler; tekniklerini şu yöntemlerle de test ettiler: gerçek ticari dronlarBaşarıyla değerlendirilen modeller arasında şunlar yer almaktadır:
- DJI Mini4 Pro
- DJI Neo
- Vurgulu Hava X1
Bu cihazların tamamı, teorik olarak pilotun kamerayla ilgilenmesine gerek kalmadan dinamik çekimleri kolaylaştırmak üzere tasarlanmış, bilgisayar görüşüne dayalı otomatik takip işlevlerini içerir. Tam olarak kullanıcının kendi kendini takip etme yeteneği. Sinekkapan gibi bir desen devreye girdiğinde ona karşı dönen de işte bu.
Testlerde, insansız hava araçlarının yeterince ilgi çektiği ve operasyonlarının uygulanabilir olduğu görüldü. ağ cihazlarıyla yakalama veya kontrollü etkisiBaşka bir deyişle, mesele sadece algoritmayı bir anlığına karıştırmak değil, cihazı saldırganın insafına bırakan sürekli bir fiziksel yaklaşımı zorlamaktı.
Çalışmayı yürüten araştırmacılar, siber güvenlik topluluğunun en iyi uygulamalarına uygun hareket etmişlerdir ve Zafiyetlerini sorumluluk bilinciyle ilettiler. Tüm detaylar kamuoyuna açıklanmadan önce ilgili üreticilere bilgi verilmesi, DJI ve diğer etkilenen firmaların izleme algoritmalarını gözden geçirmelerine ve gelecekteki yazılım güncellemelerinde veya donanım nesillerinde karşı önlemler uygulamalarına olanak tanır.
Ancak, bu özel modellerin ötesinde, keşif şunu ortaya koydu: çok daha geniş kapsamlı sonuçlarHedefleri bilgisayar görüşü kullanarak takip etmek için sinir ağlarına dayanan herhangi bir İHA (insansız hava aracı sistemi), bu tür düşmanca desenlere karşı direnç göstermek üzere özel olarak eğitilmemişse, aynı yaklaşımın varyasyonlarına karşı savunmasız olabilir.
Radyo, siber saldırı veya parazit gerektirmeyen fiziksel bir saldırı.
FlyTrap'in en önemli özelliklerinden biri, tamamen havada çalışmasıdır. fiziksel alanBu saldırı, dronun iletişimine müdahale etmeyi, veri bağlantısına erişmeyi veya geleneksel yazılım güvenlik açıklarından yararlanmayı gerektirmez. Saldırı, dronun kamerasının gördüklerini ve dolayısıyla yapay zeka algoritmalarının neler olduğuna dair inançlarını manipüle ettiği için işe yarar.
Pratikte bu, saldırganın herhangi bir işlem başlatmasına gerek olmadığı anlamına gelir. radyo sinyalleri, WiFi, GPS veya benzeriAyrıca, insansız hava aracıyla herhangi bir bağlantı, erişim izni veya kimlik bilgisi gerektirmez. Sadece insansız hava aracına, bilişsel kör noktalarını istismar etmek üzere tasarlanmış fiziksel bir nesne göstermeyi içerir; bu da standart savunmalarla izlenmesi ve engellenmesi çok daha zor bir şeydir.
Bu yaklaşım, bilinen şekliyle bu kapsamda yer almaktadır. fiziksel dünyadaki düşmanca saldırılarBu, giderek daha da önem kazanan bir araştırma alanı. Tıpkı yüz tanıma sistemlerini veya otonom araçları kandırabilen gözlükler, tişörtler veya çıkartmalar üretildiği gibi, burada da bir şemsiye, bir dronun takip algoritmalarını yanıltmak için kullanılıyor.
Dahası, maliyet, genellikle elektronik savaş veya insansız hava araçlarının düşürülmesiyle ilişkilendirilen kaynaklarla karşılaştırıldığında son derece düşüktür. Pahalı ekipmanlara, özel antenlere veya uzman RF bilgisine gerek yoktur.İhtiyacınız olan tek şey, doğru tasarıma sahip bir şemsiye ve drone takip modundayken kendinizi doğru yere konumlandırmak için biraz beceri.
Gelişmiş bir insansız hava aracının fiyatı ile bu kadar yaygın bir nesne kullanılarak etkisiz hale getirilmesinin maliyeti arasındaki bu asimetri, insansız hava araçlarına bakış açımızı doğrudan etkiliyor. kritik altyapı güvenliği, polis konuşlandırmaları veya sınırlarTeorik olarak, kötü niyetli bir kişi, tam olarak bu tür teknikleri kullanarak gözetleme dronlarını kısıtlı alanlara yaklaştırabilir ve ardından onları devre dışı bırakabilir veya istedikleri yerde düşmelerini sağlayabilir.
Güvenlik, gizlilik ve kitlesel insansız hava aracı konuşlandırması açısından sonuçları
İnsansız hava araçlarının yaygınlaşması yapay zeka Bu durum kamu güvenliği için büyük bir zorluk teşkil ediyor. Şehirlerde devriye gezmek, sınırları izlemek veya büyük etkinlikleri denetlemek için insansız hava araçlarından oluşan sürüler kullanmayı öneren projelerin sayısı giderek artıyor. Ancak UC Irvine araştırması, algılama algoritmaları güçlendirilmeden, bu uygulamanın oldukça kırılgan bir temele dayandığını gösteriyor.
Operasyonel düzeyde, bir sinek kapanı saldırısı hem saldırı hem de savunma amaçlı kullanılabilir. Bir yandan, birisi polis veya sınır gözetleme dronlarını etkisiz hale getirmekBu durum, belirli bir bölgedeki güvenlik güçlerinin müdahale kapasitesini tehlikeye atar. Öte yandan, bir insansız hava aracı tarafından taciz edilen veya ticari bir cihazla casusluğa maruz kalan bir kişi, aynı mekanizmayı basit bir şekilde değiştirilmiş bir şemsiye kullanarak kendini savunmak için kullanabilir.
Bir de şu yönü var: stratejik altyapının korunması (enerji santralleri, ulaşım tesisleri, veri merkezleri vb.). Bu yerler gözetim sistemlerini desteklemek için otonom dronlara güveniyorsa, FlyTrap gibi bir güvenlik açığı, bir saldırganın herhangi bir elektronik etkileşim olmaksızın yalnızca fiziksel bir nesne kullanarak tespit sisteminin bir bölümünü atlatabilmesi riskini ortaya çıkarır.
Bu çalışma, dolayısıyla net bir mesaj veriyor: Drone güvenliği, elektronik veya ağ katmanıyla sınırlı kalamaz.Veri bağlantılarının güvenliğini sağlamak, iletişimi şifrelemek ve yazılımı korumak gerekli ancak yetersizdir; eğer görüntü işleme algoritmaları daha sonra bir şemsiye üzerine basılmış renkli desenlerle kandırılırsa, bu önlemler yetersiz kalır. Dayanıklılık, yapay zekanın fiziksel çevreyi nasıl yorumladığına ve kasıtlı manipülasyona karşı sağlamlığına kadar uzanmalıdır.
Otonom dronların kullanımı yaygınlaştıkça kentsel ortamlar ve hassas operasyonlarBu tür saldırılar artık akademik bir merak konusu olmaktan çıkacak ve üreticilerin, düzenleyicilerin ve operatörlerin tasarım aşamasından itibaren dikkate alması gereken bir faktör haline gelecektir. Bu güvenlik açıklarını göz ardı etmek, büyük ölçekli dağıtım gerçekleştikten sonra maliyetli olabilir.
Saldırının sınırlamaları ve olası savunma hatları
"Bir insansız hava aracını şemsiyeyle düşürmek" fikri çok cazip görünse de, herhangi bir renkli şemsiyenin işe yarayacağını düşünmemelisiniz. FlyTrap deseni özenle tasarlanmıştır. Bu, test edilmiş algoritmalardaki belirli zayıf noktaları istismar etmek için kullanılan evrensel bir yöntem değildir; tüm dronlarda veya her durumda otomatik olarak işe yarayacaktır.
Ayrıca, saldırı için insansız hava aracının şu işlevleri kullanması gerekmektedir: otonom görüş tabanlı takipEğer operatör uçağı tamamen manuel olarak uçurursa veya uçak diğer sensörler (LIDAR, radar veya gelişmiş sensör füzyon kombinasyonları gibi) tarafından yönlendirilirse, yapay zekayı yalnızca görsel bir desen kullanarak aldatma olasılığı azalabilir, hatta ortadan kalkabilir.
Bir diğer pratik sınırlama ise şu gerekliliktir: Şemsiyeyi fiziksel olarak dronun görüş alanına yaklaştırın.Cihazın yüksek irtifada uçtuğu veya hedeften birkaç kilometre uzakta kaldığı senaryolarda, bu yakınlığı sağlamak gerçekçi olmayabilir. FlyTrap özellikle alçak uçuş durumlarında, insanların yakından izlenmesinde veya dar yolların bulunduğu kentsel ortamlarda tehlikelidir.
Savunma tarafında, çeşitli olası hareket tarzları mevcuttur. Bunlardan biri şudur: görme modellerini yeniden eğitin Sinekkapan gibi düşmanca desen örneklerini kullanarak, bu desenleri anormallik olarak tanımayı ve kontrolsüzce yaklaşma tuzağına düşmemeyi öğrenmelerini sağlayabilirsiniz. Bir diğer seçenek ise, yalnızca kameranın gördüklerine güvenmek yerine, görsel bilgileri diğer kaynaklarla (derinlik, atalet sensörleri, 3D haritalar) birleştirmektir.
Bunu ürün yazılımına dahil etmek de mantıklıdır. yakınlık sınırları ve ek güvenlik kurallarıBu önlemler, insansız hava aracının olağandışı veya tutarsız görsel değişiklikler tespit ettiğinde hedefe belirli bir mesafeden daha fazla yaklaşmasını engeller. Bu, aldatmayı tamamen ortadan kaldırmayabilir, ancak insansız hava aracının elle veya ağla kolayca yakalanabileceği bir konuma ulaşma olasılığını azaltacaktır.
Son olarak, düzenleyici düzeyde, insansız hava araçlarının kullanım amaçlarına yönelik sertifikasyonundan sorumlu kurumlar yer almaktadır. güvenlik, polis veya altyapı gözetimi Değerlendirmelerine bu tür fiziksel saldırılara karşı testleri de dahil etmeleri gerekecek. Bir dağ manzarasını filme almak için drone kullanmak, bir sınırı devriye gezmek için drone kullanmakla aynı şey değil: Gerekli dayanıklılık seviyesi açıkça farklı olmalıdır.
Tüm bunlar ilginç bir senaryoyu ortaya çıkarıyor: Yapay zekâ aracılığıyla insansız hava araçlarını ne kadar "akıllı" hale getirirsek, Daha da önemlisi, yaratıcı bir saldırgan gibi düşünmek olacaktır. Gerçek dünyada onları aldatmak için kestirme yollar arayan biri. Ve işte tam da bu noktada, rengarenk bir şemsiye gibi görünüşte masum bir nesne baş kahraman haline gelebilir.
Özetle, bu çalışmaların gösterdiği şey şudur: Otonom sistemlerin güvenliği sadece güvenlik duvarları ve şifreleme meselesi değildir.Ancak aynı zamanda çevreyi nasıl algıladıklarını, algoritmalarının hangi kısayolları kullandığını ve basit bir grafik deseninin gelişmiş bir insansız hava aracını, iyi tasarlanmış bir tuzağa çekilen bir sinek kadar savunmasız bir şeye nasıl dönüştürebileceğini anlamak da önemlidir.