Kansas City’de bir güvenlik araştırmacısı, Amerikan sokaklarını izleyen kameraları sessizce alt edebilecek bir şey inşa etme umuduyla aynı testi bir yıl boyunca tekrar tekrar çalıştırdı. Ortaya çıkan şey, kıyafete basıldığında veya bir arabanın etrafına sarıldığında, gözetim yazılımının neye baktığını tanımasını durduruyor gibi görünen bir dizi yapay zeka kamuflaj deseni oldu. Bill Swearingen projeye noRecognition adını veriyor ve proje Las Vegas’taki Def Con’da ilk halka açık testini yeni gerçekleştirdi.
Summary
Öne çıkanlar
- Bill Swearingen’in noRecognition projesi, gözetim kamerası yazılımlarının insanları, yüzleri veya araçları tanımlamasını engellemek için tasarlanmış yapay zeka kamuflaj desenleri kullanıyor.
- Desenler, Flock plaka okuyucularına, Axon vücut kameralarına ve Clearview AI’a bağlı yazılımlar da dahil olmak üzere, Swearingen’in test ettiği 11 açık kaynaklı algılama algoritmasının tamamını alt etti.
- Modeli güvenilir şekilde etkili desenler üretecek hale getirmek için yaklaşık 31 milyon test çalıştırması gerekti.
- İlk halka açık gösterim Cuma günü Def Con’da gerçekleşti; burada kaplamalı bir 2009 Toyota Yaris, bir Flock kamerasının önünden tespit edilmeden geçti.
- Desenler, plaka engelleme yasalarını atlatmak için kasıtlı bir tercih olarak, plakalar yerine aracın gövde kaportasını kaplıyor.
Gözetim Kameralarından Kaçmak İçin Yapay Zeka Destekli Kamuflaj
noRecognition, insan görüşü ile makine görüşü arasındaki bir boşluktan yararlanarak çalışıyor — bir kişi için gürültülü grafik tasarım gibi görünen bir kaplama, bir algılama algoritması için hiçbir şey olarak kaydedilebiliyor. Bu boşluk, Swearingen’in projesinin tüm dayanağı ve desenlerin tek bir yol kenarı numarasının ötesinde neden önemli olduğunun sebebi.
noRecognition Projesi ve Teknik Yaklaşım
SecKC güvenlik buluşmasını birlikte kuran Swearingen, noRecognition’ı esasen kendi ödevini kendi notlandıran bir pekiştirmeli öğrenme modeli kullanarak inşa etti. Bir desen tespit ediliyor, model ayarlama yapıyor ve tekrar deniyor; Swearingen’in sistemi “nasıl boyayacağını öğretmek” olarak tanımladığı bir döngü. TechCrunch’a göre, birbiri ardına açık kaynaklı algılama algoritmalarını kademeli olarak alt eden bir kavram kanıtı laboratuvarıyla başladı, ardından sonuçları bir yıl boyunca iyileştirmek için hesaplama gücünü ölçeklendirdi.
Decrypt’in aktardığına göre bu süreç, Swearingen desenleri talep üzerine güvenilir şekilde üretebilmeden önce sonunda 31 milyon testten geçti. Karşılığı: test ettiği 11 açık kaynaklı algılama algoritmasının tamamı desenler tarafından alt edildi; bu da Flock plaka okuyucularını, Axon vücut kameralarını ve Clearview AI‘ı çalıştıran teknolojiyi kapsıyor. Artık modelin kabaca her dakika yeni desenler üretebildiğini ve kamera satıcılarının sistemlerini bunlara karşı eğitmesini engellemek için en güçlü desenleri bilerek çevrimdışı tuttuğunu söylüyor.
Def Con’da Halka Açık Gösterim
Fikir, Cuma günü laboratuvar deneyinden gerçek dünya kanıtına dönüştü; Swearingen, YouTube kanalı Donut Media ile birlikte çalışarak en yeni desenlerinden biriyle kapladığı bir 2009 Toyota Yaris‘i Def Con’da bir Flock kamerasının önünden sürdü. TechCrunch, bunu desenin bir araca uygulanmasının ilk halka açık testi olarak bildirdi ve bunun, yapay zeka kamuflaj desenlerinin yalnızca simülasyonda değil, kontrollü bir test ortamının dışında da işe yarayabildiğini gösterdi.
Mahremiyet Güdüleri ve Bağlam
Swearingen için proje yalnızca teknik bir egzersiz değil — onun gördüğü şekliyle denetimsiz gözetim genişlemesine bir yanıt olarak çerçeveleniyor. “Mahremiyet temel bir haktır,” diyerek desenleri insanların “izlenmekten vazgeçmesinin” bir yolu olarak tanımladı.
Mahremiyet Hakları ve Gözetim Endişeleri
Swearingen, fikrin geçen yıl, bir protestoya katılmak isteyip de, orada bulunan herkesin kaydını tutabilecek kamera sayısı konusunda huzursuz hissetmeye başlamasından sonra şekillendiğini söyledi. Orta yaşlı, beyaz bir erkek olarak ABD’nin orta kesimlerinde yaşadığını ve kişisel olarak başkalarının maruz kalabileceği türden bir inceleme ya da ayrımcılıkla karşılaşmadığını açıkça belirtti. Ancak kendisi rahatsızlık hissettiyse, ifade özgürlüğü hakkını kullanan başkalarının da muhtemelen aynı — hatta daha kötü — hissettiğini savundu.
Bu, hikâyenin tek bir araştırmacının ev laboratuvarının ötesinde neden önemli olduğunun bir parçası: ABD’de otomatik gözetim üzerine süregelen bir tartışmanın tam ortasına düşüyor. Flock, şu anda ülke çapında devreye alınan tartışmalı bir gözetim sistemi olarak tanımlanıyor ve yalnızca mahremiyet çevrelerinin çok ötesinde inceleme çekiyor. Haberlere konu olan iç belgeler, şirketin 350.000 Uber ve Lyft ön kamerasını, plakaları tarayan hareketli bir filoya dönüştürmeyi teklif ettiğini gösteriyor; bu plan, Kongre’de tepkiyi körükledi.
Algılamaya Karşı Mevcut Düşmanca Girişimler
noRecognition, algoritmik tespitten kaçmaya yönelik ilk girişim değil, ancak çoğu selefinden daha keskin bir sistem listesini hedef alıyor. San Francisco’daki aktivistler, herhangi bir kod gerektirmeden Waymo ve Cruise robotaksilerini etkisiz hale getirmek için kaputlarının üzerine trafik konileri yerleştirdi. Geçen yılki Los Angeles göçmenlik baskınları sırasında bazı protestocular daha da ileri giderek birkaç Waymo aracını ateşe verdi. Maskeler, kapüşonlar ve siperlikli şapkalar protesto hatlarında varsayılan ekipman olmaya devam ediyor ve düşmanca giyim markaları yıllardır yüzleri şaşırtan baskılar satıyor; ancak yüz tanımayı engellediği iddia edilen gözlüklerin gerçekten işe yaradığına dair kanıtlar zayıf.
Swearingen’in yaklaşımını farklı kılan şey ise hassasiyet: genel bir yüz tanıma karşıtı numara yerine, noRecognition hâlihazırda ölçekli olarak konuşlandırılmış belirli algılama yığınlarına karşı test edildi; buna Flock’un kamera ağında çalışan yazılım da dahil.
Hukuki ve Pratik Hususlar
Bir arabayı düşmanca bir desenle kaplamak, algoritmayla değil, tamamen yolla ilgili hukuki bir soruyu gündeme getiriyor. Plaka engelleme yasaları eyaletten eyalete değişiyor ve Swearingen projeyi bu gerçekliğe karşı değil, bu gerçeklik etrafında inşa etti.
Plaka Engelleme Yasalarından Kaçınmak İçin Araç Gövdesinin Kaplanması
noRecognition desenleri, plakalar yerine gövde kaportasına uygulanıyor; bu, projeyi plaka gizlemeyle bağlantılı hukuki sorunların dışında tutmak için açıkça yapılmış bir tasarım tercihi. Bu dar ama önemli bir ayrım: teknoloji, mevcut engelleme yasalarının çoğunun odaklandığı plaka numarasının görünürlüğü yerine, kameraların şekilleri ve nesneleri nasıl sınıflandırdığını hedef alıyor.
Gözetim Etrafındaki Süregelen Hukuki ve Mahremiyet Endişeleri
Daha geniş hukuki ve siyasi arka plan yavaşlamış değil. Otomatik plaka okuyucular, belgelenmiş vakalarda masum sürücüleri silah zoruyla kenara çektirdi ve göçmenler ile protestocular, ICE ile bağlantılı federal yapay zeka destekli gözetim ağlarına takıldı. Yasama organı, algoritmik tespitin artık ne kadar düzenleyici dikkat çektiğini gösteren paralel bir mücadele olarak, Meta’yı akıllı gözlüklerine yerleşik yüz tanıma özellikleri nedeniyle ayrıca sıkıştırıyor.
Neden önemli: polislik ve özel güvenlik alanlarında otomatik algılama araçları çoğalırken, bunları alt etmek için özel olarak inşa edilen araçlar — yasal mahremiyet koruması etrafında çerçevelenenler bile — düzenleyicilerin henüz tam olarak haritalandırmadığı hukuki bir gri alanın merkezinde yer alıyor.
Swearingen, Def Con’da durmuyor. noRecognition, erken ürünler için, Tişörtler ve kapüşonlulardan başlayıp sonunda araç kaplamalarına uzanan bir kitle fonlaması kampanyası yürütüyor; beyan edilen hedef, çözünürlüğü uzaktan çalışacak kadar yüksek tutarken tasarımları insanların gerçekten giymek isteyeceği bir şeye dönüştürmek. “Her başarısızlık modelimi geliştiriyor ve böylece desenler gitgide daha iyi hale geliyor,” diyor Swearingen — bu ifade, bu silahlanma yarışının gerçek zamanlı olarak nasıl geliştiğini izleyen kamera satıcıları için aynı zamanda bir uyarı niteliği taşıyor.
SSS
noRecognition projesi nedir?
noRecognition, Bill Swearingen tarafından geliştirilen ve gözetim kamerası yazılımlarının insanları, yüzleri veya araçları tespit etmesini engellemek için tasarlanmış desenler üreten yapay zeka tabanlı bir sistemdir.
noRecognition deseni gözetim kameralarına karşı ne kadar etkili?
Desenler, geliştirme sürecinde yaklaşık 31 milyon testin ardından, Flock, Axon vücut kameraları ve Clearview AI tarafından kullanılan yazılımlar da dahil olmak üzere 11 açık kaynaklı algılama algoritmasını alt etti.
Bu yapay zeka üretimi kamuflaj desenleriyle kaplanmış araçları kullanmak yasal mı?
Desenler, plaka engelleme sorunlarından kaçınmak için özellikle plakalar yerine araç gövdesini kaplıyor; ancak kaplamalı bir araba kullanmanın daha geniş hukuki durumu eyalete göre değişiyor.
noRecognition’un oluşturulmasına ne sebep oldu?
Bill Swearingen, noRecognition’ı insanların gözetim sistemleri tarafından “izlenmekten vazgeçebilmesi” için inşa ettiğini, bu endişeyi ilk kez yoğun kamera gözetimi altında bir protestoya katılmayı düşünürken hissettiğini söyledi.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”noRecognition projesi nedir?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”noRecognition, Bill Swearingen tarafından geliştirilen ve gözetim kamerası yazılımlarının insanları, yüzleri veya araçları tespit etmesini engellemek için tasarlanmış desenler üreten yapay zeka tabanlı bir sistemdir.”}},{“@type”:”Question”,”name”:”noRecognition deseni gözetim kameralarına karşı ne kadar etkili?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Desenler, geliştirme sürecinde yaklaşık 31 milyon testin ardından, Flock, Axon vücut kameraları ve Clearview AI tarafından kullanılan yazılımlar da dahil olmak üzere 11 açık kaynaklı algılama algoritmasını alt etti.”}},{“@type”:”Question”,”name”:”Bu yapay zeka üretimi kamuflaj desenleriyle kaplanmış araçları kullanmak yasal mı?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Desenler, plaka engelleme sorunlarından kaçınmak için özellikle plakalar yerine araç gövdesini kaplıyor; ancak kaplamalı bir araba kullanmanın daha geniş hukuki durumu eyalete göre değişiyor.”}},{“@type”:”Question”,”name”:”noRecognition’un oluşturulmasına ne sebep oldu?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Bill Swearingen, noRecognition’ı insanların gözetim sistemleri tarafından “izlenmekten vazgeçebilmesi” için inşa ettiğini, bu endişeyi ilk kez yoğun kamera gözetimi altında bir protestoya katılmayı düşünürken hissettiğini söyledi.”}}]}
Bu makale, yapay zekâ desteğiyle hazırlanmış ve editör ekibi tarafından gözden geçirilmiştir.
