Bu baharda bir Amerikan savaş uçağı çoktan havalanmış, bir Çin yük gemisini durdurmaya hazırlanıyordu ki, yetkililer operasyonun arkasındaki istihbaratın bir sohbet botu tarafından uydurulduğunu fark edince ani bir geri adım attı. İlk olarak CNN tarafından bildirilen ve daha sonra TechCrunch ile Ars Technica tarafından ayrıntılandırılan bu olay, bugüne kadar bilinen en endişe verici yapay zeka halüsinasyonu askeri istihbarat başarısızlıklarından biri haline geldi — bir kaynağın CNN’e “neredeyse bir savaşı başlatıyordu” dediği kıl payı atlatılan bir kriz.
İçindekiler
Öne çıkan noktalar
- ABD istihbarat raporu, bir Çin gemisinin nükleer silah programı bileşenleri taşıdığını, bir yapay zeka sohbet botunun halüsinatif analizine dayanarak yanlış şekilde iddia etti.
- Askeri uçaklar, hava desteğiyle birlikte önleme için çoktan havalanmıştı; yetkililer hatayı daha sonra fark etti.
- Sohbet botu, açık kaynak istihbaratını gizli sinyal istihbaratıyla birleştirip, yanlış bulguları resmi görünümlü bir özet haline getirdi.
- Savunma Bakanlığı, aynı anda üretken yapay zeka araçlarının kullanımını genişletiyor; bunlar arasında GenAI.mil platformunda hükümet için Google Gemini ve hükümet için Grok da bulunuyor.
- ABD istihbarat çalışmaları için özelleştirilen Anthropic’in Claude modeli, şirketin modellerinin otonom silah sistemlerinde kullanılmasına karşı çıkması üzerine Mart ayında kara listeye alındı.
Yapay Zeka Halüsinasyonu, ABD’nin Çin Gemisini Önleme Girişimini Neredeyse Tetikledi
Yanlış istihbarat raporu, Çin gemisinin yük manifestosuna bağlı verileri anlamlandırmak için bir sohbet botu kullanan bir ABD Özel Harekât Komutanlığı analistinden kaynaklandı. CNN’e göre, “olaya aşina dört kaynak”, ortaya çıkan raporun geminin Orta Doğu üzerinden bir nükleer silahlanma programı için bileşenler taşıdığını iddia ettiğini ve bu istihbaratın İran’la savaş sırasında dolaşıma girdiğini söyledi. TechCrunch, aracın iki kez kullanıldığını bildirdi: önce materyali sentezlemek için, ardından hatalı sonucu cilalı, resmi görünümlü bir özet haline getirmek için; bu özet daha sonra komuta zincirinde yukarıya doğru iletildi.
Nükleer Bileşenlerin Yanlış Tespiti
CNN’in haberine göre sohbet botu, “açık kaynak istihbaratını hükümetin elindeki gizli sinyal istihbaratıyla birleştirdi” — ve yanıldı. Araç, geminin gerçek yükünü yanlış tanımlayarak, gerçekte hiçbir temeli olmayan, ancak yeterince ikna edici göründüğü için güvenilir istihbarat muamelesi gören bir sonuca ulaştı.
Hatalı Raporun Üretilmesinde Yapay Zeka Sohbet Botunun Rolü
Üretken yapay zeka ABD ordusu kullanımının tehlikesi burada somutlaşıyor: Bir kez resmi rapor kılığına sokulan tek bir hatalı çıktı, kökeni sorgulanmadan komuta kanalları boyunca ilerleyebiliyor. GovAI araştırmacısı ve eski bir ABD Kara Kuvvetleri subayı olan Jake Steckler, TechCrunch’a “Hizmet mensuplarının, büyük dil modellerine (LLM) içkin belirsizliği anlaması önemli” diyerek, bunun özellikle “hedefleme, istihbarat analizi veya operasyonel planlama gibi güç kullanımına yol açabilecek kararlar” için kritik olduğunu, çünkü “bu kararların hayat memat sonuçları olduğunu” vurguladı.
Önlenen Askeri Çatışma İhtimali
Yetkililer hatayı fark ettiğinde, ABD ordusu gemiyi hava desteğiyle durdurup gemiye çıkmaya hazırlanıyordu. Operasyon son anda iptal edildi. Bir kaynak, CNN’e anlattığı bu neredeyse felaketle sonuçlanacak olayı açık sözlü bir dille şöyle tanımladı: “neredeyse bir savaşı başlatıyordu.” Ars Technica, bu vakayı, halüsinasyon gören bir yapay zeka sisteminin profesyonel bir raporu baltaladığı en önemli bilinen örneklerden biri olarak nitelendirdi — ki bu olgu, “halüsinasyon”un 2023’te Cambridge Dictionary’nin yılın kelimesi olmasından bu yana yazarları, gazetecileri, yargıçları, doktorları, polis teşkilatlarını ve kurumsal çağrı merkezlerini çoktan zor durumda bıraktı. Araştırmacılar, büyük dil modellerinden halüsinasyonları bütünüyle ortadan kaldırmanın fiilen imkânsız olabileceğini öne sürüyor.
ABD Savunma Bakanlığı’nın Yapay Zeka Stratejisi ve Araçları
Bu korkutucu olaya rağmen Pentagon’un daha derin askeri yapay zeka güvenliği entegrasyonuna yönelik hamlesi yavaşlamadı — hatta hızlanıyor bile denebilir. Ocak ayında Savunma Bakanlığı, “yapay zeka hızlandırma stratejisi” adını verdiği bir planı açıkladı; bu plan, “tüm uygun verileri, her hizmet ve bileşendeki görev sistemleri de dahil olmak üzere, yapay zekâ tarafından kullanılmak üzere federatif BT sistemleri genelinde erişilebilir kılmayı” hedefliyor.
Ocak Ayında Başlatılan Yapay Zeka Hızlandırma Stratejisi
Savunma Bakanı Pete Hegseth, girişimi temkinlilikten ziyade veri hazırlığı etrafında çerçeveledi: Stratejiyi açıklarken “Yapay zeka, yalnızca aldığı veri kadar iyidir ve biz de o verinin orada olmasını sağlayacağız” dedi. Bakanlığa göre amaç, karar alma süreçlerini hızlandırmak ve Pentagon’un “öldürme zinciri” olarak adlandırdığı — bir hedefin tespit edilmesinden ona karşı harekete geçilmesine kadar uzanan adımlar dizisinde — kritik olduğunu söylediği üstünlüğü korumak.
GenAI.mil Platformunda Google Gemini ve Grok Kullanımı
Geçen Aralık ayında bakanlık, özel “GenAI.mil” platformunu, hükümet için Google Gemini etrafında inşa edeceğini duyurdu. Geçen ay, aynı platformda ikinci bir seçenek olarak hükümet için Grok eklendi. Haziran ayına gelindiğinde, Pentagon temsilcisi Kongre’ye, üretken yapay zeka araçlarının halihazırda Kongre tarafından zorunlu kılınan raporların taslağını hazırlamaya yardımcı olmak için kullanıldığını ve Savunma Bakanlığı’nda görev yapan 1,5 milyon personelin bir şekilde ordunun üretken yapay zeka araçlarını kullandığını söyledi — bu ölçek, bu sistemlerin günlük operasyonlara ne kadar yerleşmiş olduğunu gözler önüne seriyor.
Anthropic’in Claude Modeli ve Kara Listeye Alınması
Anthropic, Claude modelinin ABD istihbarat çalışmaları için özelleştirilmiş bir sürümünü de sunuyor. Ancak şirket ile Pentagon arasındaki ilişki hiç de sorunsuz olmadı. Mart ayında Savunma Bakanlığı, şirketin modellerinin otonom silah sistemlerinde kullanılmasına izin vermeyi reddetmesi üzerine Anthropic’i kara listeye aldı. Bir federal yargıç, geçen ay verdiği kararda bu kara listeye almanın “Birinci Değişiklik’in ihlali anlamına gelen hukuka aykırı misilleme” olduğuna hükmetti — bu karar, askeri yapay zeka kapasitesi talebi ile bazı yapay zeka geliştiricilerinin tutunmaya çalıştığı etik sınırlar arasındaki gerilimi gözler önüne seriyor.
Askeri Yapay Zeka Kullanımında Düzenleyici ve Etik Hususlar
Bu kıl payı atlatılan olay, yapay zeka savunma risklerinin yalnızca daha hızlı sistemler değil, daha güçlü insan denetimi gerektirdiğine dair uzun süredir devam eden uyarıların tam üstüne denk geliyor. 2023’te Dışişleri Bakanlığı, silahlı kuvvetler tarafından “ilkesel” yapay zeka kullanımının “riskler ve faydaların dikkatli değerlendirilmesini” içermesi ve “istenmeyen önyargıları ve kazaları en aza indirmesi” gerektiğini vurgulayan “Yapay Zeka ve Otonominin Sorumlu Askeri Kullanımına İlişkin Bildirge”yi yayımladı. Bildirge ayrıca, hesap verebilir yapay zeka kullanımının her zaman “döngüde bir insanı, sorumlu bir insan komuta ve kontrol zincirini” içermesi gerektiğinde ısrar ediyor.
Dışişleri Bakanlığı’nın Sorumlu Yapay Zeka Kullanımına İlişkin İlkeleri
Bu çerçeve, bu baharda yaşanan ve yapay zeka tarafından üretilen bir raporun neredeyse gerçek bir askeri harekâtı tetiklediği türden bir senaryoya rehberlik etmesi için tasarlanmıştı. Bu olayın ortaya çıkardığı temel soru, önleme emri verilmeden önce döngüde insan ilkesinin anlamlı bir şekilde uygulanıp uygulanmadığı; zira hatalı sonuç, silahlı bir operasyon için hazırlıkları tetikleyecek kadar komuta zincirinde yukarıya taşındı.
İnsan Denetimi ve ‘Döngüde İnsan’ Zorunluluğu
Uygulamada bu vaka, sohbet botunun çıktısı doğrulanmış istihbarat gibi görünecek kadar cilalı olduğunda, insan denetimi katmanının ne kadar ince olabileceğini gösteriyor. Bu, tek bir olayın ötesinde önem taşıyor: Pentagon’un 1,5 milyon yapay zeka kullanıcısının daha fazlası analiz, biçimlendirme ve raporlama için bu araçlara yaslandıkça, özellikle hız başarı için birincil ölçüt olarak görüldüğünde, halüsinatif bir sonucun denetimden kaçma olasılığı katlanarak artıyor.
Otonom Silahların Yükselişi ve Etik Endişeler
Riskler, askeri yapay zekanın genel gidişatıyla daha da büyüyor. Ars Technica’nın atıfta bulunduğu haberlere göre, tamamen otonom saldırı dronları, Rusya’nın Ukrayna ile olan çatışmasında halihazırda kullanıldı ve NATO destekli askeri yükleniciler tarafından test edildi. Bu arka plan karşısında, neredeyse bir deniz önleme operasyonunu tetikleyen bir yapay zeka halüsinasyonu, yalıtılmış bir aksaklık gibi değil, otonom ve üretken yapay zeka sistemlerinin hayat memat sonuçları olan kararlara ne kadar hızlı entegre edildiğine dair erken bir uyarı işareti gibi görünüyor.
SSS
Çin gemisiyle ilgili yanlış istihbarat raporuna ne sebep oldu?
Bir yapay zeka sohbet botu halüsinasyon görerek, açık kaynak ve gizli istihbaratı birleştirip Çin gemisinin yükünü yanlış biçimde nükleer bileşenler olarak tanımladı.
ABD ordusu yanlış istihbarata dayanarak harekete geçmeye ne kadar yaklaştı?
ABD ordusu, hata fark edilmeden önce Çin gemisini hava desteğiyle durdurup gemiye çıkmaya hazırlanıyordu.
ABD Savunma Bakanlığı askeri yapay zeka operasyonları için hangi yapay zeka araçlarını kullanıyor?
Savunma Bakanlığı, GenAI.mil üretken yapay zeka platformu kapsamında hükümet için Google Gemini ve hükümet için Grok kullanıyor.
ABD ordusunda yapay zekanın sorumlu kullanımı için hangi yönergeler mevcut?
Dışişleri Bakanlığı’nın 2023 bildirgesi, insan denetimini ve riskler ile önyargıların en aza indirilmesini içeren ilkesel yapay zeka kullanımını vurguluyor.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Çin gemisiyle ilgili yanlış istihbarat raporuna ne sebep oldu?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Bir yapay zeka sohbet botu halüsinasyon görerek, açık kaynak ve gizli istihbaratı birleştirip Çin gemisinin yükünü yanlış biçimde nükleer bileşenler olarak tanımladı.”}},{“@type”:”Question”,”name”:”ABD ordusu yanlış istihbarata dayanarak harekete geçmeye ne kadar yaklaştı?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ABD ordusu, hata fark edilmeden önce Çin gemisini hava desteğiyle durdurup gemiye çıkmaya hazırlanıyordu.”}},{“@type”:”Question”,”name”:”ABD Savunma Bakanlığı askeri yapay zeka operasyonları için hangi yapay zeka araçlarını kullanıyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Savunma Bakanlığı, GenAI.mil üretken yapay zeka platformu kapsamında hükümet için Google Gemini ve hükümet için Grok kullanıyor.”}},{“@type”:”Question”,”name”:”ABD ordusunda yapay zekanın sorumlu kullanımı için hangi yönergeler mevcut?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Dışişleri Bakanlığı’nın 2023 bildirgesi, insan denetimini ve riskler ile önyargıların en aza indirilmesini içeren ilkesel yapay zeka kullanımını vurguluyor.”}}]}
Bu makale, yapay zekanın yardımıyla üretilmiş ve editoryal ekip tarafından gözden geçirilmiştir.




