Amazon’un maneviyat bölümünde Wicca ritüelleri veya Hindu felsefesi üzerine bir kitap aramak için gezinirken, sanal rafta gördüklerinizin büyük çoğunluğuna hiçbir insan yazarın dokunmamış olabileceğini hayal edin. Bu, yapay zeka tarafından yazılmış dini kitaplar üzerine yapılan yeni bir araştırmanın çizdiği rahatsız edici tablo; araştırma, makine tarafından üretilen metnin platformdaki dini ve ruhani yayıncılığın büyük bir kısmını sessizce ele geçirdiğini ortaya koydu.
Bu hafta yapay zeka tespit firması Originality.ai tarafından yayımlanan araştırma, Amazon’da satılan 14 dini ve inanç kategorisinde yer alan 2.000’den fazla yakın zamanda yayımlanmış başlığı örnekledi. Sonuç: her üç kitaptan neredeyse ikisinin bir kişi yerine yapay zeka tarafından yazılmış olması muhtemeldi.
Summary
Öne çıkan bulgular
- Originality.ai, Amazon’da incelenen 2.034 dini kitaptan 1.272’sini — %63 — muhtemelen yapay zeka tarafından yazılmış olarak işaretledi.
- Cadılık kategorisi en yüksek yüzdeye, %78‘e ulaştı; Hinduizm %76’ya, Taoizm ise %74’e çıktı.
- Araştırmacılar, cadılık kitaplarındaki doğrulanabilir iddiaların %53’ünü potansiyel olarak yanlış olarak işaretledi.
- Amazon, yazarların yapay zeka ile yazılmış eserlerini kendi kendilerine beyan etmelerine dayanan bir onur sistemine güveniyor; gerçekte kaç kişinin bunu yaptığına dair kamuya açık veri yok.
- Amazon, yapay zeka eğitim verisi için sayfalarını taramak amacıyla ticari kanallar üzerinden fiziksel kitaplar satın aldığını doğruladı.
Amazon’daki Dini Kitapların Çoğu Muhtemelen Yapay Zeka Tarafından Yazılmış
Bu çalışmanın arkasındaki rakamlar tek başına çarpıcı: Örneklenen dini kitapların %63’ü, Originality.ai’nin tespit modelinde muhtemelen makine tarafından yazılmış olarak sınıflandırılacak kadar yüksek puan aldı. Bu, mağazanın kenarında kalmış niş bir sonucun ötesinde; birden fazla dünya dinini kapsayan tüm bir ticari kategori genelinde çoğunluk sonucunu temsil ediyor.
Originality.ai Çalışması ve Metodolojisi
Raporun yazarı Michael Fraiman, ekibinin her başlıktan kitap açıklamalarını, yazar biyografilerini ve metin örneklerini analiz ederek bunları bir puanlama modelinden geçirdiğini söyledi. 50 veya üzeri puan alan her şey “Muhtemelen Yapay Zeka” olarak sınıflandırıldı. İncelenen 2.034 kitaptan 1.272’si bu eşiği aştı.
Fraiman, bulguları kanıttan ziyade olasılık olarak çerçeveleme konusunda dikkatli davrandı. Decrypt’e “Kitapların kesin olarak yapay zeka tarafından yazıldığına dair kesin iddialarda bulunmuyoruz” dedi. “Modelimiz, bir şeyin belirli bir kesinlik derecesine kadar yapay zeka tarafından yazılmış olma olasılığını belirliyor.” Ayrıca araştırmacıların işaretlenen başlıkları elle rastgele kontrol ettiklerini, ekibin artık çalışmalarının bu noktasında “muhtemelen yapay zeka tarafından yazılmış içerikle insan tarafından yazılmış içerik arasındaki farkı söyleyebildiklerini” ekledi.
Dini Kategoriler Arasında Yapay Zeka Yazarlık Oranları
Her inanç geleneği eşit derecede etkilenmedi. Amazon’un Wicca, Cadılık ve Paganizm listelerinden alınan cadılık kategorisi, şifa kristalleri, bitkisel tedaviler ve negatif enerjiyi temizleme üzerine başlıkları kapsayarak %78 ile listenin başında yer aldı. Fraiman, yayıncılar için cazibenin açık olduğunu öne sürdü: Bu kitaplar, herhangi bir bilimsel standardı karşılamak zorunda kalmadan ruh sağlığı veya “detoks” için çözümler vaat edebiliyor.
Hinduizm %76 ile onu takip etti, Taoizm ise %74’e ulaştı. Sihizm, Budizm, İslam, Katoliklik, Protestanlık, Ortodoks Hristiyanlık ve Yahudilik bu aralıkta bir yerde konumlandı. Mormonluk %42, ateizm %40 ve Satanizm %22 ile incelenen kategoriler arasında en düşük orana sahipti. Araştırmacılar, örneklem büyüklüklerinin kategoriler arasında önemli ölçüde değiştiği konusunda uyararak, yüzdelerin birbirleriyle ne kadar doğrudan karşılaştırılabileceğini sınırladığını belirtti.
Yapay Zeka Tespitinde Doğrulama Zorlukları ve Yanlış Pozitifler
Yüksek bir yapay zeka tespit puanı, bir kitabın yanıltıcı olduğu anlamına otomatik olarak gelmez — ancak cadılık kategorisinde çalışma, ikisi arasında rahatsız edici bir örtüşme buldu. Araştırmacılar, cadılık başlıklarındaki doğrulanabilir iddiaların %53’ünü potansiyel olarak yanlış olarak işaretleyerek, okuyucuların sağlık veya zindelik tavsiyesi için hiç kimse tarafından denetlenmemiş yapay zeka tarafından üretilmiş ruhani rehberliğe yönelmesi konusunda endişeleri artırdı.
Yapay Zeka Yazım Tespit Araçlarının Sınırlamaları
Originality.ai’nin modeli gibi tespit araçları, bir hüküm vermek yerine olasılığı tahmin etmek için tasarlanmıştır. Bu ayrım önemlidir, çünkü bir kategori olarak yapay zeka tespit teknolojisinin tutarsızlık geçmişi vardır. Fraiman’ın kendi çerçevesi — modelin kesin kanıt yerine “belirli bir kesinlik derecesi” sunduğu yönündeki ifadesi — hiçbir tespit aracının şu anda doğruluğu garanti etmediğine dair daha geniş bir sektör kabulünü yansıtır.
Çelişkili Yapay Zeka Tespit Sonuçlarına Örnekler
Yapay zeka tespit araçlarının güvenilmezliği teorik değil. Ekim 2024’te, ABD Bağımsızlık Bildirgesi’ni analiz eden dört ayrı aracın testi, son derece farklı hükümler üretti: ZeroGPT belgenin %97,93’ünü yapay zeka tarafından üretilmiş olarak derecelendirdi, QuillBot tamamen insan yazımı olduğunu söyledi ve GPTZero insan yazarlığı olasılığını %89 olarak verdi — üç araç, aynı 18. yüzyıl belgesi hakkında üç çelişkili yanıt.
Mart ayında ise riskler daha ciddi hale geldi; Kolombiya Yüksek Mahkemesi, bir tespit aracı bir hukuki başvuruyu yapay zeka tarafından üretilmiş olarak işaretledikten sonra bu başvuruyu reddetti. Ironik bir şekilde, bir avukat daha sonra mahkemenin kendi kararını aynı tespit aracından geçirdiğinde, karar %93 yapay zeka tarafından üretilmiş olarak derecelendirildi. Bu olay, tespit puanlarını mahkeme düzeyinde kanıt olarak ele almanın neden hukuken hâlâ tartışmalı olduğunu vurguluyor.
Amazon’un Rolü ve Yapay Zeka İçeriği ile Eğitimi Konusundaki Etik Sorular
Amazon, iki ayrı ama ilişkili tartışmanın merkezinde yer alıyor: pazar yerinde satılan yapay zeka tarafından yazılmış kitapları nasıl denetlediği ve kendi yapay zeka modellerini eğitmek için ham metni nasıl temin ettiği. Her iki uygulama da şu anda kamuya açık fazla şeffaflık içermiyor.
Yapay Zeka İçeriği Beyanı İçin Amazon’un Onur Sistemi
Fraiman’a göre, “Amazon, platformlarında yapay zeka ile yazılmış içeriğin ne kadar yaygın olduğunun farkında ve yazarların eserlerini yapay zeka ile yazılmış olarak kendi kendilerine tanımlamaları için bir onur sistemi kullanıyor.” Originality.ai, bulgularını yayımlamadan önce Amazon ile paylaşmadı ve Fraiman açıkça şunu belirtti: “Kaç yazarın bunu gerçekten beyan ettiğine dair hiçbir verimiz yok.” Amazon, Decrypt’in yorum talebine hemen yanıt vermedi.
Bu önemlidir çünkü doğrulama olmadan kendi kendine beyan, teknik olarak gerekli olan ile gerçekte olan arasında geniş bir boşluk bırakır. Yapay zeka ile yazılmış dini kitapların payı gerçekten üçte ikiye yakınsa, tamamen onura dayalı bir sistem bunun yalnızca küçük bir kısmını yakalıyor olabilir.
Yapay Zeka Eğitimi İçin Fiziksel Kitapların Kullanımı ve Etik Endişeler
Ayrı olarak, Amazon’un eğitim verisine olan iştahı, fiziksel kitapları nasıl ele aldığı konusunda incelemeye tabi tutuldu. Bir soruşturma, nadir kitaplardan oluşan bir sevkiyatı Las Vegas’taki bir Amazon tesisine kadar izledi — burada çalışanlar, kitapların ciltlerini kesip sayfaları yapay zeka eğitim veri setlerine taradılar.
Amazon, “müşterilerimizin kullandığı ürün ve hizmetleri geliştirmeye ve iyileştirmeye yardımcı olmak için ticari kanallar aracılığıyla kitaplar satın aldığını” doğruladı, ancak şirketin açıklaması özellikle yapay zeka eğitimini doğrulama noktasında durdu.
Bir arada ele alındığında, bu iki başlık aynı temel gerilime işaret ediyor. Bir yanda, yapay zeka tarafından üretilen metin, dini yayıncılık gibi kategorileri, gerçek kontrolünden geçmemiş ve bazı durumlarda yanlış iddialar içeren içerikle dolduruyor. Diğer yanda ise, aynı yapay zeka sistemlerini inşa etmek için kullanılan ham materyal, sınırlı kamu hesap verebilirliğiyle yok edilen fiziksel kitaplardan geliyor. Ne satıcılar için Amazon’un kendi kendine beyan sistemi ne de eğitim verisi için kitap tedarik zinciri şu anda ölçek konusunda fazla görünürlük sunuyor — bu da okuyucuları, yazarları ve kitapçıları, vitrinin arkasında gerçekte neler olduğunu anlamak için büyük ölçüde dış soruşturmalara güvenmek zorunda bırakıyor.
SSS
Amazon’daki yapay zeka tarafından yazılmış dini kitapların tespiti ne kadar güvenilir?
Originality.ai, kesinlikten ziyade olasılığı gösteren bir puanlama sistemi kullanıyor. Araştırmacılar, sonuçların kesin kanıt değil, olası yapay zeka yazarlığına işaret ettiğini vurguluyor.
Hangi dini kitap kategorisinde muhtemelen yapay zeka tarafından yazılmış kitapların oranı en yüksekti?
Cadılık kategorisi, örneklenen başlıkların %78’inin muhtemelen yapay zeka tarafından yazılmış olarak işaretlenmesiyle en yüksek orana sahipti.
Amazon’un yapay zeka eğitimi için fiziksel kitapları kullanması hangi etik endişeleri gündeme getiriyor?
Amazon, bazen nadir olan fiziksel kitapları yapay zeka eğitimi için satın alıp tarıyor ve ardından bunları elden çıkarıyor; bu da kaynak materyalin yok edilmesi ve yazarların açık rızasının olmaması konusunda etik endişeler doğuruyor.
Amazon, yazarların kitaplarının yapay zeka tarafından yazıldığını beyan etmelerini zorunlu kılıyor mu?
Amazon, yazarların yapay zeka ile yazılmış içeriği kendi kendilerine beyan ettikleri bir onur sistemi kullanıyor, ancak gerçekte kaç kişinin bunu yaptığına dair kamuya açık veri yok.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Amazon’daki yapay zeka tarafından yazılmış dini kitapların tespiti ne kadar güvenilir?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Originality.ai, kesinlikten ziyade olasılığı gösteren bir puanlama sistemi kullanıyor. Araştırmacılar, sonuçların kesin kanıt değil, olası yapay zeka yazarlığına işaret ettiğini vurguluyor.”}},{“@type”:”Question”,”name”:”Hangi dini kitap kategorisinde muhtemelen yapay zeka tarafından yazılmış kitapların oranı en yüksekti?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Cadılık kategorisi, örneklenen başlıkların %78’inin muhtemelen yapay zeka tarafından yazılmış olarak işaretlenmesiyle en yüksek orana sahipti.”}},{“@type”:”Question”,”name”:”Amazon’un yapay zeka eğitimi için fiziksel kitapları kullanması hangi etik endişeleri gündeme getiriyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon, bazen nadir olan fiziksel kitapları yapay zeka eğitimi için satın alıp tarıyor ve ardından bunları elden çıkarıyor; bu da kaynak materyalin yok edilmesi ve yazarların açık rızasının olmaması konusunda etik endişeler doğuruyor.”}},{“@type”:”Question”,”name”:”Amazon, yazarların kitaplarının yapay zeka tarafından yazıldığını beyan etmelerini zorunlu kılıyor mu?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon, yazarların yapay zeka ile yazılmış içeriği kendi kendilerine beyan ettikleri bir onur sistemi kullanıyor, ancak gerçekte kaç kişinin bunu yaptığına dair kamuya açık veri yok.”}}]}
Bu makale, yapay zekanın yardımıyla üretilmiş ve editoryal ekip tarafından gözden geçirilmiştir.
