Utah’da kırk yıllık bir cinayet davası, keşfedilmemiş hukuki bir alanı sınamak üzere: jüri, bir idam cezası hükmü sırasında, ElevenLabs yazılımı kullanılarak oluşturulmuş bir yapay zeka ses klonundan inşa edilen bir yapay ses kopyasıyla ölen bir kadının sentetik taklit sesini delil olarak dinleyebilir mi? Weber County savcıları, bu teknolojinin jüri üyelerinin Joyce Yost’un kendi sözlerini yeniden duymasını sağlayabileceğini söylüyor. Savunma avukatları ve bağımsız teknoloji uzmanları ise bunun çok daha tehlikeli bir şey yapabileceğini — bir adamın yaşayıp yaşamayacağına karar veren insanları yanıltabileceğini — belirtiyor.
Summary
Öne çıkanlar
- Weber County savcıları, Douglas Lovell’ın yaklaşan yeniden cezalandırma duruşmasında, cinayet kurbanı Joyce Yost’un yapay zeka ile üretilmiş ses klonunu çalmak istiyor.
- Yost, 1985 yılında Lovell tarafından, kendisine karşı açılan bir tecavüz davasında tanıklık etmesini engellemek için öldürüldü; cesedi asla bulunamadı.
- Klon, Yost’un ön duruşmadaki ifadesinin ses kayıtları ve dökümü kullanılarak ElevenLabs yazılımıyla oluşturuldu.
- Utah Üniversitesi’nden iki uzman, yapay zeka sesinin jüriyi haksız şekilde etkileyebileceği ve doğruluğunun teyit edilemeyeceği konusunda uyarıda bulundu.
- Yargıç Michael DiReda’nın, delil olarak kabul edilebilirlik konusunda kararını Kasım ortasına kadar vermesi bekleniyor; ceza duruşması ise şu anda Şubat 2027 sonu için planlanmış durumda.
Savcılar Cinayet Kurbanının Yapay Zeka Ses Klonunu Kullanmayı Öneriyor
Utah, Farmington’daki savcılar, Douglas Lovell’ın kaderine karar verecek jüri önünde Joyce Yost’un sesinin sentetik bir rekonstrüksiyonunu çalmak için bir yargıçtan izin istedi. Talep, Yost’un onlarca yıl önce, öldürülmeden ve bir daha kürsüye çıkamayacak hale gelmeden önce verdiği bir ifade parçası etrafında dönüyor.
Savcılara göre Douglas Lovell, 10 Ağustos 1985 gecesi Yost’u, ayrı bir tecavüz davasında kendisine karşı tanıklık etmesini engellemek için kaçırıp öldürdü. Yost’un cesedi hiçbir zaman ortaya çıkarılamadı, ancak Lovell 1993’teki pazarlık görüşmeleri sırasında cinayeti itiraf etti. İki kez idam cezasına çarptırıldı ve her iki ceza da temyizde bozuldu. Şimdi bir jüri, gelecek Şubat ayında onu yeniden cezalandırmak üzere planlandı.
ElevenLabs yazılımı kullanılarak yapay zeka ses klonunun oluşturulması
Rekonstrüksiyonu oluşturmak için savcılık ekibi, bir yapay zeka ses sentezi şirketi olan ElevenLabs’e başvurdu; yazılıma, Yost’un konuştuğu gerçek ses kayıtları ile kaybolmadan kısa süre önce bir ön duruşmada verdiği ifadenin yazılı dökümünü besledi. Bu kombinasyon, aracın, Yost’un aynı sözleri söylüyormuş gibi duyulması amaçlanan yeni sentetik ses üretmesini sağladı. Bu, bir yapay zeka aracılığıyla klonlanmış sesin, bir cinayet kurbanına bağlı mahkeme delili olarak kullanılmasına yönelik bilinen ilk girişimlerden birini işaret ediyor.
Savunma Uzmanları Yapay Zeka Ses Delilinin Risk ve Sınırlamalarını Vurguluyor
Lovell’ın savunma ekibi tarafından çağrılan iki bilgisayar bilimci, ElevenLabs yapay zeka ses rekonstrüksiyonunun, ne kadar ikna edici olursa olsun, canlı bir tanık veya gerçek bir kayıt kadar güvenilemeyeceğini ve jüri üyelerinin aradaki farkı ayırt edecek donanıma sahip olmayabileceğini savunuyor.
Kaliforniya Üniversitesi Irvine’den doktora derecesine sahip, Utah Üniversitesi’nde bilgisayar bilimi doçenti olan Sameer Patil, mahkemeye, insanların insan olmadığını bildikleri halde yapay zeka tarafından üretilen içeriklere rutin olarak duygusal bağlar kurduklarını söyledi. Patil, ChatGPT gibi araçlara atıfla, “Herkes bunun yapay zeka olduğunu biliyor,” dedi. “İşin içinde hiçbir insan yok ama insanlar buna duygusal bağlar geliştiriyor. Sanki kızgınmış gibi ona küfrediyorlar. Ya da ne yaptığını anlatırken, onu canlı bir şeymiş gibi tarif ediyorlar.” Patil, jüri üyelerinin sentetik Yost sesine de aynı şekilde tepki verebileceği — kendilerine aksi söylendikten sonra bile bunu makine tarafından üretilmiş bir yaklaşık değer yerine gerçek bir ifade gibi muamele edebileceği — konusunda uyardı.
Patil ayrıca daha teknik bir endişe dile getirdi: Klonu oluşturmak için kullanılan döküm, yalnızca Yost’un sözlerini yakalıyor, bunları gerçekte nasıl söylediğini değil. Vurgu, ritim veya ton olmadan — araştırmacıların paralinguistik ipuçları dediği şeyler — yapay zeka çıktısının, Yost’un kürsüde gerçekte nasıl konuştuğuyla eşleşip eşleşmediğini kontrol etmenin bir yolu yok. Patil, “Joyce Yost’a benzer şekilde ses çıkarmak, bunun hakkında mutlaka doğru olmak anlamına gelmez ve kesinlikle, o sözleri o ifadede nasıl söylediği konusunda doğru olmak anlamına gelmez,” dedi. “Bu basitçe doğrulanamaz çünkü ses kaydı mevcut değil.”
ElevenLabs tarafından açıklanmayan eğitim verileriyle ilgili endişeler
İkinci savunma tanığı, Utah Üniversitesi’nde makine öğrenimi yardımcı doçenti ve eski bir Google DeepMind araştırma bilimcisi olan Kenneth Marino, metinden sese sistemlerinin tipik olarak nasıl inşa edildiğini mahkemeye anlattı. Marino’ya göre yapay zeka şirketleri, modellerini genellikle çevrimiçi ortamda toplu halde bulunması en kolay ses verileriyle eğitme eğiliminde. Marino, “Ses için bu muhtemelen podcast’ler ve YouTube videoları gibi şeylerdir,” dedi. Çıktı daha sonra, ağırlıklar olarak bilinen dahili parametreler kullanılarak ince ayar yapılabiliyor — ancak Marino’nun belirttiği gibi ElevenLabs, ne eğitim verilerini ne de bu ağırlıkları kamuya açık olarak açıklıyor. “Dolayısıyla hangi veriler üzerinde eğitildiğine dair esasen hiçbir fikrimiz yok,” dedi.
Bu şeffaflık eksikliği, hukuki bir takılma noktası haline geldi. Lovell’ın savunma ekibi, ses klonlama aracının nasıl eğitildiğine ve iyileştirildiğine dair ayrıntıları talep eden bir celpnameyi ElevenLabs’e gönderdi. Şu ana kadar şirket yanıt vermedi ve bu da mahkemeyi, sentetik Yost sesinin gerçekte nasıl üretildiğine dair bağımsız bir doğrulamadan yoksun bıraktı.
İdam Cezası Cezalandırmasında Yapay Zeka Kullanımını Çevreleyen Emsalsiz Hukuki Sorular
Mahkemeler, bir kişi yeniden tanıklık edemediğinde, ölmüş veya ulaşılamayan bir tanığın dökümünün, insan vekiller tarafından yüksek sesle okunmasına uzun süredir izin veriyor. Ancak dava kayıtlarına göre, daha önce hiç, idam cezasının masada olduğu bir davada, bir cinayet kurbanının yeminli ifadesinin yapay zeka ile üretilmiş bir ses klonu aracılığıyla sunulduğu görülmedi. Bu ayrım, ElevenLabs yapay zeka sesi rekonstrüksiyonu üzerindeki bu anlaşmazlığın Weber County’nin çok ötesinde dikkat çekmesinin nedeni — bu, başka yerlerdeki mahkemelerin sentetik delilleri nasıl ele alacağı konusunda bir şablon ya da bir uyarı işareti oluşturabilir.
Yargıç Michael DiReda, yapay zeka ses klonunun jüriye çalınıp çalınamayacağına ilişkin kararını Kasım ortasına kadar vermeyi beklediğini söyledi. Lovell için ceza duruşmasının şu anda Şubat 2027 sonu itibarıyla başlaması planlanıyor, ancak savunma ekibi şimdiden muhtemelen bir erteleme talep edeceğinin sinyalini verdi — bu da zaman çizelgesinin, tıpkı altta yatan hukuki soru gibi, belirsizliğini koruduğu anlamına geliyor.
Bu konunun tek bir Utah mahkeme salonunun ötesinde neden önemli olduğu: üretken ses araçları ucuz ve yaygın olarak erişilebilir hale geldikçe, savcılar ve savunma avukatları, sentetik bir rekonstrüksiyonun ne zaman faydalı bir görselleştirmeden güvenilmez — ya da haksız yere ikna edici — bir delile dönüştüğüne karar verme baskısıyla giderek daha fazla karşı karşıya kalacak. Bu davada verilecek bir karar, Amerikan mahkemelerinin yaşam ve ölüm meselelerinde yapay zeka tarafından üretilen konuşmaya nasıl muamele ettiğine dair ilk gerçek dünya ölçütlerinden biri haline gelebilir.
SSS
Savcılar neden Joyce Yost’un yapay zeka ile üretilmiş ses klonunu kullanmak istiyor?
Savcılar, yaklaşan ceza duruşmasında Yost’un geçmiş ifadesinin sentezlenmiş ses kaydını çalmak için yapay zeka ses klonunu kullanmayı amaçlıyor ve bunun, kendisi bizzat tanıklık edemese bile jürinin onun kendi sözlerini duymasını sağladığını savunuyor.
Uzmanlar, mahkemede yapay zeka ses klonunun kullanılmasına ilişkin hangi endişeleri dile getirdi?
Uzmanlar, yapay zeka ile ses klonlamanın jüri üyelerini duygusal olarak taraflı hale getirebileceği ve orijinal ifadeyle karşılaştırılarak doğruluğunun teyidi için gerekli olan ton ve ritim gibi paralinguistik ipuçlarından yoksun olduğunu konusunda uyarıyor.
İdam cezası davalarında daha önce yapay zeka ile üretilmiş ses delili kullanıldı mı?
Hayır. Bir cinayet kurbanının ifadesinin idam cezası davasında yapay zeka ses klonu ile kullanılması emsalsizdir ve bu anlaşmazlığı türünün ilk örneği olabilecek bir hukuki emsal haline getirmektedir.
Yargıç, yapay zeka ses delilinin kabul edilebilir olup olmadığına ne zaman karar verecek?
Yargıç Michael DiReda’nın, Lovell’ın şu anda Şubat 2027 sonu için planlanan ceza duruşmasından önce, Kasım ortasına kadar bir karar vermesi bekleniyor.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Savcılar neden Joyce Yost’un yapay zeka ile üretilmiş ses klonunu kullanmak istiyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Savcılar, yaklaşan ceza duruşmasında Yost’un geçmiş ifadesinin sentezlenmiş ses kaydını çalmak için yapay zeka ses klonunu kullanmayı amaçlıyor ve bunun, kendisi bizzat tanıklık edemese bile jürinin onun kendi sözlerini duymasını sağladığını savunuyor.”}},{“@type”:”Question”,”name”:”Uzmanlar, mahkemede yapay zeka ses klonunun kullanılmasına ilişkin hangi endişeleri dile getirdi?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Uzmanlar, yapay zeka ile ses klonlamanın jüri üyelerini duygusal olarak taraflı hale getirebileceği ve orijinal ifadeyle karşılaştırılarak doğruluğunun teyidi için gerekli olan ton ve ritim gibi paralinguistik ipuçlarından yoksun olduğunu konusunda uyarıyor.”}},{“@type”:”Question”,”name”:”İdam cezası davalarında daha önce yapay zeka ile üretilmiş ses delili kullanıldı mı?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Hayır. Bir cinayet kurbanının ifadesinin idam cezası davasında yapay zeka ses klonu ile kullanılması emsalsizdir ve bu anlaşmazlığı türünün ilk örneği olabilecek bir hukuki emsal haline getirmektedir.”}},{“@type”:”Question”,”name”:”Yargıç, yapay zeka ses delilinin kabul edilebilir olup olmadığına ne zaman karar verecek?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Yargıç Michael DiReda’nın, Lovell’ın şu anda Şubat 2027 sonu için planlanan ceza duruşmasından önce, Kasım ortasına kadar bir karar vermesi bekleniyor.”}}]}
Yapay zeka desteğiyle hazırlanmış ve editör ekibi tarafından gözden geçirilmiş makale.
