İçeriğe geç
  • BTC $62.864 +0,6%
  • ETH $1.770 +1,6%
  • SOL $73,30 +1,0%
  • BNB $584,98 +1,2%
  • XRP $0,9699 +0,3%
  • DOGE $0,0585 +0,8%
  • ADA $0,1522 +1,2%

OpenAI fırtınada: bir çalışma, şirketi modellerini telif hakkıyla korunan veriler üzerinde eğitmekle suçluyor

OpenAI hakkındaki soruşturmanın merkezinde, telif hakkıyla korunan içerikleri tanıdığı ve kullandığı iddia edilen GPT-4o bulunuyor.

Bu makale yapay zekâ sistemleriyle üretilmiştir; editoryal sorumlu: Amelia Tomasicchio. Nasıl çalışıyoruz

openai training copyright data

OpenAI tarafından benimsenen eğitim yöntemlerinin şeffaflığı ve etikliği hakkında önemli sorular ortaya koyan AI Disclosures Project tarafından yayınlanan yeni bir çalışma, GPT-4o adlı şirketin en yeni dil modelinin, O’Reilly Media yayıncısının gizli materyallerinden gelen telif hakkıyla korunan içerikleri tanıdığı ve kullandığı iddiasıyla soruşturmanın merkezinde yer alıyor.

Yapay zeka yarışında şeffaflığı artırmak için bir araştırma

Çalışma, teknoloji uzmanı Tim O’Reilly ve ekonomist Ilan Strauss tarafından yönetilen AI Disclosures Project kapsamında gerçekleştirilmiştir. Projenin amacı açıktır: sorumluluğu artırmak, yapay zeka sektöründe, LLM (Large Language Models) geliştiren şirketlerin şeffaf uygulamalara ihtiyaç duyduğunu vurgulamaktır.

Belge, bir working paper, bu modelleri eğitmek için kullanılan verilerin açıklanmasında mevcut resmi yükümlülüklerin eksikliğinin güven ve yasallık konusunda ciddi sorunlar yaratabileceğini analiz ediyor. Araştırmacılar, finansal piyasalarda bull ve bear piyasalarını desteklemek için açıklama kuralları ortaya çıktığı gibi, yapay zeka alanında da benzer bir düzenlemenin kötüye kullanımı ve sistemik zararları önlemek için gerekli olduğunu savunuyorlar.

OpenAI, telif hakkıyla korunan içerikler üzerinde testler yapıyor: veriler net bir şekilde konuşuyor

Araştırmalarını yürütmek için araştırmacılar, O’Reilly Media tarafından yayınlanan 34 telif hakkıyla korunan kitaptan oluşan yasal olarak elde edilmiş bir veri seti kullandılar. DE-COP membership inference attack olarak bilinen bir teknik aracılığıyla, dil modellerinin insan tarafından yazılmış metinleri LLM tarafından üretilen yeniden ifade edilmiş versiyonlardan ayırt edip edemeyeceğini ölçtüler. Sonuçlar, GPT-4o‘yu işaret ediyor.

AUROC puanları (iki sınıfı ayırt etme yeteneğini ölçen bir metrik) açıkça konuşuyor:

  • GPT-4o, O’Reilly Media’dan alınan kamuya açık olmayan içerikleri tanıma yeteneğinde %82 puan aldı — bu, bu içeriklerin eğitim verilerine dahil edilmiş olma olasılığının yüksek olduğunu gösteren bir değerdir.
  • Kıyaslama amacıyla, GPT-3.5 Turbo modeli çok daha zayıf bir tanıma (yaklaşık %50) gösterdi, oysa GPT-4o Mini, modelin daha hafif bir versiyonu, ne kamuya açık ne de kamuya açık olmayan içerikleri tanımadı.
  • Veriler ayrıca GPT-4o’nun herkese açık olmayan materyalleri (AUROC %82) O’Reilly’nin serbestçe erişilebilen içeriklerine (AUROC %64) göre daha iyi tanıdığını göstermektedir.
  • Tersine, GPT-3.5 Turbo, halka açık içeriklere (%64) kıyasla özel içeriklere (%54) daha fazla aşinalık gösteriyor.

Araştırmacılar, telif hakkıyla korunan içeriklere erişim için olası bir kaynak olarak LibGen‘i önermektedir. Bu, telif hakkıyla korunan kitapların yetkisiz dijital kopyalarını barındıran tanınmış bir çevrimiçi platformdur. Çalışmada analiz edilen tüm kitaplar aslında o sanal kütüphanede mevcuttur.

AI endüstrisi: yasallık, ekonomi ve içeriklerin sürdürülebilirliği

Sonuçlar daha geniş bir soruyu gündeme getiriyor: Telif hakkıyla korunan verilerin sistematik olarak dil modellerini eğitmek için kullanılması, orijinal içerik üreten profesyonellerin ekonomik sürdürülebilirliğini tehlikeye atabilir. Şirketler, yayınlarının kullanımı için tazmin edilmezse, yayıncılık da dahil olmak üzere bilgi ekosisteminin tamamı fakirleşme riskiyle karşı karşıya kalabilir.

Rapora göre, telif hakkı olan verilerin izinsiz kullanımı, çevrimiçi içeriklerin kalitesinin ve çeşitliliğinin azalmasına katkıda bulunuyor. Bu sadece etik bir mesele değil, aynı zamanda ekonomik bir meseledir: gelir olmadan, yayıncılar ve profesyonel içerik üreticileri değerli içerikler üretmeye devam edemezler.

Araştırmacıların endişesi: modeller bildiklerinden daha fazlasını biliyor

Bir diğer çalışma tarafından vurgulanan bir yön, en yeni dil modellerinin insan dili ile yapay zeka tarafından üretilen dil arasındaki ince farkları anlama ve yeniden üretme yeteneğinin iyileştirilmesidir. Ayrıca, araştırmacılar dillerin zamanla evrim geçirdiği için olası bir “zaman yanlılığı”nın varlığını vurgulamaktadır. Bu tür bir çarpıklığı nötralize etmek için, testler aynı zaman diliminde eğitilmiş iki model (GPT-4o ve GPT-4o Mini) üzerinde gerçekleştirilmiştir.

Kanıtlar belirli bir vaka ile sınırlı olmasına rağmen — OpenAI ve O’Reilly metinleri — yazarlar, fenomenin yapay zeka üretim sektöründe yaygın ve sistemik olabileceğini düşünmektedir.

Veri eğitimi için yasal bir pazar mı?

Çalışma, daha geniş bir düşünceyle sona eriyor: IA geliştiricilerinin eğitim verilerine yasal olarak erişebileceği, lisans anlaşmaları ve içerik oluşturucular için şeffaf tazminatlar aracılığıyla bir sistem inşa etmek gereklidir.

Bazı işletmeler şimdiden bu yönde iş modelleri geliştiriyor. Defined.ai örneğinde olduğu gibi, yazarların rızasını garanti ederek ve tüm kişisel tanımlayıcı bilgileri kaldırarak eğitim için veri satan bir platform. Düzenlenmiş bir endüstri, bazı büyük AI şirketlerinin mevcut şeffaf olmayan davranışlarına yasal ve sürdürülebilir bir alternatif temsil edebilir.

Politikanın rolü: Avrupa öncü olabilir

Rapor, aynı zamanda bir düzenleyici bakış açısı sunuyor: Avrupa Birliği’nin yeni AI Yasası‘nın yürürlüğe girmesi, modellerin eğitimi için açıklama yükümlülükleri öngörüyor ve bu, bull ve bear piyasalarında olumlu bir döngü başlatabilir. Kurallar iyi belirlenmiş ve gerçekten uygulanmışsa, hak sahipleri nihayet eserlerinin ne zaman ve nasıl kullanıldığını öğrenebilirler.

Bu, yaratıcıların içeriklerinin AI tarafından kullanılan ekonomik mallar olarak gerçekten tanındığı yasal pazarların oluşturulması için temel bir adım olacaktır.

Sadece OpenAI değil: gittikçe daha sık rastlanan bir uygulamayı işaret eden bir çalışma

O’Reilly Media yayıncısının 34 kitabının detaylı bir analizi aracılığıyla, araştırmacılar OpenAI’nin muhtemelen GPT-4 modelini kamuya açık olmayan ve telif hakkıyla korunan veriler üzerinde de eğitmiş olabileceğini öne süren ampirik kanıtlar sağlamışlardır.

Onaylanırsa, bu yalnızca telif hakkı kurallarının değil, aynı zamanda yapay zekanın toplumumuz ve ekonomimiz üzerinde giderek daha derin bir etki yarattığı bir dönemde büyük teknoloji şirketlerinin uyması gereken şeffaflık, rıza ve eşitlik ilkelerinin de potansiyel olarak ciddi bir ihlali olacaktır.

Satoshi Voice

Bu makale yapay zeka desteği ile üretilmiş ve doğruluk ve kaliteyi sağlamak için gazeteci ekibimiz tarafından gözden geçirilmiştir.

Satoshi Voice adlı yazarın tüm makaleleri