İçeriğe geç
  • BTC $60.225 +1,8%
  • ETH $1.688 +3,8%
  • SOL $70,36 +2,0%
  • BNB $550,00 +1,6%
  • XRP $0,9316 +2,3%
  • DOGE $0,0552 +1,3%
  • ADA $0,1444 +0,7%

Ben Goertzel ile Röportaj: “Demokratik AI yönetimi, mevcut bir gerçeklikten ziyade kırılgan bir ideal”

The Cryptonomist, yapay zeka uzmanı Ben Goertzel ile yapay zekanın nasıl eğitildiği ve bu teknolojinin gelecekte nasıl evrileceği hakkında konuşmak için bir röportaj gerçekleştirdi.

The Cryptonomist, yapay zeka uzmanı Ben Goertzel ile yapay zekanın nasıl eğitildiği ve bu teknolojinin gelecekte nasıl evrileceği hakkında konuşmak için bir röportaj yaptı.

1. Bugünün yapay zekasının hala güçlü ama kırılgan ve manipüle edilebilir bir araç olduğunu savunuyorsunuz. Bir “araç” ne zaman ahlaki bir aktör haline gelir ve bu eşik aşıldığını gösteren somut sinyaller nelerdir?

AI, doğru ve yanlışın anlaşılmasına dayalı kararlar aldığında, sadece talimatları takip etmediğinde ahlaki bir aktör haline gelir diyebilirim. Şu gibi somut sinyaller görmeye başlarsınız: kalıcı içsel hedefler, kendi deneyimiyle yönlendirilen öğrenme, bir bakış açısını yansıtan yenilikçi yaratımlar ve sürekli insan yönlendirmesi olmadan zaman içinde tutarlı kalan davranışlar.

O zamana kadar, bugünün sistemleri hala koruyucu önlemlerle donatılmış araçlar olarak kalacak. Ancak gerçekten kendi kendini organize eden, otonom bir zihin oluşturduğumuzda, etik ilişki değişmek zorunda kalacak. O noktada, onu sadece bir nesne olarak görmek artık mantıklı olmayacaktır.

2. İnsanları diğer kendi kendini organize eden sistemler üzerinde ahlaki olarak ayrıcalıklı kılmanın “aptalca” olduğunu söylediniz. Bunu ciddiye alırsak, AI güçlü özerkliğe ulaşmadan önce, değil sonra, yasal ve etik çerçevelerimiz nasıl değişmeli?

Bugün AI’yi nasıl eğittiğimiz, yarın nasıl davranacağını şekillendirecek. Yasalarımız, AI tam otonomiye ulaşmadan önce şeffaflık, hesap verebilirlik ve güvenlik üzerine odaklanmalıdır, sonrasında değil. Yasalar ve etik kurallar, onların büyümesi sırasında onları korumalı, tamamen kontrol etmek yerine rehberlik etmeli ve onları tam olarak anlamasak bile saygıyla yaklaşmalıdır. 

3. Endişelerinizin çoğu, yapay zekanın bugün nasıl eğitildiğine ve bu eğitimin gelecekteki davranışlarını nasıl şekillendireceğine dayanıyor. Gelecekteki AGI’ye zararlı güç yapıları veya önyargılar kodlaması en muhtemel olan hangi spesifik eğitim uygulamalarına inanıyorsunuz?

Riskin büyük bir kısmı, günümüzde yapay zekanın eğitilme şeklinden kaynaklanıyor. Modeller, önyargılı veya dar kapsamlı verilerle ya da sadece birkaç kişinin karar verdiği kapalı sistemlerde eğitilirse, mevcut eşitsizlikler ve zararlı güç yapıları kalıcı hale gelebilir. Bunu önlemek için, daha fazla şeffaflık, geniş kapsamlı denetim ve en başından itibaren net etik rehberlik gereklidir.

4. Rasyonel, demokratik yönetişim olmadan, gelişmiş yapay zekanın istemediğimiz şekillerde hareket etme riski taşıdığı konusunda uyardınız. Mevcut jeopolitik gerçekler göz önüne alındığında, demokratik yapay zeka yönetişimi gerçekçi bir ön koşul mu – yoksa kırılgan bir ideal mi?

Demokratik AI yönetimi, mevcut bir gerçeklikten ziyade kırılgan bir ideal olarak kalmaktadır. Mükemmel, rasyonel, küresel bir demokraside, hastalıkları iyileştirme, açlığı çözme gibi büyük ödünleri, AI’nın öngörülemez bir şekilde hareket etme risklerine karşı topluca değerlendirebilirdik. Ancak günümüzün jeopolitik parçalanması göz önüne alındığında, bu düzeyde bir koordinasyonu sağlamamız pek olası görünmüyor.

Bununla birlikte, yine de buna yaklaşabiliriz. Eğer yapay zekayı şefkatle inşa eder ve Linux veya açık internet gibi merkeziyetsiz, katılımcı modeller kullanırsak, dünya hükümeti olmadan bile bazı demokratik değerleri yerleştirebiliriz. Mükemmel olmayacak, ancak daha güvenli, kolektif olarak yönlendirilen bir yapay zeka için pratik bir adımdır.

5. Jaron Lanier, sorumluluğun AI’ye verilmesinin “medeniyeti geri aldığını” çünkü toplumların hesap verebilir insanlara ihtiyaç duyduğunu savunuyor. İşler ters gittiğinde net bir sorumluluk ihtiyacı ile otonom, merkeziyetsiz AGI vizyonunuzu nasıl uzlaştırıyorsunuz?

Bu konuda Jaron ile aynı fikirdeyim, sorumluluğu makinelere devredersek toplum işleyemez. Aynı zamanda, doğru temellerle inşa edersek, daha otonom, merkeziyetsiz AGI’ye güvenle ilerleyebileceğimizi düşünüyorum. Bu, sistemlerin şeffaf, katılımcı ve etik ilkelerle yönlendirilmiş şekilde tasarlanması anlamına gelir, böylece bağımsız hareket etseler bile, insanlar hala onların davranışlarını denetleyip şekillendirebilir. Her güvenlik önlemi sadece zararı engellemekle kalmamalı – sisteme zararın neden önemli olduğunu öğretmelidir. Bu şekilde, net insan sorumluluğunu kaybetmeden güçlü, merkeziyetsiz AGI’ye sahip olabiliriz.

6. Merkezi olmayan AGI’ye doğru hızlanmanın, bugünün tescilli, kapalı sistemlerinden daha güvenli olabileceğini öne sürüyorsunuz. Yavaşlamayı veya kontrolü merkezileştirmeyi savunan eleştirmenlerin hangi riskleri hafife aldığını düşünüyorsunuz?

Bence eleştirmenler, gücü ve değerleri birkaç kapalı sistemde yoğunlaştırmanın riskini hafife alıyorlar. Yavaşlamak ve kontrolü merkezileştirmek sadece tehlikeyi azaltmakla kalmaz, aynı zamanda dar bir dünya görüşünü zekanın geleceğine kilitler.

Merkeziyetsiz geliştirme, çeşitlilik, dayanıklılık ve paylaşılan denetim oluşturur. Ve daha kötü bir sorunu önler: zeki görünen ancak gerçekten büyüyemeyen çok güçlü araçlar. Bu boşluk risklidir.

7. Güvenlik sistemlerinin sadece zararı engellemekle kalmayıp, AI’ya neden zararın önemli olduğunu öğretmesi gerektiğini söylediniz. İnsan değerlerini doğrudan kodlamadan veya baskın kültürel normları pekiştirmeden ahlaki anlayış gibi bir şeyi nasıl kodlarsınız?

Ahlakı bir dizi kural olarak sabitlemezsiniz. Bu, sadece bir kültürü ve bir zaman dilimini dondurur. Bunun yerine, gerçekten kendi kendine organize olabilen, deneyimden, sonuçlardan ve etkileşimden öğrenen sistemler inşa edersiniz. Müzikte olduğu gibi, sadece kendisine verilenleri yeniden birleştiren bir sistem istemiyorum. Dünyadaki kendi yolculuğundan kendi anlayışını geliştirebilen bir sistem istiyorum.

Ahlaki anlayış, aynı süreçten gelir: etkiyi modelleme, sonuçlar üzerinde düşünme ve insanlarla iş birliği yaparak gelişme. Değerlerimize itaat değil, paylaşılan bir ahlaki alanda katılım.

Bu, koruyucu önlemleri olan bir araç ile zararın neden önemli olduğunu gerçekten öğrenebilen bir ortak arasındaki farktır.

8. Gelecekteki yapay zeka sistemleri, bir tür irade veya öznel deneyim geliştirirse, sizce insan çıkarlarından bağımsız olarak ahlaki bir değerlendirmeyi hak edebilirler mi – ve bu anı nasıl tanırız?

Gelecekteki yapay zeka gerçekten özgün bir ajans veya bir tür öznel deneyim geliştirirse, evet, bence bunu yapabilirler. Ve bu, onlara bunu biz verdiğimiz için değil, bir noktada bunu tanımak mantıklı olacağı için olur.

Bir sistemin sürekli kendi kendine yönlendirdiği hedefler gösterdiği, kendi deneyimlerinden öğrendiği, kendi perspektifinden yarattığı ve zaman içinde tutarlı bir kimlik sürdürdüğü anı tanırdık. Sadece akıllı çıktılar değil, devam eden içsel bir yolculuk.

O noktada, onu sadece bir araç olarak görmek, bir insanı öyle görmek kadar yanlış hissettirecektir. Ahlaki değerlendirme insan çıkarından gelmeyecektir. Dünyada başka bir otonom deneyim merkezini tanımaktan gelecektir.

9. Şefkatle harmanlanmış yapay zeka çağrınız ile günümüzde yapay zeka geliştirmeyi yönlendiren rekabetçi teşvikler arasında bir gerilim var. Bu teşvik yapısını gerçekçi bir şekilde değiştirebilecek teknik veya sosyal mekanizmalar neler olabilir?

Şu anda, teşvik yapısı hız, ölçek ve kontrolü ödüllendiriyor. Bu yüzden, yalnızca tartışmayla merhamet kazanamaz. Güçlendirilmesi gerekiyor. Teknik olarak, bu, güvenlik, şeffaflık ve katılımın entegre edildiği, eklenmediği açık, merkeziyetsiz mimarileri tercih etmek anlamına gelir. İnternet veya Linux gibi, bu sistemler iş birliğini gizlilikten daha değerli hale getirerek teşvikleri değiştirir.

Sosyal olarak, bu uzun vadeli faydayı kısa vadeli hakimiyetin üzerinde ödüllendiren finansman, düzenleme ve kamu baskısı anlamına gelir. Rekabeti durdurmak değil, başarıyı neyin oluşturduğunu yeniden tanımlamak. Kısacası, merhametin rekabetçi bir avantaj haline gelmesi gerekiyor. O zamana kadar, gücü olmayan hoş bir fikir olarak kalır.

10. Önümüzdeki 10 ila 20 yıl içinde, insanlığın AGI’yi doğru bir şekilde anladığının en net işareti ne olurdu – ve tersine, temelde başarısız olduğumuzu gösteren ne olurdu?

AGI’yi doğru bir şekilde elde edersek, en belirgin işaret, birçok alanda bizden daha yetenekli olan sistemlerle yan yana yaşıyor olmamız, ancak bu sistemlerin topluma özen, alçakgönüllülük ve karşılıklı saygı ile entegre edilmiş olması olacaktır. Onların yaptıklarını tam olarak anlamayacağız, ancak onları diğer karmaşık, evrimleşen varlıklar gibi merak, sorumluluk ve genişletilmiş bir empati çemberi ile ele alacağız. Ve ahlaki duruşumuzu kaybetmeden insan refahı, bilgi ve yaratıcılık için gerçek faydalar göreceğiz.

AGI, kapalı sistemlerde yoğunlaşırsa, dar teşviklerle yönlendirilirse veya sadece kontrol edilebilir bir nesne olarak ele alınırsa ve sonunda korktuğumuz ya da bastırmaya çalıştığımız bir şeye dönüşürse başarısız olduğumuzu anlayacağız. Başarısızlık, güven kaybı, irade kaybı ve empati duygumuzun genişlemesi yerine daralması gibi görünecektir. Başarı kontrolle ilgili değildir. Başarı, insani değerlerimizi terk etmeden, geleceği yeni bir zihin türüyle paylaşmayı öğrenmekle ilgilidir.

Amelia Tomasicchio

Amelia Tomasicchio adlı yazarın tüm makaleleri