Yapay zeka geliştiren şirketlerin üst düzey yöneticileri, yıllardır varoluşsal tehditlere ilişkin uyarılar yapıyor.
Kasım 2023'te Bletchley Park'ta düzenlenen dünyanın ilk yapay zeka güvenliği zirvesine katılmıştım. Zirvenin odağında, en güçlü yapay zeka modellerinin yaratabileceği, hayal edilebilecek en ciddi tehditler vardı.
O dönemde birçok kişi bunun bilim kurgu alanına girdiğini, asıl tehditlerin ise kıyaslandığında çok daha sıradan olduğunu düşünüyordu: İş kayıpları ve sınavlarda kopya çekilmesi gibi...
Üç yıl sonra, aynı seslerin çoğu artık bundan o kadar da emin görünmüyor.
Cumartesi günü yapay zeka şirketi Anthropic'in başındaki isim Dario Amodei, yapay zeka geliştirme hızının yavaşlatılması çağrısında bulundu.
Rakip iki yapay zeka şirketinin yöneticileri, OpenAI'den Sam Altman ve Elon Musk da kendisiyle aynı fikirde olduklarını söyledi.
Bu arada Anthropic'ten ayrılan yapay zeka araştırmacısı Jacob Coxon, pazar günü BBC'ye yaptığı açıklamada, sistemleri geliştiren çalışanların insanlığın geleceği konusunda "gerçekten korktuğunu" söyledi.
Bütün bunlar, yavaşlama çağrısı yapan ciddi isimlerden oluşan bir koroya dönüşüyor. Ancak bu kulağa hızlı bir çözüm gibi gelse de uygulanması hiç de kolay değil.
Amerika'nın en güçlü yapay zekayı geliştirme yarışını Çin'e kaptırmaktan büyük endişe duyduğu yaygın olarak kabul ediliyor.
Pazar günü Başkan Trump da kendi görüşünü açıkça ortaya koydu. ABD'nin yapay zeka yarışında Çin'in önünde olduğunu iddia etti ve "Yapay zeka yarışını kazanan her şeyi kazanır" dedi.
Çin'in ikinci olmak istemesiyle tanınan bir ülke olmadığı da ortada.
Görüştüğüm herkes, kendi şirketleri duraklasa bile diğerlerinin durmayacağını ve böylece geride kalacaklarını söylüyor.
Bu bana nükleer silahsızlanma kampanyasının en yoğun dönemini hatırlatıyor.
O zaman da sorun aynıydı: İlk adımı kimse atmak istemiyordu.
Ayrıca bir yavaşlamanın nasıl uygulanacağı sorusu da var.
Bunu kim denetleyecek?
Yapay zeka şirketlerinin ne yaptıkları ve daha önemlisi ne yapmamayı tercih ettikleri konusunda şeffaf olmalarına mı güveneceğiz?
Bu, muazzam düzeyde bir güven gerektirirdi ve teknoloji sektörünün böyle bir güveni hiçbir zaman kazanamadığı ileri sürülebilir.
Amodei paylaşımında, geliştirilmekte olan yapay zeka modellerinin bağımsız şekilde izlenmesini, sektör genelinde düzenleme yapılmasını ve küresel düzenleme oluşturulmasını içeren üç maddelik bir plan önerse de bazı gözlemciler bunun pratikte nasıl işleyeceğini sorguluyor.
Çin ise Anthropic yöneticisi Amodei'nin "Çin'in yapay zekadaki ilerleyişi ABD için ulusal güvenlik riski olur" açıklamasını eleştirdi.
EZ Primary Research CEO'su Ed Zitron, "Kimse 'yavaşlamanın' ne anlama geldiğine dair somut bir açıklama yapmadı" diyor:
"Anthropic'ten ayrılan kişilerden birinin gittiği bir ekipten temsilcileri her yapay zeka şirketine yerleştirmek mi? Demokratik ve küresel 'eşgüdüm' mü? Bana hiçbir şey ifade etmiyor."
Zitron, yapay zeka modellerinin eğitimini durdurmanın onları Çinli rakipler karşısında savunmasız bırakacağı görüşünde:
"Kâr marjları iyileşebilir ama ürünleri dondurulmuş halde kalır ve Çin laboratuvarları tarafından kendi yapay zekalarını geliştirmek için kullanılır.
"Fiyatlandırmalarını değiştirmek zorunda kalabilirler. Bunun nasıl işleyeceğini gerçekten bilmiyorum.
"Bu balonu patlatabilir. Ama şu anda 'yavaşlamanın' ne anlama geldiğine dair elimizde çok az şey var."
Birleşik Krallık'ta teknolojinin hasta bakımını iyileştirmek amacıyla NHS içinde daha yaygın kullanılmasına yönelik planları ve yapay zekanın yaz aylarında Birleşik Krallık ekonomisinin büyümesine çok ihtiyaç duyulan bir destek sağladığını duyduk.
Hepimiz iş yerinde, eğitimde ve kişisel hayatlarımızda yapay zekayı giderek daha fazla kullanmaya teşvik ediliyoruz.
Sektör, Birleşik Krallık'ın ekonomik büyümeyi hızlandırma stratejisinin kilit bir parçası.
Eski bir hükümet danışmanı bana, "B planı yok" dedi.
Öyleyse bir yavaşlama gelecekteki ekonomik beklentileri zedeleyebilir mi?
Yapay zeka sektörü muazzam miktarda para ve doğal kaynak tüketiyor ve şu ana kadar buna karşılık gelen düzeyde gelir yaratmıyor.
Teknolojiyi benimseyen bazı şirketlerin hayal kırıklığına uğradığını öne süren çok sayıda rapor bulunuyor.
Ekonomistler, mevcut devlerin tümünün ayakta kalamayacağı ve bir tür "dengelenme" sürecinin yaklaşmakta olduğu, yani bir balonun patlayacağı yönünde yaygın biçimde spekülasyon yapıyor.
Ancak bunu başarabilen şirketler dünyanın şimdiye kadar gördüğü en güçlü mega şirketlere dönüşebilir ve bunun da kendine özgü sorunları var.
OpenAI'nin borsaya açılma yönündeki ilerleyişini durdurmayı seçmesi, kamu güvenliği konusunda sorumluluk alındığını gösteren bir aydınlanma anı olarak görülebilir.
Ancak bu aynı zamanda, tüm ürünü ölümcül olarak algılanırken ihtiyaç duyduğu kazançlı getiriyi elde edemeyebileceğini fark etmiş bir şirketin hamlesi de olabilir.
Birleşik Krallık merkezli yapay zeka şirketi Synthesia'dan Alexander Voica, "Şu anda karşı karşıya olduğumuz muhtemelen en büyük zorluklardan biri, hiç kimsenin bu teknolojinin nasıl gelişeceğini kesin olarak öngörememesi" diyor:
"Bu sistemlerin daha güçlü hale geldiğini biliyoruz ama nerede ve nasıl kullanılacaklarını bilmiyoruz.
"Ayrıca potansiyellerinden tam anlamıyla yararlanmanın bir yolunu henüz bulmuş değiliz.
"Benim tek endişem, hala çok sayıda açık soru varken düzenleme konusunda acele edilmesinin ters tepebileceği."
Bu teknoloji devriminin temelinde büyük miktarda yatırımcı sermayesinin bulunduğu gerçeğini de inkar edemeyiz.
Sustainable AI'ın kurucusu Sasha Luccioni, "Yapay zekanın varoluşsal risklerinden endişe etmiyorum, onu yaratan şirketlerin kurumsal açgözlülüğünden endişe ediyorum" diyor.
Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan önde gelen bilgisayar bilimcisi Profesör Dame Wendy Hall ise mevcut krizin tamamen şirketlerin yeterince sorumlu davranmamasıyla ilgili olduğunu söylüyor.
Durumu, tarladaki boğasının kaçıp yıkıma yol açmasının ardından boğayı suçlayan bir çiftçiye benzetiyor.
"Bu elbette boğanın suçu değil, çiftçinin suçu" diyor.
Açıkça görülüyor ki çitler yeterince sağlam değildi ve Hall, şu anda yapay zeka güvenlik önlemlerinde gördüğümüz şeyin de tam olarak bu olduğunu söylüyor.
Peki bu güvenlik önlemleri fazla kısıtlayıcı hale gelirse, bu yapay zekanın sonu anlamına gelebilir mi?
Bazıları, kurallara dayalı bir baskı mekanizması oluşturularak "yapay zekayı tamamen düzenlemelerle ortadan kaldırmaya" yönelik daha gizli ve siyasi motivasyonlu bir girişim olduğuna inanıyor.
Muhafazakar eğilimli düşünce kuruluşu Capital Research Centre'da araştırmacı olan Parker Thayer bu hafta X'te bunu böyle ifade etti.
Paylaşımı yaklaşık sekiz milyon kez görüntülendi.
Bu uç bir görüş ve kanıtlanmış değil. Ancak herkesin düzenlemelerin günü kurtaracağı fikrine katılmadığını gösteriyor.
Gerçek ne olursa olsun, şu anda yapay zeka sektörünü saran fırtına, hâlihazırda önde bulunan şirketlerin itibarına kalıcı zarar vermiş olabilir.
Profesör Hall'un ifade ettiği gibi:
"İnsanlığın yok oluşuna yol açacağını söyleyen bir şirkete yatırım yapar mıydınız?"
ABD Temsilciler Meclisi Başkanı Cumhuriyetçi Mike Johnson da, yapay zekayı geliştirme hızını yavaşlatmanın "ABD inovasyonunu boğma riski taşıdığını" söyledi:
"Kongre hızla harekete geçip yapay zekayı düzenlemeye çalışırsa yarışı Çin'e kaybederiz ve bu da her bir ABD vatandaşı için tehdit oluşturur."
Temsilciler Meclisi'ndeki Demokratların lideri Hakeem Jeffries ise yasa yapıcıların "kararlı bir şekilde hareke geçmesi" gerektiği görüşünde.
Jeffries, "ABD vatandaşlarını korumak ve yapay zekanın güvenli bir şekilde geliştirildiğinden emin olmak için" yavaşlamanın şart olduğunu söyledi.
ABD Başkanı Donald Trump'ın kurduğu Bilim ve Teknoloji Danışmanları Konseyi'nden teknoloji yatırımcısı David Sacks ise şirketlerin kendilerini denetlemesinin en doğru çözüm olacağını savundu, "Başkalarının iznine ihtiyacınız varmış gibi davranmayı bırakın" dedi.
İngiltere'de ise hükümet, yapay zeka modellerine tehlike anında kapatılmaları için bir "kapama düğmesi" eklenmesi fikrini reddetti.
Son haftalarda Parlamento'da yapay zekanın tehlikeleri görüşülürken gündeme gelen önerilerden biri bu olmuştu.
Fakat BBC'ye bilgi veren bir hükümet temsilcisi "İngiltere yapay zekayı kapatamaz" dedi ve ekledi:
"Yapay zeka modellerine İngiltere'den erişimi engelleseniz bile bunların başka yerlerde geliştirilmesini ve kötüye kullanılmasını engelleyemez."
İngiltere'de farklı partilerden milletvekilleri ve lordların bir araya gelerek oluşturduğu İnsan Hakları Ortak Komitesi ise yapay zekanın insan haklarına yönelik tehdit oluşturduğunu açıkladı.
Konu hakkında 100 sayfalık bir rapor yayımlayan komite insanların yüzlerinin rızaları olmadan taranması veya kadınların fotoğraflarının yapay zeka kullanılarak seks içerikli hale getirilmesi gibi örnekleri bu tehditler arasında sıraladı.
Komitenin başkanı "Yapay zekanın bazı türden kullanımları insan haklarıyla bağdaşmadığı için tamamen yasaklanmalı" dedi ve ekledi:
"Yapay zeka hayatlarımızı eşi benzeri görülmemiş bir hızla daha iyi ya da daha kötü yönde etkileme potansiyeli olan bir teknolojik gelişme.
"Fakat o kadar hızlı ve karmaşık bir şekilde ilerliyor ki, etkilerini doğru bir şekilde tahmin etmek mümkün değil.
"Net olan tek bir şey var, o da sonuçları ne kadar büyük olursa olsun, onlarla başa çıkmaya hazır değiliz."
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.
