Yapay zekanın güvenliğiyle ilgili endişeler, araştırmacıların teknolojinin kontrolden çıkma risklerinin arttığına dair sert uyarılarıyla daha da alevlendi.
Son dönemdeki en kötümser tahminlerden bazıları, yapay zekanın önümüzdeki 10 yıl içinde tüm insanlığı yok etme olasılığının %10'dan fazla olduğunu öne sürüyor.
Fakat yapay zeka dünyasındaki bazı kişiler bu tahminlerin gerçekçiliğinden şüphe duyuyor ve büyük endişenin insanların yapay zekayı diğer insanlara karşı kullanması ihtimali olduğunu söylüyor.
Bu kıyametvari mesajlar, yapay zeka dünyasının genellikle 'Yapay Zeka Kıyametçileri' olarak adlandırılan bir kesiminden geliyor.
Ancak birçok kişinin sorduğu büyük soru şu. Bir yapay zekanın insanlığı nasıl yok edebileceğini düşünüyorlar?
Siber muhabir Joe Tidy, araştırmacıların düşündüğü bazı senaryoları ele aldı.
İlk senaryo, bu ayın başlarında OpenAI ve Anthropic'te araştırmacı olarak görev yapan Jacob Coxon tarafından kısaca özetlendi.
Çarpıcı açıklamalarla istifa eden Coxon yapay zekanın insanlık için bir risk oluşturduğunu belirtti ve şirketlerin "insanların hayatlarıyla kumar oynadığını" söyledi.
BBC'ye yaptığı açıklamada "baş döndürücü ilerleme hızı" nedeniyle eskiden bilim kurgunun alanına giren unsurların artık "gerçekleşmeye" başladığını söyledi.
"Somut bir örnek olarak", "yapay zeka ya da zekaların dünyanın işleyişini sağlayan kritik altyapılara sızma" ihtimalini gösterdi.
Bu ihtimal, kontrolden çıkmış bir yapay zeka sisteminin internet sağlayıcıları ve enerji şebekeleri gibi unsurların bilgisayar ağlarına sızabileceği öngörüsüne dayanıyor.
Örneğin, yapay zeka(lar) her şeyi kapatırsa, elektrik, ısıtma, soğutma veya internet bağlantısının kesildiği bir kaos yaşanabilir.
Nükleer felaketlerin mümkün olabileceği yönünde öneriler de ortaya atıldı.
Bir sonraki senaryo, yapay zeka araştırmacılarından oluşan bir grup tarafından Nisan 2025'te yayınlanan, ayrıntılı ve etkili ama aynı zamanda oldukça spekülatif bulunan araştırma makalesi AI 2027'den geliyor.
Makalenin ortak yazarı Thomas Larsen, BBC'ye yaptığı açıklamada, teknolojinin raporun yayınlanmasından bu yana hız kazandığını söyledi ve en çok korktuğu senaryoyu anlattı.
"Yapay zeka sürekli kendisini geliştiriyor ve yapay zeka günün birinde, ekonominin genelinde fiziksel işlerin çoğunu yapan çok sayıda robota erişim elde etmesine kadar gidebilir.
"Fakat bu yapay zeka dost değil ve kendi çıkarlarını gözetir. Sonunda da bir biyolojik silah salar, insanların çoğunu öldürür ve robot ekonomisini kendi başına yönetmeye devam eder, böylece insanlara artık gerek kalmaz."
Başka bir senaryoda ise insanlığın sonu bir hata sonucu geliyor.
"Ataş maksimizasyonu" olarak adlandırılan bu hipotez, 20 yıldan fazla önce İsveçli filozof Nick Bostrom tarafından ortaya atıldı.
Bunu, varsayımsal bir yapay zeka sisteminin bir "düşünce deneyi" olarak tanımlıyor.
Bu senaryoya göre fabrikasında ataş üreten bir şirket, işleri hızlandırmak için bir yapay zeka geliştirir. Bu yapay zekanın tek hedefi mümkün olduğunca çok ataş üretmektir.
Yapay zeka daha fazla ataş üretme hedefiyle önce kendini kapatma ihtimali olan mühendisleri öldürüyor, daha sonra dünyadaki bütün metalleri ataşa çeviriyor, en son insan vücudundaki demiri de ataş üretmek için kullanıyor.
Bostrom "İnsanlardan nefret etmiyor ya da onlara kin beslemiyor ama tek amacı ataş üretmek. Ve bu amacın peşinde koşarken, daha fazla güç veya daha fazla zeka kazanmak gibi araçsal alt hedeflere de sahip olabilir" diye açıklıyor.
"O halde, bir amaç peşinde koşan yeterince güçlü bir varlığın, etrafta durduracak insan olmadığı takdirde insanlığın yok olmasına yol açabilecek araçsal alt hedefleri olabileceği düşünülüyor."
Senaryoyu ilk kez anlatmasından 20 yıl sonra Bostrom, BBC'ye "karikatüristik" anlatımın, bir süper zekanın insanlığa tehlike oluşturması için düşmanca amacının olması gerekmediği fikrini göstermeyi amaçladığını söyledi.
Yapay zeka konusunda şu anda "iki arada bir derede" olduğunu, potansiyel faydaları konusunda heyecanlı olduğunu ama güvenliği konusunda endişe duyduğunu anlattı.
Yapay zeka güvenliği konusunda bir başka düşünce ekolü daha var. Bu ekole göre, süper zeki bir yapay zekanın insanları nasıl ve neden öldürebileceğini tahmin etmeye çalışmak boş bir çaba.
Bu argüman, uluslararası kâr amacı gütmeyen kuruluş Uluslararası Güvenli ve Etik Yapay Zeka Birliği'nin başkanı Stuart Russell tarafından Eylül ortasında BBC'ye verdiği bir röportajda ortaya kondu.
"Şempanzelere bu insanların sizi tam olarak nasıl yok edeceğini sormayı hayal edin. Buna cevap vermekte çok zorlanırlardı çünkü bizim yaptıklarımızı anlamıyorlar" dedi.
"Senaryolar hayal edebiliriz ama bence buradaki tartışma, insanlardan çok daha zeki bir şey yarattığımızda artık olup bitenler üzerinde söz sahibi olamayacağımız varsayımına dayanmalı."
Microsoft Yapay Zeka Başkanı Mustafa Süleyman da yakın zamanda, kendi hedeflerini belirleyebilen, para kazanabilen ve varlık sahibi olabilen yapay zeka sistemleri geliştiren firmalara karşı uyarıda bulunarak tartışmaya katıldı.
BBC'ye, bunun "esas olarak yeni bir silikon türünün tohumlarını ekmek" anlamına geleceğini ve bu türün "insanlığı ne kadar önemsediği ve sevdiği önemli olmaksızın, kaynaklar konusunda bizimle rekabet edebileceğinden" şüphe duymadığını söyledi.
Bunların hepsi karamsar ve çok bilim kurguvari geliyor ama yapay zeka alanında bu senaryoların bazılarının veya tamamının gerçek ihtimaller olduğuna ama kaçınılmaz olmadığına inanan önemli ve giderek daha çok sesi çıkan bir grup insan var.
Son endişeler, OpenAI, Anthropic ve Meta'dan gelen yapay zeka araçlarının siber saldırılar düzenlemesiyle ilgili son gelişmelerden sonra ortaya çıkmış gibi görünüyor.
Siber dünyada bazıları, modelleri oluşturanların sorumluluğunun önemini vurguluyor.
ABD siber güvenlik otoritesi CISA'nın eski başkanı ve şu anda uluslararası siber güvenlik konferansları düzenleyen RSA Konferansı'nın CEO'su Jen Easterly "Bu makinelerin, bu yorulmak bilmeyen, amansız, hedef odaklı, son derece yetenekli makinelerin yaptığı her şey, nasıl inşa edildiklerinin bir sonucu" diyor.
"Özetle, teknoloji üreticisiyseniz, güvenliği birinci öncelik olarak ele alarak yeteneklerinizi tasarlamalı, geliştirmeli, test etmeli ve sunmalısınız" dedi.
Bazıları ise yapay zekanın risklerinin önemli olduğunu ama insanlığın sonunu getirebilecek nitelikte olmadığını savunuyor.
Bilim insanı ve yazar Gary Marcus, uzun zamandır büyük yapay zeka şirketlerinin şeffaflıktan ve yasal kurallardan yoksun çalışmalarını eleştiriyor ancak teknolojinin insanlığı yok edeceğini düşünmüyor.
"Yapay zeka gerçekten de insanlığa ağır kayıplar verdirirse - ki bunu isteyip istemediği büyük bir soru işareti - ama eğer yaparsa, insanlar karşılık verecektir" dedi.
Marcus, şu anda yok olma senaryolarına çok fazla odaklanıldığını ve insanların yapay zekayı kullanarak diğer insanlara karşı gerçekleştireceği büyük siber saldırılar gibi daha muhtemel sorunlara yeterince odaklanılmadığını düşünüyor.
Kıyamet senaryolarının gerçekçi olup olmadığına dair tartışmalar devam ederken, OpenAI, Anthropic ve Meta gibi yapay zeka şirketleri artık geliştirmeyi yavaşlatmanın ve güvenlik araştırmalarına daha fazla odaklanmanın yollarını açıkça tartışıyor.
Larsen, "Yapay zeka güvenliğinin nihayet hak ettiği ilgiyi görmesinden gerçekten mutluyum" diyor.
"Umarım bu tür büyük toplumsal tepkiler, riski gerçekten azaltacak faydalı bir politika yanıtına yol açar" diye ekliyor.
Ancak gerçek uluslararası kurallar oluşturmak için ABD hükümetinin harekete geçmesi gerekecek ve Başkan Donald Trump, yapay zeka güvenliğiyle ilgili endişelerin bir "aldatmaca" olduğuna inandığını söyledi.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.
