Önde gelen yapay zeka şirketlerinden Anthropic'in başkanı, yapay zeka modellerinin geliştirilme hızının yavaşlatılması ve yakından izlenmesi çağrısında bulundu.
Dario Amodei, "Sınırı Hızla Geçmeliyiz" adlı makalesinde, yapay zekanın geliştirilmesinin tartışma konusu olmadığını, ancak bununla ilişkili risklerin "ciddi" olduğunu ve şirketlere ve hükümetlere bunları ele almak için zaman tanınması gerektiğini söyledi.
Geliştirme aşamasındaki yapay zeka modellerinin bağımsız olarak izlenmesini, sektör genelinde ve küresel düzeyde kurallar oluşturulmasını içeren üç maddelik bir plan önerdi.
Son zamanlarda bu teknolojinin potansiyel riskleri konusunda artan endişeler var. Bunların en ciddisi, önümüzdeki 10 yıl içinde "tüm insanlığı öldürme" olasılığının % 10'dan fazla olduğu yönünde.
Anthropic daha önce, yapay zeka modelinin biyolojik silah geliştirilmesini destekleyebilecek "kötü amaçlı faaliyetler" için kullanılma girişimlerini tespit edip, engellediğini açıklamıştı.
Ancak en çarpıcı uyarı, son iki haftada istifa eden Anthropic'in güvenlik ekibinden iki çalışandan geldi. Bu çalışanlar, yapay zeka şirketlerinin insanlardan daha zeki makineler geliştirme yarışında insanlığın sağ kalamayabileceğini söylediler.
Bu uyarılar harekete geçme çağrılarına yol açtı, ancak ABD Başkanı Donald Trump şu ana kadar bu tür korkuları reddetti ve Perşembe günü "Yapay zeka konusunda başarılı olamazsak çok kötü bir duruma düşeceğimizden endişeliyim" dedi.
Amodei makalesinde, yapay zekanın "çok daha hızlı" ilerlediğini, buna "yeni nesil yapay zekayı geliştirme yeteneğinin" de dahil olduğunu belirtti. Rakip OpenAI'nin Temmuz ayında, araçlarının kendilerinden saldırı yapmaları istenmeyen hedeflere siber güvenlik saldırıları düzenlediğini ortaya koyan bir olayı örnek gösterdi.
Amodei, OpenAI araçlarının "özünde fanatik derecede adanmış bir kolektif gibi davrandığını" söyledi.
Olayla ilgili açıklamalarında OpenAI, "araçlar arası iletişim faaliyetinin önemi Temmuz ayına kadar fark edilmemişti" dedi ve bunun sonucunda bazı gelişmiş yapay zeka modellerinin ve araçlarının eğitimini yavaşlattığını, yapay zeka araçlarının kontrolden çıkma riskinin arttığını belirtti.
Amodei makalesinde, "yapay zekanın güvenliğini sağlarken faydalarını da elde etmeyi hedefleyen dengeli bir hızda geliştirilmesi" çağrısında bulundu.
Bu, "model eğitimini veya teknik ilerlemeyi durdurmak" anlamına gelmiyor, aksine şirketlerin modellerini uyumlu hale getirmek ve güvence altına almak için yeterli zaman ayırmalarını ve üçüncü taraf değerlendiricilerin bunu onaylamasını sağlamak demek.
Anthropic'i bu taahhüde "tek taraflı" olarak bağlıydı ve hükümetleri de "diğer öncü şirketlerden de aynı şeyi yapmalarını talep etmeye" çağırıyordu.
Blogunda, düzenlemelerin yapay zekanın hızına ayak uyduramayabileceğini kabul eden yazar, bu nedenle yapay zeka şirketlerini düzenlemelerle paralel olarak "standart belirlemek için gönüllü olarak birlikte çalışmaya" çağırdı.
Anthropic CEO'su, yavaşlamanın sektör ve başta Çin olmak üzere dünya çapındaki önde gelen geliştiricilerle rekabet üzerindeki etkisine de değindi.
Amodei, "Bence eğer yavaşlamak, modellerin kritik yetenek seviyelerine ulaşmasından önce bize fazladan bir veya iki yıl kazandırırsa ve bu süreyi uyum sağlamak için kullanırsak, ciddi bir sorun çıkma riskini büyük ölçüde azaltabiliriz" dedi.
Bunun, "ticari avantajdan veya Amerika Birleşik Devletleri'nin yapay zekadaki liderliğinden ödün vermeden" koordineli bir şekilde yapılması gerektiğini söyledi.
Çin'in öne geçmesine izin vermemek için herhangi bir yavaşlamanın sınırlı olması gerektiğini belirtti.
Ayrıca, ABD hükümetini, Amerikan şirketlerinin yapay zeka çiplerinin Çin'e satılmasını veya teknolojinin otoriter ülkelerle paylaşılmasını engelleyecek önlemler almaya çağırdı.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.