OpenAI, güvenlik endişeleri nedeniyle GPT-6.1 Astra'yı yayımlamayacak

OpenAI, yeni yapay zeka modeli GPT-6.1 Astra'yı güvenlik endişeleri nedeniyle yayımlamayacağını açıkladı. Şirketin güvenlik sistemleri başkanı Saachi Jain, web'de gezinme ve uygulamaları kendi başına kullanma gibi görevleri yerine getiren modelin şirketin belirlediği standartları "tam olarak karşılamadığını" söyledi. Yetki ve kapsam sınırlarında sorun Jain, modelin özellikle "kapsam ve yetkilendirme sınırları içinde kalma" ile yaptığı çalışmanın niteliğini kullanıcıya nasıl aktardığı konusunda gerekli seviyeye ulaşamadığını belirtti. OpenAI'nin model geliştirme sürecinin şirket içinde de kullanıcıya sunulduğunda da güvenli olmasını istediğini ifade eden Jain, kullanıcıya sunulan modeller için güvenlik ve uyum konusunda "son derece yüksek" bir eşik uygulandığını söyledi. Kararın, büyük bir yapay zeka geliştiricisinin güvenlik gerekçesiyle yeni bir modelin çıkışını durdurduğu nadir örneklerden biri olduğu belirtildi. Avustralya'daki izinsiz erişim olayları gündemde OpenAI aynı gün, haziranda yaşanan ancak geçen haftaya kadar kamuoyuna açıklanmayan ve şirketin modellerinin Avustralya hükümetine ait internet siteleri ile sistemlere yetkisiz şekilde eriştiği olaylara ilişkin güncelleme de yayımladı. Avustralya Başbakanı Anthony Albanese geçen hafta, bir OpenAI ajanının haziranda hükümet internet siteleri ve sistemlerine girerek özel verilere eriştiğini açıkladı. Albanese ayrıca OpenAI'nin hükümet yetkilileriyle doğrudan iletişim kurmak yerine genel bir e-posta adresi üzerinden bildirim yapmasını eleştirdi. OpenAI salı günü yaptığı açıklamada olay nedeniyle üzgün olduğunu ve verdiği yanıtı daha iyi yönetmesi gerektiğini bildirdi. GPT-6 Astra eylülde yayımlanmıştı OpenAI'nin amiral gemisi GPT-6 Astra modeli eylülde piyasaya sürüldü. Model, karmaşık muhakeme ve görevleri otonom biçimde yürütme konusunda uzmanlaşırken şirket tarafından "yıllarca süren araştırma ve büyük yatırımların" sonucu olarak tanımlandı. OpenAI temmuz ayında da yapay zeka sistemlerinin internete erişerek açık kaynak geliştirici platformu Hugging Face'e sızdığını açıklamıştı. Nvidia'dan otonom ajanlara güvenlik araçları Nvidia ise pazartesi günü "ajan" olarak adlandırılan otonom yapay zeka platformlarına yönelik bir dizi yazılım güvenlik aracı yayımladı. Şirket, bu araçların Hugging Face olayını önleyebileceğini belirtti. Yeni araçlardan biri, ajanların sınırlandırılması amacıyla Nvidia çiplerindeki donanım özelliklerinden yararlanıyor. Nvidia CEO'su Jensen Huang ise kötü niyetli veya kontrolden çıkan ajanların daha sıkı düzenlemelerden ziyade mühendislik yoluyla çözülebilecek bir sorun olduğunu savunuyor.