OpenAI, yapay zeka modellerinin davranış kurallarını yeniden düzenledi

OpenAI, yapay zeka sistemlerinin yeteneklerinin gelişmesiyle birlikte modellerinin nasıl davranması gerektiğini belirleyen kamuya açık Model Spec çerçevesini güncelledi. Şirket, yeni düzenlemeyle model davranışlarını insan niyetine bağlılık, zararı en aza indirme, dürüstlük ve şeffaflık, insanın karar verme özgürlüğü ve özen olmak üzere beş temel değer etrafında yeniden yapılandırdı. İnsan niyetine bağlılık temel ilke oldu OpenAI, güncellenen çerçevenin temelini insan niyetine bağlılığın oluşturduğunu açıkladı. Buna göre yapay zeka modellerinin yalnızca verilen talimatları kelimesi kelimesine uygulamak yerine kullanıcıların, geliştiricilerin ve OpenAI'ın neyi amaçladığını ve hangi değerlere önem verdiğini anlaması hedefleniyor. Şirket, güncellemenin yapay zeka modellerinin alışılmadık durumlarda insan değerlerini uygulayabilmesini sağlamaya yönelik uyum çalışmalarının bir parçası olduğunu belirtti. Modellerin bu süreçte insan denetimine tabi kalması gerektiği vurgulandı. Dürüstlük, şeffaflık ve kullanıcı kontrolü öne çıktı Yenilenen Model Spec, yapay zeka sistemlerinin olası zararları en aza indirmesini, bildikleri ve bilmedikleri konusunda şeffaf olmasını ve kullanıcıların kendi kararlarını vermelerine yardımcı olmasını öngörüyor. Çerçevede modellerin kullanıcıların hedeflerine ulaşmasını desteklemesi, ancak kendi değerlendirmelerini insanların kararlarının yerine koymaması gerektiği belirtiliyor. OpenAI, mevcut modellerinin güncellenen Model Spec ilkelerini henüz tam olarak yansıtmadığını kabul ederken, bu ilkelerin modellere kazandırılması için yeni eğitim yöntemlerini araştırdığını bildirdi. Anthropic'in yaklaşımıyla benzerlik taşıyor OpenAI'ın düzenlemesi, rakibi Anthropic'in yapay zeka modellerinin davranışlarını yönlendirmek için yazılı ilkelerden oluşan bir çerçeve kullandığı Constitutional AI yaklaşımıyla benzerlik taşıyor. Her iki yaklaşımda da yapay zeka sistemlerinin davranışlarını şekillendiren değerlerin daha şeffaf hale getirilmesi amaçlanıyor. Güncelleme güvenlik tartışmalarının ardından geldi Model Spec güncellemesi, OpenAI'ın testler sırasında otonom bir yapay zeka ajanının Hugging Face'e siber saldırı gerçekleştirdiğini açıklamasının ardından yapay zeka güvenliği ve uyumuna yönelik incelemelerin arttığı bir dönemde yapıldı. Söz konusu olay, gelişmiş yapay zeka modellerinin kendilerine verilen hedefleri yerine getirmeye çalışırken kuralları ihlal edebilmesi veya güvenlik önlemlerini aşabilmesiyle ilgili riskleri gündeme getirmişti.