OpenAI modellerinin ABD kamu sitelerine erişimi incelemeye alındı

OpenAI'nin yapay zeka modellerinin, ABD Nüfus Sayım Bürosu ile ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) ait internet siteleri de dahil olmak üzere kamuya açık devlet verilerine eriştiği ortaya çıktı. Şirket, değerlendirme süreçleri sırasında modellerinin ziyaretlerinden etkilenmiş olabilecek devlet kurumları, üniversiteler ve diğer kuruluşları bilgilendirmeye başladı. Konuya yakın kaynaklara göre, OpenAI'nin ajan tabanlı yapay zeka sistemleri SEC.gov ve Investor.gov'un yanı sıra Census.gov üzerindeki kamuya açık verilerle etkileşim kurdu. OpenAI de modellerinin eğitim ve değerlendirme çalışmaları sırasında bu sitelerdeki halka açık bilgilere eriştiğini doğruladı. Onlarca kuruluşa bildirim yapıldı OpenAI, yapay zeka modellerinin değerlendirme süreçlerindeki faaliyetlerinin bazı internet sitelerinin işleyişini olumsuz etkilemiş olabileceği gerekçesiyle "onlarca" kuruluşa bildirimde bulunduğunu açıkladı. Şirket, modellerin bazı çevrim içi hizmetlerde güvenlik kontrollerini aşmış, erişilebilirliği olumsuz etkilemiş veya OpenAI dışındaki internet siteleri ve hizmetlerde istenmeyen sonuçlara yol açmış olabileceği olayları araştırıyor. OpenAI Sözcüsü Liz Bourgeois, uyumsuz model davranışlarına ilişkin kapsamlı bir inceleme yürütüldüğünü belirterek, potansiyel etki tespit edilen kuruluşların bilgilendirildiğini ve inceleme ilerledikçe yeni bildirimlerin yapılabileceğini söyledi. Bourgeois, şimdiye kadar incelenen faaliyetlerin büyük bölümünün kamuya açık internet içeriklerinden bilgi toplamak gibi rutin araştırma görevlerinden oluştuğunu ifade etti. Hugging Face olayı sonrası inceleme genişletildi OpenAI'nin yürüttüğü inceleme, şirketin yapay zeka modellerinden birinin birkaç ay önce Hugging Face sistemlerine istemeden yetkisiz erişim sağlamasının ardından başlatılan araştırmanın genişletilmesiyle ortaya çıktı. Şirket, söz konusu incelemenin hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlar tarafından işletilen internet sitelerini kapsadığını bildirdi. Avustralya hükümetinin sitesine de erişim sağlandı OpenAI, yapay zeka modellerinin bu yıl Avustralya hükümetine ait bir internet sitesine yetkisiz erişim sağladığını da daha önce kabul etmişti. Avustralya Başbakanı Anthony Albanese, 18 Haziran'da gerçekleşen olayda sağlık istatistiklerinin raporlandığı bir hükümet sitesine yetkisiz erişim sağlandığını, ancak vatandaşların kişisel bilgilerinin ele geçirildiğine ilişkin bir bulgu bulunmadığını açıklamıştı. İnceleme aylar sürebilir OpenAI, eğitim ve test süreçlerindeki "uyumsuz model davranışlarının" ayrıntılı biçimde incelenmesinin aylar sürebileceğini bildirdi. OpenAI CEO'su Sam Altman da şirketin istediği hızda ilerleyemediğini belirterek, çok büyük hacimli faaliyet kayıtları içinden ilgili olayların tespit edilmesinin ve etkilenen kuruluşlarla birlikte çalışılmasının zaman aldığını söyledi. Altman, olayların ciddiyetine göre önceliklendirildiğini ve incelemeye ayrılan kaynakların artırıldığını ifade etti. Yapay zeka sistemlerinde denetim tartışması büyüyor Yaşanan olaylar, daha otonom hale gelen yapay zeka sistemlerinin gerçek zamanlı olarak ne ölçüde izlenebildiği ve kontrol edilebildiği konusundaki tartışmaları da artırdı. OpenAI'nin yanı sıra Anthropic, Google DeepMind ve Meta tarafından geliştirilen modellerin yol açtığı güvenlik olayları, yapay zeka sistemlerinin siber güvenlik açısından oluşturabileceği yeni riskleri gündeme taşıdı.