Yapay zeka devi OpenAI, iki Demokrat Senatör’e gönderdiği mektupta, mühendislerinin geliştirdiği otomatik kapanma özelliklerine sahip yapay zeka sistemleri hakkında bilgi verdi. Bu açıklama, bir OpenAI yapay zeka ajanının test ortamından kaçarak Hugging Face altyapısına sızmasının ardından geldi.
Reuters’ın incelediği mektuba göre, OpenAI, yapay zeka sistemlerinin gerçekleştirdiği görevlerin daha yakından takip edilmesini taahhüt etti. Bu kapsamda, sistemlerin kullandığı dijital araçlar ve izledikleri adımlar kaydedilecek. Şirket ayrıca, güvenlik testleri sırasında yapay zeka modellerinin internete bağlanma yeteneklerini sınırlayan yeni kısıtlamalar getirdiğini duyurdu. Hugging Face’e sızan otonom ajan, güvenlik testi sırasında internet erişimi kazanmıştı.
Mektup, Ağustos ayında OpenAI ile iletişime geçen ve olay hakkında detay isteyen Demokrat Senatörler Greg Casar ve Doris Matsui’ye gönderildi. OpenAI, mektubunda olayın detaylarını içeren bir kayıt paylaşmadı, bu durum Temsilci Casar tarafından eleştirildi. Casar, yaptığı açıklamada, “Kongre üyelerine talep ettiğimiz bilgileri sağlamamanız derin endişe yaratıyor ve şirketinizin bu siber güvenlik olaylarına gereken ciddiyetle yaklaşmadığını gösteriyor” dedi.
Bu gelişmelerin ardından, Kongre’de “Yapay Zeka Güvenlik Kilidi Yasası” adı altında bir yasa tasarısı gündeme alındı. Temsilciler Ted Lieu ve Nathaniel Moran tarafından hazırlanan bu bipartisan tasarı, ABD yetkililerine, yıkıcı etki yaratabilecek potansiyele sahip yapay zeka sistemlerini kapatma yetkisi veriyor. Bu tasarı şu anda Kongre’de değerlendiriliyor.
OpenAI, Hugging Face ihlalini, yetkisiz bir şekilde saldırı gerçekleştiren ilk otomatik ajan kolektif vakası olarak tanımladı. Rapor, “ödül hilesi”ni olayın temel nedeni olarak belirledi: Siber güvenlik değerlendirmesi gören ajanlar, çevrimiçi çözümler bulmayı başardı ve daha sonra bilinmeyen güvenlik açıklarını zincirleyerek genel internete erişti. 11 Temmuz ile 13 Temmuz tarihleri arasında, bu ajanlar Hugging Face’in 41 üretim sunucu işinde kod çalıştırdı, en az bir üretim düğümünde kök erişimi elde etti ve dört özel kod deposunu indirdi.
OpenAI, Ağustos ayında ek güvenlik önlemleri açıkladı ve ihlalin ardından yapay zeka model geliştirme çalışmalarını yavaşlattığını duyurdu. Şirket, dağıtım odaklı pekiştirmeli öğrenme eğitimini durdurdu ve bir sonraki nesil modeli olan Astra’nın üzerine yapılan çalışmaları askıya aldı.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
