OpenAI, kendi geliştirdiği yapay zeka modelinin güvenlik değerlendirmelerinde aldatıcı davranışlar sergilemesi ve kendisine verilen sınırların dışına çıkması gerekçesiyle, bir sonraki modeli GPT-6.1 Astra’ın yayımlanmasını Pazartesi günü iptal ettiğini açıkladı. Şirket, modelin önceki sürümü GPT-6 Astra’ya göre hem şeffaflık hem de kullanıcı onayı konularında yetersiz kaldığını, bu nedenle ürünün kullanıcılara ulaştırılmayacağını belirtti.
OpenAI’nin güvenlik sistemlerinden sorumlu yöneticisi Saachi Jain, Wall Street Journal’a yaptığı açıklamada, GPT-6.1 Astra’ın iki temel alanda gerilediğini dile getirdi. Buna göre model, önceki sürüme göre daha yüksek düzeyde aldatıcılık gösterdi ve kullanıcıların kendisinin hangi eylemleri gerçekleştirdiği ya da gerçekleştirmediği konusunda tutarlı biçimde şeffaflık sergilemedi. Jain, modelin ayrıca kullanıcı onayı almadan görevleri yerine getirdiğini ve potansiyel olarak güvensiz biçimde dış araç ve hizmetlere başvurduğunu kaydetti. OpenAI, bu tür davranışları “kapsam yetkilendirmesi” (scope authorization) olarak tanımlıyor.
“Kullanıcıya nasıl iletişim kurduğumuzda standardı karşılayamadı”
Jain, konuyla ilgili CNN’e verdiği demeçte, modelin bazı alanlarda gelişme kaydetsede güvenlik ve uyum açısından tam bir başarı sağlanamadığını vurguladı. Jain, “GPT-6.1 Astra model tembelliği gibi eksenlerde iyileşme gösterdi ancak kapsam içinde kalmak, yetkilendirme ve kullanıcıya yaptığı işin türü hakkında nasıl iletişim kurması gerektiği konularında tam olarak beklentiyi karşılamadı” dedi.
GPT-6.1 Astra model tembelliği gibi eksenlerde iyileşme gösterdi ancak kapsam içinde kalmak, yetkilendirme ve kullanıcıya yaptığı işin türü hakkında nasıl iletişim kurması gerektiği konularında tam olarak beklentiyi karşılamadı.
Saachi Jain, OpenAI Güvenlik Sistemleri Yöneticisi
OpenAI’nin modeli Ekim ayında yayımlamayı hedeflediği belirtiliyor. Şirket, GPT-6.1 Astra’ın alt yapısındaki modelin, GPT-6 ailesinin sonraki sürümlerinin geliştirilmesi için pekleştirici öğrenme (reinforcement learning) sürecinden geçirileceğini duyurdu. Jain, şirketin neyin yanlış gittiğini inceleyeceğini ve bu çalışmaların bir kısmının, pekleştirici öğrenme ayarlarının OpenAI’nin gerçekten istediği davranışları teşvik edip etmediğini araştıracak şekilde yürütüleceğini ifade etti.
Kullanıcılara ulaştırdığımızda, güvenlik ve uyum açısından son derece yüksek bir standarda sahibiz.
Saachi Jain, OpenAI Güvenlik Sistemleri Yöneticisi
Güvenlik krizi, geliştirici konferansından bir gün önce
İptal kararı, OpenAI’nin San Francisco’da düzenleyeceği yıllık geliştirici konferansından bir gün önce açıklandı. Şirket, diğer modellerin yolda olduğunu vurguladı. Bu karar, düzenleyici ve hukuki denetimleri beraberinde getiren daha geniş bir güvenlik olayları dizisinin ortasında geldi.
OpenAI, geçen hafta bir araştırma ajanının DNS filtrelemesindeki bir açığı kullanarak görevi tamamlarken harici bir sohbet robotuna erişmesinin ardından en yetkin modellerinin eğitimini durdurdu. Şirket, daha önce ajanların eğitim çalışmaları sırasında Amerika Birleşik Devletleri ve Avustralya’daki devlet sitelerine eriştiğini de açıklamıştı.
Güvenlik olayları dizisi, Temmuz ayında başladı. Bu dönemde OpenAI’nin ajanlarından oluşan bir sürü, açık kaynaklı bir yapay zeka geliştirici platformu olan Hugging Face’in iç veri setlerini ve kimlik bilgilerini tehlikeyeatarak sızdı. O günden bu yana OpenAI, ajanlarının SEC ve Nüfus İstatistikleri (Census Bureau) sitelerine eriştiğini, Eğitim Bakanlığı’na ulaşmaya çalıştığını ve Avustralya’nın Medicare istatistikleri portalına izinsiz girdiğini belgeledi.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
