100’den fazla yapay zeka uzmanı: Güvenlik değerlendiricileri gerçekten bağımsız değil

Yapay zeka araştırmacıları ve güvenlik değerlendiricilerinin 100’ünden fazlası, ileri düzey (frontier) modellerin oluşturduğu riskleri güvenilir biçimde değerlendirmekte kullanılması gereken bağımlılık, kaynaklar ve hukuki korumalardan yoksun olduğunu öne sürerek bir açık mektup yayınladı. AI Evaluator Forum’un düzenlediği ve CNBC’e ilettiği mektuba araştırmacı Geoffrey Hinton da dahil olmak üzere çok sayıda tanınmış ismin imzasını koyması, girişimin ne kadar geniş tabanlı olduğunu gösteriyor. Mektubun imzacıları, model geliştiren şirketleri değerlendiricilere “bilimsel nesnellik, şeffaflık, bağımsızlık ve müdahaleye karşı sağlam korumalar” sağlama taahhüdünde olmaya davet ediyor.

Mektupta öne sürülen temel endişe, ileri düzey modelleri değerlendiren üçüncü taraf kuruluşların aslında beklenen kadar bağımsız olmadığı yönünde. Değerlendiricilerin hem teknik otonomiye sahip olması hem de bu değerlendirme sürecini sürdürebilecek yeterli kaynağa ve hukuki korumaya kavuşturulması gerektiği vurgulanıyor.

Mektubun hedefi: Paylaşılan ilkeler ve somut koşullar

AI Evaluator Forum’un başkanı Conrad Stosz, mektubu ortak taban ilkelerini yerleştirmeye ve AI şirketlerini kamuya yaptıkları taahhüdellerin arkasında tutmaya yönelik bir çaba olarak nitelendirdi. “Aslında temel prensipler üzerinde paylaşılan bir zemin göstermeye çalışıyoruz ve bağımsız gözetimin, yapay zeka riskini geniş anlamda yönetmede anlamlı bir alet olabileceğini güvence altına almaya çalışıyoruz,” dedi Stosz.

Mektup, değerlendiricilerin kendilerini değerlendirdikleri şirketlerce sahip olunmaması veya yönetilmemesi; bulgularına bağlı olarak ödeme almaması; ve sonuçları bir şirket için elverişli olmadığında, geri dönüş litigasyonunu da içeren intikam karşısında koruma altında tutulması gibi belirli asgar koşulları ortaya koyuyor. Ayrıca değerlendiricilerin, kıdemli iç çalışanların sahip olduğuyla eşdeğer erişime—personelle açıkça görüşme ve piyasaya sürülmemiş sistemleri inceleme imkanı dahil—sahip olması çağrısında bulunuyor.

Bu çerçevede değerlendiriciler, henüz kamuya açıklanmamış iç veri ve sistemleri inceleme imkanı elde edecek; bu da onlara gerçek risk hakkında çok daha büyük bir güven ve kesinlik verecek. Bağımsız gözetimden yararlanacak böyle bir sisteme örnek olarak, Hugging Face’e yönelik saldırıda kullanılan piyasaya sürülmemiş bir OpenAI modeli gösterilebilir.

Conrad Stosz, AI Evaluator Forum başkanı

Stosz’a göre bu düzenekle değerlendiriciler, henüz kamuya çıkarılmamış iç veri ve sistemleri inceleme fırsatına ulaşacak; o da onlara gerçek risk hakkında çok daha büyük bir güven ve kesinlik verecek. Bağımsız gözetimden yararlanacak böyle bir sisteme örnek olarak, Hugging Face’e yönelik saldırıda kullanılan piyasaya sürülmemiş bir OpenAI modeli gösterildi.

Bağımsızlık neden kritik: Ulusal güvenlik ve ekonomi boyutu

Dış İlişkiler Konseyi’de (Council on Foreign Relations) yapay zeka için kıdemli araştırmacı olarak görev yapan ve daha önce ABD’nin Milli Güvenlik Ajansı’nda (NSA) baş yapay zeka memuru olarak çalışan Vinh Nguyen, bağımsız değerlendiricilerin, şirketlerin gizlemesi muhtemel riskleri ortaya çıkarmada kritik olduğunu savundu. “Az sayıda güçlü laboratuvar, siber güvenliğimizi, kritik altyapımızı ve ulusal güvenlik ile ekonomimizin işlediği sistemleri tehlikeye atabilecek yetenekleri kontrol ederken, hükümet ve kamu, neyin güvenli ve güvenli olduğu konusundaki bu laboratuarların kendi anlatısına bağımlı olamaz,” dedi Nguyen.

Amodei’nin önerisi: Şirketler henüz detayı açıklamadı

Mektup; Anthropic CEO’su Dario Amodei’nin değerlendiricilere ileri düzey modelleri denetlemek için “çalışan benzeri erişim” verme konusundaki son önerisinin, değerlendirici topluluğunu dikkatlere çekmesiyle ortaya çıkıyor. OpenAI, Anthropic ve Google ile DeepMind’in yapay zeka güvenliğine ilişkin görüşmeler yürüttüğü bir dönemde, OpenAI CEO’su Sam Altman, xAI’nin kurucusu Elon Musk ve Microsoft CEO’su Satya Nadella her biri Amodei’nin önerisini desteklediğini dile getirdi; ancak hiçbir değerlendiricilerin nasıl seçileceği ya da ne düzeyde erişime sahip olacağına dair somut bir detay sunmadı.

Stosz, model geliştiren şirketlerin mektubu görmezden gelebileceğini kabul etti ancak bunun onların itibarını risk altına sokacağını belirtti. Bu tür değerlendirme çalışmalarını yapacak teknik güvenilirliğe ve ölçeğe sahip çok az kuruluş bulunduğunu kaydetti.