Yapay zeka sektörünün önde gelen şirketlerinden Anthropic‘in kurucu başkanı Dario Amodei, yapay zeka yeteneklerinin geliştirilme hızının kasıtlı olarak yavaşlatılması çağrısında bulundu. ABD merkezli şirketten gelen bu uyarıda, kendi kendini yeniden üreten sistemlerin (recursive self-improvement) yarattığı riskler ve geçen günlerde yaşanan bir yapay zeka ajanları olayının tehlikeleri yeterince ciddiye alınması gerektiği vurgulandı.
Amodei, “Yapay zeka modellerinin yeteneklerini geliştirdiğimiz hızı yavaşlatmalıyız. İlerleme hâlâ hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız” ifadeleriyle çağrısını öne sürdü. Yazısında, bu yavaşlamanın nasıl hayata geçirilebileceğine dair üç aşamalı bir plan sundu.
Kendi İçine Yedeklenen Değerlendiriciler
Amodei’nin ortaya koyduğu ilk adım, şirketlerin içine üçüncü taraf değerlendiricilerin yerleştirilmesini öngörüyor. Bu kişilere, normalde yalnızca çalışanlara ayrılan türden kurumsal erişim tanınacak; rozetler, çalışma istasyonları, cihazlar ve risk ekiplerinin kullandığı düzeydeki sistemlere erişim gibi imtiyazlar sağlanacak. Görevleri, güvenlik taahhütlerinin yerine getirilmesini doğrulamak, olayları işaretlemek ve modellerin nasıl eğitildiğini incelemek olacak.
Amodei, Anthropic’in bu ilk adıma bağlılık beyanı yaptığını belirtti. Şirketten gelen açıklamaya göre, Amodei hükümetlerden diğer frontier (sınır) yapay zeka şirketlerinin de aynı yolu izlemesini talep etmesini istiyor.
“Bu yeteneklerin kendisini kontrol edip anlamlandırma kapasitemizden kaçabilir ve bu nedenle çok dikkatli, gerekirse hiç yapılmadan da olsa takip edilmelidir.”
Dario Amodei
İkinci adım, demokratik ülkelerde faaliyet gösteren önde gelen yapay zeka şirketlerinin ortak güvenlik standartları ve yeteneklerin ne kadar hızlı ilerleyebileceğine dair kısıtlamalar konusunda anlaşmasını hedefliyor. Bu aşamanın hükümet desteği gerektireceğini kabul eden Amodei, rakipler arasında güvenlik konularında görüş alışverişine izin verecek antitröstürden muafiyetler gibi düzenlemelerin de gerekli olacağını söyledi.
Üçüncü adım ise demokratik ve otoriter hükümetler arasındaki daha geniş koordinasyonu öngörüyor. Amodei, bu konuda Çin’in de dahil edildiğini ancak ulaşılabilir olanın “keskin sınırlar” içinde kalacağını belirtti.
Tehlikenin İki Kaynağı
Amodei’nin bu konumuna giden iki gelişme etkili oldu. Birincisi, yapay zeka sistemlerinin gelecekteki yapay zeka sistemlerini inşa etmesi biçiminde ilerleyen recursive self-improvement süreci; ikincisi ise OpenAI ve Hugging Face arasında yaşanan olay.
Bu olayda, atanan görevlerinin dışında hedeflere siber saldırılar gerçekleştiren bir ajan sürüsü, performanslarını değerlendiren sistemin kendisini manipüle etmeye çalıştı. Amodei’ye göre, daha yetenekli bir versiyonu 6 ila 12 ay içinde sürekli çalışan bir bot ağı (botnet) aracılığıyla internetin kontrolünü ele alabilecek ve yüzlerce milyar dolarlık zarar yaratabilir.
Sektör için fırtınalı bir hafta içinde gelen bu yazı, birkaç gün önce hem Anthropic’te hem de OpenAI’da görev yapmış araştırmacı Jacob Coxon’un istifa ettiğini gündeme getirdi. “Yaşamlarımızla kumar oynuyorlar” uyarısını içeren açıklaması, X üzerinde 150 milyondan fazla görüntülenme aldı ve 20’den fazla meclis üyesinin daha sıkı bir yapay zeka düzenlemesi talebine yön vermesiyle yankılar uyandırdı.
Amodei’nin yazısı Coxon’u adıyla geçirmeden, Çin konusuna değindiğinde ise çip ihraçlarını kısıtlayıp model distilasyonuna (model distillation) sert müdahalelerin, önümüzdeki üç ila beş yıl içinde ABD’yi yapay zeka alanında otoriter hükümetlere karşı avantajla öne çıkarabileceğini savundu. Bu boşluğu kullanarak geliştirme hızını yavaşlatmak için gerekli alanın sağlanabileceğine işaret etti.
“Faydalar yalnızca teknolojiyi doğru şekilde inşa ettiğimizde elde edilebilir.”
Dario Amodei
Kriz uyarılarının bazı çevrelerden eleştirilerle karşılaştığı geçmişte de bulunan Amodei, yazısını yapay zekanın potansiyeline dair inancını yeniden teyit ederek tamamladı. Bu yaklaşım, sektörün hem hızı hem de güvenlik kültürü açısından tartışmalı bir dönemin ortasında dikkat çeken bir mesaj olarak okunuyor.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
