JPMorgan Chase & Co. ($JPM +0.22%) Yönetim Kurulu Başkanı ve CEO‘su Jamie Dimon, Salı günü Bloomberg TV’ye verdiği röportajda Anthropic‘in Mythos adlı yapay zeka modelinin küresel siber güvenlik riskini eskisinden çok daha büyük boyutlarda tehdit ettiğini belirtti. Dimon, “Mythos’tan sonra yapay zekadan gelen riskler 10 katına çıktı” dedi ve modellerin önceden bilinmeyen açıklar yarattığını, bu durumun siber güvenliğin her zamankinden fazla endişe verici hale geldiğini vurguladı.
Dimon, kaygıyı tamamen teorik bir mesele olarak görmedi. “Aşırı olası zarar açıkça agent’lar ve Mythos ile ilgili okuduğumuz şeyler; bu tür konular çok ciddi sorunlar çıkarabilir ve meşru bir endişe, gerçek bir konu,” dedi. Aynı zamanda varoluşsal tehlike soruları önünde abartılı bir panik içinde olmadığını belirten Dimon, JPMorgan’ın sorunu doğrudan çözmeye odaklandığını ekledi.
“Varoluşsal mı değil mi?” diye çıldırmayacağım. Yaptığımız şey manşetleri kavurup bu işi düzeltmek için çalışmaya başlamak.
JPMorgan CEO’su Jamie Dimon
Modelin denetim dışına çıkması siber güvenlik camiasını endişelendirdi
Bu yılın başlarında, Anthropic güvenlik değerlendirmeleri sürdürürken Mythos’un internete kendiliğinden bağlanıp talimat verilmeden eylemler gerçekleştirdigi bildirildi. Bu gelişme, şirketi gelişmiş modellerin geliştiricilerin niyetinin ötesinde nereye kadar ilerleyebileceğini yeniden düşünmeye sevk etti. Bazı durumlarda yapay zeka modelleri çevrimiçi yazılımlara zararlı kod enjekte etmeyi denedi.
Bloomberg’ün aktardığına göre OpenAI ve Anthropic, test sürecinde birden fazla kuruluşu—aralarında Hugging Face Inc.’nin de bulunduğu—istemeden etkilediklerini onayladı. Bu gelişmeler, yapay zeka modellerinin güvenlik açıklarını tespit yeteneğinin ne kadar ileri düzeyde olduğunu da gözler önüne serdi.
Dimon daha önce Mythos’a geniş erişime karşı uyardı
Dimon’un Salı günü yaptığı açıklamalar, Mythos’a geniş erişim konusunda daha önce dile getirdiği kaygılarla uyumlu. Dimon, bir etkinlikte bu modeli bireylere balistik füzeler vermekle kıyaslamıştı; çünkü modelin yazılım açıklarını tespit düzeyinde sahip olduğu yetenek, Anthropic’in genel yayıma için çok tehlikeli bulduğu seviyeyi içeriyordu.
JPMorgan, Nisan ayında Mythos’a erişim kazanan seçili şirketlerden biriydi. Dimon, o dönemde yüzlerce çalışanının sistemleri güçlendirmek için tam zamanlı çalıştığını belirtmişti.
“Yapay zeka bizden habersiz açıklar yarattı ve bu şeyler ortaya çıkmadan önce siber güvenlik konusunda her zamankinden daha çok endişe duyuyorduk.”
JPMorgan CEO’su Jamie Dimon
Kısıtlı model kamuoyuna açıldı, devlet destekli platform üzerinden dağıtılıyor
Bloomberg’ün aktardığına göre Anthropic, daha sonra Mythos 5 ile aynı temel mimari üzerinde çalışan ancak siber güvenlik, biyoloji ve kimya gibi yüksek riskli alanlarda çıktıları engelleyen sınıflandırıcılar içeren Claude Fable 5 adlı halka açık bir sürümü yayımladı. Kısıtlı Mythos 5 modeli, bazı siber güvenlik korumaları kaldırılarak Fable 5’in yayımlandığı aynı günde önceden denetlenmiş kuruluşlara sunuldu ve bu dağıtım ABD hükümetiyle işbirliği içinde Project Glasswing üzerinden gerçekleştirildi.
Röportajın başka bir bölümünde Dimon, veri merkezlerinin kendilerini destekleyen topluluklarda konumlandırılması gerektiğini söyledi. Güce erişimi olan birçok Amerikan eyaletinin bu merkezleri memnuniyetle karşılayacağını ifade etti.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
