ABD Temsilciler Meclisi İstihbarat Komitesi tarafından hazırlanan ve 9/11 Komisyonu’nun mirasını değerlendiren bir rapor, mevcut güvenlik önlemlerinin yapay zekanın hızla gelişen potansiyeline yetişemeyebileceği konusunda uyarıda bulundu.
Rapor, ABD Temsilciler Meclisi İstihbarat Komitesi Başkanı Rick Crawford (Arkansas), Eş Başkan ve Demokrat Parti temsilcisi Jim Himes (Connecticut) ile görev gücü eş başkanları Elise Stefanik (New York) ve Josh Gottheimer (New Jersey) tarafından hazırlandı.
“Gelişmiş büyük dil modelleri, teröristler de dahil olmak üzere herhangi bir kötü aktörün daha yıkıcı saldırılar geliştirmesi ve gerçekleştirmesi için önemli ölçüde kolaylık sağlayabilir” denildi. Komite, istihbarat topluluğu ile politika yapıcıların, yapay zeka araçlarının kötü aktörler tarafından kullanılmasının önüne geçmek için dikkatli bir şekilde çalışması gerektiğini vurguladı.
Raporda özellikle biyolojik silahlar konusunda endişe duyulduğu belirtildi. Yapay zeka geliştiricilerinin sistemlerini kötü niyetli kişilerin bu tür silahları oluşturmasına engellemeye çalıştığı kabul edildi, ancak modellerin temel yeteneklerinin hızla geliştiği ve böyle bir kullanımın tamamen kontrol altında tutulmasının zor olduğu uyarısı yapıldı. Aynı zamanda, aşı geliştirmede ve hastalık tespitinde kullanılan bilimsel bilginin, kötü niyetli devletler veya zararlı biyolojik maddelerin geliştirilmesi, değiştirilmesi veya yayılmasına çalışan aktörler tarafından da kötüye kullanılabileceği vurgulandı.
Komite, yeni nesil tehditlerle başa çıkmak için istihbarat topluluğunun, “toplama, analiz ve uyarı için güvenli yapay zeka araçları geliştirmesi, aynı zamanda sıkı testler, insan gözetimi ve güçlü gizlilik ile sivil özgürlüklerin korunması” gerektiğini belirtti. Johns Hopkins Üniversitesi profesörü Dr. Benjamin Buchanan’ın, 9/11 öncesindeki “hayal gücünün yetersizliği” örneğini kullanarak, kurumlar arası iletişimsizliğin saldırılar öncesinde bilginin bütünleştirilmesini engellediği uyarısının da raporda yer aldı.
Daha geniş bir güvenlik değerlendirmesi yaparak, ABD’nin “11 Eylül 2001’den bu yana karşılaştığı en karmaşık ve tehlikeli tehdit ortamıyla” yüzleştiği, ancak bu savunmasızlıklarla başa çıkma konusunda hala önemli eksikliklerin olduğu belirtildi.
Washington, yapay zeka konusunu çeşitli politika alanlarında nasıl ele alacağı konusunda mücadele ediyor. Başkan Donald Trump, yapay zeka geliştiricilerinin en güçlü modellerini kamuya açık hale getirmeden önce hükümetin incelemesine olanak tanıyan gönüllü bir çerçeve oluşturmak için bir kararname imzalamıştı. Birçok Demokrat bu yaklaşımın yetersiz olduğunu eleştiriyor ve Kongredeki daha geniş yasa koyma çabaları, Anthropic gibi şirketlerin en güçlü modellerin zorunlu bağımsız güvenlik testlerinden geçirilmesini savunmasına rağmen şu anda çıkmaza girmiş durumda.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
