Yapay Zeka Uzmanları İnsanlığa Tehlike Uyarısı: Gerçek Senaryolar ve Sınırlar Arasındaki Mesafe

Biyosilah: Gerçek İlerleme, Ama Uzun Yol

Diğer bir senaryo, yapay zekanın biyosilah üretmesi. Bu konuda geçen ay yapılan belirli bir araştırma, mümkün olduğunu gösteriyor. Araştırmacılar, milyonlarca genom üzerinde eğitilmiş yapay zeka modellerini kullanarak binlerce yeni viral genom tasarladı. Ardından bunlardan 300’ünü laboratuvar ortamında sentezledi ve 16 tanesi E. coli’yi enfekte edebilecek işlevsel virüsler üretti.

Bu gerçek bir ilerleme ve modellerin daha da gelişmesiyle ne olabileceği üzerine düşünülmesi gereken meşru bir sebep. Ancak aynı zamanda “yapay zeka bir virüs yapar” ifadesinin içine ne kadar şey sıkıştığını da gösteriyor. Virüsü seçen, molekül molekül sentezleyen ve laboratuvar ortamında test eden hâlâ bilim insanlarıydı.

Her iki durum da yakalandı. Her ikisi de uçan bir füze ya da yayılan bir virüse çok uzak. Bu arada, insanın hiç yapay zeka kullanmadan bildiği ve yapabildiği şeyler yavaşlamadı.

En Yakın Tehlike: Hallüsinasyon, Değil Kötü Niyet

Bu yıl kadar yakın bir tehlikeye en yakın örnek, kötü niyetli bir yapay zeka değil, bir sohbet botunun yanıltıcı yanıtlar vermesiydi. Bu baharda, bir ABD askeri analisti, Ortadoğu’daki bir Çinli gemi üzerine bir istihbarat raporu taslağı hazırlamakta sohbet botundan yardım istedi. Bot, geminin taşıdığını yanlış tanımladı ve bu durum askeri müdahaleyi haklı çıkaracak biçimde göründü. Kesin yanıltma, raporlardan tam olarak anlaşılamıyor. Hâlâ kimse hatayı fark etmeden uçaklar havadaydı ve askerler gemiye binmeye hazırlanıyordu.

Bu kullanım örneği, tartışmalı biçimde en faydalı hikâye olarak öne çıkıyor. Çünkü korkunç olması için geleceğe dair spekülatif yeteneklere sıçramayı gerektirmiyor. Aşırı yorgun bir analistin, yanlış anda yüzüstü aldığı tek kötü rapor, Küba Füzesi Krizi’nden bu yana gece uykularını kaçıran nükleer planlayıcıların tam da hayal ettiği bir kazaydı.

İnsan Faktörü: Tehlike Zaten Buradaydı

Anthropic, bu ay, kuzey Yemen’de faaliyet gösteren ve roket için rehber yazılımı yazmak üzere kodlama aracını kullanan bir hücreyi devre dışı bıraktığını açıkladı. Grup roketi test ateşlediğinde roket başarısız oldu ve doğrudan sohbet botuna geri dönüp nedenini çözmeye çalıştı. Aynı raporda, çikungunya virüsünü daha bulaşıcı hale getirmeyi amaçlayan bir araştırma için bağış başvurusu yazmak üzere Claude’dan yardım isteyen bir bilim insanından da söz ediliyor. Anthropic, bu işin bir üniversite laboratuvarına değil bir askeri kuruma gideceği gibi göründiği için kısmen işaret ettiğini belirtti.

Bunların hepsi, insanın birbirinin hayatını daha da kötü yapmada zaten oldukça iyi olduğunu gösteriyor. Yapay zekanın tehdidi ciddiye alınmalı. Ama insanın birbirinin hayatını daha da kötü yapmada zaten oldukça iyi olduğu gerçeği de ciddiye alınmalı. Bazen bu, genç bilgisayar bilimcilerinin, makinelerin ne yapabileceğini ömür boyu düşündükleri ama insanın birbirine ne yaptığını az çalıştığı bir konudur.

Bazı yapay zeka felaket senaryolarının “insanlığın sonu”nu sanki tamamen yeni bir deneyimmiş gibi anlatması garip bir şey. Bugün yaşayan çok sayıda insan için dünya zaten anlamlı bir biçimde sona erdi. Evlerini, ailelerini, ülkelerini ve geçim kaynaklarını kaybettiler. Savaşları, açlıkları, salgınları ve siyasi şiddeti yaşıdılar. Ve bir yol bulup devam ettiler.

Yapay zeka pesimistlerinin anlattığı her senaryo, yapay zekanın yardımı olmadan, bir yerde, birine, zaten gerçekleşti. Yapay zekanın tehdidi ciddiye alınmalı. Ama insanın birbirinin hayatını daha da kötü yapmada zaten oldukça iyi olduğu gerçeği de ciddiye alınmalı.

Bazı şeyler, insanın hiç yapay zeka kullanmadan bildiği ve yapabildiği şeyler yavaşlamadı. Şu anda Gazze, İran ve Ukrayna’ya bombalar düşüyor ve her yerdeki insanlar sanki her hafta gibi çalışıyor.

Bazı yapay zeka felaket senaryolarının “insanlığın sonu”nu sanki tamamen yeni bir deneyimmiş gibi anlatması garip bir şey. Bugün yaşayan çok sayıda insan için dünya zaten anlamlı bir biçimde sona erdi. Evlerini, ailelerini, ülkelerini ve geçim kaynaklarını kaybettiler. Savaşları, açlıkları, salgınları ve siyasi şiddeti yaşıdılar. Ve bir yol bulup devam ettiler.

Yapay zeka pesimistlerinin anlattığı her senaryo, yapay zekanın yardımı olmadan, bir yerde, birine, zaten gerçekleşti. Yapay zekanın tehdidi ciddiye alınmalı. Ama insanın birbirinin hayatını daha da kötü yapmada zaten oldukça iyi olduğu gerçeği de ciddiye alınmalı.