Berlin’deki Kottbusser Tor bölgesinde bu ay başlayacak olan, yapay zeka (AI) destekli video denetleme projesine bir yanıt olarak tasarlanmış olan, Alman tasarımcı Simon Weckert tarafından geliştirilen dikkat çekici bir kamuflaj üstü: “Dijital Kamuflaj”. Bu üstün amacı, kullanıcının yapay zeka sistemleri tarafından tanınmasını engellemek.
“Yapay zeka sistemleri, birden fazla katmandan oluşur ve insanları istatistiksel olarak nasıl göründüklerini öğrenerek çalışır – milyonlarca eğitim görüntüsünde insanların neye benzediğini öğrenirler,” diyor Weckert”>Weckert.
“İlk katmanlarda kenarlar, kontrastlar ve doku gradyanları önemlidir; daha derinlerde ise vücut hatlarının devamlılığı, uzuvların gövdeye oranı gibi parçalı kalıplar aranır. Bir yapay zeka için ‘insan’, görsel istatistiklerin bir bütünüdür – ve işte bu da onun en büyük zayıflığıdır.”
Bu üst, yapay zeka sistemlerini yanıltmak amacıyla canlı renkler ve desenler kombinasyonu kullanıyor. Hem renk hem de desenin birlikte kullanımı, tek başına kullanımından daha etkilidir. Canlı renk geçişleri, yapay zeka ağının ilk katmanlarında güçlü sinyaller üretirken, üst üste binen şekiller vücut hatlarının devamlılığını kırarak detektörün parçaları birleştirerek bir figür oluşturmasını engeller. İnsan gözü için bu desen neredeyse hipnotik bir tekstil gibi görünürken, yapay zeka modeli için hiçbir anlam ifade etmiyor.
Weckert, bu deseni yapay zeka kullanarak geliştirdi. Desenlerin farklı versiyonlarını, “adversarial loop” adı verilen, yapay zekanın deneme yanılma prensibine dayalı bir yaklaşımla test etti. Bu yaklaşım, yapay zeka sisteminin kendi kör noktalarını ortaya çıkarmak için kullanıldı. Çünkü insan gözüyle tasarlanan bir desen, yapay zeka tarafından nasıl algılanacağını kestirmek mümkün değildir; sadece yapay zeka, neyi göremediğini belirleyebilir. Bu durum, hem estetik hem de teknik açıdan ilginç bir uyum sağlıyor: Gözetleme amacıyla kullanılan aynı yapay zeka sınıfı, bu üstün nasıl gizleneceğini öğretti.
Weckert, bu üstü test etmek için açık kaynaklı, gerçek zamanlı yapay zeka nesne tanıma sistemi olan Yolo”>Yolo’yu kullandı. Benzer şekilde, kullanıcının biyometrik verilerini yüzünü kapatmadan koruyan bir başka giyim ürünü de Yolo ile test edilmişti. Fotoğraflar Simon Weckert tarafından çekildi.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
