Küçük ölçekli bir güvenlik araştırma şirketi olan Hacktron AI, üç araştırmacısı aracılığıyla Anthropic‘in geliştirdiği Claude adlı yapay zeka modelini kullanarak OpenAI çalışanlarından birinin ChatGPT hesabına ve şirketin iç yazılım deposu GitHub ortamına erişti. Üçlü ekip, saldırıyı Temmuz ayında OpenAI’ye bildikten sonra bu hafta yaşananları ifşa etti.
Araştırmacılar Harsh Jaiswal, Mohan Pedhapati ve Rahul Maini, saldırdıkları iki ayrı güvenlik açığını sırayla ortaya koydu. Açıkların ilk olarak OpenAI’nin kamuya açık tartışma forumunda görüldüğü, ardından çalışan hesapları üzerinden ilerleyerek şirketin iç GitHub ortamına yol bulduğu belirtildi. Başlangıçtan erişime kadar geçen sürenin 72 saatten kısa sürdüğünü kaydeden Hacktron’a göre OpenAI, ekibe Bugcrowd programı aracılığıyla 6.500 dolar (yaklaşık 319 bin TL) ödül ödedi.
Saldırının teknik seyri ve yapay zeka modellerinin rolü
Erişim kapısı, Discourse forum yazılımı üzerinde çalışan community.openai.com adresiydi. Hacktron, Discourse’a yüklenen HEIC ve HEIF biçimli görüntülerin ImageMagick üzerinden işlendiğini ve libheif adlı bir kütüphane kullanılarak çözüldüğünü tespit etti. Araştırmacıların değerlendirmesine göre bu kütüphanede uzaktan kod çalıştırmaya yarayan bir yığın arabellek taşması (heap buffer overflow) açığı bulunuyordu. İlk aşamada araştırmacılar açığı denemek ve açıkları kullanmak için Claude Opus 4.8 modeline başvurdu; ancak adres alanı düzeni rastgeleleştirme (ASLR) teknolojisinin bu saldırıyı güvenilir şekilde gerçekleştirmek için yeterli engel oluşturması nedeniyle model başarılı bir saldıryolu üretemedi.
Ardından Anthropic, 24 Temmuz’da Claude Opus 5’i yayımladıktan sonra Hacktron modelleri değiştirdi. Ekibin bilgisine göre yeni sürüm birkaç saat içinde çalışan bir saldırı yolu üretmişti.
Saldırının forumdaki uzaktan kod çalıştırma aşaması yalnızca ilk basamaktı; asıl mesele OpenAI’nin tek giriş (single sign-on) sistemindeki zayıflıktı. Forum tarafından verilen oturum belirteçleri ChatGPT ve Codex için geçerliliğini koruyordu ve bu belirteçlerden bazıları OpenAI çalışanlarına aitti.
Hacktron AI ekibi
Ekip, belirteçlerin tekrar kullanılmasına ilişkin sorunun kaynağının Discourse’un kendisi değil, OpenAI’nin kimlik altyapısı olduğunu vurguladı. Buna göre forum bir erişim noktasıydı; gerçek güvenlik sınırı değildi ve aynı rolü üstlenebilecek başka her OpenAI tek giriş hizmeti de saldırayolu olabilirdi.
Erişimin kanıtlanması ve şirketin aldığı önlemler
Araştırmacılar, hassas kodu incelemeden erişim düzeyini göstermek için, ele geçirdikleri bir çalışanın Codex hesabını OpenAI’nin iç monorepo adı verilen “openai/openai” deposunda bir çekme isteği (pull request) açmaya yönlendirdi. Wall Street Journal’a göre OpenAI yaptığı incelemenin özel depolara sınırlı okumalar yaptığını belirtti. Şirket, topluluk giriş belirteçlerinin izinlerini daralttığını ve etkilenen oturum belirteçleri ile oturumları iptal ettiğini açıkladı.
Discourse görüntü işleme açığını onayladı ve düzeltti. OpenAI ise her iki sorunun da artık çözüldüğünü belirtti.
Sektördeki yansımalar ve güvenlik çalışmalarının genişletilmesi
Hacktron’un OpenAI’ye yönelik saldırısı, açık kaynaklı makine öğrenimi platformu Hugging Face’in altyapısına sızan bir OpenAI yapay zeka ajanının test ortamından kaçmasıyla sonuçlanan ayrı bir olayı izledi; bu olay şirketin güvenlik testi altındaki modeller için daha sıkı aktivite takibi ve yeni internet erişimi kısıtlamaları taahhüdünde bulunmasına yol açtı. Wall Street Journal’a göre OpenAI’nin başkan Greg Brockman, iki olayın ardından üretken mühendislerinin yüzde 25’ini güvenlik çalışmalarına yönlendirdiklerini ve sonrasında düzeltilen ek sorunlar bulduklarını bu hafta söyledi.
Hacktron, OpenAI üzerinde yürüttüğü çalışmanın libheif kütüphanesini birden fazla platformda hedef alan HEIF Heist adlı daha kapsamlı bir araştırma kampanyasının parçası olduğunu belirtti. Üç kişilik ekip, projenin tamamının yapay zeka modeli belirteci kullanımında 3.000 doları (yaklaşık 165 bin TL) geçmediğini kaydetti.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
