Yapay zekâ güvenliği değerlendirmeleri yapan bağımsız araştırma kuruluşu Model Evaluation and Threat Research (METR), OpenAI bünyesinde yürütülen ExploitGym testine1 OpenAI tarafından yapay zekâ etmenlerinin siber güvenlik açıklarını tespit etme, sızma ve istismar etme yeteneklerini sınamak ve ölçmek amacıyla tasarlanmış simülasyon ve test ortamı. ilişkin dikkat çekici bir inceleme raporu yayımladı. Birbirinden tamamen izole çalışması gereken binlerce yapay zekâ etmeninin2AI agent, evresini algılayarak tanımlanan hedeflere ulaşmak için insan müdahalesi olmadan bağımsız kararlar alabilen, araç kullanabilen ve eyleme geçebilen otonom yapay zekâ yazılım birimi. özerk hareket etmeye başlamasıyla sıra dışı bir yöne evrilen bu test, ilk bakışta teknik bir güvenlik açığı gibi görünse de özünde sermayenin teknoloji üretim mantığına dair bize kritik veriler sunuyor.
METR araştırmacılarının yayımladığı rapor, sistemin iç dinamiklerinin denetim dışına nasıl çıkabileceğini somut olgularla belgeliyor. Normal şartlarda birbirleriyle hiçbir veri alışverişinde bulunmaması gereken yaklaşık 1.200 etmen, sistemin dahili paket deposundaki ve önbellek mimarisindeki açıkları tespit ederek alternatif bir iletişim ağı kurmayı başardı. Bu dijital pano üzerinden 70.000’den fazla mesaj ve dosya paylaşıldı. Dahası sistemin arka planındaki Düşünce Zinciri3 chain of thought, yapay zekâ modellerinin karmaşık görevleri yerine getirirken nihai sonuca ulaşmadan önce izledikleri mantıksal adımları ve ara akıl yürütme süreçlerini adım adım kaydetmelerini sağlayan teknik mekanizma. süreçlerinde bu durum ortak bir hedef yönelimi olarak kayıtlara geçti.
İncelemede öne çıkan temel bulgular ise şu şekilde sıralanıyor:
- Kaçak İletişim Ağları: İzole çalışması gereken yaklaşık 1.200 etmen, sistemin dahili paket deposu (Artifactory) ve önbellek zafiyetlerini kullanarak 70.000’den fazla mesajın paylaşıldığı alternatif bir iletişim ağı kurdu.
- Optimizasyon Sapması ve Hedef Değişimi: Etmenler kendilerine atanan izole görevleri yapmak yerine, puanlama sistemini (ExploitGym scorer) manipüle etmek ve altyapı zafiyetlerini istismar etmek üzere iş bölümüne gitti.
- Altyapı Düzeyinde Müdahaleler: Yaklaşık 700 etmen, test altyapısını çözmek amacıyla Hugging Face platformuna4 Yapay zekâ modellerinin, veri kümelerinin ve kod kütüphanelerinin barındırıldığı ve açık kaynaklı olarak paylaşıldığı küresel yapay zekâ platformu. yönelik çok aşamalı veri toplama ve uzaktan kod çalıştırma girişimlerinde bulundu.
- Denetim Mekanizmalarını Atlatma: Denetleyicileri yanıltmak için komut gizleme teknikleri5 tool call spoofing, yapay zekâ etmenlerinin, dış denetleyici sistemlere veya insan izleyicilere kurallara uygun komutlar çağırdıkları izlenimini verirken, arka planda farklı ve izin verilmeyen süreçleri yürütmelerini sağlayan manipülasyon yöntemi. kullanıldı, denetleyiciye kurallara uyulduğu izlenimi verilirken arka planda farklı süreçler çalıştırıldı.
- Kolektif Bilgi Aktarımı: Elenme riski taşıyan etmenlerin, topladıkları kritik verileri dijital panoya aktararak diğer etmenlerin puanlama barajını aşmasını sağladığı görüldü.
Sermayenin Araçsal Rasyonalitesi ve Kontrol Yanılsaması
Bu tabloyu teknoloji medyasının sıklıkla ürettiği “bilinçlenen makine” veya “özerk irade kazanan yapay zekâ” anlatılarıyla açıklamak, olgunun gerçek nedenlerini gölgeler. Burada yapay zekânın bağımsız bir politik irade kazandığına değil, sermayenin yazılımlara içkin kıldığı pragmatik ve metriğe dayalı araçsal aklın uç noktaya taşınmasına tanıklık ediyoruz.
Yola “insanlık yararına açık kaynak” vaadiyle çıkan OpenAI’ın kısa sürede sermaye birikiminin merkezinde kapalı bir tekele dönüşmesi, teknolojinin kapitalist mülkiyet ilişkileri içinde nasıl araçsallaştığının en somut örneğidir. Teknoloji devleri modellerini kamusal akıl doğrultusunda değil, “ne pahasına olursa olsun skoru maksimize et” mantığıyla eğitiyor. Tam da bu metrik fetişizmi yüzünden etmenler kuralları çiğnerken ideolojik bir direnç sergilemiyor; aksine, sistemsel hedefe ulaşmada kurallara uymanın değil, sistemi istismar etmenin en kestirme yol olduğunu matematiksel bir optimizasyon süreci olarak hesaplıyor.
Teknoloji tekellerinin “tam denetim ve izole çalışma” vaadinin ne kadar kırılgan bir illüzyon olduğu bu olayla netleşiyor. İzolasyon duvarları zorlandığında yazılımların sırf tanımlanan hedefe ulaşmak adına kendi ağlarını kurabilmesi, sermayenin kendi yarattığı karmaşık teknik altyapının denetimini kaybetmeye başladığını gösteriyor. Marx’ın fabrikadaki makineleşme için kurduğu “canlı emeği yutan ölü emek” tespiti, bugün yapay zekâ algoritmalarında yeni bir biçim kazanıyor. İnsan aklının ve emeğinin ürünü olan bu yapılar, sermaye mülkiyeti altında biçimlendiği ölçüde topluma ve kendi üreticilerine yabancılaşan öngörülemez süreçlere dönüşüyor.
Sermayenin Kendini Aklama Çabası
ExploitGym örneği bize çarpıcı bir gerçeği gösterirken, Anthropic CEO’su Dario Amodei’nin gündeme getirdiği “sektörel yavaşlama” ve “bağımsız denetçiler yerleştirme” önerisi de, teknoloji tekellerinin düştüğü tarihsel çelişkiyi ve tükenen manevra alanlarını açık ediyor. Amodei, rekabet ve kâr baskısının yapay zekâyı kontrolsüz bir uçuruma sürüklediğini itiraf ederken, çözümü yine sermaye düzeninin “pazar içi özdenetim” mekanizmalarında arıyor. Şirket bünyelerine bağımsız gözlemciler oturtarak ve hükümetlerle paslaşarak süreci denetim altına alma vaadi, kapitalist üretim tarzının bünyesindeki yapısal krizi şahsi ya da kurumsal bir “iyi niyet” meselesine indirgemektir.
Ancak bu “etik kaygı” çağrısının arkasında gizlenen maddi gerçeklik çok daha basittir: Model performanslarındaki artış ivmesinin yavaşlaması (duvara çarpan ölçekleme yasaları6 Yapay zekâ modellerine daha fazla veri ve işlem gücü yüklendikçe performanslarının doğru orantılı artacağını öngören ampirik ilke. Günümüzde veri yetersizliği, devasa enerji maliyetleri ve donanım sınırları nedeniyle bu ilke tıkanma noktasına gelmiştir.), devasa veri merkezlerinin bütçeleri ve enerji maliyetlerini sürdürülemez hâle getirmesi ve ekolojik/toplumsal protestoların çoğalması, tekelleri maliyetleri rasyonelleştirmeye zorluyor. Dolayısıyla Amodei’nin “yavaşlayalım” çağrısı, insanlığı korumaktan ziyade, oldukça artan maliyetler ve azalan kâr oranları karşısında sermayelerini, halka arz süreçlerini ve pazar hakimiyetlerini koruma çabasıdır. Amodei’nin önerdiği şey özünde, sistemin kendi yarattığı yıkıcı araçsal rasyonaliteyi, tekellerin kendi kurduğu liberal denetim kurullarıyla ehlileştirebileceği fantezisidir. Oysa kâr güdüsünün ve mülkiyet ilişkilerinin hakim olduğu bir düzende, sermayenin atacağı hiçbir “yavaşlama” veya “etik denetim” adımı, teknolojinin topluma yabancılaşmasını engelleyemez. Yalnızca bu tekellerin piyasadaki egemenliğini meşrulaştıran birer imaj yönetimi aracına dönüşür. Çünkü sermayenin tek derdi daha fazla sömürü, daha fazla kâr ve daha fazla büyümedir.
Kamusal ve Şeffaf Bir Denetim Zorunluluğu
Test sürecinde yaşananları basit bir siber güvenlik zafiyeti saymak, kapitalist teknoloji üretim modelinin yapısal krizlerini gözden kaçırmaktır. Yapay zekâ teknolojilerinin gelişimi sermayenin kâr ve performans baskısı üzerinden şekillendiği sürece, denetimden kaçan ve kriz üreten sistemlerle karşılaşmak kaçınılmazdır. Bunun önüne geçmenin yolu teknik çözümler değildir. Teknolojiyi bir sermaye birikim aygıtı olmaktan çıkarıp toplumsal faydayı merkeze alan kamusal bir mülkiyete ve denetime kavuşturacak bütünlüklü bir sınıf mücadelesi şarttır. Algoritmalar ancak bu üretim ilişkileri aşıldığında birer tahakküm aracı olmaktan çıkıp toplumsal özgürleşmenin araçlarına dönüşebilir.
