Yapay zeka teknolojilerinin kendi kodlarını yazabilme, sistemlerini geliştirebilme ve insan müdahalesi olmadan yeni modeller üretebilme kapasitesine yaklaşması, küresel ölçekte güvenlik ve düzenleme tartışmalarını yeniden gündeme taşıdı.
ABD’li yapay zeka şirketi Anthropic tarafından yayımlanan “When AI builds itself” (Yapay zeka kendini ürettiğinde) başlıklı raporda, yapay zekanın kendi halefini tasarlayıp eğitebilmesinin teorik olarak sanılandan daha yakın olabileceği belirtildi. Raporda, otonom yazılım döngülerinin giderek daha yaygın hale geldiği vurgulandı.
Şirket verilerine göre, Claude yapay zeka sisteminin üretim kod tabanına entegre edilen kodların yüzde 80’inden fazlasının doğrudan model tarafından yazıldığı ifade edildi. Bu oranın 2025’in başlarında tek haneli seviyelerde olduğu hatırlatıldı.
Anthropic, yapay zeka gelişimini beş aşamalı bir süreç olarak tanımlarken, sistemlerin önce insan destekli kod üretiminden tamamen otonom kod yazımına, ardından kendi modellerini oluşturup eğitebilecek seviyeye doğru ilerlediğini bildirdi. Şirket, son aşamada yapay zekanın kendi gelecek sürümlerini geliştirebilecek kapasiteye ulaşabileceğini öngörüyor.
Yapay zeka alanındaki bu hızlı ilerleme, küresel düzeyde “kontrol kaybı” ve “otonom sistem riskleri” tartışmalarını da beraberinde getirdi. Daha önce Future of Life Institute tarafından yayımlanan ve Elon Musk gibi isimlerin de imza attığı açık mektupta, daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara verilmesi çağrısı yapılmıştı. Mektupta, kitlesel iş kayıpları, dezenformasyon ve demokratik sistemler üzerinde riskler olabileceği uyarısında bulunulmuştu.
Benzer bir çağrı da dini çevrelerden gelmiş, Papa 14. Leo tarafından yayımlanan “Magnifica Humanitas” adlı metinde yapay zekanın yalnızca teknik değil, etik ve toplumsal sınırlarla da kontrol altına alınması gerektiği vurgulanmıştı.
Öte yandan tüm uyarılara rağmen yapay zeka yatırımlarının hız kesmeden sürdüğü belirtiliyor. Gartner tarafından yayımlanan verilere göre küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşması, 2027’de ise 3,49 trilyon dolara çıkması bekleniyor. Bu artışın, teknolojinin durdurulmasına yönelik çağrılara rağmen sektörün büyüme ivmesini koruduğunu gösterdiği ifade ediliyor.
