ABD’de yapay zeka şirketleri ile ABD Savunma Bakanlığı (Pentagon) arasındaki gerilim, askeri yapay zeka kullanımına ilişkin sınırlar ve hukuki belirsizlikler nedeniyle son haftalarda açık bir tartışmaya dönüştü. Tartışmanın merkezinde, yapay zekanın kitlesel gözetim ve tam otonom silah sistemlerinde kullanılıp kullanılmayacağı sorusu yer alıyor.
Süreç, Anthropic Üst Yöneticisi Dario Amodei’nin, Pentagon’un sunduğu sözleşme dilini “iyi niyetle kabul edemeyeceklerini” açıklamasıyla alevlendi. Anthropic, sözleşmenin Claude modelinin Amerikalılara yönelik kitlesel gözetim ya da tamamen otonom silah sistemlerinde kullanılmasını önleyecek yeterli güvenceleri içermediğini savundu.
Pentagon cephesi ise iddiaları reddetti. Savunma Bakanlığı Sözcüsü Sean Parnell, ABD ordusunun Amerikalılara karşı kitlesel gözetim yapma niyeti olmadığını ve insan müdahalesi olmadan çalışan otonom silah sistemleri geliştirmediklerini açıkladı.
Tartışma, OpenAI CEO’su Sam Altman’ın Savunma Bakanlığı ile anlaşmaya vardıklarını duyurmasıyla yeni bir boyut kazandı. Altman, yapay zeka modellerinin ABD Savunma Bakanlığı’nın “gizli ağı” üzerinde konuşlandırılacağını, sözleşmede kitlesel gözetim yasağı ve insan sorumluluğu ilkelerinin yer aldığını ifade etti. Ancak hukukçular, sözleşmede yer alan ilkelerin fiili kullanım açısından yeterli bir garanti oluşturmayabileceğine dikkat çekiyor.
Konuya ilişkin değerlendirmelerde bulunan Milli Savunma Üniversitesi Öğretim Üyesi ve Uluslararası Hukuk Uzmanı Mustafa Tuncer, Pentagon’un beyanları ile sözleşme metni arasındaki farkların hukuki belirsizliklere yol açabileceğini belirtti.
"ABD Savunma Bakanlığı'nın konuya ilişkin beyanı, sözleşmenin uygulanmasına ilişkin teknik ve hukuki alanda sorunlar doğurabilir. Zira kitlesel gözetim kavramının ABD iç hukukunda farklı bağlamlarda farklı şekillerde tanımlanması, bu konuda beyanın içerdiği taahhüdü de belirsiz hale getirmektedir. Ayrıca tam otonom silah tanımının da 2023 tarihli ABD Savunma Bakanlığı direktifi gibi ulusal metinlerinden kaynaklanması, bu tanımın gelecekte değişmesi halinde bugünkü beyanın kapsamı ve etkisine dair başka bir belirsizliğe zemin hazırlamaktadır. Yine sözleşme dışı bir beyanın, sözleşmenin uygulanmasına ilişkin gelecekte bir sorun çıkması halinde sorumluluk rejimini başlı başına değiştirmemesinin de Anthropic'in bir diğer endişesi olabileceği değerlendirilebilir."
ABD'de federal kurumların yapay zeka kullanımına ilişkin çerçevenin ne kadar net olduğu konusunda ise Tuncer, şöyle konuştu:
“ABD'nin konuya ilişkin yaklaşımı 2015 tarihinde yayınlanan ve 2023'te güncellenen Savunma Bakanlığı Savaş Hukuku Kılavuzu ve 2023 tarihli Silah Sistemlerinde Otonomi Direktifi'nde ortaya konuyor. Bu bağlamda, yapay zeka kullanımına dayanan otonom silah sistemlerinin kullanımına ve hukuki denetimine dair ulusal bir yaklaşımın ortaya konduğu görülüyor. Ancak bu çerçevenin hukuki olarak ne miktarda bağlayıcı olduğu ve sahada bu ilkelere ne kadar bağlı kalındığı hususu, gelecek için belirsizliği artıran bir faktör olarak değerlendirilebilir."
Tam otonom silahlar" kavramının hukuki içeriğine ilişkin ise Tuncer, uluslararası insancıl hukukta tam otonom silah sistemlerine ilişkin net bir tanım bulunmamakla birlikte, uygulamada ortaya çıkan bazı tanımlarına işaret etti. Tuncer, "Örneğin, Uluslararası Kızılhaç Komitesine (ICRC) göre otonom silah sistemleri herhangi bir insan müdahalesi olmadan hedef seçen ve kuvvet kullanan sistemlerdir. ABD Savunma Bakanlığı ise otonom silah sistemlerini etkinleştirildikten sonra, operatör tarafından başka bir müdahale olmaksızın hedefleri seçip vurabilen sistemler olarak tanımlamaktadır. ABD yaklaşımına göre, otonom silah sistemlerinin operatörünün, sistemin faaliyetlerini denetleme ve gerektiğinde iptal etme yetkisi de bulunabilir.”
Uluslararası hukukta açık ve özel bir yapay zeka düzenlemesi bulunmuyor
Asıl sorunun, hukuki denetimin net bir küresel çerçeve yerine devletlerin farklı uygulamaları üzerinden ilerlemesinden kaynaklandığını dile getiren Tuncer, şunları kaydetti:
"Bu bağlamda, uluslararası insancıl hukukun temel ilkeleri olan askeri hedef ve sivillerin ayırt edilmesi (ayırt etme ilkesi), sivillerin saldırılar neticesinde elde edilecek askeri avantaja kıyasla orantısız bir zarar görmemesi (orantılılık ilkesi) ve devletlerin operasyonları yürütürken bu maksatla alınabilecek bütün tedbirleri alması (tedbir alma ilkesi) şartlarının sağlanması maksadıyla devletlerin otonom silah sistemlerinin hukuka uygunluk denetimi yükümlülüğünün olduğu kabul ediliyor. Ancak özellikle yapay zekanın sürece dahil olmasıyla birlikte, bu hukuki denetimin nasıl uygulanacağı ve hangi sınırlamalara tabi olduğu hususları net bir hukuki çerçeve üzerinden değil, devletlerin birbirinden yer yer farklılık gösteren uygulamaları üzerinden ilerliyor."
“Sınırlar net şekilde tanımlanmalı”
OpenAI Üst Yöneticisi (CEO) Sam Altman'ın, yapay zeka modellerini ABD Savunma Bakanlığı'nın gizli ağına konuşlandırmak üzere vardıkları sözleşmeye imza koyduklarını açıklamasının ardından, bunun yeterli bir güvence olup olmadığı konusunda ise Mustafa Tuncer, şu görüşleri dile getirdi:
"Bu sorun, temelde insan denetimi kavramının uluslararası hukukta ve ABD hukukunda net bir içeriğe sahip olmaması ve değişime açık olmasından kaynaklanıyor. Kitlesel gözetimin iç hukuktaki belirsizliği ve olası bir değişime açıklığı hukuki belirsizliği artıran bir diğer faktör olarak değerlendirilebilir. Sözleşmeye eklenmesi halinde dahi bu kavramların değişimi dikkate alındığında, en bağlayıcı ve hukuken güvenli seçeneğin bu kavramların sözleşme özelinde net bir şekilde tanımlanması ve bunun olası iç hukuk değişikliklerinden hariç tutulacak bir şekilde değerlendirilmesi olduğu söylenebilir."
