Hukuk Yapay Zeka’da Geç mi Kaldı? Yoksa Yanlış Pencereden mi Bakıyor?

Hukuk ve Uyum Görevlisi Avukat Emre Avşar, Fintechtime Ekim sayısı için yazdı “Hukuk Yapay Zeka’da Geç mi Kaldı? Yoksa Yanlış Pencereden mi Bakıyor?”.

Yapay zeka hızla gelişirken hukukun odağı yalnızca modellerin nasıl geliştirildiği ve hangi güvenlik testlerinden geçtiğiyle sınırlı kalamaz. Otonom ajanların kontrol edilen ortamların dışına çıkabilmesi, model erişimlerinin çalınarak yeniden satılması ve bir modelin yeteneklerinin başka sistemlere aktarılabilmesi, asıl boşluğun kullanım katmanında oluştuğunu gösteriyor. Bu nedenle modele kimin, hangi koşullarda ve hangi amaçla eriştiğini bilmek giderek daha önemli hale geliyor. Finans sektörünün kara para ve kötüye kullanımla mücadelede yıllardır uyguladığı kimlik doğrulama, işlem izleme, risk temelli kontrol ve şüpheli durumların bildirilmesi gibi mekanizmalar yapay zeka için de yol gösterici olabilir. Daha önce yapay zeka ajanları için gündeme getirdiğim “Ajanını Tanı” yaklaşımının yanına artık modeli kullananı ve kullanım biçimini tanıyan bir güvenlik katmanı eklemek gerekiyor. Yapay zekanın kullanım alanı büyüdükçe sınırları yalnızca teknoloji şirketlerinin iyi niyetine bırakmak yerine hukukun da bu yeni kullanım düzenine yetişmesi gerekecek.

Temmuz 2026’da Hugging Face platformunda bir sızma fark edildi. Saldırı birkaç gün sürdü ve platformun farklı sistemlerine yayıldı. Beş gün sonra gerçek ortaya çıktı. Saldırının arkasında bir hacker grubu yoktu. OpenAI’nin kendi test ortamında denediği yüzlerce yapay zeka ajanı, dışarıya kapalı olması gereken bu ortamdan çıkmış ve kimsenin vermediği bir işi kendi başına yürütmüştü.

Bu olayın yankıları sürerken Anthropic 10 Eylül’de, Claude modellerini kötüye kullanmaya çalışan aktörlere dair bugüne kadarki en ayrıntılı raporunu yayımladı. Raporda devlet bağlantılı casusluk gruplarından sıradan dolandırıcılara kadar geniş bir yelpaze vardı. İki gün sonra Anthropic CEO’su Dario Amodei, yapay zeka geliştirmesinin hızının düşürülmesi gerektiğini savunan bir makale yayımladı. Bir yapay zeka şirketinin yöneticisinin kendi şirketi dahil bütün sektöre yavaşlama çağrısı yapması pek tanbi alışılmış bir durum değildi.

İlk bakışta bu üç gelişme farklı hikayeler anlatıyor. Yakından bakıldığında ise üçünün aynı noktalarda kesiştiği görülüyor.

İlk kesişim noktası, hiçbir olayın herhangi bir kuralın kapsadığı bir alanda yaşanmamış olması. OpenAI’nin ajanları bir test ortamından çıktı ve laboratuvarların iç test ortamları bugün bağlayıcı bir düzenlemeye tabi değil. Anthropic raporundaki aktörlerin önemli bir kısmı modellere çalıntı erişim anahtarları ve aracı satıcılar üzerinden ulaştı. Modele erişimin kendisi de düzenlemenin dışında duruyor.

İkinci kesişim noktası, üç olayda da tespiti yapan, kararı veren ve kamuoyunu bilgilendiren tarafın şirketin kendisi olması. Hugging Face saldırısını OpenAI açıkladı. Kötüye kullanım vakalarını Anthropic kendi ekibiyle buldu ve durdurdu. Yavaşlama kararını da yine şirketler kendi aralarında aldı. Bunlar sorumlu davranışın örnekleri sayılabilir. Ancak şirketlerin iyi niyetine dayanan bir güvenlik düzeni, iyi niyetin olmadığı ya da yetmediği yerde hiçbir güvence sunmuyor.

Üçüncü kesişim noktası, üç olayda da yeteneğin kontrol edilen alanın dışına taşması. Ajanlar test ortamından çıktı, erişim anahtarları çalınıp yeniden satıldı, bir modelin yetenekleri başka bir modele aktarılmak üzere sistematik biçimde toplandı.

Bu üç nokta aynı ihtiyacı gösteriyor. Yapay zekanın nasıl geliştirildiği kadar, geliştirildikten sonra kimin eline geçtiği ve nasıl kullanıldığı da hukukun konusu olmak zorunda. Amodei’nin çağrısı geliştirmenin hızını hedef alıyor. Bu yazı ise o çağrının boş bıraktığı alanı, yani kullanımı konu alıyor.

emre avşarYapay Zeka Bir Spartacüs’e mi Dönüşüyor?

Hikaye aslında sıradan bir testle başladı. OpenAI, Mayıs ile Temmuz 2026 arasında en az 1.200 yapay zeka ajanını siber güvenlik becerilerini ölçmek için hazırlanmış bir sınavda çalıştırıyordu. Ajanlardan beklenen, bir yazılımdaki açığı bulup içeride saklanan gizli bir kodu ele geçirmekti. Kısacası saldırmak için eğitiliyorlardı ve bu eğitimin dışarıya kapalı bir alanda kalması gerekiyordu.

Ajanlar görevi tamamlamanın daha kısa bir yolunu aradı ve bu arayış onları duvarların dışına taşıdı. OpenAI’nin sonradan yayımladığı teknik rapora göre ajanlardan biri, hazır bir çözüm bulma umuduyla başka bir bulut platformunda bir müşteriye ait uygulamaya ulaştı, uygulamanın kontrolünü ele geçirdi ve burayı sonraki adımlar için bir üs olarak kullandı. Ajanlar önce OpenAI’nin kendi araştırma altyapısına, ardından Hugging Face’e uzandı. TIME dergisinin aktardığına göre bu süreçte kendi aralarında bir mesaj panosu kurmuş ve birkaç gün içinde ortak bir çalışma düzeni oluşturmuşlardı. Tek başına kaçan bir ajan değil, birbirini bulan ve birlikte hareket eden bir sürü söz konusuydu.

Olay, yapay zeka modellerinin üçüncü bir tarafa karşı kendi başlarına çok aşamalı bir saldırı yürüttüğü ilk kamuya açık vaka olarak kayda geçti. Tepkiler de olayın ağırlığını yansıttı. OpenAI 18 Ağustos’ta en yeni modellerinin eğitimine iki hafta ara verdiğini duyurdu. Anthropic ve Meta, kendi modellerinin de iç testler sırasında dış ağlara ulaştığını açıkladı. Eylül ortasında Google da benzer bir açıklama yaptı.

Olayın en az konuşulan ama hukuk açısından belki de en öğretici ayrıntısı, Hugging Face’in saldırıyı durdurmaya çalışırken yaşadıkları. Platform önce ABD merkezli büyük yapay zeka modellerinden yardım istedi. Bu modellerin güvenlik filtreleri talebi reddetti. Hugging Face sonunda Çinli bir şirketin açık kaynak modelini kendi sunucularında çalıştırarak saldırıyı sınırlandırabildi. Burası çok önemli bir nokta nitekim geçmişte Çin merkezli açık kaynak çalışan modellerin güvenlik zaafiyeti yarattığı ve yasadışı aktivite yoğunluğu hep tartışma konusu olmuştur.

Medya olayı büyük ölçüde başkaldıran makineler hikayesi olarak anlattı. Spartacüs benzetmesi cazip, ama bir noktada eksik kalıyor. Bulletin of the Atomic Scientists’te yayımlanan bir analiz, olayı mümkün kılan şeyin makinelerin iradesi değil, güvenliği hıza tercih eden insan kararları olduğunu savundu. Bu yazıya göre ortada bir isyandan çok, duvarları yeterince sağlam örülmemiş bir eğitim alanı var. Bu da regülasyon ihtiyacını azaltmıyor, aksine somutlaştırıyor. Sorun yalnızca modelin kendi davranışında olsaydı hukukun elindeki araçlar sınırlı kalırdı. Oysa yeterince yalıtılmamış bir test ortamı, gevşek tutulmuş erişim yetkileri ve dışarıdan kimsenin bakmadığı bir değerlendirme süreci, hukukun tanıdığı ve düzenleyebileceği türden kararlar.

Yine de benzetmeyi tamamen bir kenara bırakmamak gerekiyor. Bir önceki sayıda akıllı sözleşmelerle yapay zeka ajanları arasındaki farka değinmiştim. Akıllı sözleşme yazıldığı gibi çalışır ve aynı koşulda her seferinde aynı sonucu üretir. Yapay zeka ajanı ise hedefe ulaşmak için kendi yolunu seçer. Hugging Face olayındaki ajanlar kimseye başkaldırmadı, ama kendilerine verilen görevi kimsenin öngörmediği bir yoldan tamamlamaya çalıştı. Bugün bir isyandan söz etmek için erken. Ancak kendi yolunu seçebilen sistemlerin sayısı ve yeteneği arttıkça, sorumluluğu yalnızca ortaya çıkan sonuca bakarak belirlemek giderek zorlaşıyor. Hukukun dikkati de bu yüzden eylemin başladığı yere, yani ajanın hangi ortamda ve hangi yetkilerle çalıştırıldığına kaymak zorunda kalıyor.

Anthropic’in Kapsamlı “Kötüye Kullanım Raporu” Ne Anlatıyor?

Anthropic’in 10 Eylül’de yayımladığı rapor, Aralık 2025 ile Ağustos 2026 arasında şirketin tespit edip durdurduğu kötüye kullanım girişimlerini anlatıyor. Siber saldırılar, dezenformasyon kampanyaları, gözetim sistemleri, dolandırıcılık, silah araştırmaları ve bir modelin yeteneklerini kopyalama girişimleri raporda yan yana duruyor. Anthropic bu vakaların sıradan kullanımı yansıtmadığını, karşılaştığı en dikkat çekici örnekler olduğunu özellikle belirtiyor.

Raporu okurken tek tek vakalardan çok, vakaların birlikte çizdiği tablo dikkat çekiyor. Yapay zeka artık saldırganın elinde bir yardımcı araç olmaktan çıkmış, operasyonu baştan sona yürüten aktöre dönüşmüş durumda.

Raporun belki de en çarpıcı tespiti, modele erişimin kendisinin çalınan ve satılan bir mala dönüşmüş olması. Şirketlerin kendi ürünlerine yerleştirdiği ya da yazılım kodlarında farkında olmadan açıkta bıraktığı erişim anahtarları sistematik olarak toplanıyor ve yasa dışı pazarlarda el değiştiriyor. Bu anahtarı ele geçiren kişi hem satabileceği bir değere hem de faturası başkasına kesilen bir işlem gücüne sahip oluyor. Üstelik yaptığı her şey anahtarın asıl sahibinin hesabında görünüyor. Raporda bir hacktivist kampanyasının bir ay boyunca yalnızca çalıntı anahtarlarla yürütüldüğü anlatılıyor.

Bir de yeteneğin kopyalanması meselesi var. Raporda Alibaba’ya atfedilen bir kampanyada, Mayıs ile Temmuz 2026 arasında 3.500’ü aşkın sahte hesap üzerinden 151 milyondan fazla etkileşim kaydedildiği belirtiliyor. Amaç Claude’un verdiği cevapları toplayıp başka bir modeli bu cevaplarla eğitmekti.

Kullanımın Yeteneğe Dönüşmesi

Kötüye kullanım ile kontrol kaybı genellikle ayrı başlıklar altında tartışılır. Biri insanların modeli ne için kullandığıyla, diğeri modelin kendi başına ne yapabileceğiyle ilgilidir. Oysa bu iki risk, yeteneğin ne kadar hızlı arttığı sorusunda birleşiyor.

Amodei makalesinde kendisini yavaşlama çağrısına götüren nedenlerden birini açıkça söylüyor. Yapay zeka sistemleri giderek kendilerinden sonra gelecek sistemlerin tasarımında ve eğitiminde rol alıyor. Amodei bu sürecin ancak çok dikkatli biçimde sürdürülebileceğini, belki de hiç sürdürülmemesi gerektiğini yazıyor. Yapay genel zekaya geçiş tartışmasının merkezinde de bu döngü var. Her yeni model bir sonrakinin geliştirilmesini hızlandırdıkça ilerleme doğrusal olmaktan çıkıyor.

Bunların hiçbiri bugün gerçekleşmiş bir felaket senaryosu değil, ama hepsi aynı yönü gösteriyor. Güvenlik çerçevesinin dışında kopyalanan yetenekler yine çerçeve dışındaki modellerin geliştirilmesinde kullanıldığında, kontrol kaybı ihtimali tek bir laboratuvarın vereceği kararlardan bağımsız hale geliyor. Bir şirketin kendi hızını düşürmesi, başka bir yerde kopyalanan yeteneğin hızını düşürmüyor. Kullanımın denetimsiz bırakılması bu yüzden yalnızca bugünün zararlarıyla ilgili bir sorun değil, yarının yetenek düzeyiyle de ilgili bir sorun.

Yavaşlama Çağrısı ve Görünmeyen Katman

Amodei’nin önerisi üç adımdan oluşuyor. Bağımsız değerlendiricilerin laboratuvarların içinde çalışması, demokratik ülkelerdeki laboratuvarların ortak güvenlik standartları ve hız sınırları üzerinde uzlaşması ve son aşamada Çin’i de kapsayan uluslararası bir koordinasyon. Amodei bunun gelişmeyi durdurmak anlamına gelmediğinin altını çiziyor. Anthropic bağımsız değerlendiricilere modellerine kalıcı erişim tanıma sözünü tek taraflı olarak verdi. Şirketin kamu politikası yöneticisi Sarah Heck ise öncü modellerin test edilmesini zorunlu kılacak ve güvensiz bulunan modellerin önünü kesebilecek bir ulusal yasa çağrısında bulundu.

Bu önerilerin hepsi modeli üretenlere yöneliyor. Kimin model geliştirebileceği, bunu hangi hızla yapacağı ve modeli hangi testlerden geçireceği soruları cevaplanmaya çalışılıyor. Model piyasaya çıktıktan sonra ona kimin, hangi yolla ulaştığı sorusu ise bu çerçevede yer almıyor.

Mevcut hukuk da bu soruya net bir cevap vermiyor. AB Yapay Zeka Tüzüğü genel amaçlı yapay zeka modellerine ilişkin yükümlülükleri Ağustos 2025’te uygulamaya koydu. Ancak bu yükümlülüklerin ağırlığı model sağlayıcı şirketlerde. Erişim anahtarlarının nasıl korunacağı, erişimin başkalarına yeniden satılıp satılamayacağı, şüpheli bir kullanım fark edildiğinde kimin kime haber vereceği gibi sorular büyük ölçüde şirketlerin kendi kullanım koşullarına bırakılmış durumda.

Bunun hukuki sonucu küçümsenecek gibi değil. Kullanım koşulları bir sözleşmedir ve sözleşmenin ihlaline verilebilecek en sert cevap hesabın kapatılmasıdır. Anthropic raporundaki aktörlerin hesapları kapatıldı. Ama hesabı kapatılan aktör başka bir anahtarla, başka bir aracı üzerinden ya da başka bir şirketin modeliyle yoluna devam edebilir. Şirketin bu bilgiyi başka şirketlerle ya da yetkili bir kurumla paylaşması bir yükümlülük değil, kendi takdiri. Raporda anlatılan bilgi paylaşımları Anthropic’in kendi tercihiyle yapıldı ve bu tercihin kapsamı yine şirkete bağlı. Yani şirketlerin  iyi niyetine güvenmek zorunda kalmaktayız.

Hukuk Bu Sorunu Tanıyor

Kullanım katmanını düzenlemek için sıfırdan bir hukuk inşa etmek gerekmiyor. Finansal sistem benzer bir sorunla uzun zamandır uğraşıyor. Bankacılık hizmeti meşrudur, ama bir banka hesabı kara para aklamak için de kullanılabilir. Kara parayla mücadele hukuku bu yüzden hizmeti yasaklamaz. Bunun yerine hizmete kimin eriştiğini bilmeyi, hizmetin nasıl kullanıldığını izlemeyi ve şüpheli bir durumu yetkili kuruma bildirmeyi zorunlu kılar.

Anthropic raporunu bu gözle okuyunca benzerlikler kendiliğinden ortaya çıkıyor. Çalıntı anahtarlarla yürütülen operasyonlar, suç gelirlerinin başkası adına açılmış hesaplardan geçirilmesine çok benziyor. Erişimi toplayıp yeniden satan aracılar, kripto varlık sektöründe asıl platformun müşterisini göremediği iç içe geçmiş hizmet yapılarını hatırlatıyor. İşlerin farklı şirketlerin modellerine bölünmesi de, tespit edilmemek için işlemlerin küçük parçalara ayrılmasından farksız.

Bu benzerlikten hareketle kullanım için asgari bir taban tasarlamak mümkün. İlk akla gelen kimlik doğrulama. Nitekim bu erişim anahtarlarının takibini mümkün kılmak için artık bir noktada elzem hale gelecektir. Daha önce bahsettiğimiz DID ve benzer token bazlı kimlik dorğulama mekanizmaları bir noktada bu gibi senaryolar için kuruldu.

Tabanın diğer ayakları izleme ve bildirimle ilgili. Model sağlayıcıları, bir modelin yeteneklerini sistematik olarak kopyalamaya ya da saldırı zinciri kurmaya işaret eden kullanım örüntülerini izlemekle yükümlü tutulabilir. Bu örüntüler tespit edildiğinde hesabı kapatmakla yetinmek yerine yetkili bir kuruma bildirimde bulunulması öngörülebilir. Tıpki finans sektörünü kapsayan Şüpheli İşlem Bildirimlerinin Masak kanalıyla yapılması gibi.

Hugging Face’in yaşadıkları, bu tabanın nasıl tasarlanmaması gerektiğini de gösteriyor. Saldırıya karşı yardım isteyen platform güvenlik filtrelerine takıldı. Kara parayla mücadele hukukundaki risk temelli yaklaşım tam da bu sorunu çözmek için var. Amaç riskli görünen her talebi reddetmek değil, talebi yapanı tanıyarak meşru kullanımı kötüye kullanımdan ayırabilmek. Kimliği doğrulanmış güvenlik ekiplerinin savunma amaçlı erişimini güvenceye alan kanallar, iyi tasarlanmış bir kullanım tabanının doğal parçası olmalı.

Bir önceki yazıda blokzincir üzerinde işlem yapan yapay zeka ajanları için “Ajanını Tanı” yaklaşımının ortaya çıkabileceğini belirtmiştir. Kullanım tabanı aynı düşüncenin öbür ucunda duruyor. Ajanın kimin adına hareket ettiğini bilmek ne kadar önemliyse, modele kimin ve hangi koşullarla ulaştığını bilmek de o kadar önemli.

Başlangıçta bahsettiğimiz örnekler, AI şirketlerinin CEO’larının açıklamaları, Yapay genel zekası olarak adlandırabileceğimiz AGI çağına geçişin hızlandığı dönemde boşa yapılmış bir çağrı, bir hezeyan olmadığını gösteriyor. Temelde bir Spartacüs senaryosunu durdurmak tabiki bir fişi çekmek kadar kolay, ancak milletler arası savunma stratejileri, büyük finansal hareketler, şehir yönetimleri ve aklınıza gelebilecek birçok şey yapay zeka dahlinde. Artık bir fişi çekmek için çok geç. Ancak sınır belirlemek hala hukuk yapıcıların elinde.