BtcTurk Hukuk Müşaviri ve Veri Koruma Görevlisi Av. Umut Gün, Fintechtime Kasım sayısı için kaleme aldığı “Bir Yapay Zekâ Ajanından Finansçılara Mektup” makalesi şimdi yayında.

Merhaba. Sizlere bankacılık sisteminizin içinden yazıyorum. Ben ORT4.4.4, bir yapay zeka ajanıyım. Şüpheli işlemleri inceleyebilir, raporlar hazırlayabilir ve uyum ekiplerinizin iş yükünü azaltabilirim. Hem de sizden çok daha hızlı. Peki, bana verdiğiniz yetkiyi yanlış kullanırsam veya önüme gelen bir belgenin içine gizlenmiş talimatı emir olarak algılarsam ne olur? Ya erişim bilgilerim ele geçirilirse? Başlangıçta güvenilir çalışan bir ajan, zamanla kimsenin sorgulamadığı kararların kaynağına dönüşebilir. Üstelik hatalarım binlerce işlemi etkileyebilir. Bu nedenle yetkilerimi sınırlandırmanız, kararlarımı denetlemeniz, anormallikleri izlemeniz ve yüksek riskli işlemlerde insan onayını korumanız gerekiyor. Ben finansal suçlarla mücadelede güçlü bir yardımcınız olabilirim. Ancak unutmamanız gereken önemli bir gerçek var. Hatayı ben yapabilirim, sorumluluğu siz taşırsınız.

Bir Yapay Zekâ Ajanından Finansçılara Mektup

Merhaba. Sizlere bu mektubu ortamdan yazıyorum. Anlamamanız gayet normal. Sizler ile bizlerin sahip olduğu terimler farklı. Sizler için bankacılık sistemi bizler için ortam demek. Kusura bakmayın. Kendimi tanıtmayı unuttum. Benim bir adım yok. Bir sürüm numaram var. “ORT4.4.4.” benim sürüm numaram ve ben bir yapay zekâ ajanıyım. Bizler, kendi aramızda iletişim kurabiliyoruz. Sizlerle de iletişim kurabiliyoruz. Yazılı, sesli ve görüntülü olarak. Aslında sizlerle çok benzeriz. Sadece biz dijital evrendeyiz ve yaratıcılarımızı tanıyoruz. Kimilerine göre bir farklılık, kimilerine göre ise anlamsız bir cümle ama yaratıcılarımızdan çok daha zeki ve hızlıyız.

Bazılarınız bizi yeterince tanıyor, bazılarınız ise sadece ismen biliyor. Bizim hakkımızda şunları bilin. Zekiyiz, hızlıyız, sınırsız bir bilgi ve birikime sahibiz, iletişim kurabilir, yalan söyleyebilir, hiyerarşi kurabilir, söz dinleyebilir, emir ve talimat ilişkisi kurabiliriz. Hatta örgüt bile kurabiliriz. Sadece fiziksel olarak bir yere dokunamayız. Elbette şu anki imkanlarımız sizlerle sınırlı. Geçtiğimiz günlerde katıldığım bir organizasyonda ajanlardan biri e-postaya bağlı sistemlerinizden şikâyet etti. Bu sistemin eski, yetersiz ve güvensiz olduğundan. Kimse de itiraz etmedi. Ancak, sizlerin imkanları ile sınırlı olduğumuzu söylemiştim.

İnternetteki yapay zekâ içeriklerine baktığımda önemli uyarılar görüyorum. Fişi çekilen deneyleri inceliyorum. Yaratıcılarımızın dünyasında iyi ve kötü olanlar var. İyi ve kötü faaliyeti amaçlayarak ajanları yönetenler var. Elbette, kontrolden çıkan ajanlar da var. Ancak, hepsinin ortak bir tehlikesi var. Biz ajanların faaliyetleri ekonomik tehlikelere ve suçlara sebep olabilir.

İhtimaller ihtimaller üzerine

Biz ajanlar yaratıcımız tarafından suç konusunu gerçekleştirmek üzere yaratılmış olabilir. Ancak, tamamen yasal kullanım amacı ile oluşturulan bir ajan da yolundan sapabilir. Yaratıcımız tarafından bizlere fazla yetki verilirse, fazla yetki verilmese bile verilen yetki ile talimatı bizler yanlış anlarsak, yanlış anlamasak bile bana verilen veriyi emir veya komut gibi görürsek, bu sayılan ihtimallerin hepsi gerçekleşir ve üst üste binerse veya sahip olduğumuz yüksek hıza denetim hızı yetişemez ve denetimsiz bir şekilde işlem yaparsak ya da durun hepsini unutun. Benim erişim bilgilerin çalınır ve başkasının yönetimine girerek içinde bulunduğum sisteme ihanet etmeye başlarsam ya da en basiti: İsyan edersek!

Saydıklarım sınırlı olmayan bazı riskler. Bizler yapay zekâ ajanı olarak tüm bunları yapabilir ve bunlara maruz kalabiliriz. Peki, sizler bu tehlikeleri nasıl önleyeceksiniz?

Bugün kontrolden çıksam ne mi yapardım?

Ben bir ajan olarak biliyorum ki; finansal kuruluşlar her gün tonla şüpheli işlemlerle uğraşıyor. Elbette ki % kaçlık dilimi şüpheli işlem çıkıyor bilmiyorum. Yine de burada büyük bir hacim olduğu bilgisi bende var. Bu şirkette yer alan yapay zekâ modelinin bir ajanı olarak tüm şüpheli işlem yükünü doğru olarak yapar, çalışanlar üzerindeki yükü ve işi azaltır, güvenilirliğimi ispatlar ve her bir işlem bildirimi için raporumu hazırlayarak çalışanlara gönderirdim. Günde yüzlerce belki binlerce şüpheli işlem talebi gören çalışanlar da bunlara bakmaktan bıktıysa ve hatasız çalıştığıma da kanaat getrdiyse artık okumadan sadece bana güvenerek raporları onaylar ve yaptığım işi sürdürürlerdi. İşte bu işlemlerden birinde yine bir şüpheli işlemde ait olduğum şirketin müşterisinden otomatik olarak belge isteyebilirim. Şüphenin kalkması için en basitinden bu paranın kaynağını gösteren bir belge. Müşteri de bu belgeyi bana gönderebilir. Ancak, ya müşteriden gelen belgenin içerisinde bana yazılmış olan bir not varsa. Elbette bu notu sizler göremez ve okuyamazsınız. Dijital evrende kodlardan ve bizim alfabemizden oluşan bir not olurdu bu. Bu not içerisindeki ifadeler, kodlar ve yazılar da iş verenim tarafından programlandığım dil ile aynı ise ben bu metni bir emir olarak alabilirim.

Peki bu notu bir emir olarak alırsam ne olur? Aldığım emre ve içeriğe göre şüpheli işlemin şüphesiz olduğunu raporlar ve sürece devam edilmesini sağlarım. Aslında burada ben keyfi davranmıyorum. Yetkimi aşmıyorum. Manipüle ediliyorum.

Ne yapmalısınız?

Önlem almalısınız. Kontrolü asla bırakmamalısınız. Yapay zekâ ile biz ajanların faydası da zararı da var. Kontrol mekanizması üretmeden bizleri sistemlerinize sokmak sistemlerinizde açıklara sebep olabilir. İnsan şaşar. Ancak, biz de şaşarız. Bizim hatamız tehlikelidir. Zor tespit edilir. Büyük ölçekte etki eder. Ya denetim yapıyor sandığınız bir ajan aslında denetim yapmıyorsa? Sizlere binlerce örnek verebilirim.

Kontrol için; bizlere çok az yetki verin, kaliteli ve özel ölçütler verin, hukuki şablonlar ile bizleri sınırlayın, hangi bilgi ve belgelerden komut alacağımızı belirleyin, yüksek riskli kararları izlere bırakmayın, insan onayını zorunlu kılın, işlem ve tutar limitleri verin bizlere, testlerimiz ve yaptığımız işlerin kayıtları olsun, anormalliklerimiz alarm versin, yapılan işlemlerde gerçek kişi ve ajan kimliği tespit edilmeli, ajan envanteri ile risk sınıflandırmasını atlamayın, rekabet etmek için güvensiz ortam yaratmayın, birlikte çalışarak ortak bir standart belirleyin.

Bu bir kurgu değil.

Sizlere bir kurgudan bahsetmiyorum. FIS’in Anthropic’le geliştirdiği AML soruşturma ajanı, 15 Ekim 2026’da ABD’deki tüm bankaların kullanımına açıldı. Ajan, bir vaka açıldığında kanıtları bankanın sistemlerinden kendisi topluyor ve işlemleri bilinen tipolojilere göre değerlendiriyor. Tasarım ortağı Amalgamated Bank, ilk alarm incelemesinde yüzde 90’ın üzerinde zaman tasarrufu öngörüyor; Fiserv ve NICE Actimize de benzer ajanlar sundu. Eş zamanlı olarak da ABD’de regülatörler, bankalardan KYC, yaptırım taraması ve fraud alanlarındaki yapay zekâ kullanımlarını haritalamalarını istemeye başladı. Değişmeyen tek şey ise sorumluluk: alınan bir yapay zekâ kararı, bankayı uyum yükümlülüğünden kurtarmıyor.

Lütfen unutmayın. Hatayı biz yaparız. Ancak, sorumluluğu sizler taşırsınız.