Avukat Umut Gün, Fintechtime Ağustos sayısı için yazdı “Yapay Zeka Bankacılığında Güven Artık Bir Hukuk Ürünü”.
“Yapay zeka, bankacılıkta yalnızca operasyonları hızlandıran bir teknoloji olmaktan çıkarak karar mekanizmalarının merkezine yerleşiyor. Bu dönüşümle birlikte rekabetin odağı da teknoloji yatırımlarından veri kalitesine, yönetişime ve hukuki uyuma kayıyor. Yapay zeka destekli kararların güvenilir, açıklanabilir ve adil olması; veri yönetimi, etik ilkeler ve güçlü bir hukuki çerçeveyle mümkün hale geliyor. Bu nedenle güven, geleceğin bankacılığında marka algısından çok veri işleme süreçleri ve yönetişim anlayışıyla şekillenecek. Önümüzdeki dönemde öne çıkacak finansal kurumlar, en gelişmiş yapay zeka modellerine sahip olanlar değil; bu modelleri şeffaf, denetlenebilir ve güvenilir bir altyapı üzerinde çalıştırarak müşteri güvenini sürdürülebilir rekabet avantajına dönüştürebilenler olacak.”
Yapay Zeka Bankacılığında Güven Artık Bir Hukuk Ürünü
Mayaların takvimi ve 2012 yılında dünyanın aslında son bulduğu görüşü konuşulurken bilimsel olarak da bir simülasyonun içinde olup olmadığımız tartışılıyor. Artık her şey çok daha hızlı. Nüfus patlamasının yanında bir inovasyon ve bilim patlaması da yaşanıyor. Teknolojik gelişmeler özellikle yapay zekâ ile daha da ilerledi ve hızlandı. Öyle ki, yapay zekalar artık kendi kodlarını kendisi yaratıyor. Yakın gelecekteki yapay zekâ ile ilgili kehanetleri bir kenara bırakarak bugün olması gerekenleri konuşalım mı?
Yapay zekâ artık her yerde. Finans kurumları da bu teknolojiyi ayrıca kullanıyor. Ancak, bu teknoloji sadece iş süreçlerini değiştirmiyor. Sürecin tamamını tüm unsurlarıyla değiştiriyor. Zira, yapay zekayı karar verme mekanizmalarına dönüştürüyor ve karar alma merkezlerini değiştiriyoruz.
Matrix’de Neo, dünyayı artık insanlar ve nesneler olarak değil, onun altında yer alan yeşil kodlar olarak görmeye başladığında kuralları eğdi, kurşunları durdurabildi. Zira, gerçekliğin kendisi koddu. Yani bir şeyi gerçekten değiştirmenin yolu, görünen yüzeyiyle değil, onu üreten merkeziyle uğraşmaktır. Bizler de yapay zekayı karar merkezlerine yerleştirdikçe oyunun kurallarını baştan yazacağız. Ancak, madalyonun her zaman iki yönü var. Oyunun kurallarını baştan yazarken karar vereniniz Zeus da olabilir, Hades de. O halde karar veren merkezi besleyecek olan besine yani veriye dikkat etmemiz gerekecek.
Yapay zekâ bankacılığın karar merkezine yerleştikçe “güven” bir pazarlama ve tanıtım vaadi olmaktan çıkıp, veri yönetimi ve hukukla üretilen bir kavrama evriliyor. Burada kazanan da tüm bu evrim ve yaratım sürecini maliyet olarak değil, altyapı ve rekabet avantajı olarak nitelendiren kazanacak.
Kim Hesap Verecek?
Yapay zekâ hangi alana girerse girsin mutlaka var olan süreçler ve senaryolar değişiyor. Bu bankalar da bu şekilde işliyor. Örneğin bir kredi başvurusunun saniyeler içinde, hiçbir insanın tamamen göremediği bir model tarafından onaylanması ya da reddedilmesini düşünelim. Kararı yapay zekâ verecek. Peki bu karar için kim hesap verecek? Bu karara ve parametrelere nasıl güveneceğiz?
Bu somut örnekte artık şunu görüyoruz. Güven kavramının içeriği yer değiştiriyor. Güven bir marka kavramından hukuk ile şekillenen yönetime evriliyor. Geleneksel bankacılıkta güven marka, şube, mevduat güvencesi ve insan ilişkisi içerisinde diyebiliriz. Yapay zekâ tabanlı ya da destekli bankacılıkta müşteri artık insanla değil, yapay zekâ modeliyle karşılaşıyor. Dolayısıyla güvenin oluşması için farklı sorular gündeme geliyor. Verim hukuka uygun işleniyor mu? Alınan karar açıklanabilir mi? Bu karar adil mi? Bu ve bunun gibi çok daha fazla soru söz konusu olabilir. İşte bunların hepsi veri yönetimi ve hukuk sorusu. Zira, ilgili iş birimleri ve hukuk ile yaratılan bu süreç güveni yansıtacak ve burada güven bir ürün olarak karşımıza çıkacaktır.
En Basitinden Üç Hukuk Konusu
Yapay zekâ ve bankacılık konusunda çok fazla hukuki ihtilaf doğabilir. En basitinden üç farklı uyuşmazlık düşünelim. Az önce örneğini verdiğimiz kredi skorlama örneğinde finansmana erişimi engelleyen önemli bir unsur var. Otomatik karar verme kavramı. Yapay zekâ süreçler ile kurgulanacak süreçlerde veriler otomatik olarak işlenir ve karara varılır. Kanunen bireylerin alınan bu otomatik kararlara itiraz hakkı vardır. Bu itiraz bir yanlılık iddiasını içerebilir ve açıklanabilirlik ilkesinin gereğinin yapılmasını talep edebilir.
Gelin bir örneğe gidelim. Dolandırıcılık tespitinde kitlesel işlem verilerine bakılabilir ve profillemeler yapılabilir. Peki bu süreçlerde ölçülülük ilkesi ne olacak? Bu konu Avrupa Birliği mevzuatında yoğun tartışmalar da devam ediyor.
Hiper-kişiselleştirme diye bir kavramı önceden duydunuz mu? Müşteri deneyiminin geleceği diyor bazı çevreler. Davranışsal profilleme ve kişiselleştirme ile manipülasyon arasındaki ince çizgi nasıl belirlenecek? Rıza, amaçla sınırlılık, şeffaflık gibi çeşitli araç ve ilkeler nasıl uygulanacak? Sistem nasıl dizayn edilecek.
Görüldüğü üzere veri yönetimi ve hukuk bu konuda bir maliyet değil. Konu yapay zekaysa artık satılacak olan güveni oluşturan temel yapı taşları haline geliyor.
Güven ve Rekabet Avantajı Nasıl Sağlanacak?
AB Yapay Zekâ Yasası aslında birçok soruya rehber oluyor. Yükümlülükleri, yapılması gerekenleri ve niceleri tane tane anlatıyor. Aynı zaman da yaptırımlar da yine bu düzenlemede yer alıyor. Üstelik anılan mevzuatın kapsamı oldukça geniş olduğundan uygulayıcılarla, sağlayıcılarla ve diğer aktörlerle akdedilecek olan sözleşmeler de oldukça önem arzediyor. Buyurun size uyumun yanında şirket güvenliği için hukuk gereksinimi. Türkiye’de henüz kapsamlı bir yapay zekâ mevzuatı bulunmuyor. Ancak, bazı kontrolleri ve süreçleri Kişisel Verilerin Korunması Kanunu ile gerçekleştirebiliriz. Kısaca hukuk ve veri yönetimi sizlere güven vermeyi taahhüt ediyor.
Hukukun uygulanmasını ve uyumu rekabet avantajı olarak kurgulamak ise ödül bölümü olabilir. Erken veri yönetimi kuran kuruluşların müşteri güveni sağlaması, daha hızlı ortaklıklar kurması, düşük hukuki ve düzenleyici riske sahip olması, ve Türkiye’nin çıkaracağı yasaya baştan hazır olması sahip olunacak avantajlar olabilir. Tasarım aşamasından başlayan hukuka uygunluk rekabette avantajı sağlayacaktır.
Kısaca
Yapay zekâ bankacılığında kazanan en gösterişli ve en iyi yapay zekaya sahip olan değil, kendi yapay zekâ modeline güvenilebilen olacaktır. Güven ise dokümantasyon, yönetişim ve uyumla ölçülecek. Türkiye için asıl soru Yapay Zekayı düzenleyip düzenlememek değil, yaratılan çerçeveyi bir yük mü yoksa güvenin mimarisi olarak mı göreceğidir. Zira, güven bir hukuk ürünüdür.
