Enqura Ticari Faaliyetlerden Sorumlu Genel Müdür Yardımcısı Hasan Emre Özgür, Fintechtime Aralık sayısı için yazdı “Mobilde Yapay Zeka, Canavar mı Kurtarıcı mı?”.
Bu makalede, yapay zeka destekli kimlik ve yüz tanıma gibi gelişmiş finansal teknoloji çözümleri sunan bir şirketin çalışanı olarak, size cep telefonumuzdaki yapay zeka ile ne kadar harika şeyler yapılabileceğinden çok bireysel ve toplumsal olarak getirebileceği risklerden bahsedeceğim.
Mobilde Yapay Zeka, Canavar mı Kurtarıcı mı?
“Son kez uyarıyorum, yapay zeka çalışmalarını durdurun. Yarattığınız robotlar insanlığın yerini alacak!”
Stephen Hawking
Çağımızın en büyük dahilerinden Stephen Hawking aramızdan ayrılmadan önce, yapay zekaya sahip robotların dünyayı ele geçireceğini defalarca dile getirdi. Robotlar için ben de oldukça endişeliyim ancak yapay zeka uygulamaları ile güçlenen cep telefonlarının şimdilik daha az ölümcül olduğunu düşünüyorum. Çoğu insan günde düzinelerce kez telefonunu kontrol ediyor. Akıllı telefonlarımız çok sayıda kişisel bilgi içeriyor ve e-posta, bankacılık, chat, ödeme gibi kritik hizmetlere erişim sağlıyor. Bu kadar çok etkileşime girdiğimiz bu cihazlar, ChatGPT örneğinde olduğu gibi her geçen gün teknoloji şirketlerinin önümüze koyduğu “yok artık bu kadar da olmaz” dedirten yapay zeka destekli inanılmaz uygulamalar ile hayatımızda daha fazla yer kaplıyor.
Yapay zeka, telefonlarımızı daha sezgisel, duyarlı ve “insana benzer” hale getiriyor. Sanal asistanlar, adaptif ekranlar, kişiselleştirilmiş öneriler, arama, çeviri ve diğer yapay zeka destekli özellikler, cihazlarımızla etkileşim şeklimizi kolaylaştırıyor ve geliştiriyor. Cebimizdeki yapay zekanın bariz faydaları, evimizdeki koltuğumuzdan dakikalar içinde bir bankada ya da ödeme kuruluşunda hesap açabilmeyi sağlaması örneğinde olduğu gibi hissedilse de bazı uzmanlar mahremiyetimize, özerkliğimize ve refahımıza ciddi bir maliyet getirebileceği konusunda uyarıyor.
Bu makalede, yapay zeka destekli kimlik ve yüz tanıma gibi gelişmiş finansal teknoloji çözümleri sunan bir şirketin çalışanı olarak, size cep telefonumuzdaki yapay zeka ile ne kadar harika şeyler yapılabileceğinden çok bireysel ve toplumsal olarak getirebileceği risklerden bahsedeceğim.
Korkma ama farkında ol!
Yapay zekanın bu kadar çok kişisel veriye erişmesine izin vermek iki ucu keskin bir kılıç. Konumunuzu, alışkanlıklarınızı, ilgi alanlarınızı ve daha fazlasını bilen bir algoritma riskli olabilir. Bu veriler uygun şekilde güvence altına alınmadığı takdirde istismar edilebilir, çalınabilir veya kötüye kullanılabilir. Verilerin nasıl kullanıldığına ilişkin şeffaflık endişeleri taşıyan pek çok tüketici ne kadar veri toplandığından ve şirketlerin bundan nasıl para kazandığından rahatsızlık duymaktadır.
Yapay zeka daha fazla görev ve karar aldıkça, aşırı güveni teşvik etme riskini getiriyor. Kullanıcılar sağladığı kolaylık ve kişiselleştirmeye fazlasıyla bağımlı hale gelebiliyor. Yapay zekanın kullanıcıları manipüle etmek veya teknoloji bağımlılığı gibi sorunları daha da kötüleştiren zararlı içerikleri tanıtmak için kötüye kullanıldığına dair korkular da var.
Yapay zeka asistanlarına ve sohbet robotlarına aşırı güvenmek, daha az insan etkileşimi anlamına geliyor. Otomatik etkileşimlerin verimliliği basit görevler için bir artı olsa da, insan bağlantılarının yerini tamamen almamalıdır. Müşteri hizmetleri gibi daha karmaşık durumlarda yapay zeka hâlâ insanın incelik ve empati yeteneklerinin gerisindedir. Mobil kullanıcılar, gerçek dünyayla sağlıklı ilişkileri sürdürme konusunda da dikkatli olmalıdır.
Tüm teknolojiler gibi yapay zeka da yalnızca temel aldığı veriler kadar tarafsızdır. Makine öğrenimi algoritmalarının sorunlu eğitim verilerinden insan önyargılarını devraldığı durumlar vardır. Irk, cinsiyet, etnik köken ve daha pek çok konu, önyargılı mobil yapay zeka yoluyla yayılabilir. Şirketlerin ayrımcılığı önlemek için etiğe öncelik vermesi ve algoritmaları sürekli denetlemesi gerekmektedir.
Her otomasyonda olduğu gibi yapay zeka da, uygun değişiklik yönetimi uygulanmadığı takdirde insan iş gücünün azalmasına neden olabilir. Müşteri hizmetleri temsilcileri ve telefonla pazarlamacılar gibi belirli pozisyonlar halihazırda etkilenmiştir. Mobil yapay zeka sayesinde yeni işler yaratılacak olsa da, kısa vadede düşük gelirli rolleri orantısız bir şekilde etkileyebilir.
İlerlemek için…
Yapay zeka tabii ki risklerin yanı sıra muazzam şeyler de vaat ediyor. Yapay zeka mobil teknolojiye daha da entegre hale geldikçe, onun gelişimine bilinçli bir şekilde rehberlik etmemiz gerekiyor. Peki uzmanlar bizlere ne öneriyor?
- Yapay zeka uygulamalarını değerlendirirken kârdan ziyade insan refahına öncelik verin.
- Veri toplama konusunda kullanıcının kontrol gücünü ve şeffaflığı artırın.
- Yalnızca reklama ve veri madenciliğine dayalı olmayan iş modellerini teşvik edin.
- Kullanıcıların yapay zekanın deneyimlerini nasıl şekillendirdiğini anlamaları için algoritmik okur-yazarlığı geliştirin.
- Sosyal faydayı merkeze alan etik yapay zeka için standartlar geliştirin.
- Mahremiyeti ve ruh sağlığını korumaya yönelik düzenlemeler yapın.
- Ekonomik etkileri hafifletmek için otomasyondan elde edilen kazançları vergilendirin ve yeniden dağıtın.
- Gelişmiş yapay zeka uygulamalarını izlemek için bağımsız organlar oluşturun.
- Mümkün olduğunda özelleştirmeye izin verin ve manipülatif yapay zekayı devre dışı bırakın.
- Otomasyonu insan becerilerinin değerini koruyacak düzenlemeler ile dengeleyin.
Amaç, yapay zekanın vereceği zararı en aza indirirken, yaşamları iyileştirme vaadini yerine getirmek olmalıdır. Dikkatli davranılırsa mobil teknolojiler insanlığa yararlı olacak şekilde gelişmeye devam edebilir. Ancak bu gelişim proaktif bir şekilde yönlendirilmeli ve asla tehlikeler göz ardı edilmemelidir. Aksi takdirde Stephen Hawking’in robotlarından önce cebimizdeki küçük yaramazların sonumuzu getirmesi kaçınılmaz olacaktır.
