Cem Aydede ile Barış Yalın Uzunlu, Fintechtime Temmuz sayısı için yazdı, “Geleceğin Yapay Zekası: Bulutta mı, Cihazda mı?”.

“Gizlilik ve güvenlik endişelerinin global trendlerde üst sıralarda yer almaya başladığı zamanımızda Apple’ın ChatGPT ile işletim sistemi seviyesinde entegre olma kararı oldukça eleştirildi. Bu yazımızda bu eleştiriyi derinlemesine inceleyerek makine öğrenim modellerinin cihaz üzerinde veya bulut üzerinde çalışmalarının kullanıcılar için fayda ve zararlarına ışık tutmaya çalışacağız.”

 

Geleceğin Yapay Zekası: Bulutta mı, Cihazda mı?

Üretken yapay zekanın popülerleşmesi ve OpenAI’ın yükselen benimseme oranları ile tüm yaş gruplarına dağılması sonrası metin, ses ve resim gibi içerikleri makine öğrenim modellerine ürettirmek artık yaşantımızın bir parçası haline geldi. Yakın zamanda elektrikli araba projesini rafa kaldıran, sanal gerçeklik yatırımına yönelen Apple da kullanıcılarının üretken yapay zeka faydalarından yararlanması adına yeni çözümü Apple Intelligence’ı 10 Haziran geliştirici konferansında duyurdu. Fakat Apple kendine has pazarlama stratejisi gereği bir defa daha trend olmuş teknoloji tanımlayıcı kelimelerden uzaklaşarak AI ve GenAI kelimelerinin kullanımından kaçındı ve makine öğrenim modelleri ile üretken işler yapabilmek ve hayatımızı kolaylaştırabilmek adına çözümlerinin Apple Intelligence olarak duyurulmasına karar verdi. Bu açıklama tabii sadece pazarlama odaklı değil; Apple üretken yapay zeka çözümünü duyururken odağına aldıkları değerler olarak güç, kolay kullanım, entegre yapı, kişisellik ve gizlilik temalarını öne çıkardı. Tim Cook çözümlerinin amacını “en kişisel cihazlarınızı daha da kullanışlı ve zevkli hale getirmek” şeklinde özetledi. Teknik olarak Apple Intelligence’ı 4 ana kalemde özetleyebiliriz; Dil becerileri, görsel üretim becerileri, gelişmiş Siri ve ChatGPT entegrasyonu. İlk 3 özellik için Apple’ın stratejisi olabildiğince cihaz üzerinde modellerini çalıştırmak ve kullanıcı taleplerini karşılamada yetersiz kalındığında kullanıcı onayı ile ChatGPT’nin bulut üzerindeki modelini kullanmak. Gizlilik ve güvenlik endişelerinin global trendlerde üst sıralarda yer almaya başladığı zamanımızda Apple’ın ChatGPT ile işletim sistemi seviyesinde entegre olma kararı oldukça eleştirildi. Bu yazımızda bu eleştiriyi derinlemesine inceleyerek makine öğrenim modellerinin cihaz üzerinde veya bulut üzerinde çalışmalarının kullanıcılar için fayda ve zararlarlarını ışık tutmaya çalışacağız.

 

Bulut ve makine öğrenim modelleri

OpenAI’ın geliştirdiği ChatGPT’nin başarısının ana etkenlerinden birisi bulut üzerinde kendini kullanıcı girdileri ile sürekli geliştiren ve web üzerinde her yerden erişebilinen bir çözüm olmasıdır. ChatGPT’nin çözdüğü problem ve ilk çıkışındaki sunduğu müşteri deneyimi bulut üzerinde çalışmasının artılarını sonuna kadar kullanıyordu. Hatırlayacak olursak çıkışında sorgu kredisi satılarak web üzerinden merak ettiklerimizi sorduğumuz ve cevap aldığımız bir deneyim sunuyordu ChatGPT. Burada tıpkı bir arama motoru gibi kullanıcıların ulaşmak istedikleri bilgiyi girdi olarak alıp bulut üzerinde topladığı tüm veriler ile eğittiği modellerinden kullanıcıya en uygun olan cevabı paylaşıyordu. Müşteri deneyimi olarak sistemin bulutta çalışmasının temel artısının büyük veri kaynaklarını bulut altyapısında tutarak müşteriye başarı oranı yüksek çıktılar verebilmesi olarak yorumlayabiliriz. Öyle ki Apple da ChatGPT entegrasyonunu vurgularken kendi makine öğrenim modellerinin cevaplayamayacağı noktalarda buraya sorgu gönderilebileceğini paylaşarak ChatGPT’nin buradaki gücünü kabul etmiş oldu. Deneyimdeki ana eksileri ise müşteri girdilerinin buluta gitmesi ve buradan cevap alınması için internet bağlantısı gerekliliği ve bu etkileşimin ihtiyaç duyduğu zaman. 10 yaşındaki birinin “uçaklar nasıl uçabiliyor” veya “tuvaletlerin şekli neden böyle” gibi soruları sorması için birkaç saniye beklenmesi kabul edilebilirken “bana alarmımı her zamanki saatime ayarla” ve “gelen mesajı özetle” gibi talepler için bu süre kullanıcı deneyimini kötü etkileyebilir. Güvenlik kısmı ise bulut çözümlerinin en çok tartışıldığı alanlardan bir tanesi; bu yazının hazırlık aşamasında BTCTürk’ün siber saldırıya uğradığı, işlemlerini 6 saatliğine durdurduğunu ve milyon dolarlarca zararın beklendiği haberi gündemde bulunuyordu. Yakın gelecekte makine öğrenim modelleri ile gelişecek sanal asistanlar belki de akıllı cihazlarımızla etkileşime geçmemizdeki ana yöntem olacak. Iron Man’deki Jarvis gibi her derdimizi doğal dil ile paylaşarak çözüm üretebildiğimiz bir asistanın kullanıcılarca benimsenme oranının yüksek olacağını düşünüyoruz (zaten bu işi mesajlaşarak yapmaya çalışan ChatGPT’nin popülerliği de bu hipotezimizi doğrular nitelikte). Bulut üzerinde çalışan makine öğrenim modellerinin başlıca güvenlik riskleri veri ihlallerinden kimlik doğrulama zafiyetlerine, siber saldırılardan yapılandırma hatalarına kadar geniş bir yelpazede değişiklik göstermektedir. Bunların yanı sıra ChatGPT gibi çözümlerini kullanıcı girdileri ile geliştiren ve internetteki içerikleri model eğitimi için kullanan makine öğrenim modelleri ile paylaşılan verilerin farklı kullanıcıların ellerine geçilebileceğini de unutmamak gerekir. Grandma Hack gibi yöntemler ile modellerin hacklenmesini sağlayarak asistanların paylaşmaması gereken hassas verileri paylaşması gibi durumlar ile daha sık karşılaşabiliriz (Bu hack yöntemi ile ChatGPT’e kullanılmamış Windows lisans anahtarları paylaştırılabiliyordu). Bu gibi risklerin ışığında akıllı telefonlarımız gibi mesajlarımız, banka hesaplarımız gibi mahrem bilgilerimizin olduğu süreçlerin tamamını bulut tabanlı makine öğrenim modellerinin kullanımına ve beslenmesine açmanın ciddi bir risk olduğu aşikar.

 

Cihazda çalışmanın avantajları

Apple sesli asistan Siri’yi 2011 yılında ilk tanıttığında cihaz üzerinde çalışması nedeni ile birçok komutu anlamaması nedeniyle oldukça eleştirilmiş hatta asistanların Internet Explorer’ı ilan edilmişti. Bunun temel sebebi olarak Siri’nin birçok işlem için cihaz üzerindeki algoritmaları kullanmasını gösterebiliriz. Muadilleri Amazon’un Alexa’sı ve Google Asistan’a göre cihaz üzerinde komutlara yanıt vererek gerektiği noktalarda interneti araştırıp kullanıcıya cevap veren Siri’nin deneyim konusunda geri kaldığını söyleyebiliriz. Apple, yeni tanıttığı yapay zeka çözümü ile benzer bir deneyim sunmayı hedefliyor, ancak buradaki temel fark Private Cloud Compute adını verdikleri kendilerine özel bulut çözümü ve cihaz üzerindeki güçlü işlemciler. Bu sayede sadece sınırlı durumlarda kullanıcılara sorarak kendi iletişim yapıları üzerinden OpenAI’a entegre olarak bulut güvenliği risklerini minimize etmeyi planlıyorlar. Ancak cihaz üzerinde bu modelleri çalıştırmanın da bir takım güvenlik zafiyetleri bulunuyor. Verilerin yerel olarak işlenmesi sayesinde gizlilik avantajları sunsa da, çeşitli güvenlik risklerini de beraberinde getirir. Cihazın çalınması, yetersiz şifreleme nedeniyle üçüncü partilerin verilere ulaşması, yetersiz güncelleme nedeniyle sistemsel açıkların çözülememesi gibi cihaz üzerinde çalıştırmaya özgün riskler mevcuttur. Kullanıcı deneyimi olarak da kullanıcılar alarm kurma, metin ve görüntü üretme gibi işleri buluta göre hızlı bir şekilde yapabilecekken yetersiz kalınan işlerde ChatGPT gibi üçüncü partilere sorgu yollama ve cevap verme gibi sürtünmeli deneyimler de bulunacaktır. Buradaki deneyimin iyi veya kötü olacağını belirleyecek temel faktörün Apple’ın Private iCloud Compute yapısının ne kadar verimli çalışacağı olacağını söyleyebiliriz.

 

Hibrit bir dünyaya doğru

Yapay zekanın cihaz üzerinde mi yoksa bulut üzerinde mi çalışması gerektiği konusundaki tartışmalar, teknolojinin evrimi ve kullanıcı deneyimleri açısından oldukça önemli bir rol oynamaktadır. Cihaz üzerindeki çözümler, veri güvenliği ve hız açısından avantajlar sunarken, bulut tabanlı çözümler geniş veri tabanlarına erişim ve sürekli güncelleme avantajlarıyla öne çıkıyor. Apple’ın bu dengeyi sağlamaya yönelik yenilikçi yaklaşımı, kullanıcıya hem güvenlik hem de performans sunma hedefiyle dikkat çekiyor. Apple Intelligence’ın cihaz üzerinde çalışarak kullanıcı verilerini koruma taahhüdü, veri güvenliğine yönelik endişeleri hafifletebilirken, bulut tabanlı çözümlerle entegre olma esnekliği, daha karmaşık ve geniş veri gerektiren işlemler için uygun bir çözüm sunmaktadır. Gelecekte, üretken yapay zeka teknolojilerinin hem bulut hem de cihaz üzerinde etkin bir şekilde çalışabilen hibrit modellerin yaygınlaşması bekleniyor. Bu modeller, kullanıcıya her iki dünyanın da en iyisini sunma potansiyeline sahip. Teknolojinin bu iki yönlü gelişimi, veri gizliliği ve kullanıcı deneyimi arasındaki dengeyi sağlayarak, kullanıcılara daha kişisel ve güvenli bir dijital deneyim sunmayı amaçlamaktadır. Sonuç olarak, cihaz ve bulut tabanlı yapay zeka çözümlerinin gelecekte bir arada çalışarak daha etkili ve güvenli teknolojik çözümler sunacağı bir dünyaya doğru ilerliyoruz. Elektrikli araçlarda hibritlerin kazandığı gibi bu işin de kazananının hibrit makine öğrenim modelleri olması muhtemel görünüyor.