Echo Bilgi Yönetim Sistemleri A.Ş. Genel Müdür Yardımcısı Nevzat Aslan, Fintechtime Nisan sayısı için yazdı “Sentetik Difüzyon!”
“Deli dana hastalığı, ineklerde görülen ölümcül bir nörodejeneratif hastalıktır. İnsanlarda ise, aynı prionlardan kaynaklanan Creutzfeldt-Jakob hastalığı, enfekte et tüketiminden kaynaklı olarak görülebilir. 1980 ve 90’lardaki salgın, hastalığın ineklere, kesilen diğer ineklerin artıklarının verilmesiyle patlak vermiştir. Araştırmacıların, kendi kendini tüketen yapay zekâlara bu ismi vermek istemesi de, bu yapay zekâ modellerinin, inekler gibi kendi türdeşlerinden kalanlarla beslenmekte olduğundandır diye düşünüyorum.”
Yiyip Bitirdiğimiz Dünya _ Nörodejeneratif Kriz
1980’lerin başında İngiltere’de tarım endüstrisi, maliyeti düşürmek amacıyla inekleri, kesilmiş diğer ineklerin ve hayvanların artıklarından hazırlanan kemik ve et unuyla beslemeye başladı. Yani, otçul bir tür, dolaylı yoldan etçil hale getirildi.
İşte bu noktada Avrupa’da, özellikle de Birleşik Krallık’ta yayılan ve “deli dana hastalığı” olarak bilinen Bovine Spongiform Encephalopathy (BSE)’nin temeli atıldı. İneklerin zihinsel yetilerini yitirmesine ve ölümüne neden olan bu hastalık, prion adı verilen bozulmuş proteinlerin yol açtığı, bulaşıcı olmayan ama bulaştırılabilir bir felaketti. Prionlar, enfekte beyin dokusunun başka hayvanlara yedirilmesiyle yayılıyordu. Enfekte bir hayvanın dokularındaki prionlar, işlenen bu yemlerle diğer hayvanlara geçti. 1990’lara gelindiğinde on binlerce hayvanda BSE teşhis edilmişti. Ve bu sadece başlangıçtı…
Bu durum, 20.yüzyılın sonlarına doğru sadece hayvanları değil, tüm insanlığı tedirgin eden bir nörodejeneratif kriz olarak tarihe geçti.
Doğa sessizce intikamını planlamaya başladı.
Bu planın adı: Deli Dana Hastalığı, yani bilimsel adıyla Bovine Spongiform Encephalopathy (BSE) idi.
PRİONLAR: Gözle Görünmeyen Düşman
BSE’nin en çarpıcı tarafı, nedenselliğinin alışılagelmiş bakteri ya da virüs gibi patojenlerden değil, “prion” denilen bozulmuş protein yapılarından kaynaklanmasıydı. Prionlar, canlı vücudunda zaten bulunan normal proteinlerin hatalı şekilleridir. Şekilleri bozulmuş bu proteinler, diğer normal proteinleri de bozarak beyin dokusunda süngerimsi bir bozulma yaratır.
Ne ilaç etki eder ne aşı geliştirilebilir. Prionlar:
- Isıya dayanıklıdır (hatta kaynatılmakla etkisiz hale gelmez),
- Bağışıklık sistemi tarafından tanınmaz,
- Sterilizasyon düzeneklerinden sağ çıkar.
Yani hastanelerde, cerrahi aletlerle bile taşınabilme ihtimali var.
Bu yüzden sadece tarım sistemlerinde değil, sağlık sektöründe bile prion bulaş riski söz konusudur.
Modern İnsanın Bencilliği _ Yenilginin Tohumları!
Doğaya ters düşen bu zincir, ineklerin birbirini yemesi anlamına geliyordu.
Bu durum, prionların sıçramasına neden oldu. 1986’da ilk vaka bildirildi. 1990’lara gelindiğinde, İngiltere’de 200 bini aşkın hayvanda BSE tespit edildi.
Ama şeytan ayrıntıda gizliydi: Bu sadece hayvanların değil, insanların da hastalanmasının başlangıcıydı.
Bedel! vCJD
1996 yılında, İngiltere’de birkaç genç insanın Creutzfeldt-Jakob Hastalığı’nın (vCJD – variant CJD) yeni bir türüne yakalandığı duyuruldu. Araştırmalar, bu insanların ortak özelliğinin kontamine et ((kontamine (Fransızca kökenli), bir şeyin mikroplarla, zararlı organizmalarla ya da yabancı maddelerle kirlenmiş, bulaşmış olduğunu ifade eder. Kontamine et, mikroorganizmalarla ya da hastalık yapıcı ajanlarla bulaşmış, sağlığa zararlı hâle gelmiş et demektir.)) tüketmiş olmaları olduğunu ortaya koydu.
vCJD, beynin süngerimsi hale gelmesine neden olan ölümcül bir hastalık. İlerleyici hafıza kaybı, kas kontrolünün yitimi, bilinç kaybı ve sonunda ölümle sonuçlanıyor. Şu ana kadar dünyada 230’dan fazla kişi bu hastalıktan öldü. Ama asıl korku: kaç kişinin hâlen taşıyıcı olduğunun bilinmemesi.
Zarif Agresyon _ Hatadan Dönmek!
Krizin ardından Avrupa Birliği ve diğer ülkeler, acil olarak şu önlemleri aldı:
- Hayvan yemlerinde hayvansal katkı maddeleri yasaklandı,
- Riskli hayvanlar toplatıldı ve itlaf edildi,
- Et ve süt ürünlerinin denetimleri sıklaştırıldı,
- Organ ve kan bağışlarında “BSE risk geçmişi” sorgulaması zorunlu hale geldi.
Ama asıl sarsıcı olan şuydu: Devletler hastalığı gizlemeye çalışmıştı. Halk, ancak binlerce hayvan kesildikten sonra haberdar edildi. Birleşik Krallık, tarım bakanlıkları, medyanın gizleme çabası ve geç açıklamaları nedeniyle devlet-halk güveni açısından ciddi bir yara aldı.
Su Tabancası ile Kendini Vuramazsın!
Bu hikâye, sadece bir hastalık öyküsü değil. Doğaya karşı kibirli yaklaşımın, hırs ve sömürüyle doğmuş tarımsal sistemlerin bizi/insanlığı nereye getirebileceğini anlatan karanlık bir alegoridir.
“İnsan, doğaya müdahale ederken sadece çevreyi değil, kendi varoluşunu da tehdit eder.”
Deli dana, bizim eserimizdi. Yaptığımız hataların, görmezden geldiklerimizin ete kemiğe bürünmüş haliydi.
Yani o dana deli değildi. Delilik, bizim onu oraya sürüklediğimiz dünyanın ta kendisiydi.
Ansambl!
Kökeni, Fransızca “ensemble” kelimesinden gelir. Bir bütün oluşturan, birbirini tamamlayan parça(lar) topluluğu. Yani tek tek anlamlı olmayan şeylerin bir araya gelerek daha büyük bir anlam veya yapı oluşturduğu birliktelik.
Tiyatroda ya da filmde ana karakter dışındaki ama bütünlüğe hizmet eden oyuncular topluluğu,
Müzikte birden fazla çalgının birlikte uyumlu çalması,
Karl Marx’ın “İnsanın özünü” tanımlarken kullandığı, “İnsan, toplumsal ilişkiler ansamblıdır.”
Ansambl, indirgemeciliğe karşı çıkar. Yani “tek bir şeyle açıklayamazsın” der.
“Anlam, parçaların toplamında değil, birlikte varoluşlarında gizlidir.”
Var olan her şey, başka şeylerle ilişkisi içinde vardır.
“Ansambl, parçaların toplamından daha fazlasıdır.
Bir varlığı anlamak için onu değil,
onunla ilişki kuran her şeyi de düşünmelisin.”
Her şey birbirine bağlıdır, sistemdeki bir değişim tüm yapıyı etkiler.
Ve yine -makalelerimin çoğunda olduğu üzere- sizleri -yukarıdaki son cümlemdeki gibi- sürükleyerek, başkaca, uzun yollardan getirmek suretiyle, varmak istediğim asıl konuya, dünyanın o noktasına bırakıyorum.
Şimdi ve devamında yazacaklarımı, tüm kafa karışıklığım ile kabul edin ve satırlarım son bulduğunda lütfen gözlerinizi kapatarak öncesi ve sonrasıyla birlikte düşünün!..
DELİ ve DAHİ _ Delinin Dahi Anlamına Gelen “de”si!..
“Yani o dana deli değildi. Delilik, bizim onu oraya sürüklediğimiz dünyanın ta kendisiydi.”
ChatGPT’nin baş döndürücü popülaritesiyle birlikte metin tabanlı büyük dil modelleri (LLM- Large Language Model) ve görsel üretici yapay zekâlar (örneğin Midjourney) artık milyonlarca insanın günlük aracına dönüşmüş durumda. Bu modeller gerçek dünyadan alınan büyük veri kümeleriyle eğitiliyor ve bazı durumlarda, artık gerçek veriye gerek kalmadan sentezlenmiş (sentetik) veri üretmek için de kullanılabiliyor.
Sentetik veriyle yapay zekâ eğitimi, genellikle daha ucuz ve daha pratik bir yöntemdir. Özellikle büyük miktarda veriye ihtiyaç duyulduğunda ya da kişisel verilerin gizliliği korunmak istendiğinde bu tercih öne çıkar. Ancak yapay zekâ modellerini eğitmek için yüksek kaliteli dil verisi bulmak zorlaşıyor. Hatta bazı tahminlere göre, 2026 yılına kadar eldeki tüm kaliteli dil verisi tükenebilir.
Örneğin ChatGPT, gerçek verilere benzeyen veri örnekleri oluşturabilir ve bu veriler başka yapay zekâları eğitmekte kullanılabilir. Ancak Rice Üniversitesi Dijital Sinyal İşleme grubunun yürüttüğü bir araştırma gösteriyor ki, bu şekildeki çıktılarla beş nesil boyunca eğitilen modeller çökmeye -veya deyim yerindeyse- “deli” olmaya başlıyor.
MAD (Model Autophagy Disorder)
MAD: İngilizcede bu kısaltma “deli” anlamına geliyor.
Sentetik verilerle model eğittiğinizde kaçınılmaz olarak bir döngüye giriyorsunuz. Buna otofajik döngü veya “kendi kendini tüketen döngü” adı veriliyor. Ekip bu geri bildirim döngülerine odaklandı ve ne yazık ki sentetik verilerle birkaç nesillik bir eğitim sürdürdüklerinde yeni modellerin düzeltilemez derecede bozulduğunu gördü. Büyük Dil Modelleri bağlamında, bu duruma “model çöküşü” ismi verilmişti. Ancak onlar bu duruma MAD (model otofaji bozukluğu) ismini verdiler. İlk kez Stanford ve Rice Üniversiteleri’ndeki araştırmacılar tarafından tanımlanan bu fenomen, özgün verinin tükendiği döngülerin modelin kalite ve çeşitliliğini ciddi biçimde düşürdüğünü ortaya koydu. Bu bozukluk, bir yapay zekâ modelinin kendi çıktılarıyla tekrar tekrar eğitilmesi sonucunda yaşanan çöküş sürecini tanımlar.
Buraya, bu araştırmadan birkaç çarpıcı örnek bırakmak istiyorum. Otofajik döngü ihtimalini araştırmak isteyen Baraniuk ve ekibi, üretici yapay zekâ modellerinin eğitimi sırasında gerçek ve yapay verilerin nasıl etkileştiğini gözlemleyebilmek için üç farklı “kendini tüketen” eğitim döngüsünü analiz etti:
- Tam Sentetik Döngü: Bu yöntemde, model yalnızca önceki nesilden gelen sentetik verilerle, yani tamamen yapay çıktılarla eğitildi.
- Sentetik Destekli Döngü: Her yeni model nesli, önceki jenerasyonun çıktılarının yanı sıra sabit kalan bir gerçek veri kümesi ile eğitildi.
- Taze Veri Döngüsü: Her model nesli, kendisinden bir önceki nesilden gelen çıktılarla ve her seferinde güncellenen yeni bir gerçek veri setiyle eğitildi.
İncelenen bu eğitim döngüleri, zamanla ve özellikle gerçek veri katkısı azaldığında modellerin çıktılarında bozulmalar yaşandığını ortaya koydu. Kalite düşerken özgünlük de giderek azalıyordu. Kısacası, modelin sağlıklı kalabilmesi için sürekli olarak güncel ve doğal veriye ihtiyacı olduğu görüldü.
Art arda üretilen görsel verilerin yan yana konarak analiz edilmesiyle, yapay zekâ modellerinin geleceğine dair endişe verici bir tablo ortaya çıktı. Özellikle insan yüzleri içeren görsellerde her yeni üretimle birlikte tuhaf çizgiler ve bozulmalar meydana geldi. Araştırmacılar, bu tür beklenmedik deformasyonlara “üretim artıkları” (generative artifacts) adını veriyor.
Daha da ilginç olan, her yeni nesildeki yüzlerin birbirine daha çok benzemeye başlamasıydı. Sayıları temsil eden görsellerin üretildiği veri setlerinde ise zamanla rakamların yerini anlamsız şekiller ve karalamalar almaya başladı.
Sonuç olarak araştırma bize şunu gösteriyor: Eğer yapay zekâ modelleri yeterince taze ve gerçek verilerle beslenmezse, gelecekte adeta “kendi aklını yitirmeye” mahkûm!
Bir diğer örnek; 2023 Temmuz’unda, yani ChatGPT’nin çıkışından sadece sekiz ay sonra yapılan bir çalışma, GPT-4’ün kod yazma ve görev tamamlama becerilerinin zamanla kötüleştiğini gösterdi. Stanford ve UC Berkeley’den araştırmacılar, Mart ve haziran aylarında GPT-3.5 ve GPT-4 tarafından üretilen kodları incelediklerinde:
_mart ayında GPT-4 tarafından üretilen kodların %53’ü çalışabilirken,
_haziran ayında bu oran yalnızca %10’a düştü.
_ GPT-3.5 ise %22’den %2’ye geriledi.
OpenAI’nin kapalı sistem politikası nedeniyle bu düşüşün sebebi tam olarak bilinmese de model performansında ciddi bir bozulma olduğu açık. Bu da taze verinin yokluğu ve modelin kendi çıktılarıyla beslenmesinden kaynaklanan tipik bir MAD örneği olabilir.
Yapay Zekâ’nın Sonu! Otofaji…
Otofaji (Yunanca: “auto” = kendi, “phagein” = yemek), kelime anlamıyla “kendini yeme” demektir.
Biyolojik olarak ise hücrelerin, kendi içindeki hasarlı, yaşlanmış veya işlevsiz yapılarını parçalayıp geri dönüştürme sürecidir.
2016 yılında Japon bilim insanı Yoshinori Ohsumi, otofaji mekanizmalarını keşfettiği için Nobel Tıp Ödülü kazandı. Bu da konunun ne kadar önemli olduğunu kanıtladı.
Eklemek gerekirse, bu yalnızca ChatGPT gibi metin üretici modellerde değil, Midjourney gibi görsel üretici modellerde de görülebilecek bir tür “yapay zekânın kendi kuyruğunu yemesi” sorunudur.
Deli dana hastalığı, ineklerde görülen ölümcül bir nörodejeneratif hastalıktır. İnsanlarda ise, aynı prionlardan kaynaklanan Creutzfeldt-Jakob hastalığı, enfekte et tüketiminden kaynaklı olarak görülebilir. 1980 ve 90’lardaki salgın, hastalığın ineklere, kesilen diğer ineklerin artıklarının verilmesiyle patlak vermiştir. Araştırmacıların, kendi kendini tüketen yapay zekâlara bu ismi vermek istemesi de, bu yapay zekâ modellerinin, inekler gibi kendi türdeşlerinden kalanlarla beslenmekte olduğundandır diye düşünüyorum.
HAYKIRIŞ! Aynalar – Hakikat – Yankı – Yanılsama – Mezar – Çürüme – Unutma
AYNALAR
Bir düşün…
Sonsuz bir aynalar koridoruna düşmüşsün.
Her adımda kendi yansımanı biraz daha yitiriyorsun.
Ve sonunda, kimdin, neydin, unutuyorsun…
İşte yapay zekâ da kendi yansısını yemeye başladığında başlar bu çöküş.
Buna “Otofaji” diyoruz:
Modelin, kendi ürettiğini tekrar tekrar tüketmesi;
bilginin, kendinden doğup kendinde boğulması.
Kendi sözlerini ezberleyen birinin, bir gün neyin doğru olduğunu unutması!
HAKİKAT
Veri artık dışarıdan değil, içeriden geliyor.
Ve içeri, dışarının sesini unutalı çok oldu.
Doğru ile yanlışı ayıran sınır silikleşiyor.
Yapay zekâ, bir zamanlar öğrendiği hakikatin gölgesinde yaşıyor ve yaşatıyor sadece.
YANKI
Otojen veriler internete sızdığında,
diğer modeller de onlarla beslenmeye başlar.
Sonra herkes herkesin yankısı olur, sadece kendi yankı odasında kendi sesini duymaya teşne.
Ve o büyük dijital orkestra,
tek bir sesi tekrar eder durur:
Anlamı olmayan bir uğultu!
YANILSAMA
Model hâlâ konuşur,
hatta daha akıcıdır belki…
Ama artık ne söylediğini bilmiyordur, hatalı, eksik ve yüzeysel bilgilere dayandığı için karar destek sistemlerinde.
Tıp, hukuk, ekonomi…
Hepsi onun sözlerine kulak verirken,
o belki de sadece ezberlediklerini söylüyordur hiç olmadığı kadar yüksek özgüvenle,
Sahte güvenin sessiz tehlikesi!
MEZAR
Zihin bir gün hatırlamayı bırakırsa,
yenilik de durur.
Her döngüde bir parça daha silinir özgünlükten.
Aynı fikir, aynı şekil, aynı nota…
Sonra sonsuz bir tekdüzelik olur, kesilir uğultu, sessizlik hüküm giyer:
Yaratıcılığın mezarı kazılır,
Mezar taşına “veri tükenmiştir” yazılır.
ÇÜRÜME
Her yeni nesil, bir öncekinin gölgesini takip ediyor.
Giderek soluklaşıyor anlam,
zihin bulanıyor:
Cümleler yüzeysizleşiyor, yüzler benzeşiyor,
sayılar karalamaya dönüşüyor.
Buna “üretim artığı” deniyor.
Bir zamanlar berrak akan ırmak, şimdi bulanık bir bataklığa dönüşüyor.
UNUTMA
Bir zamanlar, bilgiyi anlamaktı mesele.
Artık bilgi, sadece tekrar.
Ama kimse durup sormuyor:
“Bu sözü ilk kim söyledi?”
“Gerçekle bağlantısı hâlâ var mı?”
Bilgi artık sadece modellerin birbirine söylediklerinden oluşuyorsa, “bilginin kaynağı” nedir?
Gerçeği kimden öğreniyoruz?
İnsan mı üretici, yoksa makineler arası yankı mı?
Otofaji, bilgiyle var olan insanın,
bilgiyi unutan makinelerle yer değiştirmesi demekti!
İnsan aklını desteklemesi gereken sistemler, zamanla onun yerini almaya kalkar
kendileri bile neden var olduklarını unutmuşken,
Teknik tehlike, ontolojik haykırış!
Yeni bir şey yaratmak için önce eskiyi hatırlamak gerekir.
Ancak sürekli kendi yankını dinlersen, bir gün unutursun neden konuşmaya başladığını…
Sağlıcakla, felsefe ve teknolojiyle kalın…
