Yaratılışta Yazılı Olan

Bir çiçeğin kaç yaprağı olduğunu hiç saydınız mı? Zambak üçle, düğün çiçeği beşle, papatya yirmi birle biter. Rastgele değil. Bir dizi var: 1, 1, 2, 3, 5, 8, 13, 21... Her sayı kendinden önceki ikisinin toplamı. Ve bu dizinin ardışık sayılarının birbirine oranı, büyüdükçe 1.618'e yaklaşır. Altın oran.

Bu düzen güzel olsun diye konulmamış. En az enerjiyle en yüksek verimi almak için konulmuş. Güneş ışığından maksimum yararlanmak, rüzgara dayanmak, alanı en iyi şekilde doldurmak için. Yaratılışın içine işlenmiş bir mühendislik kararı bu. Ve fark etmeden geçip gidiyoruz.

Geçip gitmememiz lazım.

Ağaç neden öyle dallanır?

Bir ağacın dallanmasına uzaktan bakın. Ana gövde ikiye ayrılır. Ayrılan her dal, ana gövdenin aynı kuralını kopyalayarak ikiye ayrılır. O dallar da kendi içinde aynı formülü tekrarlar. Yapraklara, kılcal damarlara kadar. Aynı şemanın kendini sonsuza kadar tekrar etmesi. Matematikçiler buna fraktal diyor.

Eğrelti otu yapraklarına bakın. Romanesco brokolisine. Bir bulutun şekline. Hepsi aynı prensibi taşıyor: kendi kendini tekrar eden bir büyüme kuralı. Hem estetik hem yapısal olarak neden en dayanıklı, en verimli biçim olduğu yaratılışın içinde zaten yazılıydı. İnsan onu keşfetmesi onlarca yıl aldı.

1968'de bir biyolog, Aristid Lindenmayer, bu büyüme kurallarını matematiksel bir dile döktü. L-Sistemleri. Bitki hücrelerinin bölünme ve dallanma mantığını formüle eden algoritmalar. Bugün animasyon filmlerindeki ormanlar, oyunlardaki bitki örtüleri bu matematiksel formüllerle sıfırdan üretiliyor.

Bir algoritma yaratılışa yazılmıştı. İnsan onu yeniden okudu.

Yapay zeka bu algoritmayı neden istedi?

Modern dil modelleri, yani ChatGPT ya da Claude gibi sistemler, özünde Transformer adı verilen bir mimari üzerine kuruludur. Bu mimarinin kalbinde ise bir dikkat mekanizması var: bir cümledeki her kelimenin diğer her kelimeyle ilişkisini hesaplamak. Metin büyüdükçe bu işlem katlanarak ağırlaşır. Her kelime, diğer her kelimeyle tek tek eşleşmek zorundadır.

İşte burada araştırmacılar yaratılışın düzenine baktı.

Fibottention adını verdikleri bir dikkat katmanı geliştirdiler. Bu katman her kelimeyi sonraki her kelimeyle eşleştirmiyor. Fibonacci dizisindeki aralıklarla bakıyor: 1 kelime sonrasına, 2 sonrasına, 3, 5, 8... Tıpkı ayçiçeğinin merkezindeki tohumların, birbirine çarpmadan en az boşlukla dizilmesi gibi. Sonuç: standart işlem gücünün yüzde ikisi ile yüzde altısı arasında çalışarak benzer doğruluk. Az maliyetle yüksek verim. Yaratılışın içindeki formülün mühendisliğe aktarılmış hali.

FractalNet'te ise sinir ağının katmanları fraktal bir düzende tasarlanıyor. Büyük bir katman bloğu, kendi içinde daha küçüklere ayrılıyor. Onlar da daha küçüklere. Eğitim sırasında bu dalların bazıları rastgele kapatılıyor. Ve model hata yapmadan çalışmaya devam ediyor. Bir ağaç birkaç dalı kesildiğinde yaşamaya devam eder; yapay zeka da bu direnci kazanıyor.

Mühendisler yeni bir şey icat etmedi; yaratılışta zaten var olanı ödünç aldı.

Peki geometri nasıl kuruluyor?

Bir yapay zeka modelinin içinde, görünmez bir uzay var. Bu uzayda "tıp" kelimesi bir yerde, "kardiyoloji" ona yakın bir yerde, "matematik" başka bir köşede duruyor. Kelimeler arasındaki mesafe, anlam arasındaki mesafe.

Model, milyarlarca cümleyi okurken kelimelerin birbirini takip etme sıklığına bakarak bu uzayı inşa etti. "Tıp" ile "ameliyat" sık yan yana geliyor; model bunları yakın yerleştiriyor. "Tıp" ile "fraktal" nadiren bir arada; model bunları uzak tutuyor.

Ama düz bir zeminde bu geometriyi kurmak imkansız. Bilgi hiyerarşisi derinleştikçe, dallar birbirine çarpıyor. Bu yüzden araştırmacılar eğri bir uzaya geçiyor: hiperbolik geometri. Merkezde kök kavramlar, dışa doğru açıldıkça sonsuz bir alan. Her ana dal kendi içinde kusursuzca ayrışıyor, birbirine karışmadan.

Ve işte bu geometri düzgün kurulduğunda ilginç bir şey oluyor: model, daha önce hiç görmediği bir bağlantıyı kurabiliyor. "Atomun yapısı Güneş sistemiyle aynı geometriye sahip" diyor. Çünkü hiperbolik uzayda bu iki kavramın şekli birbirinin üzerine katlanıyor. Analoji, zorla kurulmuyor. Geometriden kendiliğinden çıkıyor.

İnsan yeni bir şeyi öğrenirken bildikleri üzerinden bağ kurar. Yapay zeka da aynı şeyi yapıyor, ama bu kez geometrik mesafeler üzerinden. Her iki durumda da işleyen şey, yaratılışa yerleştirilmiş aynı örüntünün farklı yüzeylerde kendini tekrar etmesidir, belki de...

Verinin kalitesi her şeyi belirler

Burada durmak lazım. Çünkü mimari ne kadar zekice olursa olsun, üzerine inşa edildiği verinin kalitesiyle sınırlı.

Eğer eğitim verisinin yüzde seksenini tıp makaleleri oluşturuyorsa, modelin o kusursuz geometrisi yamulur. "Tıp" dalı devasa bir gövdeye dönüşür; matematik, kimya, felsefe cılız çalılar olarak köşede kalır. Model her şeyi tıpla ilişkilendirmeye başlar. "Kök" sorusuna kök hücre cevabı verir.

Bunu ölçmenin bir yolu var: Shannon entropisi. Bir veri kümesindeki çeşitlilik ve bilgi yoğunluğunun matematiksel ölçüsü. Eğer metin sürekli aynı kelimeleri tekrar ediyorsa entropi sıfıra yaklaşır; veri kalitesizdir. Dengeli, çeşitli ve sürpriz dolu bir metinde entropi maksimuma ulaşır; model oradan beslenerek büyüyebilir.

Büyük dil modellerini eğiten şirketler, modele herhangi bir veri vermeden önce bu ölçümleri uygulayarak veriyi temizler, dengeler, kırpar. Baskın kaynakları törpüler, eksik olanları tamamlar. Veri mühendisliği, mimari kadar kritik.

Kirli, dengesiz bir toprakta hiçbir tohum düzgün kök salamaz.

Difüzyon modelleri ne getiriyor?

Klasik dil modelleri metni soldan sağa üretir. Kelime kelime, sırayla. Cümlenin başında, sonun nereye varacağını bilmez.

Difüzyon modelleri farklı çalışır. Önce tamamen rastgele bir gürültü bulutu oluşturur. Sonra onu adım adım temizler; heykeltıraşın mermeri yontması gibi. İlk adımda kaba hatlar belirir. Sonra ana kavramlar. Sonra ince ayrıntılar. Son adımda okunabilir bir cümle.

Bu yaklaşımın getirdiği şey sadece teknik değil; epistemik. Model bilgiyi kelime sırasıyla değil, olasılık bulutlarının geometrisiyle işliyor. "Atom" kavramının olasılık bulutu ile "Güneş sistemi" kavramının olasılık bulutu şekil olarak örtüşüyor mu? Örtüşüyorsa model bu benzerliği hissediyor ve aralarında bir köprü kuruyor.

Analoji böyle doğuyor. Ezberden değil, geometriden.

Ve yeni bir şeyi öğrenmek için artık trilyonlarca örneğe gerek kalmıyor. Model elindeki mevcut geometrik kalıpları alıyor, ikisini birbirine karıştırıyor ve yeni kavramı o hibrit şekilden çıkarıyor. Az veriyle, hızlı, bağlantılı.

İnsan zihni de böyle öğrenmiyor mu, zaten?

Yaratılışta yazılı olan

Yapay zeka araştırmacıları her sıkıştıklarında aynı yere dönüyorlar: yaratılışın içine yerleştirilmiş düzene. Fibonacci yaprak açısında, fraktal dal geometrisinde, hiperbolik büyüme örüntüsünde. Bunlar insan aklının icat ettiği şeyler değil; keşfettiği şeyler.

Keşfetmek ile icat etmek arasındaki bu fark küçük görünüyor, ama değil. İcat edenin sahibi insan olur. Keşfedenin sahipliği ise her zaman tartışmalıdır; bulgu senin değildir, sen sadece oraya ulaştın.

Mimari yaratılıştan ödünç alınıyor, esneklik veriden geliyor, geometri her ikisinden kuruluyor. Ve bu üçü doğru kurulduğunda, yapay zekanın öğrenme biçimi insanın öğrenme biçimine benzemeye başlıyor: bilinen üzerinden bilinmeyene, analoji üzerinden yeniye, az veriyle çoğa. Belki de bu benzerlik tesadüf değildir; ikisi de aynı kaynağın izini taşıyor olabilir.

Yaratılışa yazılmış olan, okunmayı bekliyor.

Biz sadece okumayı öğreniyoruz.