Bir yapay zeka modeli için mimari seçmek sıradan bir teknik karar gibi görünebilir. Piyasada açık ara önde görünen bir model olabilir. Ekipten biri o modeli daha önce kullanmış veya probleme yeterince yakın bir benchmark (karşılaştırmalı test) bulmuş olabilir. Karar verilir ve yola devam edilir.
Seçilen mimari, probleme dair bir teoriyi zaten içinde taşır. Verinin yapısı, görevin gerektirdikleri ve sistemin neyi öğrenebileceği hakkında varsayımlarla gelir. Bu varsayımları ilk bakışta görmek zordur. Daha fazla yatırımla neyin gelişeceğini ve neyin sınıra dayanacağını belirleyen de onlardır.
Çoğu ekip bununla er ya da geç karşılaşır. Performans belli bir noktada takılır ve alışıldık müdahaleler sonuç vermez. Mimari, genellikle sorgulanan son şey olur.
Her mimari, akıl yürütmenin nasıl çalıştığına dair bir teoridir
Her mimari, anlamanın nasıl gerçekleştiğine dair belirli bir görüşe dayanır. Sonraki bütün kararları da bu görüş biçimlendirir. Bu tercih tasarıma sonradan eklenmez, tasarımın içine baştan yerleşmiştir.
Transformer mimarilerini düşünün. Temel varsayımları, bağlamın belirleyici olduğudur. Girdinin her parçası diğer bütün parçalarla ilişkili olabilir ve model hangi bağlantıların önemli olduğunu öğrenir. Örneğin İngilizcedeki “bank” sözcüğünün anlamını çevresindeki kelimeler belirler: Nehir kıyısından mı, bankadan mı söz ediliyor? Transformer mimarileri, girdide birbirinden ne kadar uzakta olursa olsun bu tür ilişkileri çözmek için tasarlanmıştır. Böylece model, girdinin her noktasında bağlamın tamamından yararlanabilir.
CNN’ler farklı bir varsayımla başlar: Yapıyı belirleyen şey yakınlıktır. Birbirine yakın pikseller birbirini sınırlar, uzaktakilerin etkisi ise çoğunlukla daha azdır. Basit ve yerel özellikler giderek büyüyen ölçeklerde birleşir. Kenarlar şekillere, şekiller nesnelere dönüşür ve karmaşık görsel anlam bu şekilde ortaya çıkar. Bu yaklaşım, görüntü verisinin gerçek yapısıyla iyi örtüşür. “Yakınlığın” mekansal bir anlam taşımadığı sahtecilik grafiklerinde ise aynı şey geçerli değildir.
GNN’ler, ilişkilerin bizzat veri olduğu problemler içindir. Burada belirleyici olan node’lar değil, edge’lerdir. Bir sahtecilik ağında tek bir işlemin kendisinden çok, parayı kimin kime gönderdiği, hangi hesapların birlikte kümelendiği ve farklı isimler altında hangi bağlantıların tekrarlandığı önemlidir. GNN, bilgiyi bu bağlantılar boyunca taşır. Anlamın tek tek kayıtlarda değil, grafik üzerinde birikmesini sağlar.
Diffusion modelleri bunların hepsinden farklı çalışır. Çıktıyı sırayla tahmin etmek yerine gürültüyle başlar, bir sinyalin yönlendirmesiyle bu gürültüyü adım adım gidererek hedefe yaklaşır. Üretimi tahmin değil, iyileştirme süreci olarak ele alır. Ortaya çıkan sonuçları görene kadar tuhaf gelebilecek bir yaklaşımdır.
Bunlar yalnızca farklı fiyat-performans dengeleri sunan mühendislik tercihleri değildir. Bir sistem akıl yürütürken hesaplamanın gerçekte ne yaptığı sorusuna verilen farklı yanıtlardır. Her problem bu yanıtlardan birine örtük olarak daha yakındır. Asıl soru, seçilen mimarinin bu yapıyla uyuşup uyuşmadığıdır.
Mimari yalnızca yöntemi değil, varsayımları da belirler
Bir transformer seçmek, daha tek satır eğitim kodu yazılmadan global bağlamın değerli olduğu varsayımını kabul etmek demektir. Girdinin herhangi bir bölümünü anlamak için başka herhangi bir bölümüne dikkat etmek gerekebilir. Dil söz konusu olduğunda bu çoğu zaman doğrudur. Önemli olanın bir nesnenin kenarının düz mü kıvrımlı mı olduğu bir görüntü sınıflandırma probleminde ise gereksiz ve pahalı olabilir.
Bir CNN seçildiğinde mekansal yakınlığın önemli olduğu varsayımı da kabul edilmiş olur. Yakındaki pikseller yapıyı belirler, uzaktaki piksellerin birbirine etkisi daha sınırlıdır. Bu varsayım görsel verinin yapısıyla o kadar iyi örtüşür ki CNN’ler yıllarca bilgisayarlı görü alanına hakim oldu. Aynı nedenle, ne kadar dikkatle ayarlanırsa ayarlansın, ilişkisel bir grafiğe uygulandığında zayıf sonuç verir. Grafikte “yakınlığın” anlamlı bir tanımı yoktur. Temel varsayım geçerli değildir.
Problemle uyuşmayan bir mimarinin yarattığı fark bütünüyle kapatılamaz. Daha iyi promptlar yazmak, fine-tuning (ince ayar) uygulamak ve çevresine yardımcı katmanlar kurmak mümkündür. Ancak bunların hepsi mimarinin doğal yönüne karşı çalışır ve sonunda mimari ağır basar. Çıktılar teknik açıdan makul görünürken yapısal olarak yanlış kalır. Bu yanlışlığı anlatmak zordur, düzeltmek daha da zor.
Bazı sorular bazı mimarilere uymaz
Model belirli bir görev türünde zayıf kalır. Veri iyidir ama sistem yine de çalışmaz. İlk refleks yüzeyde bir çözüm aramaktır: Daha net promptlar, daha fazla örnek. Ya da sorun veriye yüklenir. Bazen neden bunların hiçbiri değildir. Sorunun yapısıyla onu yanıtlaması beklenen mimari birbiriyle uyuşmuyordur.
Her mimari ailesi farklı türde sorulara uygundur. Bazıları sınıflandırma ve bilgi getirme, bazıları üretim, bazıları da grafikler ile ağlardaki yapıyı bulmak için kurulmuştur. Mimari bu soruları yalnızca farklı verimlilik düzeylerinde yanıtlamaz. Hangi soruların kendi yapısına uyduğunu da belirler.
Grafik ilişkilerine dayalı bir problemde transformer, GNN’den yalnızca daha düşük performans göstermez. Problemi çözülebilir hâle getiren ilişkisel yapıdan yararlanamaz. Parametre sayısını artırmak veya promptu sıkılaştırmak bunu değiştirmez. Çünkü iki müdahale de modelin mevcut yapısı içinde kalır.
Bir model aynı görev türünde sürekli başarısız oluyorsa alışıldık açıklamalar yüzeydedir: prompt, veri veya hiperparametreler. Mimarinin bu tür bir soruya baştan uygun olup olmadığı daha temel bir sorudur ve nadiren sorulur.
Her mimarinin uygun olduğu ve olmadığı alanlar
Mimariye gömülü varsayımların hangi problemlerde işe yaradığını, hangilerinde ters yönde çalıştığını gösteren kısa bir referans.
Sınıflandırma veya erişim
Transformer
Güçlü uyum
CNN
Kısmi uyum
GNN
Kısmi uyum
Diffusion
Uyumsuz
RNN-LSTM
Kısmi uyum
Metin üretme
Transformer
Güçlü uyum
CNN
Uyumsuz
GNN
Uyumsuz
Diffusion
Kısmi uyum
RNN-LSTM
Kısmi uyum
Görsel üretme
Transformer
Kısmi uyum
CNN
Kısmi uyum
GNN
Uyumsuz
Diffusion
Güçlü uyum
RNN-LSTM
Uyumsuz
İlişkileri bulma
Transformer
Kısmi uyum
CNN
Uyumsuz
GNN
Güçlü uyum
Diffusion
Uyumsuz
RNN-LSTM
Kısmi uyum
Mekansal örüntüleri algılama
Transformer
Kısmi uyum
CNN
Güçlü uyum
GNN
Uyumsuz
Diffusion
Kısmi uyum
RNN-LSTM
Uyumsuz
Dizileri işleme
Transformer
Güçlü uyum
CNN
Kısmi uyum
GNN
Kısmi uyum
Diffusion
Uyumsuz
RNN-LSTM
Güçlü uyum
Tavanı mimari, ona ne kadar yaklaşıldığını diğer kararlar belirler
Aynı veriyle eğitilen iki model, mimarileri farklıysa aynı görevde farklı yetenek tavanlarına ulaşır. Veri, her modelin kendi tavanına ne kadar yaklaşacağını belirler. Tavanın nerede olduğu ise verinin değil mimarinin meselesidir. Ne kadar yatırım yapılırsa yapılsın o tavan yerinden oynamaz.
İyi veriyle eğitilmiş bir model belirli bir görev türünde hâlâ beklenen performansı göstermiyorsa sorun veri olmayabilir. Model sınıfı, bu görev türünde yapabileceklerinin yapısal sınırına dayanmış olabilir.
Bu hatanın pahalı hâli, sınırı erken fark etmemektir. Ekip, ürünün gerçekte ihtiyaç duyduğu şeyi yapamayacak bir mimarinin çevresinde ciddi bir altyapı kurduktan ve uzun süre iyileştirme denedikten sonra sorun ortaya çıkar. O aşamada mimariyi değiştirmek pahalıdır, ilk kararın gerekçesi çoktan unutulmuştur. Sorun ilk sprintte verilen kararda değil, veri kalitesinde, eğitim sürecinde veya model sağlayıcısında aranır.
Bilinçli seçim için üç katmanlı bir çerçeve
Doğru mimari, probleme aynı anda üç katmandan bakıldığında genellikle belirginleşir. Çoğu ekip yalnızca tek katmana göre seçim yapar. Bu da çoğu zaman marka bilinirliği veya başkasına ait bir problemin benchmark sonuçlarıdır. Üç katmanı birlikte değerlendirmek seçenekleri hızla daraltır. Bunun için gereken tek şey, problemin gerçekte ne olduğuna dair dürüst bir konuşmadır.
İlk katman, problemin hesaplama yapısıdır. Problem ikili ilişkilerden mi oluşuyor? Bir cümlede birbirinden uzaktaki kelimelerin birbirini sınırlaması gibi, her öğe başka herhangi bir öğeyle ilişkili olabilir mi? Bu yapı transformer mimarilerine işaret eder. Yapı, görüntüdeki piksellerin konumla tanımlanması gibi mekansal yakınlıktan mı doğuyor? Bu durumda CNN’ler öne çıkar. Anlam tek tek varlıklarda değil, aralarındaki bağlantılarda mı taşınıyor? Sahtecilik ağları, öneri sistemleri ve molekül modelleri gibi problemler GNN’lere işaret eder. Yoksa sıralı tahmin yerine adım adım iyileştirmeyle yüksek kaliteli ve yapılandırılmış bir çıktı mı gerekiyor? Bu da diffusion modellerinin alanıdır. Problemin hesaplama yapısı, tek bir benchmark sonucuna bakmadan önce seçenekleri ciddi ölçüde azaltır.
İkinci katman, sorunun türüdür. Bu, verinin biçiminden farklıdır. Burada inference (çıkarım) sürecinin yapısına bakılır. “Bu nedir?” sorusu encoder tabanlı mimarilere uygundur. “Bundan bir şey üret” sorusu decoder tabanlı transformer mimarilerine, “Bu neye benziyor?” sorusu diffusion modellerine, “Bunların arasındaki ilişki nedir?” sorusu ise GNN’lere işaret eder. Aynı sektördeki iki ekip, verilerine yapısal olarak farklı sorular sorduğu için bambaşka mimarilere ihtiyaç duyabilir. Sorunun türü tek başına bile belirli bir modeli değerlendirmeye başlamadan önce seçeneklerin çoğunu eleyebilir.
Üçüncü katman, alandaki verinin gerçekte nasıl göründüğüdür. Sağlık verisi tek biçimli değildir. Uzun klinik notlar geniş bağlam destekleyen transformer modellerine, yapılandırılmış kayıtlar çoğu zaman klasik yöntemlere veya hibrit mimarilere, tıbbi görüntüler ise CNN’lere işaret eder. Böylece aynı kurumda, çoğu zaman aynı hastayı anlatan üç veri biçimi için üç farklı mimari ailesi gerekir. Finans verisi, zaman serisi hâlindeki işlem akışlarını, tablolardaki risk özelliklerini ve işlemler arasındaki bağlantıları gösteren sahtecilik ağlarını birlikte barındırır. Hukuk alanında karmaşık çapraz referanslara sahip çok uzun belgeler ağırlıktadır. Bu da geniş bağlam için tasarlanmamış transformer mimarilerini zorlar. Üretimde ise sensör akışları ve büyük ölçekte, yüksek hassasiyetli görsel denetim vardır. Sektörün adı, verinin biçiminden daha az şey söyler.
Üç katman aynı yönü gösterdiğinde seçim genellikle açıktır. Farklı yönleri gösterdiklerinde ise bu gerilim dikkate değerdir. Çoğu zaman problem, farklı mimarilere ihtiyaç duyan birden fazla alt problem içeriyordur. Doğru sistem tasarımı her şeyi tek bir modele zorlamak yerine bu ayrımı yansıtır.
Bu probleme hangi mimari uyuyor?
Model seçimi altyapıya dönüşmeden önce kısa bir kontrol.
1 / 3
Adım 1: Bilginin yapısı
Seçildi
Sistemde nasıl bir bilgi kullanılıyor?
Yararlı sinyalin çoğunlukla nerede bulunduğunu en iyi anlatan seçeneği işaretleyin.
Fark edilmeden verilen karar
Çoğu ekip mimarisini bilinçli biçimde seçmekten çok, o dönemde en çok konuşulan seçeneğe doğru sürüklenir. Bugün bu seçenek transformer tabanlı dil modelleridir. Güçlüdürler ve geniş bir problem kümesine iyi uyarlar. Ancak mekansal görsel sınıflandırma, işlem bağlantılarına dayalı sahtecilik tespiti, yapılandırılmış görüntü üretimi veya sıralamanın katı olduğu zaman serisi tahminleri için aynı ölçüde uygun değildirler. Bu problemlerde transformer kullanmak beceriksizlik değildir. Soruyu hiç sormamış olmanın öngörülebilir sonucudur.
Her sistemin bir mimarisi vardır. Tek soru, bu mimarinin seçilmiş mi yoksa varsayılan olarak mı kabul edilmiş olduğudur.
Mimariyi, uygulamaya dair ilk tercihten önce bilinçli biçimde değerlendirmek gerekir. Bu üç katmanı gerçek probleme dürüstçe uygulamak yeterlidir. Bunu yapan ekipler genellikle daha iyi çalışan ve bakımı daha kolay sistemler kurar. Daha iyi bir model buldukları için değil, neyi seçtiklerini anladıkları için.
Bunun için geliştirmeye başlamadan önce doğru soruyu sormak yeterli.