Şirketler, yapılan işin büyük kısmı entegrasyon olsa bile birçok projeyi yapay zeka girişimi olarak tanımlıyor. Bir destek aracına dil modeli ekleniyor, raporlama ekranına tahmin özelliği geliyor veya şirket içi arama kutusu soruları yanıtlamaya başlıyor. Ardından bu etiket strateji sunumlarına, ürün yol haritalarına, işe alım planlarına ve çeyreklik değerlendirmelere giriyor.
Yapay zeka etiketi, birbirinden oldukça farklı işleri aynı şeymiş gibi gösteriyor.
Bir tarafta yeni yapay zeka yetenekleri geliştiren çalışmalar var: Model mimarileri geliştirmek, model eğitmek, öğrenme yöntemleri tasarlamak ve bir sistemin yapabileceklerini genişletmek. Diğer tarafta ise mevcut bir yeteneği belirli bir şirket içinde işe yarar hâle getiren çalışmalar bulunuyor. Bunun için sistemi doğru veriye bağlamak, iş akışına yerleştirmek, neleri yapabileceğine karar vermek, arayüzü kurmak, hataları yönetmek ve sonucun bir sonraki iş adımına ulaşmasını sağlamak gerekiyor.
Şirketlerin çoğu ikinci tür işi yapıyor. Yapay zeka geliştirmiyorlar. Yapay zeka kullanan ürünler ve iş akışları geliştiriyorlar.
Bu daha önemsiz bir iş değil. Çoğu durumda iş değerinin tamamını bu çalışma yaratıyor. Ancak bileşenle yapılan işi birbirine karıştırmak, dikkati yanlış yere yöneltiyor. Ekipler için asıl sorun modelin zekasını belirli bir işletme içinde faydaya dönüştürmekken modelin ne kadar akıllı olduğuna odaklanıyorlar.
Bu ayrım önemli. Çünkü iki çalışma farklı insanlar, farklı mimariler ve farklı başarı ölçütleri gerektiriyor. Entegrasyon, kendi adıyla anılacak kadar değerli bir iş.
”Yapay zeka ekleyelim” bir proje kapsamı değildir
Bir yöneticinin “Müşteri desteğine yapay zeka eklemeliyiz” dediğini düşünün.
Bu cümle bir yön gösteriyor gibi görünse de işe yarar soruların hiçbirini yanıtlamıyor. Desteğin hangi bölümü değişmeli? Sistem talebi mi anlamalı, ilgili hesap bilgilerini mi bulmalı, sonraki adımı mı önermeli, yanıt mı hazırlamalı, yoksa vakayı tamamen mi çözmeli? Sonucu kim kullanacak? Sistem emin olmadığında ne olacak? Hangi eylem işin tamamlandığını gösterecek?
“Yapay zeka eklemek”, yeteneğin ne işe yarayacağını söylemeden yalnızca adını koyar.
Cümleyi daralttığınızda proje gerçek bir kapsama kavuşur: Abonelik vakalarında temsilcilerin doğru iade politikasını bulmak için harcadığı süreyi azaltmak. Artık ortada bir kullanıcı, karar, bilgi kaynağı ve gözlemlenebilir bir sonuç vardır. Model, talebi anlamaya veya doğru bölümü bulmaya yardımcı olabilir. Ancak projeyi tanımlayan modelin varlığı değil, iş akışında neyin değiştiğidir.
Finans tarafında da aynı sorun görülür. “Faturalarda yapay zeka kullanalım” demek alanları çıkarmak, mükerrer faturaları tespit etmek, satın alma siparişleriyle eşleştirmek, bir anormalliği açıklamak veya hangi vakaların incelenmesi gerektiğine karar vermek anlamına gelebilir. Bunlar farklı ürünlerdir. Farklı verilere ihtiyaç duyar ve farklı biçimlerde hata verirler. Hepsini tek bir teknoloji etiketi altında toplamak, yapılacak işi asıl belirleyen kararları görünmez kılar.
Yapay zeka etiketini kaldırın
Etiketin arkasındaki işi görün.
Projenin tamamı
Yapay zeka destekli müşteri hizmetleri
Model yalnızca bir parçadır. Ürün, iş akışının tamamıdır.
Etiketi kaldırmak projenin iddiasını küçültmez. Tam tersine, bu iddiayı geliştirilebilir bir kapsama dönüştürür.
Bir yetenek, tek başına ürün değildir
Bir model belgeyi özetleyebilir. Ürünün ise hangi belgenin özetleneceğini, belgenin güncel olup olmadığını, onu kimin görebileceğini, nasıl bir özetin işe yarayacağını, özetin nerede gösterileceğini ve okurun ardından ne yapabileceğini bilmesi gerekir.
Bir model talebi tahmin edebilir. Ürün doğru geçmiş veriyi bir araya getirmeli, stok tükenmesiyle ilgi eksikliğini ayırt etmeli, planlama dönemini seçmeli, tahmini satın alma kararından önce ulaştırmalı ve sonuca göre hareket edilip edilmediğini kaydetmelidir.
Bir model destek talebini sınıflandırabilir. Ürün bu sınıflandırmayı doğru müşteriyle ilişkilendirmeli, yönlendirme kurallarını uygulamalı, hizmet taahhütlerine uymalı ve vakayı sorumlusu belli bir kuyruğa yerleştirmelidir.
Yetenek, bir teknolojinin teoride yapabildiği şeydir. Ürün ise bu yeteneğin gerçek bir çalışma ortamının gerekleriyle nasıl buluştuğudur.
Etkileyici bir demo, kimseyi yanıltmayı amaçlamasa bile yanlış izlenim verebilir. Demo, kolayca görülebilmesi için yeteneği diğer her şeyden ayırır. Faydalı bir ürün bunun tersini yapar. Yeteneği bağlam ve kısıtlarla çevreleyerek günlük işlere güvenilir biçimde katılmasını sağlar. Sistem tamamlandıkça model daha az görünür olur.
Her iki şeye de “yapay zeka” demek, belirsizliğin nerede kaldığını görmeyi zorlaştırır. Model dar kapsamlı görevi zaten iyi yapıyorsa bir ay daha model karşılaştırmak pek az katkı sağlayabilir. Yanıt bekleyen asıl sorular kimlik, yetkiler, verinin güncelliği, istisnaların sahibi veya sonraki sistemin hangi çıktıyı beklediğiyle ilgili olabilir. Bunlar entegrasyon sorularıdır. Model daha akıllı olduğunda ortadan kaybolmazlar.
Şirkete özel yapay zeka, şirkete özel model demek değildir
Şirketler farklılaşan bir yapay zeka ürününün herkesten farklı bir modelle başlaması gerektiğini sıkça varsayar. Rakipler de aynı API’yi kullanabiliyorsa bu ürünün şirkete özel yanı nedir?
Onu işletmenin parçası yapan neredeyse her şey.
İki şirket aynı müşteri destek modelini kullanıp birbirinden tamamen farklı ürünler geliştirebilir. İlk şirket çalışanlara ayrı bir sohbet ekranı verir ve müşteri mesajlarını buraya yapıştırmalarını ister. İkincisi sistemi bilgi bankasına bağlar. Yanıt artık daha fazla bilgiye dayanır, ancak çalışan yine hesabı kendisi bulur ve sonucu destek sistemine kopyalar. Üçüncüsü doğrulanmış müşteri, sipariş, abonelik ve politika bilgilerini otomatik olarak bir araya getirir. Öneriyi mevcut vaka ekranında gösterir, sistemin kendi başına yapabileceği işlemlerle onay gerektirenleri ayırır ve sonucu daha sonra incelemek üzere kaydeder.
Kullandıkları temel yetenek aynıdır. Ortaya çıkan ürünler değildir.
Mimari alıştırması
Talep ile iade arasındaki akışı tasarlayın
"Aboneliğim dün yenilendi. Ücretimi iade edebilir misiniz?"
Her seçenekte aynı temel model kullanılıyor
Talebi belirler ve bir yanıt taslağı hazırlar
Çalışanın hâlâ yapması gerekenler
İş sonucu
Yararlı bir taslak
Veriyi ve eylemleri sistemler arasında çalışan taşıyorsa, entegrasyonu yapan da çalışandır.
Şirkete özel kısım pek çok yerde olabilir: Problemin nasıl parçalara ayrıldığı, hangi bağlamın bir araya getirildiği, kuralların nerede uygulandığı, insanların sonuçla nasıl etkileşime girdiği ve sonuçların nasıl geri bildirime dönüştürüldüğü. Bu kararlar zamanla birikerek rakibin aynı model sağlayıcısında hesap açarak kopyalayamayacağı bir sistem oluşturur.
Bazı problemler gerçekten yeni bir model geliştirmeyi gerektirir. TensorBundle bu problemler üzerinde de çalışıyor. Ancak mevcut bir model ihtiyaç duyulan yeteneği zaten sunuyorsa yeni bir model eğitmek işi ciddiye almanın göstergesi değildir. Asıl ürün çalışmasının nerede olduğunu görmezden gelmek anlamına gelebilir.
En iyi entegrasyon yapay zekayı görünmez kılabilir
Bir ürünün yapay zeka kullandığını göstermenin en kolay yolu ürüne chatbot eklemektir. Kullanıcı boş bir kutu görür, talebini yazar ve üretilen yanıtı alır. Kullanılan teknoloji ortadadır.
İş akışındaki iyileşmeyi görmek ise o kadar kolay olmayabilir.
Bir destek temsilcisinin vakadan çıkması, yapay zeka aracını açması, müşteri mesajını yapıştırması, eksik bağlamı eklemesi, yanıtı kontrol etmesi ve sonucu destek sistemine geri kopyalaması gerekiyorsa şirket yeteneği entegre etmemiş, yalnızca yeni bir arayüz eklemiştir. Sistemler arasındaki bağlantıyı hâlâ çalışan kurar.
Daha derin bir entegrasyon, doğru politikanın vakanın yanında gösterilmesi, mevcut hesap bilgilerine dayanan bir taslak veya işlemin onaylanabileceği ekranda sunulan bir öneri biçiminde görünebilir. Talep planlamasında, alışılmadık bir tahminin satın alma için son tarihten önce öne çıkarılması olabilir. Belge işlemede ise belirsiz üç alan incelemeye yönlendirilirken geri kalan verilerin normal biçimde ilerlemesi olabilir.
Bu deneyimlerin hiçbirinin kendini parıltı ikonuyla duyurması gerekmez. Kullanıcı sistemin ne önerdiğini, bu önerinin hangi kanıta dayandığını ve kontrolün ne kadarının kendisinde kaldığını anlamalıdır. Sonucun üretilmesinde bir modelin rol aldığını sürekli hatırlamasına gerek yoktur.
Ürün ekipleri için yararlı soru şudur: Yapay zeka özelliğini nasıl görünür kılarız diye sormak yerine, kullanıcının yolundaki gereksiz işlerin ne kadarını kaldırabiliriz? En olgun sonuç, gidilecek ayrı bir yapay zeka ekranından çok kullanıcının ne yapmak istediğini sonunda anlayan mevcut ürüne benzeyebilir.
Model, sistemin en kolay değiştirilen parçası olmalı
Yapay zeka ürünleri ilk aşamada model seçimini çoğu zaman kalıcı bir kimlik gibi ele alır. Ürünlerini belirli bir sağlayıcı veya model ailesi tarafından destekleniyor diye tanımlar, ardından bu tercihin promptlara, veri yapılarına, uygulama mantığına ve kullanıcı arayüzlerine yayılmasına izin verirler.
Oysa modeller, içinde kullanıldıkları işletmeden daha hızlı değişecektir. Sağlayıcılar yeni sürümler çıkarır, eskilerini kullanımdan kaldırır, fiyatları değiştirir ve farklı yetenekleri farklı hızlarda geliştirir. Şirket ayrıca maliyet için daha küçük, gizlilik için yerel veya iş akışının bir bölümü için uzmanlaşmış bir modele ihtiyaç duyabilir.
Müşteri kaydı, onay politikası, vaka geçmişi ve tamamlanmış bir iadenin tanımı bunlarla birlikte değişmek zorunda kalmamalıdır.
İyi entegre edilmiş bir ürün, modele sınırları belli bir rol verir. Bağlam, istek modele ulaşmadan hazırlanır. Modelin çıktısı tanımlanmış bir sözleşmeye uymalıdır. İş kuralları, yetkiler ve önemli sonuçlar doğuran eylemler çevredeki sistemde kalır. Değerlendirme vakaları tek bir sağlayıcının özelliklerini değil, ürünün ihtiyaç duyduğu davranışı tanımlar. Modeli değiştirmek yine emek ister, ancak iş sürecinin ne olduğunu baştan keşfetmeyi gerektirmez.
30 günlük hizmet sonlandırma bildirimi
Model ortadan kalkarsa neler bozulur?
Model kaldırıldığında kaybolması beklenen parçaları seçin.
İlk API çağrısı başarıyla tamamlandığında entegrasyon bitmiş olmaz. Veri şemaları, yetkiler ve iş kuralları değişir. Kullanıcılar aracı kullanmanın yeni yollarını bulur. Entegrasyon, içindeki yetenek gelişirken veya değiştirilirken tüm bu değişiklikleri taşıyan uzun ömürlü üründür.
Model sistemden çıkarılması en zor bileşense ürünün kontrolü yeterince şirkette olmayabilir.
İşin adını doğru koymak, onu kimin yapması gerektiğini de değiştirir
Kullanılan dil, mimariden önce projeyi biçimlendirir.
Bir çalışmaya yapay zeka projesi dendiğinde ilk sorular genellikle modellerle ilgilidir: Hangi sağlayıcı, hangi benchmark (karşılaştırmalı test), hangi prompt, hangi uzman? Bunlar geçerli sorular olabilir. Ancak şirket mevcut bir yeteneği entegre ediyorsa zor iş başka bir yerde duruyor olabilir.
Birinin iş sürecini neyin değişmesi gerektiğine karar verecek kadar iyi anlaması gerekir. Birinin erişim sınırlarını görmezden gelmeden ilgili verileri kullanılabilir hâle getirmesi gerekir. Birinin ürün akışını kurması, bileşenler arasındaki sözleşmeleri tanımlaması, istisnaların nasıl ele alınacağını tasarlaması, sonucun tamamını test etmesi ve lansmandan sonra sorumluluk alması gerekir.
Bu ekip, özellikle model davranışını değerlendirmek ve modelin sınırlarının nerede önemli olduğunu anlamak için makine öğrenmesi uzmanlığına ihtiyaç duyabilir. Ürün, backend, veri, güvenlik ve alan uzmanlığı da gerekir. Daha önemlisi, ekipte bu alanlar arasında çalışabilen insanlar bulunmalıdır. Alanlar arasındaki geçişlerin sorumluluğunu kimse üstlenmiyorsa çok iyi uzmanlardan oluşan bir ekip kendiliğinden entegre bir sistem ortaya çıkarmaz.
İşin adını doğru koymak, başarı tanımını da değiştirir. Yeni bir model yeteneği geliştiren ekip, bir araştırma sonucunu veya benchmark iyileşmesini haklı olarak başarı sayabilir. Mevcut bir yeteneği entegre eden ekip ise ortaya çıkan sistemin yerleştirildiği kararı veya iş akışını iyileştirip iyileştirmediğine bakmalıdır. Vakalar daha hızlı çözüldü mü? Yeniden işlenmesi gereken fatura sayısı azaldı mı? Planlama ekipleri tahmine göre hareket etti mi? Çalışanlar aracın sistemler arasındaki manuel bağlantısına dönüşmeden onu benimsedi mi?
TensorBundle’da bu ayrım, probleme yaklaşımımızı değiştiriyor. Bazen kısıt gerçekten modelin içindedir ve yeni yöntemler geliştirmek gerekir. Çoğu zaman model kendi payına düşeni zaten yapabiliyordur. Asıl zorluk, çevresindeki sistemi kurmaktır. Bu iki durumu aynı kabul etmek, daha proje başlamadan yanlış öneriye götürür.
Bir dahaki sefere biri yapay zeka girişimi önerdiğinde bunun doğru etiket olup olmadığını tartışarak başlamayın. Daha yararlı bir soru sorun: Yeni bir yetenek mi geliştiriyoruz, yoksa mevcut bir yeteneğin burada işe yaramasını mı sağlıyoruz?
Cevap entegrasyonsa bunu açıkça adlandırmak gerekir. Ürün, ekip ve beklentiler de gerçekten yapılan işe göre tasarlanmalıdır.