Yapay Zekâyı Ürününüze Doğru Yerde Eklemek

Hayır — yapay zekâ, yalnızca gerçek bir sürtünmeyi kaldırdığı yerde bir ürüne değer katar. Son dönemde her ürünün üzerine bir yapay zekâ rozeti iliştirme baskısı var; oysa kullanıcının işini kolaylaştırmayan bir yapay zekâ özelliği, en iyi ihtimalle süs, en kötü ihtimalle ayak bağıdır. Bir düğmeyi bulmayı zorlaştıran bir sohbet kutusu, doğru cevabı üçüncü denemede veren bir asistan ya da kimsenin istemediği bir 'akıllı' öneri, ürünü akıllı yapmaz; yavaşlatır.

Bu yazıyı, yapay zekâyı hem müşteri ürünlerine ekleyen hem de kendi cihaz-üstü uygulaması PocketAnima'yı sıfırdan kuran bir ekip olarak yazıyoruz. Vardığımız yer şu: yapay zekâyı 'ekleyip eklememek' değil, 'nereye ekleyip nereye eklememek' asıl sorudur. Aşağıda önce yapay zekânın gerçekten işe yaradığı yerleri, sonra bilerek uzak durduğumuz yerleri, sonra da onu ürüne gömmeden — çekirdeğe dokunmadan — nasıl kurduğumuzu anlatacağız.

Yapay zekâ, düzenli bir veri modelinin üstüne oturur; altında dağınık veri varsa, en akıllı model bile tahmin yürütmekten öteye geçemez. Bir öneri motoru, kullanıcının geçmiş davranışını temiz kayıtlarda bulamazsa öneremez; bir özetleyici, aynı bilginin beş farklı yerde beş farklı biçimde durduğu bir veritabanında neyi özetleyeceğini bilemez. Bu yüzden bir yapay zekâ özelliği istendiğinde ilk sorumuz modelle değil veriyle ilgilidir: iş verisi tipli kolonlarda mı, tekrar eden kayıt var mı, alanlar tutarlı mı?

Bunu deneyimle öğrendik. Ürünlerimizi tek bir çekirdek üzerine kurarken, müşteri, sipariş, randevu ve rapor verisini dağınık tablolarda değil tek bir yapıda tutmayı ilke edindik. O zamanlar bunu yapay zekâ için yapmıyorduk; sadece düzenli bir sistem istiyorduk. Ama yıllar sonra bir yapay zekâ özelliği eklemek gerektiğinde, üzerine oturacağı zeminin çoktan hazır olduğunu gördük. Yapay zekâya hazırlanmanın en iyi yolu, veriyi baştan doğru tutmaktır — modeli sonra seçersiniz, ama veriyi sonradan düzeltmek pahalıdır.

Yapay zekâ, bir insanın tekrar tekrar yaptığı, sıkıcı ve örüntülü işleri kısalttığı yerde işe yarar. Somut olarak: anlam bazlı arama (kullanıcı aradığını kelime kelime değil, kastıyla bulur), uzun metinlerin özetlenmesi (bir rapor yığınını okunabilir birkaç cümleye indirmek), yapılandırılmamış veriyi kayda çevirmek (bir faturadaki ya da formdaki bilgiyi elle girmeden yapılandırmak) ve kendi verinizle konuşan bir asistan (genel bir sohbet botu değil, sizin belgelerinize bağlı bir katman). Bunların hepsinin ortak yanı, insanın zamanını çalan tekrarlı bir işi devralmalarıdır.

Bir de daha sessiz bir kategori var: karar desteği. Yapay zekâ, bir rapor ya da veri yığınının içindeki sıra dışı örüntüyü işaretleyebilir — bir tutarsızlığı, bir anomaliyi, dikkat isteyen bir kaydı öne çıkarabilir. Burada kritik ayrım şudur: yapay zekâ kararı vermez, kararı hazırlar. İnsanın gözden kaçırabileceği bir şeyi önüne getirir; nihai kararı yine insan verir. En iyi yapay zekâ özellikleri çoğu zaman görünmezdir — arka planda bir listeyi sıralar, bir alanı önceden doldurur, bir uyarıyı zamanında düşürür — ve kullanıcı 'yapay zekâ ile konuştuğunu' bile fark etmez.

Yapay zekâyı, hatanın geri alınamaz olduğu ve insan denetiminin atlandığı yerlere eklememelisiniz. Bir modelin çıktısı olasılıksaldır: çoğu zaman doğru, bazen kendinden emin biçimde yanlış. Parayı otomatik gönderen, bir kaydı insan onayı olmadan silen ya da yasal/tıbbi bir kararı tek başına veren bir yapay zekâ, kazandırdığı hızı bir yanlışta fazlasıyla geri alır. Bu tür yerlerde yapay zekâ olsa olsa öneri sunar; tetiği insan çeker. Otomasyonun sınırı, hatanın maliyetidir.

İkinci 'eklemeyin' alanı, gösterişten ibaret olan yerlerdir. Kullanıcının zaten iki tıkla yaptığı bir işi bir sohbet penceresinin arkasına saklamak, ürünü modernleştirmez; bir adım daha ekler. Yapay zekâyı bir pazarlama rozeti olarak değil, bir sürtünme sökücü olarak düşünmek gerekir. Bir özelliği eklemeden önce sorduğumuz basit test şudur: bu yapay zekâ, kullanıcının bir adımını gerçekten kaldırıyor mu, yoksa sadece 'yapay zekâmız var' diyebilmek için mi orada? Cevap ikincisiyse, o özelliği yazmayız.

Yapay zekâyı ürünün çekirdeğine gömmek bir hatadır, çünkü bu alan hepimizin altında hızla değişiyor: bir sağlayıcı fiyatını değiştirir, bir model güncellenip davranışı kayar, daha iyi bir seçenek çıkar. Modeli uygulamanızın her yerine dağıtmışsanız, bu değişimlerin her biri sizi baştan yazmaya zorlar. Bu yüzden yapay zekâyı bir adaptör olarak ekleriz: sağlayıcıyla konuşan tek bir katman, arkasında sabit bir arayüz. Sağlayıcı değişirse yalnız o adaptör değişir, ürünün geri kalanı yerinde kalır.

PocketAnima'yı kurarken bu ilkeyi en uca taşıdık. Uygulamada motor tek bir arayüzün arkasında durur: cihazda çalışan yerel model de, kullanıcının kendi anahtarıyla bağladığı bir bulut sağlayıcısı da aynı arayüzü konuşur. Kullanıcı bir gün cihazda, ertesi gün bulutta olabilir; uygulamanın geri kalanı bunun farkında bile değildir. Bu, bizim ürün ailemizin genel ilkesidir ve yapay zekâya birebir uyar: kaynak değişince yalnız adaptör değişir, çekirdek dokunulmaz kalır.

RAG, modele soruyu sormadan önce doğru belgeyi bulup önüne koyma tekniğidir; böylece model, genel internet bilgisiyle değil sizin verinizle cevap verir. Mantığı basittir: belgeleriniz anlamlı parçalara bölünür, her parça aranabilir biçimde saklanır, bir soru geldiğinde en ilgili parçalar bulunup modele bağlam olarak verilir. Fark buradadır — model 'bildiğini' söylemez, önüne konan kaynağı okuyup cevaplar. İyi bir RAG kurulumu cevabın hangi kaynaktan geldiğini de gösterir, böylece kullanıcı doğrulayabilir.

İşin dürüst tarafı, RAG'in kalitesinin modelden çok getirme (retrieval) aşamasına bağlı olmasıdır: yanlış parçayı bulursanız, en güçlü model bile yanlış cevap verir. Bu yüzden PocketAnima'da getirмeyi melez kurduk — hem anahtar-kelime hem de anlam bazlı benzerliği birleştirip en ilgili parçayı öyle seçiyoruz. Ve bunu tamamen cihazda çalıştırıyoruz: yüklediğiniz belge bir sunucuya gitmiyor. Kurumsal bir projede aynı deseni müşterinin verisiyle kurarız; genel bir sohbet botu değil, sizin belgelerinize bağlı, kaynağını gösteren bir katman.

Yapay zekânın doğru arayüzü çoğu zaman bir sohbet penceresi değildir. Sohbet, kullanıcının ne isteyeceğini önceden bilemediğiniz, açık uçlu durumlar için iyidir. Ama işin şekli belliyse — bir alanı doldurmak, bir listeyi sıralamak, bir belgeyi sınıflandırmak — en iyi arayüz görünmezdir: yapay zekâ arka planda çalışır, sonucu doğrudan ekrana koyar, kullanıcıyı bir sohbete sokmaz. Her yapay zekâ özelliğini bir sohbet botuna çevirmek, aslında tembel bir tasarım kararıdır.

Bunu seçerken sorduğumuz soru şu: kullanıcı bu işi kelimelerle mi anlatmak ister, yoksa sonucu hazır mı görmek ister? PocketAnima gibi bir üründe sohbet doğru arayüzdür, çünkü ürünün kendisi bir sohbet uygulamasıdır. Ama bir işletme uygulamasında, 'bu faturayı oku ve alanları doldur' işini bir sohbet kutusuna yazdırmak yerine, kullanıcı faturayı yüklediğinde alanların kendiliğinden dolması çoğu zaman daha iyidir. Arayüz kararı, yapay zekânın değerini görünür ya da görünmez kılar.

İnsan onayı, çıktının bir eyleme dönüştüğü her yerde şart olmalıdır. Yapay zekâ bir metin önerdiğinde, bir sıralama yaptığında ya da bir taslak hazırladığında bunu insan görür ve düzeltebilir — sorun yok. Ama o çıktı bir e-postayı gönderiyorsa, bir ödemeyi başlatıyorsa ya da bir kaydı kalıcı olarak değiştiriyorsa, araya bir insan onayı koymak pazarlık konusu değildir. Bu, yapay zekâya güvensizlik değil, olasılıksal bir sistemin doğasına saygıdır: çoğu zaman doğru olan bir şey, her zaman doğru değildir.

Bu ilkeyi tasarıma gömmenin yolu, yapay zekânın çıktısını her zaman 'öneri' olarak sunmaktır — otomatik gerçekleşen bir eylem olarak değil. Kullanıcı öneriyi görür, kabul eder ya da düzeltir; sistem de bu kararı kaydeder. Böylece hem hız kazanılır hem de sorumluluk insanda kalır. Kritik iş kararlarının izlenebilir ve gerekçeli kalması, yapay zekâ eklendikten sonra da bozulmamalıdır; aksine, yapay zekâ bu izlenebilirliği kolaylaştırmak için kullanılabilir.

Bir yapay zekâ özelliğini beş adımda ekliyoruz. Önce veriye bakarız: özelliğin ihtiyaç duyduğu veri düzenli, tipli ve tek kaynakta mı? Değilse, model seçmeden önce kısa bir veri hazırlık turu yaparız. Sonra en küçük yeterli modeli ararız — işi gören en hafif çözüm, en güçlü çözümden çoğu zaman daha iyidir, çünkü daha ucuz, daha hızlı ve daha öngörülebilirdir. Üçüncü adımda özelliği bir adaptör olarak, çekirdeğe dokunmadan kurarız.

Dördüncü adım, gerçek veriyle test etmektir — örnek verilerle değil, kullanıcının gerçek verisinin kenar durumlarıyla; çünkü yapay zekâ tam da orada, beklenmedik girdide şaşırır. Beşinci ve en çok atlanan adım, dürüst bir arayüzdür: çıktının bir tahmin olduğunu, nereden geldiğini ve yanılabileceğini kullanıcıya göstermek. Yapay zekâyı bir sihirbaz gibi sunan ürünler ilk hatada güveni kaybeder; sınırlarını dürüstçe gösterenler, hata yaptığında bile güvenilir kalır.

Bir: bu özellik kullanıcının gerçek bir adımını kaldırıyor mu, yoksa sadece bir rozet mi? İki: üzerine oturacağı veri düzenli, tipli ve tek kaynakta mı? Üç: çıktı bir öneri olarak mı sunuluyor, yoksa geri alınamaz bir eylemi otomatik mi tetikliyor? İlk üç soru, özelliğin yazılmaya değip değmediğini büyük ölçüde söyler.

Dört: en küçük yeterli modeli mi seçtiniz, yoksa 'en güçlü' olanı refleksle mi aldınız? Beş: sağlayıcı ya da model değiştiğinde yalnız bir adaptörü mü değiştireceksiniz, yoksa ürünü baştan mı yazacaksınız? Altı: kullanıcıya çıktının bir tahmin olduğunu ve nereden geldiğini gösteriyor musunuz? Bu soruların cevabı, yapay zekânın ürününüzde bir güç mü yoksa bir yük mü olacağını önceden belli eder.

Yapay zekâ bir ürünün hedefi değil, kullanıcının işini kolaylaştıran bir aracıdır; ve her araç gibi doğru yerde işe yarar, yanlış yerde ayak bağı olur. İyi bir yapay zekâ kararı, 'nasıl yapay zekâ ekleriz' diye değil, 'kullanıcının hangi sürtünmesini kaldırırız' diye başlar. Cevap yapay zekâysa, onu düzenli bir veri modelinin üstüne, çekirdeğe gömmeden, insan onayını koruyarak ve sınırlarını dürüstçe göstererek ekleriz. Cevap yapay zekâ değilse, eklemeyiz — ve bu da bir karardır.

Bu çerçeveyi hem müşteri projelerinde hem de kendi ürünümüz PocketAnima'da uyguluyoruz. Ürününüze yapay zekâ eklemeyi düşünüyor ama nereden başlayacağınızdan emin değilseniz, hangi özelliğin gerçek değer taşıdığını birlikte bulmaktan memnuniyet duyarız. Vosetu olarak yapay zekâyı doğru yere eklemenin, onu her yere eklemekten çok daha değerli olduğuna inanıyoruz.