Bu zamana kadar pek çok yazılım şirketinin yapay zeka ile ilk tanışma anına tanıklık ettim. Bu süreçte edindiğim birkaç tecrübeyi aktarırken, sansasyonel haberlerden ziyade; kurumların yapay zeka ile verimli ve ölçeklenebilir bir şekilde dönüşümlerini nasıl başlatabilecekleri hakkında edindiğim tecrübelerden bahsedeceğim.
Yakın bir zamana kadar bilgi teknolojileri alanında hizmet veren bir yazılım şirketinizin olduğunu varsayalım. Çeşitli dijital dönüşüm projeleri, otomasyonlar belki ERP gibi sistemler geliştirmiş olabilirsiniz. Bir dönemin furyası olan bu projelerin klasik yazılım yaklaşımına dayanan bir başlangıcı ve bir sonu oldu. Bu süreç elbette manuel kod yazma, manuel debug, manuel entegrasyon gibi süreçlerden geçtiği için aylar belki de yıllar alacak sürelerde tamamlanıyordu. Bir e-ticaret sitesinin geliştirme süreci de benzer bir mantıkla işliyordu. Teslimat sonrası büyük güncellemelerden ziyade bugfix'ler, yeni ekranların eklenmesi gibi işlemlerle hizmet vermeye devam edebiliyordunuz. Ne kadar geneli görebiliyor ne kadar optimize bir ürün çıkartabiliyorsanız o denli büyük işler alabiliyordunuz. Bu süreçte irili ufaklı pek çok şirket irili ufaklı pek çok proje geliştirdi ve teslim etti.
Gelelim yapay zeka projelerine, henüz proje geliştirme katmanları tam manasıyla oturmuş gözükmesede birkaç yapı taşı hali hazırda oturmuş durumda. Projenin ilk aşamasında cevaplanması gereken en önemli soru: "İlgili ihtiyacın veya sorunun çözümü için gerçekten yapay zeka teknolojisi kullanmamız gerekli mi?" olacaktır. Bu sorunun cevabını verebilmeniz için ihtiyaç veya sorunun alternatif çözümleri, bu çözümlerin verimliliği ve çözümün ne kadar kapsayıcı olduğunun analiz edilmesi gerekmektedir. Ardından kendi çözümünüzün problemi ne kadar kapsadığını, ne kadar verim artışı yakaladığınızı kıyaslayarak projenizin katma değer oranını ölçmeniz gerekmektedir. Eğer daha önce yapılmadığını düşündüğünüz bir fikriniz varsa da yapay zeka kullanmadan da çözebilir misiniz bunun üzerine fizibilite yapmanız şart.
Bu süreci detaylı bir şekilde analiz ettikten sonra gelelim yapay zeka projenizi geliştirmek için kurgulayacağınız yapıya. Öncelikle proje kapsamında kullanılacak verinin temin edilmesi gerekmektedir. Bu noktada şirketinizin bir veri politikasının kesinlikle oluşturulmuş olması gerekmektedir. Her şirketin nasıl ki hizmet politikası farklı ise, veri politikasının da şirkete özgü olması kurgulanması önerilir. Kısaca verinizden haberdar, verinize sahip, verinizi işleyen bir şirketinizin olması bu yeni dönemde şart. Bunu sağlayamadığınız takdirde yapay zekanın entegrasyonu hakkında herhangi bir ölçeklenebilirlik düşünmeyin. Şirket içinde geliştireceğiniz uygulamalar veya süreçlerinize entegre olacak yapay zeka ürünleri verinize her zaman ihtiyaç duyacaklar. Bu sebeple üçüncü parti yapay zeka uygulamalarını şirketinize entegre ederken iki kez düşünmeniz gerekmekte. Veriniz olmadan ya da uygulamalarınızı size verdikten sonra elde ettikleri veri olmadan süreci ilerletme şansları çok düşük. Haliyle hayal satan şirketlerin arka planındaki gerçekliği görmek istiyorsanız veri ile ilgili politikaları hakkında detay istemeniz ve detaycı olmanız gerekmekte. Verinizle ilgili hakimiyeti sağladıktan sonra ise model sürecine geçiyoruz. Burada yapılan hata; şirketlerin kendi işlerini bir kenara bırakıp model geliştirme, model eğitme gibi işlere elini atmaya çalışmasıdır. Bugün ağır sanayide döküm üzerine çalışan herhangi bir şirketin nasıl ki ergitme ocağı üretmek gibi bir ideali yoksa sizin de aynı şekilde modelleri eğitimeye, geliştirmeye acilen bir ihtiyacınız yok. Yapay zeka projelerinin gereksinimleri standart yazılım projelerinin gereksinimlerinden mali olarak katbekat fazla. Haliyle kurum içi uygulamalarınızı; bu bağlamda hizmet veren ve veri noktasında güvenilir sağlayıcılar ile yapmanız ya da en iyi seçenek olarak değerlendirdiğim lokalde çalışacak ve açık kaynaklı olan modeller üzerine yoğunlaştırmanız gerekmektedir. Hem mali anlamda hem sürdürülebilirlik hem de süre anlamında atılması gereken adımlar bunlardır. Elbette modeli kendi verinizle fine tune etmek isteyebilirsiniz fakat zaten açık kaynak yayımlanan modellerin bir çoğunu kendi verinizle yeniden eğitebilir, fine tune işlemini yine gerçekleştirebilirsiniz. Özellikle verinizi dışarı aktarmak istemiyorsanız kesinlikle lokalinizde açık kaynak model çalıştıracak bir yapının bulunması gerekiyor. Fakat verinin dışarı akması çok büyük sorun teşkil etmiyor veya siz verinizi hash'leyerek, maskeleyerek aktarabiliyorsanız lokalden de önce api'lerden yararlanarak ar-ge sürecini tamamlayabilirsiniz. Anlatmaya çalıştığım konuyu kısaca şöyle özetleyebiliriz; yapay zeka kullansak da kullanmasak da önceliğimiz verimize hakim olmak olmalı, verimize sahip çıkmalıyız. Projede yapay zekanın kullanımı veya yapay zekalı bir projenin başlangıcı için gereklilik analizleri dikkatli yapmalı ve model tarafında olabildiğince Amerika'yı tekrar keşfetmeden kaynaklarımızı doğru yönetmeliyiz.
İlk başta değindiğimiz klasik yazılım projeleri ile yapay zeka projelerinin geliştirme, uygulama, ölçekleme ve sürdürülebilirlik gibi konularda birbirlerinden farklı olduğunu idrak etmemiz gerekmekte. Bu süreçte ürününüzün ya da geliştireceğiniz yapının yaşadığının farkına varmalısınız. Bunun altındaki temel sebebi de iyi anlamamız gerekiyor. Elimizdeki veri gün geçtikçe daha az kapsayıcı olacağından; bugün tasarladığımız beyinlerin, yarın daha az problemi çözdüğünü fark edeceksiniz. Bunun da elbette bir çok sebebi var; ölçek, hız, maliyet gibi. Bugün büyük dil modeli devlerinin düzenli aralıklarla yeni modelleri piyasaya sürmesinin altında yatan ana sebep tam olarak bu. Tasarladığınız modelin kapsayıcılığı mevsime, ekonomiye, siyasete, ülkeye, kaynak durumuna göre bile değişmekte. Örneğin görüntü işleme üzerine geliştirdiğim derin öğrenme modellerinde kullanılan veri, projeye kış aylarında başladığımız için yoğunluklu olarak kapalı havalarda çekilmiş fotoğraflardan oluşmaktaydı. Model eğitimleri tamamlanıp ilkbaharın ortalarına geldiğimizde hava daha açıktı ve testlerimizi bu mevsimde almaya başladığımızda başarım oranlarımızın düştüğünü gözlemledik. Projenin tam manasıyla teslim edilebilmesi için minimum 1 mevsimsel döngünün tamamlanması ve farklı hava şartlarını barındıran bir veri setinin oluşturulması gerekmekteydi. Örnekten de anlaşılacağı üzere bu durum; proje sürelerinin klasik yazılım projelerine kıyasla çok daha uzun ve sürekliliğe ihtiyaç duyabileceğini gözler önüne sermekte. Önceki yazıda bahsettiğimiz balonun altındaki altyapı gelişmeleri tam olarak bu değişiklikleri içermekte.
Bugün direkt yapay zeka projesi üreten bir şirket veya tamamen farklı alanda çalışan fakat yapay zekayı süreçlerinize entegre etmek isteyen bir şirket olabilirsiniz. Yaşayacağınız süreç temelinde gereklilik analizi, veri ve ölçeklenebilir model geliştirme aşamalarından ibaret. Openai, Claude ve Gemini api'lerini kullanırken de yaklaşımınız bu yönde olmalı. Belki şu an modeller tak çalıştır gibi dursa da öncesinde gereklilik analizini yapmalı, verimlilik yakalamanız için de bu api'leri yine kendi verinizle birlikte kullanmayı sağlamalısınız. Aksi takdirde verimliliğin düşüceğinden ve projeyi ölçekleme sorunları yaşayacağınızdan emin olabilirsiniz. Bir sonraki yazıda DataOps süreçleri üzerine konuşacağız. Sağlıcakla kalın.