Görünmeyen fatura
Token ucuzluyor, ama fatura küçülmüyor. Yapay zekâya harcadığımız para, zaman ve enerjinin ne kadarının sonuca dönüştüğünü çoğu zaman ölçmüyoruz.
18 sayfa · PDF · Türkçe · Ücretsiz
Birim fiyat çöküyor, fatura küçülmüyor. Kurumlar için asıl soru harcamanın ne kadar olduğu değil, ne kadarının sonuca dönüştüğü.
Ucuz bir deneme, görünmeyen bir toplam
Bir soru sormak çoğu zaman cebimizden ayrı bir ödeme çıkarmıyor. Yanıt saniyeler içinde geliyor; beğenmezsek bir kez daha deniyoruz. Tek tek bakıldığında bunların hiçbiri pahalı değil.
Bu raporun sorusu tek bir istemin bedeli değil, toplamı: Harcadığımız token, para, zaman ve enerjinin ne kadarı doğrulanmış bir sonuca dönüşüyor? Kurumlar faturayı görüyor ama sonuca bağlamakta zorlanıyor. Bireylerde bu oran neredeyse hiç ölçülmüyor.
Hissedilen ilerleme ile doğrulanan sonuç arasında çoğu zaman bir boşluk var. Faturada bu boşluk şöyle görünür: İlerlediğimizi hissederiz ve harcamayı makul buluruz, ama kaçta kaçının işe yaradığını saymayız.
- 50 kat
Aynı başarım düzeyine ulaşmanın fiyatı yılda medyan 50 kat düştü. Göreve göre düşüş 9 ile 900 kat arasında.
- %1.953
Akıl yürütme modelleri “2 artı 3 kaç eder?” sorusunda geleneksel modellere göre ortalama yüzde 1.953 daha fazla token harcadı.
- %14
ABD’de ayda 100 dolar ve üzeri harcayan yüzde 14’lük kullanıcı grubu, tüketici harcamasının yüzde 60’ını yapıyor.
- %39
Bir sektör anketine katılanların yüzde 39’u, yapay zekâ harcamasını CFO’nun kabul edeceği bir iş sonucuna bağlayabileceğinden emin değil.
- %50
Yapay zekâya odaklı veri merkezlerinin elektrik talebi 2025’te yüzde 50 arttı. Medyan bir metin istemi ise yalnızca 0,24 Wh harcıyor: Tek soru küçük, toplam büyük.
Birim fiyat çöküyor, fatura küçülmüyor
Token başına fiyat son üç yılda olağanüstü hızla düştü. Ama yeni kullanım biçimleri görev başına çok daha fazla token harcıyor ve kurumların yapay zekâ bütçeleri büyüyor.
Bu bölümün tamamı rapordaFaturanın bir kısmını makine yazıyor
Her token artışını kullanıcıya yüklemek hem yanlış hem suçlayıcı olur. Faturanın bir bölümü modelin ve ajan mimarisinin kendisinden kaynaklanıyor.
Bu bölümün tamamı rapordaAynı araçla hem verimli hem savurgan çalışmak mümkün
Kullanıcı davranışından doğan israf, kanıtın en zayıf olduğu katman. Bir kişinin harcamasının ne kadarının sonuçsuz denemeye gittiğini ölçen bir çalışma bulamadık. Eldeki ipuçları farkı kullanım biçiminin yarattığını gösteriyor.
Bu bölümün tamamı rapordaFatura görünüyor, sonuç sayılmıyor
Bireyde en büyük kalem çoğu zaman para değil, zaman. Kurumda ise sorun faturayı görmemek değil, onu sonuca bağlayamamak.
Bu bölümün tamamı rapordaBir soru kaç watt? Ne abartı ne ihmal
Tek bir kısa sorunun enerji maliyeti, sık dolaşan rakamlardan çok daha küçük. Toplam talep ise hızla büyüyor. Doğru okuma ikisinin arasında.
Bu bölümün tamamı rapordaNe yapmalı? Harcamayı sonuca bağlayın
Önerilerin ortak noktası harcamayı kısmak değil, onu kabul edilen bir sonuçla karşılaştırmak.
Bireyler için
- 01Faturanızı bir ay görünür kılın
Bütün abonelik ve kullanım ücretlerini tek listede toplayın; ay sonunda kaç iş tamamladığınıza bakın.
- 02Tekrarda durun
Aynı hatayı yeniden yapıştırmak yerine yeni bilgi verin ya da açıklama isteyin.
- 03İşe uygun aracı seçin
Basit iş için en güçlü modele gerek yok; sorularınızı tek oturumda toplayın.
- 04Zamanı da sayın
Süreyi başlamadan önce yazın; bitince kontrol ve düzeltme dahil gerçek süreyle karşılaştırın.
Kurumlar için
- 01Kabul edilen sonuç başına maliyeti izleyin
Reddedilen taslaklar, kontrol ve düzeltme süresi de hesaba girsin.
- 02Kullanımı performans hedefi yapmayın
Token hacmi yerine doğrulanan işleri görünür kılın.
- 03Karar noktaları koyun
Her girişim için önceden belirleyin: büyüt, yeniden tasarla ya da durdur.
- 04Token sayısını fatura sanmayın
Toplamın yanında birim maliyeti izleyin; önbelleğe ve ajan davranışına da bakın.
Eğitimciler için (biz dahil)
- 01İkinci soruyu ekleyin
İstemin yanında şunu da sordurun: Bu kullanım neye mal oldu, ne üretti?
- 02Rakamı sorgulatın
Hangi model, hangi yıl, hangi kapsam?
- 03Makinenin payını ayırın
Faturanın bir kısmının model ve ajan tasarımından geldiğini anlatın; yükü yalnız kullanıcıya bindirmeyin.
- 04Etkiyi sonuçla ölçün
Memnuniyetle değil, birkaç hafta sonra işte neyin değiştiğiyle. Bu bizim eğitimlerimiz için de geçerli.
TAM RAPORRaporun tamamı e-postanızda.
“Görünmeyen fatura” raporunun tamamını (18 sayfa) ücretsiz olarak e-posta adresinize gönderiyoruz.
Yayınlayan ve hazırlayan: Konsantre
Diğer raporlarımız
Tüm raporlar- RAPOR 05
Bir saatte uygulama, bir yılda müşteri
Yapay zekâyla uygulama yapmak kolaylaştı; o uygulamayı müşterisi olan bir işe dönüştürmek kolaylaşmadı.
- RAPOR 06
Pilotta kalan yapay zekâ
Kurumlar yapay zekânın değerini hissediyor; kâra yansıyan sonuç aynı hızla büyümüyor. Pilottan sonuca geçişin ölçümü.
- RAPOR 07
Koltuk değneği mi, antrenör mü?
Yapay zekâ öğrenmeye yardım da edebilir, yerine de geçebilir: Farkı aracın tasarımı ve araçsız ölçüm belirliyor.