AI faturası çoğu şirkette sessizce büyür. Kimse zam yapmaz, kimse yeni bir sözleşme imzalamaz, ama rakam her ay biraz daha yukarı çıkar. Yönetici bir noktada "bunu kısalım" der ve genellikle yanlış yerden kısar: en gürültülü kullanıcıyı uyarır ya da toptan koltuk sayısını azaltır.
Aşağıdaki yedi adım, aynı işi yaptırmaya devam ederken faturayı düşürmenin somut yollarıdır. Sıra önemlidir; ilk adımı atlarsanız geri kalanı tahmine dayanır.
Önce ölçün, sonra temizleyin
1. Kesmeden önce ölçün
Bu bir dolgu maddesi değil, en çok para kazandıran adım. Çünkü AI harcamasında sezgi neredeyse her zaman yanılır. Yöneticiler pahalı olduğunu düşündükleri kullanıcıyı işaret eder, ölçüm başka birini gösterir.
Elinizde en az iki tablo olmalı: koltuk veya anahtar başına hacim, ve gün bazında toplam maliyet. İkisi de organizasyon uçlarından çekilir; nasıl çekildiğini Anthropic Admin API rehberinde adım adım anlattık.
Ölçüm ucuzdur. Kendi ölçümümüzde 739 gerçek görevin tamamını sınıflandırmak Claude Haiku 4.5 ile onarlı gruplar ve önbelleğe alınmış sistem promptu kullanılarak 0,41 dolar tuttu. Yani envanteri çıkarmanın maliyeti, yanlış kararın maliyetinin yanında ölçülemeyecek kadar küçüktür.
Verimli bir kullanıcının koltuğunu kapatırsanız iki hafta içinde geri açtırırsınız ve bu sefer aciliyetle, pazarlık gücü olmadan. Kesme kararı, kırılım tablosu masada olmadan alınmamalıdır.
2. Ölü koltukları temizleyin
En kolay tasarruf burada. Her organizasyonda son 30 günde hiç kullanılmamış koltuklar vardır. Bunlar genellikle üç kaynaktan gelir: ayrılan çalışanlar, "belki lazım olur" diye açılan yönetici hesapları ve bir kez denenip bırakılmış deneme koltukları.
Ayda bir, sıfır aktiviteli koltukları listeleyin. Sahiplerine tek bir soru sorun: bu ay kullanacak mısınız. Cevap gelmezse kapatın. Kapatma işlemini geri alınabilir tutun, insanlar kaybetme korkusuyla gereksiz koltuğu savunur.
Ayrılan çalışan koltuklarını temizlemek yalnızca maliyet değil, güvenlik meselesidir. Aktif hesabı olan eski çalışan, şirket verisine açık bir kapıdır.
Doğru koltuk, doğru model
3. Koltuğu doğru boyutlandırın
Herkesin en üst pakete ihtiyacı yoktur. Kullanım kırılımını çıkardığınızda tipik olarak üç grup görürsünüz.
Ağır kullanıcılar. Günde onlarca görev çalıştıran, işinin merkezinde AI olan kişiler. Bunların paketini küçültmeyin, küçültürseniz limit duvarına toslar ve verimlilikten kaybedersiniz.
Düzenli ama hafif kullanıcılar. Haftada birkaç kez, kısa görevler. Alt paket çoğu zaman yeter.
Ara sıra kullananlar. Ayda birkaç sohbet. Bu grup için kişisel koltuk yerine paylaşılan bir kurumsal kanal veya talep üzerine erişim daha mantıklıdır.
Bu üç grubu ayırmak, koltuk sayısını azaltmadan ortalama koltuk maliyetini düşürür.
4. Modeli işe göre seçin
En yaygın israf kalemi budur: her işte en güçlü modeli çalıştırmak.
Sınıflandırma, etiketleme, kısa özet, biçim dönüştürme, basit veri çıkarma gibi işler küçük modellerle yapılır ve sonuç farkı çoğu zaman ölçülemez. Buna karşılık uzun akıl yürütme, karmaşık kod, çok adımlı analiz gibi işlerde büyük model gerçekten fark yaratır.
Pratik kural: bir işi küçük modelle bir hafta deneyin, çıktıyı gözle karşılaştırın. Fark yoksa geri dönmeyin. Bizim 739 görevlik sınıflandırma işi tam olarak bu kategoridedir ve küçük modelle 0,41 dolara tamamlanmıştır.
Model kırılımını görmek için kullanım raporunu model alanına göre gruplayın. Pahalı modelin toplam hacim içindeki payı beklediğinizden yüksekse, o payın ne iş yaptığına bakın.
Aynı işi daha ucuza yaptırın
5. Tekrarlayan bağlamı önbelleğe alın
Kurumsal kullanımda promptların büyük kısmı aynı gövdeyi taşır: şirket tanımı, ton kuralları, ürün listesi, örnek çıktı formatı. Bu gövde her istekte yeniden gönderilirse her seferinde yeniden faturalanır.
Prompt önbelleği tam olarak bu sorunu çözer. Değişmeyen kısım bir kez işlenir, sonraki isteklerde indirimli fiyatlanır. Güncel oranları sağlayıcının fiyat sayfasından doğrulayın; ama mantık her koşulda aynıdır: sabit olanı sabit tutun, değişeni sona koyun.
Bunun ön koşulu, promptlarınızın sabit ve değişken kısımlarının ayrılmış olmasıdır. Herkesin kendi promptunu sıfırdan yazdığı bir organizasyonda önbellek işe yaramaz. Bu yüzden önbellek, aynı zamanda bir standartlaşma projesidir.
6. Acil olmayan işleri toplu işleyin
Her iş anında cevap gerektirmez. Gecelik rapor üretimi, arşiv sınıflandırma, toplu içerik etiketleme, geriye dönük analiz gibi işler saatler içinde tamamlansa hiçbir şey değişmez.
Bu tür işler için toplu işleme (batch) uçları indirimli fiyatlanır. Kazanç, işin niteliğinden değil yalnızca aciliyetinden vazgeçmenizden gelir. Şirketinizde düzenli tekrarlayan hangi AI işlerinin gerçekten "şimdi" olması gerektiğini bir kez listeleyin; listenin çoğu maddesinin gece çalışabildiğini göreceksiniz.
7. Paylaşımlı anahtar yerine kişi başı anahtar
Bu, ilk bakışta maliyet maddesi gibi durmaz. Ama en büyük gizli kalem burada saklıdır.
Tek bir paylaşımlı anahtarla çalışıyorsanız kullanım raporunu api_key_id ile grupladığınızda tek satır alırsınız. Harcamanın tamamı atfedilemez hale gelir. Atfedilemeyen harcama optimize edilemez; hangi ekibin, hangi işin, hangi alışkanlığın pahalı olduğunu göremezsiniz.
Aynı sorunun ikinci hali, sohbet içindeki bağlamsız devam mesajlarıdır. Ölçümümüzde promptların yaklaşık yüzde 42'si "devam", "evet" gibi bağlamsız devam ifadeleriydi ve bunlar token maliyetinin yaklaşık yüzde 35'ini oluşturuyordu. Bu mesajları ait oldukları görevin kategorisine bağlamazsanız faturanın üçte biri "bilinmeyen" kovasına düşer. Ayrıntı için devam demenin faturası yazısına bakın.
Anahtarları kişi bazında dağıtmak ek ücret getirmez ama üç şeyi aynı anda çözer: harcama atfı, ayrılan çalışanın erişiminin tek tuşla kapatılması ve sır sızıntısında kaynağın bulunması. Paylaşımlı hesabın yarattığı yönetim boşluğunu bu yazıda ele aldık.
Sırayı bozmayın
Bu yedi maddenin ilki ölçüm, sonuncusu atıf. Aradaki beş madde bu ikisi olmadan tahminden ibaret kalır.
Uygulama sırası şu olsun: bir hafta ölçün, ölü koltukları temizleyin, model kırılımına bakın, önbellek ve toplu işleme fırsatlarını listeleyin, en son koltuk paketlerini yeniden boyutlandırın. İlk üç adım genellikle beklenen tasarrufun büyük kısmını zaten getirir ve hiçbiri kimsenin işini yavaşlatmaz.