Prompt cache ne zaman kullanmalı

Anthropic API'de cache_control: ephemeral ile uzun sistem promptlarını cache'e alabilirsin.

Cache 5 dakika boyunca geçerli. Avantajı: cache hit'te token maliyeti %90 düşüyor, gecikme de azalıyor.

Ne zaman mantıklı:
- Sistem promptu 1000+ token
- Aynı prompt ile çok sayıda istek yapılıyor
- RAG dökümanları her seferinde tekrar gönderiliyor