Yapay zekâ ile uygulama geliştirenlerin 2025 ortasından beri sıkça kullandığı bir terim var: context engineering, yani bağlam mühendisliği. Fikir basit: Bir dil modelinin vereceği cevabın kalitesini belirleyen şey yalnızca sorunun nasıl sorulduğu (prompt) değil, modelin o anda önünde gördüğü tüm bilgidir. Talimatlar, örnekler, getirilen belgeler, araç sonuçları, önceki konuşmalar ve kullanıcı bilgisi birlikte "bağlamı" oluşturur. Bu yazıda bağlam mühendisliğinin ne olduğunu ve pratikte nasıl uygulandığını anlatıyoruz.
Prompt mühendisliğinden farkı
Prompt mühendisliği çoğunlukla tek bir isteğin iyi yazılmasıyla ilgilenir. Bağlam mühendisliği ise bir sistemin her adımında modele neyin, hangi sırayla ve ne kadar verileceğini tasarlar. Özellikle birden fazla adımda çalışan yapay zekâ ajanlarında bu fark belirgindir: Ajan her adımda araç çağırır, sonuç alır, yeni karar verir. Bağlam kontrolsüz büyürse model şaşırır, maliyet artar, hata çoğalır.
Bağlamın bileşenleri
- Sistem talimatı: Modelin rolü, kuralları, üslubu ve sınırları.
- Görev tanımı: Kullanıcının o anki isteği.
- Örnekler: Beklenen girdi-çıktı çiftleri.
- Getirilen bilgi (RAG): Şirket belgelerinden, veritabanından veya webden bulunan ilgili parçalar. Bkz. RAG nedir.
- Araç tanımları ve sonuçları: Modelin çağırabileceği fonksiyonlar ve onlardan dönen veriler.
- Hafıza: Önceki konuşmaların özeti, kullanıcı tercihleri.
- Çıktı biçimi: JSON şeması, tablo yapısı, uzunluk sınırı.
Temel ilkeler
Az ama ilgili
Modelin bağlam penceresi büyüdükçe "her şeyi koyalım" eğilimi doğar. Oysa alakasız bilgi, modelin dikkatini dağıtır ve önemli ayrıntıları gözden kaçırmasına yol açabilir. Getirme (retrieval) adımında az sayıda ama yüksek ilgili parça seçmek genellikle daha iyi sonuç verir.
Yapı ve sıra
Bağlamı başlıklarla, etiketlerle (örneğin XML benzeri etiketler) ve açık bölümlerle düzenleyin: "Kurallar", "Belgeler", "Kullanıcı sorusu". Model hangi bilginin ne işe yaradığını daha iyi ayırt eder.
Sıkıştırma ve özetleme
Uzun konuşmalarda eski mesajları olduğu gibi taşımak yerine özetleyin. Araç sonuçlarından yalnızca gerekli alanları geçirin; 500 satırlık bir API cevabının tamamını modele vermeyin.
Ajan için not defteri
Uzun süren görevlerde ajanın ara sonuçları ve planı bağlam dışında bir dosyada veya veritabanında tutması, gerektiğinde geri okuması daha sağlıklıdır. Böylece bağlam her adımda yeniden şişmez.
Güvenilmeyen içeriği işaretleyin
Web sayfalarından veya kullanıcı belgelerinden gelen metin, talimat değil veri olarak işaretlenmelidir. Bu, prompt injection riskini azaltmanın temel yollarından biridir.
Örnek: Müşteri destek asistanı
Bir e-ticaret destek asistanı için iyi tasarlanmış bağlam şöyle olabilir: Sistem talimatında iade politikasının özeti ve üslup kuralları; müşterinin son üç siparişi (yalnızca ürün adı, tarih, durum); soruyla ilgili en fazla üç yardım makalesi parçası; önceki konuşmanın iki cümlelik özeti ve çıktının "cevap + gerekiyorsa insan desteğine aktar" yapısında olması. Müşterinin tüm sipariş geçmişini, tüm yardım merkezini veya kart bilgilerini bağlama koymak hem gereksiz hem risklidir.
Sık yapılan hatalar
- Tüm dokümantasyonu her isteğe eklemek.
- Çelişen talimatlar (bir yerde "kısa yaz", başka yerde "ayrıntılı açıkla").
- Araç sonuçlarını filtrelemeden aktarmak.
- Hafızaya doğrulanmamış bilgiyi kaydetmek.
- Bağlam değişikliklerini ölçmeden yapmak: Her değişikliği sabit bir test seti ile karşılaştırın.
Sık sorulan sorular
Bağlam penceresi büyüdükçe RAG gereksiz mi oluyor?
Hayır. Büyük pencere daha çok bilgi koyabilmeyi sağlar ama maliyeti ve gecikmeyi artırır; ilgili bilgiyi seçmek yine de daha doğru sonuç verir.
Bağlam mühendisliği için özel bir araç gerekir mi?
Başlangıçta gerekmez. İyi yapılandırılmış şablonlar, getirme adımı ve test seti yeterlidir. Ölçek büyüdükçe izleme ve değerlendirme araçları faydalı olur.
Maliyet nasıl etkilenir?
Çoğu modelde ücret token sayısına göre hesaplanır. Gereksiz bağlamı azaltmak doğrudan maliyeti düşürür. Bkz. yapay zekâ maliyeti.
Sonuç
İyi bir yapay zekâ uygulaması, iyi bir sorudan çok iyi bir bağlamla başlar. Modele doğru bilgiyi, doğru yapıda ve doğru miktarda vermek; kaliteyi, maliyeti ve güvenliği aynı anda iyileştirir. Yapay zekâ destekli bir uygulama geliştirmek istiyorsanız bizimle iletişime geçin.
