Yapay zekâ ajanı geliştirme

Ekibinizin tekrar ettiği işleri birlikte inceliyor, ajanın hangi adımları üstlenebileceğini belirliyoruz. Ardından uygulamayı mevcut iş akışınıza bağlıyoruz. Yayından önce yanıt kalitesini test ediyor, üretimde gecikmeyi ve maliyeti izliyoruz.

Ne tür ajanlar geliştiriyoruz

• Gelen talebi sınıflandıran, ilgili sistemde kayıt açan ve sonucu kullanıcıya geri yazan destek ajanları
• Kurumsal dokümanlardan yanıt veren ve her yanıtın kaynağını gösteren bilgi asistanları
• Kod tabanında test üreten, bağımlılık sürümlerini yükselten ve geçiş adımlarını hazırlayan geliştirme ajanları
• Veriyi sorgulayan, raporu özetleyen ve sapmaları açıklayan analiz ajanları

Nasıl çalışıyoruz

1. 1

   Kapsam ve yetkiler

   Ajanın hangi talepleri üstleneceğini, sistem bazında okuma/yazma yetkilerini ve insan onayı gerektiren adımları baştan yazılı olarak tanımlıyoruz.

2. 2

   Değerlendirme seti

   Kurumunuzdan gerçek talepleri ve kabul edilen yanıtları toplayarak bir değerlendirme seti hazırlıyor, her değişikliği bu setle test ediyoruz.

3. 3

   Dar yetkili entegrasyon

   Ajanı sistemlerinize bağlarken her araca ayrı bir servis hesabı ve yalnızca ihtiyaç duyduğu endpoint'leri tanımlıyoruz.

4. 4

   Shadow mode ve LLMOps

   Üretim öncesinde ajanı shadow mode'da doğruluyor, canlıda prompt sürümlerini, değerlendirme koşularını ve üretim trace'lerini aynı LLMOps pipeline'ında izliyoruz.

Güvenlik, insan onayı ve çalışma ortamı

Para hareketi, müşteri bildirimi, veri silme ve yetki değişikliği gibi kritik işlemler insan onayından geçer; onay ekranında ajanın dayandığı kaynaklar açıkça gösterilir. Secret'lar kodda değil vault'ta tutulur ve her işlem denetim izi bırakır. Sağlayıcı API'si kullanıldığında veri saklama ve maskeleme kurallarını yapılandırıyor; verinin kurum dışına çıkamadığı ortamlarda açık kaynak modelleri kendi Kubernetes kümenizde vLLM veya Ray Serve ve Apache APISIX ile çalıştırıyoruz.

Kullandığımız araçlar

Temel modeller (göreve göre seçim)

ClaudeGPTAçık kaynak seçenekler

Ajan çerçeveleri

Claude Agent SDKOpenAI Agents SDKLangGraph

Kurumsal bilgi araması (RAG)

Postgres pgvectorQdrantOpenSearchRetrieval ve reranking

Değerlendirme ve gözlemlenebilirlik

Değerlendirme setleriLangfuseOpenTelemetry GenAI

Çalıştırma ve erişim

KubernetesApache APISIX (token doğrulama)vLLM (kendi ortamınızda model serving)Ray Serve (kendi ortamınızda model serving)