AI ajanına verilecek yetki; işlemin finansal, hukuki, itibari ve insani etkisi ile hatanın geri döndürülebilirliğine göre belirlenmelidir. Düşük etkili işlemler kayıt ve izlemeyle otomatikleştirilebilir; yüksek etkili, dış iletişim kuran, para harcayan veya hak doğuran işlemler insan onayı olmadan yürütülmemelidir.
AI ajanlarında asıl soru neden “ne yapabilir?” değil, “neye yetkili?”
AI ajanları artık yalnız soruları yanıtlayan sohbet arayüzleri değil. Dosya okuyabilir, tarayıcı kullanabilir, kod çalıştırabilir, CRM kaydı açabilir, e-posta hazırlayabilir ve farklı sistemler arasında çok adımlı işleri yürütebilir. OpenAI’nin 10 Eylül 2026’da duyurduğu Agents API de uzun süre çalışan, araç kullanan ve alt ajanlarla görev bölebilen sistemlerin kurumsal uygulamalarda hızla yaygınlaştığını gösteriyor.
Bu kapasite, klasik yazılım yetkisinden farklı bir risk doğurur. Yazılım önceden tanımlı komutu çalıştırırken ajan hedefi yorumlayabilir, plan kurabilir ve hangi aracı ne zaman kullanacağına karar verebilir. Bu nedenle erişim yetkisi ile karar yetkisi aynı şey değildir.
Bir ajanın sisteme erişebilmesi, o sistemde her doğru görünen işlemi yapmaya yetkili olduğu anlamına gelmez.
Yetki vermeden önce cevaplanması gereken dört soru
- Etki: Hata olursa para, müşteri, çalışan, hukuk veya itibar ne kadar etkilenir?
- Geri döndürülebilirlik: İşlem kolayca geri alınabilir mi?
- Veri hassasiyeti: Ajan hangi veri sınıflarına erişiyor?
- Dış temas: Ajan şirket dışına mesaj, ödeme, dosya veya karar gönderiyor mu?
Bu dört değişken, teknik yetenek listesinden daha iyi bir yönetim resmi verir. Ajan çok güçlü olabilir; fakat yüksek etki ve düşük geri döndürülebilirlik varsa yetkisi dar tutulmalıdır.
ST AI Ajanı Yetki Matrisi
| Seviye | Ajanın rolü | Örnek | Kontrol |
|---|---|---|---|
| 0 · Gözlemci | Veriyi okur, işlem yapmaz | Rapor özetleme, anomali işaretleme | Kaynak ve erişim kaydı |
| 1 · Önerici | Seçenek üretir, insan karar verir | Lead önceliği, içerik taslağı, risk uyarısı | İnsan incelemesi ve gerekçe |
| 2 · Hazırlayıcı | İşlemi hazırlar, insan onaylar | E-posta taslağı, teklif kaydı, satın alma talebi | Gönderim/işlem öncesi onay |
| 3 · Sınırlı yürütücü | Tanımlı sınırlar içinde işlemi tamamlar | Düşük tutarlı iade, iç sistem güncellemesi | Limit, kayıt, örneklem denetimi, geri alma |
| 4 · Otonom yürütücü | Çok adımlı işi bağımsız yürütür | Düşük riskli ve yüksek hacimli operasyon | Sürekli izleme, kill switch, olay müdahalesi |
Seviye 4, “en olgun” veya her şirketin ulaşması gereken hedef değildir. Bazı süreçlerin doğru kalıcı seviyesi 1 veya 2 olabilir. Olgunluk daha çok yetki vermek değil, doğru yetkiyi doğru kanıtla vermektir.
İnsan denetimi nasıl tasarlanmalı?
“Human in the loop” ifadesi çoğu projede belirsiz bırakılır. İnsan yalnız ekranın sonunda onay butonuna basıyorsa ama yeterli bilgi, süre veya geri çevirme yetkisi yoksa gerçek denetim oluşmaz.
| Model | Ne zaman? | İnsan rolü |
|---|---|---|
| Human-in-the-loop | Yüksek etki, geri döndürülemez işlem | Her kritik adımı işlem öncesi onaylar |
| Human-on-the-loop | Orta etki, hızlı müdahale edilebilir süreç | Canlı izler, eşik aşımında durdurur |
| Human-over-the-loop | Düşük etki, yüksek hacim, geri alınabilir işlem | Örneklem, trend ve olay bazlı denetler |
| Automated-with-monitoring | Çok düşük etki ve güçlü geri alma | Politika, log ve periyodik kontrol sağlar |
NIST AI RMF’nin Govern, Map, Measure, Manage döngüsü; ajan kullanımının yalnız pilot öncesinde değil, çalışma boyunca izlenmesi gerektiğini vurgulayan iyi bir temel sunar. OWASP’ın agentic AI çalışmaları da araç kullanımı, yetki zinciri ve gözlemlenebilirliğin yeni saldırı ve hata yüzeyleri oluşturduğuna dikkat çekiyor.
Ajan hangi durumda durmalı ve insana dönmeli?
- Tanımlı bütçe, süre veya işlem sayısı limiti aşıldığında
- Yeni veya beklenmeyen veri kaynağına erişmek istediğinde
- Şirket dışına mesaj, ödeme ya da dosya göndermeden önce
- Yüksek riskli anahtar kelime, kişi veya süreçle karşılaştığında
- Kaynaklar çeliştiğinde ya da güven eşiği düştüğünde
- İşlem geri döndürülemez olduğunda
- Yetki zincirinde tanımsız bir araca veya alt ajana ihtiyaç duyduğunda
Bu koşullar prompt içinde kalan iyi niyetli talimatlar değil, mümkün olduğunca teknik politika, erişim kontrolü ve iş akışı kuralı olmalıdır.
Üretime çıkmadan önce minimum kontrol seti
- Net hedef ve kapsam dışı işler
- Ajanın kullanabileceği araç ve veri listesi
- En az yetki ve süreli erişim
- İşlem öncesi/onrası onay noktaları
- Tam denetim izi: istek, karar, araç çağrısı, çıktı
- Maliyet, hız ve işlem limitleri
- Geri alma ve kill switch
- Hata senaryoları ve red-team testi
- İş sahibi, teknik sahip ve olay sorumlusu
- Performans, kalite ve risk KPI’ları
Model değerlendirmesi tek başına yeterli değildir. Ajanın bağlı olduğu araçlar, izinler, veri ve süreç birlikte test edilmelidir. Aynı model, yalnızca rapor okuduğunda düşük riskli; ödeme başlatabildiğinde yüksek riskli olabilir.
Üç kısa örnek
Satış ajanı
Lead araştırabilir ve e-posta taslağı hazırlayabilir. İlk aşamada dış gönderim insan onayında kalmalıdır. Yanıt oranı, yanlış kişi/iddia oranı ve marka tonu izlenmeden otomatik gönderime geçilmemelidir.
Finans ajanı
Fatura eşleştirebilir ve anomali işaretleyebilir. Ödeme talimatı, banka hesabı değişikliği veya yeni tedarikçi kaydı insan onayı ve ikinci kontrol olmadan yapılmamalıdır.
İçerik ajanı
Kaynak toplayabilir, taslak ve dağıtım paketi hazırlayabilir. Kanıtlanmamış iddia, telifli materyal ve doğrudan yayın yetkisi için editoryal kontrol gerekir. Düşük riskli meta alanları ise örneklem denetimiyle otomatikleştirilebilir.
Yönetim panelinde hangi göstergeler bulunmalı?
| Boyut | Örnek gösterge |
|---|---|
| Değer | Tamamlanan iş, çevrim süresi, işlem başı maliyet |
| Kalite | Doğruluk, yeniden işleme, insan reddi |
| Yetki | Onay gerektiren işlem, limit aşımı, engellenen eylem |
| Risk | Kritik hata, veri olayı, dış iletişim hatası |
| Dayanıklılık | Başarısız araç çağrısı, geri alma, insan devralma süresi |
Sonuç: otonomi bir özellik değil, yönetim kararıdır
AI ajanının ne kadar bağımsız çalışacağı teknik ekibin varsayılan ayarı olmamalıdır. Bu, iş etkisi ve risk iştahıyla ilgili yönetim kararıdır. Doğru sistem; düşük riskli işleri hızlandırır, yüksek etkili kararlarda insan sorumluluğunu korur ve her işlemi geriye dönük açıklanabilir hale getirir.
Şirketlerin hedefi mümkün olan en otonom ajanı kurmak değil; doğru sınırlar içinde güvenilir biçimde değer üreten ajanı kurmaktır. Yetki kanıtla genişletilmeli, olayla daraltılmalı ve hiçbir zaman görünmez bırakılmamalıdır.
Chatbot çoğunlukla bilgi üretir; ajan araç kullanıp sistemlerde işlem yapabilir. Bu nedenle ajanlarda erişim, işlem limiti, onay, kayıt ve geri alma kontrolleri gerekir.
Her işlem için değil. Düşük etkili ve geri alınabilir işlemler izleme ve örneklem kontrolüyle otomatikleşebilir. Para, hak, dış iletişim, hassas veri veya geri döndürülemez sonuç içeren işlemler daha güçlü insan kontrolü gerektirir.
Yeterli hacimde gerçek kullanım verisi; kabul edilebilir kalite, maliyet ve risk performansı gösterdiğinde. Yetki artışı aşamalı olmalı ve geri alma mekanizması korunmalıdır.
Hayır. Sorunu fark edecek izleme, yetkili müdahale sahibi, kayıt, geri alma ve olay prosedürü yoksa kill switch yalnız teknik bir düğme olarak kalır.
