Ajanlar Bağımsız Hareket Ederken Yönetişim Veri Katmanında Yaşamalı

Özerk Ajanların Yönetişim Sorunu

Kurumlar, yapay zeka ajanlarına (AI agents) her adımda insan onayı olmadan plan yapma, karar verme ve sistemler arasında hareket etme yetkisi verdikçe, mimari değerlendirmelerin merkezine zor bir soru oturuyor: Bir ajan, kendisine hiç yetki verilmemiş bir eylemi tamamlamaya çalıştığında, onu gerçekte ne durduruyor? Bu ajanlar sizin ajanlarınız, sizin modellerinizde çalışıyor, sizin verilerinize dokunuyor ve sizin altyapınızda faaliyet gösteriyor. Dolayısıyla yaptıklarından sorumlu olan da sizsiniz. Bu sorumluluk, geriye dönük olarak ya da kağıt üzerinde kalan soyut politikalarla yerine getirilemez. Ajanların, içinde bulundukları anın bağlamına uygun kurallara ihtiyacı var; çünkü kendi eylemleri üzerinde üstün bir yargı yetkisi kullanmıyorlar.

Basit bir kural düşünün: Arabadan asla inme. Bu kurala harfiyen uyulursa, ajan arabaya hiç binemez ya da inemez. Ancak bağlamı değiştirdiğinizde (araba kaza yaptı, yangın çıktı, birisi yaralandı ve dışarı çıkması gerekiyor) aslında istediğiniz kural tam tersi olur. Anlık bağlam her şeydir. Ajanlardan akıllı işler yapmalarını istiyoruz; bu da akıllı kurallar gerektirir. İçgüdüsel olarak ajanın etrafına güvenlik bariyerleri eklemek isteriz: modelin üzerine yerleştirilen talimatlar, politikalar ve izleme mekanizmaları. Bu mekanizmalar önemli olmakla birlikte yapısal bir sınırla karşı karşıyadır: Araba kapısı kuralı, kapıyı gerçekten açıp açmamaya karar vermeniz gereken ana kadar makul görünür. Ajan katmanındaki kontroller, ancak ajanın çıktısı tahmin edilebildiği ölçüde güvenilirdir; oysa özerklik, çıktıyı tahmin edilemez kılan özelliktir. Bir eylemi gerçekleşmeden önce incelemeye dayanan yönetişim, milisaniyeler içinde ve aynı anda birçok sistemde çalışan bir sistemin hızına yetişemez. Yönetişimin çalıştırılabilir olması ve ajanların gerçekten iş yaptığı yerde, yani operasyonel veri katmanında, anlık bağlamda ve tam o anda uygulanması gerekir.

Veri Katmanı Uygulama Noktası

Ajanlar verilere dokunarak değer yaratır: sorgular, alır, dönüştürür ve giderek daha fazla üzerinde işlem yapar. Bir ajanın belirli bir veri sınıfına ulaşmaması gerektiğini söyleyen bir politika, ancak sistem ajanın talebini anında reddedebiliyorsa anlamlıdır. Benzer şekilde, yapay zekanın denetlenebilir olması ilkesi, kurumun ajanın ne yaptığını, hangi verilere dokunduğunu, hangi kullanıcı adına hareket ettiğini ve sonucun ne olduğunu yeniden yapılandırabilmesi durumunda anlam kazanır. Yönetişim veri katmanında yaşadığında, ajanın nasıl inşa edildiğinden veya nasıl davrandığından bağımsız olarak kontrol sağlanır; çünkü kontrol, veritabanının kendisinin bir özelliğidir, ajanın verdiği bir söz değildir.

Ajan davranışı olasılıksal olabilir; yönetişim ise olamaz. Kurum, modelin politikaya uymayı seçeceğine güvenmemelidir. Politika, sistem tarafından uygulanmalıdır. Bir aktörün sınırlar içinde kalacağını ummak ile baştan aşamayacağı sınırlar inşa etmek arasındaki fark budur. Bunu gerçek kılan kontroller, birçok kurumun veri katmanında zaten kullandığı mekanizmalardır: rol ve öznitelik tabanlı erişim, satır ve sütun düzeyinde güvenlik, sınıflandırma ve maskeleme, kod olarak politika ve eksiksiz denetim izleri. Ajanların değiştirdiği şey mekanizma değil, mekanizmanın tanıması gereken kimliktir. Kimlik yönetimi, ajanı kendi başına bir asıl (principal) olarak ele almalı; oturum açıldığında beyan edilen bir amaçla birlikte kendi kimliğine sahip olmalıdır. Amaç kimliğe bağlandığında, politika motoru bunu bugün rol veya departmanı değerlendirdiği gibi değerlendirebilir ve gerçekleşen olayların kaydı yalnızca kimin hareket ettiğini ve neye dokunduğunu değil, ne yapmak için orada olduklarını da yakalayabilir.

Dokuz Temel Kontrol

Uygulamada bu yaklaşım, üç ana başlık altında toplanan dokuz kontrole ayrışır:

Uygula

• Sorgu anında, ajanlar ve kullanıcılar için rol ve öznitelik tabanlı erişim kontrolü
• Aynı politika yoluyla yönlendirilen dinamik sütun maskeleme
• Ajan kimliğinin birinci sınıf asıl olarak ele alınması; oturum başlangıcında beyan edilen amacın bağlanması ve hareket eden kullanıcının korunması

Gör ve Kanıtla

• Politikayı yönlendiren sınıflandırma ve etiketleme
• Hangi ajanın, hangi kullanıcı için ve hangi beyan edilen amaçla hareket ettiğini kaydeden oturum düzeyinde denetim günlüğü
• Bir sonucun, onu üreten isteğe kadar izlenebilmesini sağlayan hatlar (lineage) boyunca veri izleme

Birleştir ve Sertleştir

• Merkezi, taşınabilir politika yönetimi
• Beklemede ve aktarım sırasında şifreleme
• Şirket içi, bulut ve egemen veya hava boşluklu (air-gapped) ortamlar arasında tutarlı uygulama

EDB ürün yönetimi veri ve yapay zeka yönetişiminden sorumlu başkan yardımcısı Priyanka Jain, "Beyan edilen amaç farkı yaratıyor. Erişim katmanının zaten anladığı bir öznitelik haline geliyor ve rol ve satır düzeyinde güvenlikle aynı politika yolunda değerlendiriliyor. Uygulama mekanizması değişmiyor. Değişen şey, ajanın amacının değerlendirilen şeyin bir parçası olması ve sonradan kanıtlanan kaydın bir parçası olması" diyor.

Dijital Tasma, Kilitli Kapı Değil

Amaç, ajanları faydalı işler yapmaktan alıkoymak değil; bir ajanın ne kadar ileri gidebileceğini, neye dokunabileceğini, neyi değiştirebileceğini, neyin yükseltme gerektirdiğini ve bir şeyler ters giderse kurumun olayları nasıl yeniden yapılandırabileceğini tanımlamaktır. Bu şekilde yönetilen ajanlar tanımlanmış, kapsamlandırılmış, izlenmiş ve denetlenebilir olur. Kurum, güvenlik, risk ve liderlik ekipleri alttaki işletim modeline güvendiği için ajanları daha hızlı benimseyebilir.

Açık kaynaklı Postgres üzerine inşa edilen bu açık temel, kurumların verilerinin nerede yaşadığı, kimlerin erişebileceği ve hangi politikayla erişebileceği konusunda kontrolü elinde tutmasını sağlar; sahip olmadıkları veya inceleyemedikleri bir katmana yönetişimi devretmez. Düzenlemeye tabi sektörler için veri egemenliği ve kaynak düzeyinde uygulamanın bu kombinasyonu lüks değil, ajanları üretime almanın ön koşuludur.

Neden Önemli?

Türkiye'deki kurumlar için bu yaklaşım, yapay zeka ajanlarını hayata geçirirken karşılaşılan en büyük engellerden birini çözüyor: güven. Bankacılık, sağlık ve kamu gibi veriye duyarlı sektörlerde, ajanların yetkisiz verilere erişmesi veya istenmeyen eylemler yapması riski, benimsemeyi yavaşlatıyor. Veri katmanında uygulanan yönetişim, kurumların ajanlara daha fazla özerklik tanırken veri güvenliğinden ödün vermemesini sağlıyor. Ayrıca, KVKK gibi yerel düzenlemelere uyum açısından denetim izlerinin ve veri soyunun (data lineage) önemi artıyor. Bu yaklaşım, ajanların davranışlarını umut etmek yerine sistemin sınırlarını çizerek, kurumların yapay zeka yatırımlarını hızlandırmasına olanak tanıyor. Sonuçta, yönetişim veri katmanında yaşadığında, ajanların ne yapabileceği değil, ne yapamayacağı netleşiyor ve bu da güvenli bir dijital dönüşümün temelini oluşturuyor.