Gizlilik bir izin kutusu değil, bağlama uygun bilgi akışıdır: agent’lar için Contextual Integrity
Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle
LLM tabanlı agent’lar plan üretip dış araçları çağırarak çok adımlı işleri bizim yerimize yapıyor. Faydalı olmaları için kişisel veriye ve sonuç doğuran eylemlere erişmeleri gerekiyor; ama deterministik klasik yazılımdan farklı davrandıkları için alışılmış güvenlik yaklaşımları yetmiyor. Google Research, 2025 sonunda New York’ta düzenlenen CAPS çalıştayının çıktısı olan ve 50’den fazla akademi ve sektör araştırmacısının katkı verdiği bir rapor yayımladı.
Raporun temeli Contextual Integrity (CI) kuramı. CI gizliliği ‘sır tutmak’ ya da ‘kontrol’ olarak değil, yerleşik toplumsal normlara göre uygun bilgi akışı olarak tanımlıyor. Bir norm üç şeyle belirleniyor: aktörler (kim, kime, kim hakkında bilgi gönderiyor), bilgi türü (sağlık kaydı, finansal kayıt gibi) ve aktarım ilkesi (gizlilik, karşılıklılık gibi akışı yöneten kural). Yazıdaki örnek: hediye alışveriş listeni sanal bir alışveriş asistanıyla paylaşırsın, ama ailen ve arkadaşlarınla paylaşmazsın. Aynı veri, farklı bağlamda farklı karar.
Rapor bu fikri bilgi paylaşımından eylemlere genişletiyor ve buna bağlamsal güvenlik diyor: bir eylemi çalıştırmadan önce toplumsal ve bağlamsal olarak uygun olup olmadığını değerlendiren sistemler. Yazarlara göre elle verilen izinler ve uzmanların yazdığı politikalar, uzun süren ve çok sayıda işi kendi başına yürüten agent’lara ölçeklenmiyor. Üst düzey normlar ile alt düzey erişim kuralları arasında hep bir anlam boşluğu vardı; LLM’ler ilk kez gerçekten bağlama bağlı, makinenin okuyabildiği politika yazma fırsatı veriyor. Önerilen yön bağlamsal politika motorları ile model ve kullanıcı düzeyindeki ilerlemeleri birleştiren çok katmanlı bir yaklaşım.
Değerlendirme tarafında da bir çağrı var: yüksek özerklikli, multi-agent sistemler için standart ölçütler ve dinamik ‘Agent Gym’ ortamları.
Öne çıkanlar
- Gizlilik ‘bu veri gizli mi’ değil, ‘bu akış bu bağlamda uygun mu’ sorusudur.
- Bir norm üç parçadır: aktörler, bilgi türü, aktarım ilkesi.
- Sabit izin listeleri uzun süre kendi başına çalışan agent’lara ölçeklenmez.
- Savunma tek katmanda değil: sistem, model, kullanıcı ve ekosistem düzeyinde birlikte.
Neden önemli?
Agent’lara verilen yetki arttıkça ‘erişim var / yok’ ikiliği yetersiz kalıyor. Bu rapor bir çözüm değil, araştırma gündemi; ama sorunu doğru adlandırıyor ve izin modeli tasarlarken kullanabileceğin net bir kavram çerçevesi veriyor.
Pratikte
Bir agent özelliği eklerken izinleri ‘okuyabilir / yazabilir’ diye değil, üçlüyle tanımlamayı dene: kim (hangi kullanıcı adına), ne tür veri (belge, kişisel not, ödeme bilgisi) ve nereye (kullanıcının kendisine mi, üçüncü bir tarafa mı). Pratikte bu, tool call’lardan önce çalışan küçük bir kontrol fonksiyonu demek: allow(actor, data_type, destination). Dışarıya veri gönderen her tool (e-posta, webhook) için bu kontrolü kodda zorunlu tut; modelin prompt’una ‘paylaşma’ yazmak bir sınır değildir.
Sözlük
- Contextual Integrity (CI)
- Gizliliği, bilginin bulunduğu bağlamın normlarına uygun biçimde akması olarak tanımlayan kuram.
- transmission principle
- Bir bilgi akışının hangi koşulla yapıldığını belirleyen kural; örneğin gizlilik ya da karşılıklılık.
- policy engine
- Bir eylemin ya da veri akışının izinli olup olmadığına kurallara göre karar veren bileşen.
- agentic AI
- Plan yapıp araç çağırarak çok adımlı işleri kendi başına yürüten yapay zekâ sistemleri.