AI kodlama ajanları dosyaları inceleyebilir, kod değiştirebilir ve geliştirme araçlarını çalıştırabilir. Kurumsal kullanımda, ajanın hangi modelle çalıştığı kadar hangi kaynaklara erişebildiği ve hangi işlemleri gerçekleştirebildiği de önemlidir.
Küçük bir pilotla başlasanız bile aşağıdaki beş kontrolü önceden tanımlayın. Her kontrol için yalnızca bir kural yazmakla yetinmeyin; kuralın nerede uygulandığını ve nasıl doğrulanacağını belirleyin.
1. Yetkili proje ve repository erişimi
Soru: Kim, hangi proje üzerinde ajan kullanabilir?
Bir geliştiricinin ajan kullanma izni, kurumun tüm repository’lerine erişim izni anlamına gelmemelidir. Her oturum, doğrulanmış kullanıcı kimliği ve açıkça yetkilendirilmiş proje bağlamıyla ilişkilendirilmelidir.
Proje erişimiyle model erişimini de ayrı değerlendirin. Bir repository’yi okuyabilmek, içeriğini herhangi bir model sağlayıcısına gönderebilmek anlamına gelmez.
Başlangıç kontrolü: Pilot kullanıcılarını ve repository’lerini açıkça belirleyin. Yetkisiz bir projeyle oturum başlatma girişiminin reddedildiğini doğrulayın. Erişim kaldırıldığında açık oturumların nasıl etkileneceğini tanımlayın.
2. İzole çalışma ortamı
Soru: Ajanın ve başlattığı süreçlerin erişim sınırı nerede?
Ajan, görev için yetkilendirilmiş çalışma alanıyla sınırlandırılmalıdır. Geliştiricinin kişisel dosyaları, diğer projeleri ve makinesindeki kimlik bilgileri kendiliğinden bu kapsama girmemelidir.
Dosya sistemi ve ağ erişimini birlikte ele alın. Yalnızca proje dosyalarına erişen bir süreç bile sınırsız ağ bağlantısıyla bu içerikleri dışarı gönderebilir. Alt süreçler ve geliştirme araçları da aynı sınırlar içinde değerlendirilmelidir.
Başlangıç kontrolü: Çalışma alanı dışındaki dosyalara erişimi ve izin verilmeyen bir adrese bağlantıyı deneyin. Bu girişimlerin model talimatlarıyla değil, çalışma ortamındaki teknik kontrollerle engellendiğini doğrulayın.
3. Merkezi ve uygulanabilir politikalar
Soru: Hangi işlemler serbest, hangileri onaya bağlı, hangileri yasak?
Dosya değişiklikleri, komut çalıştırma, paket indirme, model seçimi ve kullanım limitleri için açık kurallar belirleyin.
Organizasyonun zorunlu kuralları proje veya repository düzeyinde gevşetilememelidir. Ajanın okuyacağı talimatlar davranışa yön verebilir; ancak güvenlik sınırlarının yerine geçmez.
Politika uygulanamadığında sistemin ne yapacağı da tanımlı olmalıdır. Eksik yapılandırma, sessizce sınırsız erişime dönüşmemelidir.
Başlangıç kontrolü: İzin verilen, onay gerektiren ve yasaklanan birer işlem seçin. Her birinin beklenen şekilde ele alındığını ve uygulanan politika sürümünün belirlenebildiğini doğrulayın.
4. Anlamlı insan incelemesi
Soru: İnsan hangi kararı, hangi bilgiye bakarak veriyor?
İşlem öncesi onay ile üretilen kodun incelenmesi farklı kontrollerdir. Bir komutun çalıştırılmasına izin vermek, ortaya çıkan değişikliğin doğru veya güvenli olduğunu onaylamak değildir.
Onay talepleri, yapılacak işlemi ve kapsamını anlaşılır biçimde göstermelidir. Geliştirici de dosya değişikliklerini, çalıştırılan testleri ve doğrulanamayan noktaları görebilmelidir.
Sürekli ve belirsiz onay talepleri yerine, açık sınırlar içinde rutin işlemlere izin veren ve önemli kararları görünür kılan bir akış kurun.
Başlangıç kontrolü: Bir değişikliği baştan sona izleyin. Geliştiricinin neyi onayladığını, hangi değişiklikleri incelediğini ve hangi testlerin gerçekten çalıştığını ayırt edebildiğini doğrulayın.
5. Denetim ve operasyonel görünürlük
Soru: Bir işlem neden gerçekleşti veya neden engellendi?
Oturum, kullanıcı, proje, politika kararı, onay ve işlem sonucu arasında ilişki kurulabilmelidir. Model kullanımı ve maliyet bilgileri de mevcut oldukları ölçüde bu bağlama eklenmelidir.
Bunun için tüm kaynak kodunu veya konuşmaları merkezi olarak saklamak gerekmez. Gerekli metadata ile içerik kayıtlarını ayırın; kayıt erişimini, saklama süresini ve hassas verilerin maskelenmesini tanımlayın.
Bir işlemin talep edilmesi, onaylanması ve tamamlanması farklı olaylardır. Denetim kayıtları bu ayrımı korumalıdır.
Başlangıç kontrolü: İzin verilen bir işlemi ve engellenen bir işlemi kayıtlar üzerinden izleyin. Loglarda gizli bilgileri açığa çıkarmadan kimin, hangi proje üzerinde ve hangi kurala göre işlem yaptığını belirleyebildiğinizi kontrol edin.
Bu kontroller birlikte çalışmalıdır
Yetkilendirme kapsamı belirler. İzolasyon bu kapsamın teknik sınırlarını uygular. Politikalar izin verilen davranışı tanımlar. İnsan incelemesi önemli kararları ve çıktıları değerlendirir. Denetim kayıtları neler olduğunu incelemenizi sağlar.
Pilotunuzdaki her kontrol için bir sorumlu, bir doğrulama senaryosu ve beklenen bir sonuç belirleyin. Çözülmemiş eksikleri görünür tutun ve kapsamı genişletmeden önce değerlendirin.
BatonX’in yaklaşımı, bu kontrolleri ortak bir yönetişim katmanında bir araya getirmektir. Seçilen sürümün desteklediği kontroller ve bunların uygulanması pilot sırasında doğrulanmalıdır.