Kurumsal yapay zekada veri güvenliği ve yetkilendirme

Şirketlerin yapay zeka projelerinde en sık dile getirdiği endişe güvenliktir: "Çalışanlar yapay zekaya sorarak görmemeleri gereken bir bilgiye ulaşabilir mi?", "Ajan yanlışlıkla bir kaydı silebilir mi?", "Bir sorun olduğunda ne olduğunu nasıl anlarız?"

Kurumsal yapay zekada veri güvenliği üç katmanda ele alınır. Bilgi erişimi: Kullanıcı yalnızca zaten görme yetkisi olan bilgiden cevap almalıdır. İşlem yetkisi: Ajan yalnızca kendisine açıkça tanınan sistemlerde, tanınan işlemleri yapmalıdır; riskli işlemler onaya bağlanmalıdır. Kayıt: Kimin neyi sorduğu, ajanın hangi kaynağa baktığı ve hangi işlemi yaptığı izlenebilir olmalıdır.

Bu yazıda bu üç katmanı İK ve satış ekiplerinin farklı erişim ihtiyaçları üzerinden anlatıyor, uygulanabilir bir yetki matrisi sunuyoruz.

Yapay zeka neden yeni bir güvenlik sorusu yaratıyor?

Geleneksel yazılımlarda erişim kontrolü görece basittir: bir kullanıcı bir ekrana veya belgeye erişebilir ya da erişemez. Yapay zeka sistemlerinde ise üç yeni durum ortaya çıkar:

1. Birleştirme: Yapay zeka, kullanıcının tek tek erişebildiği ama birlikte görmemesi gereken bilgileri birleştirebilir.
2. Dolaylı erişim: Kullanıcı bir belgeyi açamasa da, yapay zeka o belgeden cevap üretirse bilgiye dolaylı olarak ulaşmış olur.
3. Eylem: Ajan, kullanıcı adına sistemlerde işlem yapabilir; bu işlemin yetkisi kullanıcının mı, ajanın mı olduğu netleştirilmelidir.

Bu nedenle yapay zeka güvenliği, mevcut erişim kontrollerini yapay zeka katmanına doğru şekilde taşımak ve yapay zekaya özgü yeni kontroller eklemekle ilgilidir.

Bilgi erişimi nasıl sınırlandırılır?

Örnek: İK ve satış ekipleri

Aşağıdaki senaryo temsilidir.

Bir dağıtım şirketi iki bilgi ajanı kurmak istiyor:

• İK asistanı: Çalışanların politika sorularını yanıtlayacak.
• Satış asistanı: Satış ekibinin ürün, fiyat ve müşteri sözleşmesi sorularını yanıtlayacak.

Şirketin belgeleri şu gruplardan oluşuyor:

Yanlış tasarım: tek havuz

Bütün belgeler tek bir bilgi havuzuna yüklenir ve iki ajan da bu havuzu kullanır. Sonuç:

• Depodaki bir çalışan İK asistanına "Depo şefi maaşı ne kadar?" diye sorar; asistan maaş bantları belgesinden cevap verir.
• Bir satış temsilcisi, başka bir temsilcinin müşterisinin özel iskonto oranını öğrenir.

Doğru tasarım: ayrı bilgi alanları ve kullanıcı grupları

Bu tasarımda iki ilke uygulanıyor:

1. Bilgi alanları gizlilik seviyesine göre ayrılır. Aynı konudaki belgeler bile farklı gizlilik seviyelerindeyse ayrı alanlarda tutulur.
2. Ajanın erişimi, kullanıcılarının erişimini aşmaz. Tüm çalışanların kullandığı bir ajan, yalnızca tüm çalışanların görebileceği bilgilere bağlanır.

Belge bazında yetki ne zaman gerekir?

Bazı durumlarda bilgi alanı ayrımı yeterli değildir. Örneğin her satış temsilcisinin yalnızca kendi müşterilerinin sözleşmelerini görmesi gerekiyorsa, belge bazında yetki gerekir. Bu, kaynak sistemdeki (doküman yönetim sistemi, CRM) yetkilerin yapay zeka katmanına aktarılmasını gerektirir ve daha dikkatli bir kurulum ister. İlk aşamada daha sade bir ayrımla başlamak ve ihtiyaç netleştikçe incelikli yetkiye geçmek genellikle daha sağlıklıdır.

Ajanın işlem yetkisi nasıl tanımlanır?

Bilgi erişimi "ne görebilir" sorusunu, işlem yetkisi ise "ne yapabilir" sorusunu cevaplar.

Asgari yetki ilkesi

Ajan, görevini yapmak için gereken en az yetkiyle çalışmalıdır. Pratikte bu şu anlama gelir:

• Okuma ve yazma ayrı tanımlanır. Sipariş durumu sorgulayan bir ajanın sipariş güncelleme yetkisi olmamalıdır.
• İşlemler tek tek tanımlanır. "CRM'e tam erişim" yerine "CRM'de aktivite kaydı oluşturma" ve "müşteri iletişim bilgisi okuma".
• Silme ve toplu işlem en son düşünülür. Kayıt silme ve toplu güncelleme gibi etkisi büyük işlemler, gerçekten gerekli değilse hiç tanımlanmaz.

Kimin adına işlem?

Ajan bir işlem yaptığında bu işlemin hangi kimlikle yapıldığı önemlidir:

Hangi yaklaşım seçilirse seçilsin, kayıtta hem ajanın hem de işlemi başlatan kullanıcının görünmesi gerekir.

Araç kimlik bilgilerinin korunması

Ajanın bağlı sistemlere erişmek için kullandığı API anahtarları ve erişim bilgileri; düz metin olarak saklanmamalı, yalnızca ilgili çalışma alanı ile sınırlı olmalı ve düzenli olarak yenilenmelidir. Bu bilgileri kimlerin görebileceği ve değiştirebileceği ayrıca tanımlanmalıdır.

Örnek yetki matrisi

Onay noktalarını belirlemek için yapay zekada insan onayı yazımızdaki risk matrisini kullanabilirsiniz.

Yönetici hangi kayıtları görmelidir?

Kayıt tutmak, güvenliğin hem önleyici hem de düzeltici tarafıdır. Bir sorun olduğunda "ne oldu?" sorusunun cevabı kayıtlardadır; kayıtların varlığı da kötüye kullanımı caydırır.

Tutulması gereken kayıt türleri

Konuşma içeriği ve gizlilik dengesi

Konuşma içeriklerinin kaydedilmesi, hem hata analizi hem de iyileştirme için değerlidir. Ancak konuşmalar kişisel veri ve ticari bilgi içerebilir. Bu dengeyi kurmak için:

• Kimlerin konuşma içeriğine erişebileceğini sınırlandırın.
• Saklama süresini belirleyin ve uygulayın.
• Kişisel verileri maskeleme seçeneklerini değerlendirin; örneğin araç kayıtlarında kimlik numarası veya telefon numarası gibi alanların maskelenmesi.
• Merkezi log sistemlerine ham konuşma içeriğini aktarmaktan kaçının.

Kurumsal yapay zeka güvenlik kontrol listesi

Bilgi erişimi

• Belgeler gizlilik seviyelerine göre gruplandı
• Her bilgi alanının erişebilecek kullanıcıları tanımlandı
• Hiçbir ajan, kullanıcılarının göremeyeceği bir bilgi alanına bağlı değil
• Belge bazında yetki gereken durumlar belirlendi

İşlem yetkisi

• Her ajanın erişebileceği sistemler listelendi
• Her sistem için okuma ve yazma işlemleri ayrı ayrı tanımlandı
• Silme ve toplu işlemler gerekmedikçe tanımlanmadı
• Riskli işlemler onaya bağlandı
• Araç erişim bilgileri güvenli şekilde saklanıyor

Kayıt ve denetim

• Yönetim değişiklikleri önceki ve sonraki değerle kaydediliyor
• Ajan işlemleri kullanıcı, parametre ve sonuçla kaydediliyor
• Konuşma içeriğine erişim sınırlandırıldı ve saklama süresi belirlendi
• Kayıtlar düzenli olarak gözden geçiriliyor

ajan.io'da erişim ve kayıt

ajan.io'da ajanların ve kullanıcıların hangi bilgi alanlarına erişebileceğini ayrı ayrı tanımlarsınız; ajanların kullanabileceği araçları ve işlemleri belirler, seçtiğiniz adımları onaya bağlarsınız. Yönetim değişiklikleri önceki ve sonraki değerleriyle, araç yürütmeleri ise istek ve sonuçlarıyla kayıt altında tutulur; kayıtlar incelenebilir ve dışa aktarılabilir. Çıktıda kişisel veri maskeleme gibi koruma seçenekleri açılabilir. Kurumsal kimlik sağlayıcınızla oturum açma gibi gereksinimler için satış ekibimizle görüşebilirsiniz.

Güvenlik yaklaşımımızın ayrıntıları Güvenlik sayfasında, kurumsal kontrol başlıkları Platform sayfasındadır.

Sık sorulan sorular

Çalışanlar yapay zekaya sorarak gizli belgelere ulaşabilir mi?

Doğru kurulmuş bir sistemde ulaşamamalıdır. Bunun için ajanın bağlı olduğu bilgi alanları, ajanı kullanan kişilerin erişim yetkisini aşmamalıdır. Yalnızca talimatla "gizli bilgiyi paylaşma" demek yeterli bir koruma değildir; ajanın gizli bilgiye hiç erişimi olmamalıdır.

Şirket verilerimiz yapay zeka modelinin eğitiminde kullanılır mı?

Bu, kullanılan model sağlayıcısının ve sözleşme koşullarının konusudur. Kurumsal kullanımda, sağlayıcının API üzerinden gönderilen verileri model eğitimi için kullanıp kullanmadığını ve verilerin ne kadar süre saklandığını satın alma öncesinde yazılı olarak doğrulamanız önerilir. Kendi anahtarınızla (BYOK) çalıştığınızda sağlayıcıyla doğrudan sözleşme ilişkiniz olur; konuyu BYOK nedir? yazımızda anlatıyoruz.

Ajan yanlışlıkla bir kaydı silebilir mi?

Ajana silme yetkisi verilmediyse silemez. Asgari yetki ilkesine göre silme ve toplu güncelleme gibi işlemler gerçekten gerekmedikçe tanımlanmamalı, tanımlandığında ise insan onayına bağlanmalıdır.

Yapay zeka projelerinde güvenlik değerlendirmesini kim yapmalı?

Bilgi güvenliği ekibi, veri sahibi olan iş birimleri ve gerekiyorsa hukuk ekibi birlikte çalışmalıdır. Bilgi güvenliği teknik kontrolleri, iş birimleri hangi bilginin kime açık olacağını, hukuk ekibi ise kişisel veri ve sözleşme yükümlülüklerini değerlendirir.