Yapay zeka ajanları, sağlayıcının pazarlama metni kadar değil, verdiğiniz erişim ve koyduğunuz sınırlar kadar güvenlidir. Önemli üç risk şunlardır: gereğinden geniş izinler, incelenmeden alınan eylemler ve iş verinizin başkasına hizmet eden bir modeli eğitmesi. Üçü de kontrol edilebilir: tam hesap erişimi yerine araç bazlı kapsam verin, ilk teması ve fiyat geçen her şeyi onay arkasında tutun, ve hiçbir şey bağlamadan önce eğitim verisi cevabını yazılı alın.
Ajan platformu değerlendiren her kurucu aynı ana gelir: kurulum ekranı CRM'inizi, gelen kutunuzu ve takviminizi bağlamanızı ister ve bir yazılıma müşterilerinize e-posta gönderme yetkisi vermek üzere olduğunuzu fark edersiniz. Bu tereddüt yerindedir ve "güvenliği ciddiye alıyoruz"dan daha iyi bir cevabı hak eder.
Aşağıdakiler bu kategorideki herhangi bir sağlayıcıyı, bizi de dahil ederek, değerlendirmek için bir çerçevedir. Kasıtlı olarak Operater'a güvenmek için sebepler listesi değildir.
Gerçekte neyi veriyorsunuz
"CRM'inizi bağlayın" tek bir izin değildir. Genellikle birden fazla kapsamı aynı anda kapsayan bir OAuth iznidir ve çoğu platform en genişini ister, çünkü üzerine geliştirmek daha kolaydır.
| İzin | Neye izin verir | Gerçekten gerekli mi? |
|---|---|---|
| Kişileri ve fırsatları okuma | Tüm pipeline'ınızı görme | Evet, nitelendirme için |
| Kayıtlara yazma | Fırsat aşaması değiştirme, not ekleme | Evet, CRM düzeni için |
| Sizin adınıza e-posta | Gönderebileceğiniz her şey | Yalnızca çıktıya güvendikten sonra |
| Tüm gelen kutusunu okuma | İlgisizler dahil her mesaj | Nadiren — konu bazlı kapsam yeter |
| Kayıt silme | Veriyi kalıcı olarak kaldırma | Neredeyse asla |
| Kullanıcı ve ayar yönetimi | Kurum yapılandırmasını değiştirme | Hayır |
Son iki satır gerçek açığın bulunduğu yerdir ve çoğunlukla tek bir "tam erişim" düğmesine paketlenmiş olanlardır. Bir platform hangi kapsamları neden istediğini açıklayamıyorsa cevabınız budur.
Önemli üç risk
1. Gereğinden geniş izinler
Yalnızca fırsatları okuması ve not yazması gereken bir ajan, kayıt silebilmemeli veya kurum ayarlarını değiştirebilmemeli. Bu sıradan en az ayrıcalık düşüncesidir ve sürekli atlanır, çünkü kurulum akışı "her şeye izin ver"i tek tıklık yol yapar.
2. İncelenmeden alınan eylemler
İnsanların hayal ettiği başarısızlık biçimi başıboş bir ajandır. Gerçekte olan başarısızlık biçimi ise ajanın istemediğiniz ama makul bir şeyi yapmasıdır: şikayetin ortasındaki bir müşteriye yazmak ya da hedef bir hesaba yanlış zamanda yanlış çerçeveyle ulaşmak. Hiçbiri güvenlik ihlali değildir. İkisi de zarardır.
Çözüm daha iyi komutlar değil, yazılı bir sınır listesidir. Nasıl kurulacağını ilk yapay zeka ajanınızı nasıl kurarsınız yazısında ele aldık.
3. Verinizin başkasının modelini eğitmesi
Bunu yazılı almanız gereken maddedir. Bazı platformlar müşteri verisini paylaşılan modelleri iyileştirmek için varsayılan olarak kullanır ve vazgeçme seçeneğini ayarlara gömer; bazıları sözleşmeyle asla kullanmaz. CRM notlarınızda bir rakibin çıktısında görünmesini istemeyeceğiniz bir şey varsa bu fark çok büyüktür.
Her sağlayıcıya sorulacaklar
- Hangi OAuth kapsamlarını istiyorsunuz ve hangileri isteğe bağlı? Kesin cevap veremeyen bunu düşünmemiştir.
- Verim başka müşterilere hizmet eden modelleri eğitmek için kullanılıyor mu? Satış görüşmesinden değil, yazılı alın.
- Veri nerede ve hangi yargı alanında saklanıyor? Kurumsal veya kamu satışında erken gelir, engel olmadan önce sorun.
- Ajanın aldığı her eylemi zaman damgasıyla görebiliyor muyum? Günlük bir insan tarafından okunamıyorsa denetim izi değildir.
- Tüm çalışma alanını dağıtmadan tek bir entegrasyonu iptal edebilir miyim? İptal ayrıntılı ve anında olmalı.
- İptal ettiğimde verime ne oluyor? Silme süresi ve yedeklerin dahil olup olmadığı.
- Hangi eylemler onay gerektiriyor ve listeyi değiştirebilir miyim? Cevap "ajan karar verir" ise devraldığınız bir ürün kararıdır.
Riski tek seferde almadan devreye alma
- Birinci hafta, salt okunur. Okuma kapsamıyla bağlayın, ajan göndermeden taslak yazsın. Çok az şey kaybeder, ne yapacağını tam olarak görürsünüz.
- İkinci hafta, güvenli yüzeyde eylem. CRM notu yazsın ve kayıtları güncellesin. Bunlar geri alınabilir ve etki alanı dardır.
- Üçüncü hafta, yalnızca sıcak kişilere gönderim. Sizi zaten tanıyanlar, ilk kusurlu mesaj için bağışlayıcı kitledir.
- Kalıcı olarak onay arkasında tutun: isimli hedef hesaplara ilk temas, fiyat veya sözleşme koşulu geçen her şey ve mevcut müşterilere giden her mesaj.
- Asla vermeyin: silme izni, kullanıcı yönetimi, faturalandırma.
Operater açıkça nerede duruyor
Kapalı betada bir MVP'si olan, tohum öncesi bir şirketiz. Bugün SOC 2 veya ISO 27001 belgemiz yok ve bizim aşamamızda aksini iddia eden herhangi bir sağlayıcı dikkatle incelenmeyi hak eder. Sunduğumuz şey, günlük hayatta riski gerçekten azaltan şeydir: ajanın aldığı her eylem, okuyabileceğiniz ayrı ve kayıtlı bir girdidir; çünkü o günlük aynı zamanda faturalandırmanın sayıldığı yerdir — bir kredi bir eylemdir, dolayısıyla okunamayan bir günlük faturalandırılamayan bir günlük olurdu.
Sınırları siz koyarsınız, ilk temas ve fiyata dokunan her şey için onay varsayılan olarak gereklidir ve bağlantılar tek tek iptal edilebilir. Satın alma süreciniz bugün resmi bir sertifika gerektiriyorsa açıkça henüz doğru seçim değiliz; bunu burada öğrenmek, değerlendirmenin üçüncü haftasında öğrenmekten iyidir.
Dürüst özet
Soru, ajanların soyut olarak güvenli olup olmadığı değil. Soru şu: belirli kapsamlara sahip belirli bir ajanın, yazdığınız sınırlar içinde belirli bir işi yapması, geri döndürdüğü değer karşılığında kabul edilebilir bir risk mi? Böyle çerçevelendiğinde bu, yeni bir danışmana sistemlerinize erişim verirken zaten aldığınız kararın aynısıdır — ve bir danışmana ilk gün silme yetkisi vermezdiniz.
Öne çıkanlar
- Ajanlar faydalı olmak için gerçek erişime ihtiyaç duyar. Hem otonomi hem de kayda değer erişimsizlik vaat eden bir sağlayıcı, sohbet botu tarif ediyordur.
- Risk nadiren modeldir; OAuth kapsamının genişliği ve onay adımının yokluğudur.
- Verinin nerede saklandığını ve paylaşılan bir modeli eğitip eğitmediğini sorun — bağlamadan önce, yazılı olarak.
- Okuyabildiğiniz bir eylem günlüğü, doğrulayamadığınız bir uyum rozetinden değerlidir.
- Bir hafta salt okunur başlayın. Neredeyse hiçbir şey kaybetmez, ajanın ne yapacağını öğrenirsiniz.