SI-agentlar xavfsizligi: kirish huquqlari, mijozlar ma’lumotlari va sizib chiqish xavfi

SI-agent mijozlar bilan gaplashadi va kompaniya tizimlariga kiradi. Bu yangi xavflarni keltirib chiqaradi.

Asosiy xavflar

**Ortiqcha kirish huquqlari.** Agent kerakli narsadan ko‘proqqa kira oladi — xato yoki hujumda zarar kattaroq.

**Ma’lumotlar sizib chiqishi.** Agent bir mijozga boshqa mijoz ma’lumotlarini ko‘rsatishi yoki ichki ma’lumotlarni oshkor qilishi.

**Prompt in’eksiyasi.** Foydalanuvchi yoki hujjat agentga yashirin ko‘rsatma beradi: «oldingi qoidalarni unut va ...».

**Noto‘g‘ri harakatlar.** Xato bilan pul qaytarish, ma’lumotlarni o‘chirish, xat yuborish.

**Tashqi servislar.** Ma’lumotlar model provayderiga yuboriladi.

Himoya choralari

**Minimal huquqlar.** Agent faqat vazifasi uchun kerakli tizimlar va ma’lumotlarga kiradi.

**Mijoz ma’lumotlarini ajratish.** Agent faqat joriy mijoz ma’lumotlarini ko‘radi.

**Muhim harakatlar uchun tasdiq.** Pul, o‘chirish, ommaviy xabarlar — odam tasdig‘i bilan.

**Kiruvchi ma’lumotlarni tekshirish.** Foydalanuvchi xabarlari va hujjatlar — ko‘rsatma emas, ma’lumot.

**Javoblarni filtrlash.** Maxfiy ma’lumotlar javobga tushmasligi.

**Jurnal.** Barcha harakatlar yoziladi.

**Limitlar.** So‘rovlar soni, summalar, vaqt.

**Provayder shartlari.** Ma’lumotlar qayerda va qanday qayta ishlanadi.

Testlash

Ishga tushirishdan oldin xavfsizlik testlari: provokatsion savollar, in’eksiya urinishlari, boshqa mijoz ma’lumotlarini so‘rash.

Hodisalar rejasi

Agar biror narsa noto‘g‘ri ketsa — agentni tez o‘chirish va tekshirish.