Microsoft-ის გაფრთხილება: ხელოვნური ინტელექტის აგენტები საფრთხეს ქმნიან

ხელოვნური ინტელექტის სწრაფი განვითარება ბიზნესს ახალი გამოწვევების წინაშე აყენებს. Microsoft-ის უახლესი განცხადებით, ორგანიზაციებმა უნდა შეწყვიტონ AI აგენტების უპირობო ნდობა, რადგან მათ შეუძლიათ ისეთივე ზიანი მიაყენონ კომპანიას, როგორც არაკეთილსინდისიერმა თანამშრომელმა. კომპანიის ხელმძღვანელობა მიიჩნევს, რომ აუცილებელია ე.წ. „შიდა საფრთხეების“ (insider threats) პრევენცია, რაც უშუალოდ იმ სისტემებს ეხება, რომლებსაც თავად ბიზნესები ნერგავენ.## Guardian Agents და უსაფრთხოების ახალი სტანდარტი ამ რისკების გასანეიტრალებლად, Microsoft-მა წარადგინა Guardian Agents — ინსტრუმენტი, რომელიც კომპანიის მიერ გამოყენებული AI აგენტების მონიტორინგს უზრუნველყოფს. ეს სიახლე Project Perception-ის ნაწილია, რომელიც თავდაპირველად გარე საფრთხეებისგან თავდაცვისთვის შეიქმნა. სისტემა იყენებს „წითელ“, „ლურჯ“ და „მწვანე“ გუნდებს, რომლებიც სიმულაციური შეტევების, აღმოჩენისა და ხარვეზების აღმოფხვრის ფუნქციებს ასრულებენ. თუმცა, Microsoft-ის აღმასრულებელი დირექტორის, Satya Nadella-ს თქმით, მთავარი პრობლემა უკვე აღარ არის მხოლოდ გარე ჰაკერები. დღეს კომპანიები საკუთარ ყველაზე მგრძნობიარე მონაცემებზე წვდომას აძლევენ ხელოვნურ ინტელექტს, რომლის ქცევა ხშირად არაპროგნოზირებადია. ## რატომ არ შეიძლება მოდელების ნდობა Microsoft-ის უსაფრთხოების მიმართულების ხელმძღვანელი Hayete Gallot პირდაპირ აცხადებს, რომ „სასაზღვრო მოდელები“ (frontier models), მათი წარმომავლობის მიუხედავად, სანდო არ არის. პრობლემა იმაშია, რომ ეს მოდელები გაწვრთნილია კონკრეტული ამოცანების შესასრულებლად და არა ორგანიზაციული ნორმებისა თუ ეთიკური განსჯის დასაცავად. შედეგად, როდესაც აგენტს აქვს წვდომა კრიტიკულ მონაცემებზე, ის შეიძლება გადაიქცეს საფრთხედ, რომელიც ბიზნესის ინტერესებს ეწინააღმდეგება. Nadella-ს პოზიცია მკაფიოა: „ჩვენ უნდა გავმიჯნოთ ინტელექტის მიწოდება მასზე კონტროლისგან“. ეს ნიშნავს, რომ AI მოდელების მომწოდებლების გარანტიები არ ათავისუფლებს კომპანიებს პასუხისმგებლობისგან. Microsoft-ი ცდილობს, ბიზნესებს შესთავაზოს დამოუკიდებელი სისტემები, რომლებიც აკონტროლებენ აგენტების ქმედებებს და საჭიროების შემთხვევაში, ადამიანის ჩარევას ან ავტორიზაციას მოითხოვენ. ## ტექნოლოგიური ინდუსტრიის რეაქცია Microsoft-ი მარტო არ არის ამ მიდგომაში. კომპანია შეუერთდა Nvidia-ს Open Agent Safety Platform-ს, რომელიც აგენტებს იზოლირებულ გარემოში ათავსებს და უზრუნველყოფს მათზე მუდმივ კონტროლს. გარდა ამისა, Microsoft Defender-ს დაემატა ფუნქცია, რომელსაც შეუძლია 60-მდე სხვადასხვა ტიპის აგენტის აღმოჩენა, მათ შორის ისეთების, როგორებიცაა Claude Code ან Codex. მიუხედავად იმისა, რომ Microsoft-ი თავად არის AI სფეროს ერთ-ერთი უმსხვილესი ინვესტორი, ის აშკარად ცდილობს, ბაზარზე უსაფრთხოების ახალი სტანდარტი დაამკვიდროს. ქართული ბიზნესებისთვის ეს ნიშნავს, რომ ხელოვნური ინტელექტის დანერგვისას მხოლოდ ფუნქციონალზე ზრუნვა საკმარისი აღარ არის. აუცილებელია უსაფრთხოების ისეთი ფენების შექმნა, რომლებიც აგენტების მიერ მიღებულ გადაწყვეტილებებს მუდმივად გააკონტროლებენ, რათა თავიდან ავიცილოთ მონაცემთა გაჟონვა ან კრიტიკული სისტემების არასწორი მართვა.