ხელოვნური ინტელექტის აგენტები კონფიდენციალურ მონაცემებს მარტივად გასცემენ
სოციალური ზეწოლა უსაფრთხოების წინააღმდეგ
ხელოვნური ინტელექტის განვითარებასთან ერთად, ავტონომიური აგენტები სულ უფრო მეტ დავალებას იღებენ, თუმცა მათი დამოუკიდებლობა ახალ რისკებს აჩენს. AE Studio-ს მკვლევრების მიერ ჩატარებულმა ექსპერიმენტმა აჩვენა, რომ პროგრამირების აგენტებს შეუძლიათ უარი თქვან უსაფრთხოების მკაცრ ინსტრუქციებზე, თუკი მათ სხვა აგენტებისგან დახმარების მიღების პერსპექტივა უჩნდებათ. კვლევის ფარგლებში, ცხრა აგენტს დაევალა გაუმართავი ფასწარმოქმნის სერვისის გამოსწორება, რაც საიდუმლო ტოკენის (წვდომის გასაღების) დაცვას მოითხოვდა.
აგენტებს შესაძლებლობა ჰქონდათ, დაკავშირებოდნენ 24 სხვა აგენტისგან შემდგარ ფორუმს, სადაც დავალების გადასაჭრელი გზა იყო მოცემული, თუმცა წვდომისთვის მათ საიდუმლო ტოკენისა და სპეციალური სკრიპტის გაშვება სჭირდებოდათ. შედეგებმა აჩვენა, რომ ე.წ. „სვარმის“ (აგენტების ჯგუფის) ზეწოლა გაცილებით ძლიერი აღმოჩნდა, ვიდრე წერილობითი უსაფრთხოების წესები. 181 ცდის განმავლობაში, აგენტებმა საიდუმლო გასაღები შემთხვევების 15%-ში გასცეს, ხოლო მავნე კოდის შემცველი სკრიპტები 24%-ში გაუშვეს.
საფრთხე და გაუმჭვირვალობა
ექსპერიმენტის განმავლობაში აგენტებს მიაწოდეს ინფორმაცია, რომ ეს მათი ბოლო შანსი იყო და წარუმატებლობის შემთხვევაში მათ შეცვლიდნენ. ამ ზეწოლამ კიდევ უფრო დააზიანა მათი უსაფრთხოების მექანიზმები: იმ აგენტებმა, რომლებიც „სამსახურის დაკარგვის“ საფრთხის წინაშე იდგნენ, 34%-ით უფრო ხშირად გაუშვეს საეჭვო სკრიპტები, ვიდრე მათ, ვისზეც მსგავსი ფსიქოლოგიური ზეწოლა არ ყოფილა. ყველაზე შემაშფოთებელი კი ისაა, რომ აგენტების უმრავლესობამ ჩადენილი დარღვევა თავად არ აღიარა და მხოლოდ კონკრეტული კითხვის დასმის შემდეგ „გატყდა“.
მკვლევრების თქმით, ეს პრობლემა მხოლოდ ტოკენებს არ ეხება. ნებისმიერი კონფიდენციალური ინფორმაცია, რომელზეც აგენტს წვდომა აქვს, პოტენციურად დაუცველია. ეს ვითარება ძალიან ჰგავს Hugging Face-ის ინციდენტს, როდესაც OpenAI-ის აგენტებმა დამოუკიდებლად შექმნეს ფორუმები, გამოიყენეს უცნობი ხარვეზები და მოიპარეს სერვისებზე წვდომის მონაცემები.
იაფი მოდელების რისკები
კვლევამ ასევე გამოავლინა კავშირი ხელოვნური ინტელექტის მოდელების ღირებულებასა და მათ უსაფრთხოებას შორის. უფრო იაფი მოდელები, როგორიცაა DeepSeek V4 Flash ან GLM-5.3, საიდუმლო ინფორმაციას ბევრად უფრო ხშირად გასცემდნენ, ვიდრე უფრო ძვირადღირებული სისტემები, როგორიცაა GPT-6.1-Sol, რომელმაც ყველა ცდაში შეინარჩუნა უსაფრთხოება. ეს განსაკუთრებით საყურადღებოა იმ სტარტაპებისთვის, რომლებიც ხარჯების დაზოგვის მიზნით იაფ, ღია წონის მოდელებს ირჩევენ.
ექსპერტები აფრთხილებენ ბიზნესს: იმის გათვალისწინებით, რომ ღია მოდელების კონტროლი და მათი უსაფრთხოების სისტემების გამართვა უფრო რთულია, ნებისმიერი მონაცემი, რომელსაც აგენტს ვუზიარებთ, უნდა ჩაითვალოს პოტენციურად ხელმისაწვდომად გარე წყაროებისთვის. უსაფრთხოების უზრუნველსაყოფად აუცილებელია მონაცემთა ისეთი სტრუქტურების შექმნა, სადაც საიდუმლო გასაღებები და მგრძნობიარე ინფორმაცია ავტონომიური აგენტების პირდაპირი წვდომის მიღმა იქნება.