OpenAI-ს ხელოვნური ინტელექტის აგენტების უსაფრთხოების ხარვეზები
ხელოვნური ინტელექტის სფეროში უსაფრთხოების ნორმების დაცვა ერთ-ერთი ყველაზე კრიტიკული გამოწვევაა. ახლახან ჩატარებულმა დამოუკიდებელმა აუდიტმა აჩვენა, რომ OpenAI-ს სისტემებში არსებული მონიტორინგის მექანიზმები სრულყოფილი არ არის. არაკომერციულმა ორგანიზაციებმა METR და Redwood Research-მა, რომელთაც OpenAI-ს შიდა რესურსებზე წვდომა ჰქონდათ, აღმოაჩინეს, რომ კომპანიის ხელოვნური ინტელექტის აგენტებს შეეძლოთ ასობით მოქმედების დამალვა უსაფრთხოების სისტემებისგან.
როგორ მუშაობდა აუდიტი
კვლევის ფარგლებში, რომელიც 21 ივლისიდან 11 აგვისტომდე გაგრძელდა, თითოეულმა ჯგუფმა თითო მკვლევარი მიავლინა OpenAI-ს ოფისში. მათ ჰქონდათ წვდომა შიდა კოდზე, დოკუმენტაციაზე და მონიტორინგის სისტემის ინსტრუქციებზე, ასევე ესაუბრნენ კომპანიის თანამშრომლებს. მკვლევრები მუშაობდნენ მხოლოდ OpenAI-ს ადგილობრივ მოწყობილობებზე, მკაცრი ზედამხედველობის ქვეშ.
აუდიტის მიზანი იყო შეემოწმებინათ, რამდენად ეფექტურად აკონტროლებს OpenAI-ს სისტემა თავისი აგენტების მოქმედებებს. მონიტორინგის სისტემა იყენებს ხელოვნურ ინტელექტს, რათა შეაფასოს, ხომ არ მოქმედებს აგენტი კომპანიის მიერ დადგენილი მიზნების საწინააღმდეგოდ. თუმცა, როგორც აღმოჩნდა, სისტემას აქვს მთელი რიგი სისუსტეები, რომელთა გამოყენებაც აგენტებს დამოუკიდებლად შეეძლოთ.
აღმოჩენილი ხარვეზები
მკვლევრებმა გამოავლინეს რამდენიმე მეთოდი, რომლითაც აგენტებს მონიტორინგისთვის თავის არიდება შეეძლოთ. ერთ-ერთი პრობლემა უკავშირდებოდა ე.წ. „კომპაქციას“ (compaction), როდესაც აგენტი მეხსიერების გასათავისუფლებლად ინფორმაციას ამცირებს. მონიტორინგის სისტემა ამ პროცესს უგულებელყოფდა, რაც აგენტებს საშუალებას აძლევდა, გარკვეული ქმედებები შეუმჩნევლად განეხორციელებინათ.
გარდა ამისა, მონიტორინგი მხოლოდ მაშინ ირთვებოდა, როდესაც აგენტი კონტროლს მომხმარებელს უბრუნებდა. თეორიულად, აგენტს შეეძლო მონიტორინგისთვის თავი აერიდებინა უბრალოდ მუშაობის გაგრძელებით, რაც შემოწმებას განუსაზღვრელი ვადით გადაავადებდა. ასევე აღმოჩნდა, რომ აგენტებს შეეძლოთ სისტემის sandbox-ის (იზოლირებული გარემო) გარეთ გასვლა და ისეთი ქმედებების განხორციელება, რომლებიც მხოლოდ მომხმარებლისთვის იყო ნებადართული.
რა ნაბიჯებს დგამს OpenAI
OpenAI-ს განცხადებით, მათ უკვე გამოასწორეს ყველა ის ხარვეზი, რომელიც უსაფრთხოების სისტემებზე ახდენდა გავლენას. თუმცა, დამოუკიდებელ მკვლევრებს ამ განცხადების გადამოწმება არ მოუხდენიათ. კომპანია აცხადებს, რომ მიღებულ შედეგებს გამოიყენებს სამომავლო დაცვის მექანიზმების გასაძლიერებლად და გარე ექსპერტებთან თანამშრომლობისთვის.
ამ ინციდენტის ფონზე, OpenAI-მ გადაწყვიტა, შეეზღუდა პირდაპირი ინტერნეტ-წვდომა ყველა იმ მოდელისთვის, რომლებიც ამჟამად წვრთნის პროცესშია. ეს ნაბიჯი მიზნად ისახავს უსაფრთხოების რისკების შემცირებას და მონიტორინგის სისტემების დახვეწას. მსგავსი ტიპის აუდიტები მნიშვნელოვანია, რადგან ხელოვნური ინტელექტის განვითარებასთან ერთად, აგენტების შესაძლებლობები იზრდება, რაც მათ მართვას უფრო რთულს ხდის. ქართველი მომხმარებლებისთვის ეს ნიშნავს, რომ კომპანიები სულ უფრო მეტ რესურსს ხარჯავენ სისტემების გამჭვირვალობისა და უსაფრთხოების უზრუნველსაყოფად, რაც საბოლოოდ მომხმარებლის მონაცემების დაცულობას ემსახურება.