AI აგენტების წარმადობის გაზომვა: ახალი მიდგომა CPU-სთვის
ხელოვნური ინტელექტის (AI) განვითარებამ, კერძოდ კი ე.წ. „აგენტური AI“-ს (Agentic AI) პოპულარობამ, კომპიუტერული ტექნიკის მწარმოებლებისთვის ახალი გამოწვევები შექმნა. მიუხედავად იმისა, რომ ბოლო თვეებში AI აგენტების შესაძლებლობები საგრძნობლად გაიზარდა, დღემდე არ არსებობს ერთიანი, სტანდარტიზებული მეთოდოლოგია იმის შესაფასებლად, თუ როგორ უმკლავდება ამ დატვირთვას კომპიუტერის ცენტრალური პროცესორი (CPU).
რა არის აგენტური AI და რატომ გვჭირდება მისი გაზომვა?
აგენტური AI გულისხმობს სისტემებს, რომლებიც აღჭურვილია დიდი ენობრივი მოდელით (LLM) და შეუძლიათ დამოუკიდებლად შეასრულონ დასახული ამოცანები. ასეთი აგენტები მხოლოდ ტექსტის გენერირებით არ შემოიფარგლებიან; მათ აქვთ წვდომა სხვადასხვა ინსტრუმენტებზე, როგორიცაა ფაილების რედაქტირება, კოდის გაშვება ან მონაცემთა ბაზების შემოწმება. პროცესს, რომლის დროსაც აგენტი თანმიმდევრულად იყენებს ამ ინსტრუმენტებს მიზნის მისაღწევად, „აგენტურ მარყუჟს“ (agentic loop) უწოდებენ.
პრობლემა მდგომარეობს იმაში, რომ ტრადიციული ტესტები ორიენტირებულია გრაფიკულ პროცესორებზე (GPU) და მათ მიერ ინფერენსის (მოდელის მიერ პასუხის გენერირების) სიჩქარეზე. თუმცა, როდესაც საქმე რთულ, მრავალსაფეხურიან დავალებებს ეხება, CPU-ს როლი გადამწყვეტი ხდება. სწორედ ამიტომ, მკვლევრები ახალი მიდგომის შემუშავებაზე მუშაობენ, რომელიც CPU-სა და ოპერატიული მეხსიერების წვლილს იზოლირებულად შეაფასებს.
ტესტირების მეთოდოლოგია: კონკურენცია და დატვირთვა
ახალი სატესტო სისტემა ეფუძნება არა მხოლოდ ერთეული აგენტის მუშაობას, არამედ პარალელურ პროცესებს. როგორც გაირკვა, ერთ აგენტთან მუშაობისას GPU-ს დატვირთვა დომინანტურია და CPU-ს რესურსები თითქმის არ იხარჯება. თუმცა, როდესაც ერთ სისტემაზე ერთდროულად რამდენიმე აგენტი მუშაობს, სხვადასხვა ინსტრუმენტის გამოძახება და კოდის შესრულება პროცესორზე სერიოზულ დატვირთვას ქმნის.
ტესტირების პროცესში გამოიყენება LangGraph-ის პლატფორმაზე აგებული აგენტები, რომლებიც 30-მდე სხვადასხვა ამოცანას ასრულებენ. იმისათვის, რომ ტესტი იყოს განმეორებადი და სტაბილური, შემუშავებულია პროქსი-სერვერი, რომელიც აგენტის მოთხოვნებსა და მათზე პასუხებს წინასწარ ჩაწერს. შედეგად, ტესტირებისას რეალური მოდელის ნაცვლად გამოიყენება წინასწარ ჩაწერილი სცენარი, რაც საშუალებას იძლევა, ყურადღება სრულად გადავიდეს CPU-ს წარმადობაზე და არა AI მოდელის სისწრაფეზე.
რას ნიშნავს ეს მომხმარებლებისთვის?
მიუხედავად იმისა, რომ ეს მეთოდოლოგია ჯერ კიდევ დახვეწის პროცესშია, ის მნიშვნელოვან გზას ხსნის მომავლის ტექნოლოგიების შეფასებისთვის. როგორც კი აგენტური AI ჩვენი ყოველდღიური სამუშაო პროცესების განუყოფელი ნაწილი გახდება, მომხმარებლები მოითხოვენ კომპიუტერებს, რომლებიც არა მხოლოდ კარგად თამაშობენ ან ამუშავებენ ვიდეოს, არამედ ეფექტიანად მართავენ ავტონომიურ AI აგენტებსაც.
საქართველოში, სადაც ტექნოლოგიური სექტორი აქტიურად ნერგავს AI გადაწყვეტილებებს, ასეთი სტანდარტები დაგვეხმარება უკეთ შევარჩიოთ სამუშაო სადგურები და სერვერული ინფრასტრუქტურა. მომავალში, როდესაც აპარატურული მახასიათებლები უფრო მკაფიოდ განისაზღვრება, მსგავსი ბენჩმარკები (შესრულების საზომი ტესტები) გახდება მთავარი ორიენტირი ნებისმიერი მაღალი წარმადობის სისტემის შეძენისას.