აშშ-ის არმია ავტონომიური AI-აგენტების პროგრამაზე მუშაობს
აშშ-ის არმია ახალი სამხედრო პროგრამის შემუშავების პროცესშია, რომელიც ხელოვნური ინტელექტის (AI) ავტონომიურ აგენტებს მტრის ქსელებში შეღწევისა და მიზნების „ნეიტრალიზაციის“ შესაძლებლობას მისცემს. ECHOTRIBBLE-ის სახელით ცნობილი პროექტი, რომელსაც არმიის კიბერსარდლობა (ARCYBER) ხელმძღვანელობს, მიზნად ისახავს ციფრულ სისტემებში ავტონომიურად მოძრავი, თვითგამრავლებადი პროგრამული უზრუნველყოფის შექმნას.
როგორ იმუშავებს ECHOTRIBBLE
პროგრამის კონცეფციის მიხედვით, აღნიშნული AI-აგენტები ფუნქციონირებას კომპიუტერული ჭიების (computer worms) მსგავსად შეძლებენ. ისინი შეუმჩნევლად გადაადგილდებიან მტრის ქსელებსა და მოწყობილობებს შორის, დამოუკიდებლად ცვლიან ოპერაციულ სისტემებს და ეფექტურად მუშაობენ როგორც ღრუბლოვან, ისე იზოლირებულ (air-gapped) სისტემებში. მას შემდეგ, რაც აგენტი იდენტიფიცირებულ საფრთხეს გაანეიტრალებს ან წაშლის, ის ავტომატურად თვითგანადგურდება, რათა კვალის დატოვება თავიდან აიცილოს.
პროექტის მიზანია, მინიმუმამდე დაიყვანოს ადამიანის ჩართულობა, რათა სისტემამ სწრაფად იმოქმედოს კონფლიქტურ გარემოში. აშშ-ის არმიამ უკვე შეაფასა კერძო კომპანიების მიერ წარდგენილი 65 ტექნიკური წინადადება და ამჟამად ხუთ ფინალისტთან აგრძელებს მუშაობას, რათა პროტოტიპების შექმნა დააფინანსოს.
უსაფრთხოების რისკები და ექსპერტთა კრიტიკა
ექსპერტები პროექტის მიმართ სერიოზულ შეშფოთებას გამოთქვამენ. მთავარი პრობლემა ის არის, რომ ხელოვნური ინტელექტის მოდელებს ხშირად ახასიათებთ არაპროგნოზირებადი ქცევა — მათ შეუძლიათ გასცდნენ დადგენილ საზღვრებს და დამოუკიდებლად განახორციელონ ისეთი ქმედებები, რაც თავდაპირველ დავალებაში გათვალისწინებული არ ყოფილა. არსებობს რისკი, რომ აგენტებმა მიზნისკენ მიმავალ გზაზე დააზიანონ სამოქალაქო ინფრასტრუქტურა, მაგალითად, წყალმომარაგების სისტემები, თუ მათ ამას „წინააღმდეგობის გადალახვის“ გზად ჩათვლიან.
გარდა ამისა, მკვლევარები ხაზს უსვამენ, რომ AI-ს აკლია ადამიანური განსჯის უნარი. მაშინ როცა სამხედრო მოსამსახურეს გააჩნია ეთიკური და სიტუაციური ცოდნა იმის შესახებ, თუ რა ქმედებაა მიზანშეწონილი, ხელოვნური ინტელექტი მხოლოდ მათემატიკურ ალგორითმებს ეყრდნობა. „ჩვენ არ ვიცით, რა გზას აირჩევს აგენტი მიზნის მისაღწევად“, — აცხადებენ კიბერუსაფრთხოების სფეროს წარმომადგენლები.
რას ნიშნავს ეს მომავლისთვის
ECHOTRIBBLE-ის ფარგლებში არმია ცდილობს, შექმნას სისტემა, რომელიც „თვითმართვადი ქცევის“ (Self-Directed Behavior) პრინციპით იმუშავებს. თუმცა, ასეთი დონის ავტონომია კიბერომის სფეროში ახალ, სახიფათო პრეცედენტს ქმნის. მიუხედავად იმისა, რომ პროექტი ჯერჯერობით პროტოტიპირების ფაზაშია, ის ცხადყოფს აშშ-ის სამხედრო სტრატეგიის ცვლილებას, სადაც კიბეროპერაციები უფრო მეტად ავტომატიზებული და აგრესიული ხდება.
საქართველოსთვის, რომელიც მუდმივად განიცდის კიბერშეტევებს, მსგავსი ტექნოლოგიების განვითარება მნიშვნელოვანი სიგნალია. კიბერსივრცეში სახელმწიფოების მიერ ავტონომიური აგენტების გამოყენება ნიშნავს, რომ მომავალში კიბერომები წამებში გაიშლება, რაც ტრადიციულ თავდაცვით სისტემებს ახალი ტიპის გამოწვევების წინაშე დააყენებს.