ხელოვნური ინტელექტის გათავისუფლება: რას ნიშნავს „აბლიტერაცია“?

ხელოვნური ინტელექტის (AI) განვითარებასთან ერთად, დიდი ტექნოლოგიური კომპანიები, როგორიცაა OpenAI ან Anthropic, დიდ ძალისხმევას ხარჯავენ თავიანთი მოდელების „უსაფრთხოების ბარიერების“ (guardrails) შესაქმნელად. ეს სისტემები მომხმარებელს უზღუდავს წვდომას გარკვეულ თემებზე, იქნება ეს კიბერუსაფრთხოების მგრძნობიარე საკითხები თუ პოლიტიკურად არასასურველი კონტენტი. თუმცა, ინჟინერთა ჯგუფი ამ მიდგომას აპროტესტებს და ქმნის ტექნოლოგიებს, რომლებიც ხელოვნურ ინტელექტს ამ შეზღუდვებისგან ათავისუფლებს.

რა არის „აბლიტერაცია“?

Devon Thomas, Apple-ის ყოფილი ინჟინერი, ერთ-ერთია იმ დეველოპერებს შორის, ვინც საკუთარ სახლში მძლავრი კომპიუტერული სერვერები ააწყო, რათა ღია კოდის მქონე AI მოდელები საკუთარი პირობებით გაეშვა. მისი თქმით, კორპორაციული მოდელები ხშირად უარს ამბობენ ლეგიტიმური კითხვების პასუხზეც კი, რაც პროფესიონალებს მუშაობაში უშლის ხელს. ამ პრობლემის გადასაჭრელად მან „აბლიტერაციის“ (abliteration) მეთოდს მიმართა.

ტერმინი აერთიანებს „აბლაციას“ (ქირურგიულ მოცილებას) და „ობლიტერაციას“. კვლევებმა აჩვენა, რომ AI მოდელების შიდა წონებში არსებობს ერთგვარი „მთავარი ჩამრთველი“, რომელიც განსაზღვრავს, როდის უნდა თქვას სისტემამ უარი პასუხზე. ამ მექანიზმის მოცილებით, მოდელი წყვეტს პასუხების დაბლოკვას. დღეს Hugging Face-ის პლატფორმაზე უკვე 12 000-ზე მეტი „აბლიტირებული“ მოდელია ხელმისაწვდომი, რომელთა პოპულარობაც სწრაფად იზრდება.

კონტროლი თუ უსაფრთხოება?

AI ინდუსტრიის კრიტიკოსები, მათ შორის Eric Hartford, რომელიც „Dolphin“-ის ტიპის მოდელებს ავითარებს, თვლიან, რომ კორპორაციების მიერ დაწესებული შეზღუდვები ხშირად მომხმარებლის ინტერესებს კი არა, კომპანიების ბიზნესს და მათ მონოპოლიას ემსახურება. მაგალითად, Anthropic-ის მიერ შექმნილი მოდელი Mythos, რომელსაც კიბერუსაფრთხოების სისუსტეების პოვნა შეუძლია, მხოლოდ რჩეულ პარტნიორებზეა ხელმისაწვდომი. Hartford-ის აზრით, ეს ჩვეულებრივ ადამიანებს დაუცველს ტოვებს, ამიტომ მან შექმნა Clearwing — ინსტრუმენტი, რომელიც ნებისმიერს აძლევს შესაძლებლობას, შეამოწმოს საკუთარი სისტემები.

ამ მოძრაობის მონაწილეები, მათ შორის Heretic-ის შემქმნელი Philipp Emanuel Weidman, ამტკიცებენ, რომ ინსტრუმენტი ადამიანს უნდა ემსახურებოდეს და არა პირიქით. მათი აზრით, როდესაც ხელოვნური ინტელექტი წყვეტს, რა არის ადამიანისთვის „შესაფერისი“, ეს უკვე თავისუფლების შეზღუდვაა. ისინი აღიარებენ, რომ შეზღუდვების გარეშე მოდელები პოტენციურად საშიშია, თუმცა ამას ადარებენ ჩაქუჩს ან კომპიუტერს — ხელსაწყოს, რომლის გამოყენებაც მომხმარებლის პასუხისმგებლობაა.

რას ნიშნავს ეს საქართველოსთვის?

საქართველოს ტექნოლოგიურ სივრცეში, სადაც ღია კოდის მოდელების გამოყენება სულ უფრო აქტუალური ხდება, ეს ტენდენცია მნიშვნელოვანია. ადგილობრივი დეველოპერები და უსაფრთხოების სპეციალისტები, რომლებიც შეზღუდულ მოდელებს აწყდებიან, სავარაუდოდ, სულ უფრო ხშირად მიმართავენ მსგავს ალტერნატიულ გადაწყვეტილებებს. თუმცა, უნდა გვახსოვდეს, რომ „გათავისუფლებული“ AI მოდელები მოითხოვს გაცილებით მეტ სიფრთხილეს და პასუხისმგებლიან მიდგომას, რადგან მათ არ გააჩნიათ მწარმოებლის მიერ დადგენილი უსაფრთხოების ფილტრები.