OpenAI-მ ChatGPT-ის უსაფრთხოების რეჟიმი განაახლა: რა საფრთხე არსებობდა

ხელოვნური ინტელექტის უსაფრთხოების სფეროში ახალი გამოწვევები გაჩნდა. Check Point Research-ის მკვლევრებმა აღმოაჩინეს, რომ ChatGPT-ის ე.წ. „Lockdown Mode“ — რეჟიმი, რომელიც მომხმარებლის კონფიდენციალური მონაცემების დაცვას ისახავს მიზნად — სრულფასოვანი არ აღმოჩნდა. სპეციალისტებმა შეძლეს ამ დაცვის გვერდის ავლით სისტემაში შეღწევა, რამაც კითხვის ნიშნის ქვეშ დააყენა AI მოდელების ირგვლივ არსებული უსაფრთხოების არქიტექტურა.

რა არის Lockdown Mode და რატომ გატყდა ის?

Lockdown Mode შექმნილია იმისთვის, რომ შეზღუდოს ChatGPT-ის კავშირი გარე სერვისებთან და გამორთოს გარკვეული ფუნქციები, როგორიცაა ინტერნეტში ძიება, ფაილების ჩამოტვირთვა ან ე.წ. „Agent Mode“. ეს ზომები მიზნად ისახავს ე.წ. „Prompt Injection“ (ბრძანების ინექცია) შეტევების პრევენციას, როდესაც ჰაკერები მანიპულირებენ AI-ით, რათა მან კონფიდენციალური ინფორმაცია გაამჟღავნოს.

მკვლევრების თქმით, პრობლემა ChatGPT-ის კოდის ბლოკების ჩვენების მექანიზმში იმალებოდა. მიუხედავად იმისა, რომ OpenAI-მ HTML და JavaScript კონტენტი სპეციალურ „ქვიშის ყუთში“ (sandbox) მოათავსა, რათა ის მთავარი აპლიკაციისგან განეცალკევებინა, მკვლევრებმა შეძლეს ამ შეზღუდვების გვერდის ავლა. მათ გამოიყენეს ჩადგმული ფრეიმების (nested frames) ტექნიკა, რამაც შესაძლებელი გახადა უსაფრთხოების ბარიერების გადალახვა და პოპ-აფ ფანჯრების გახსნა, რომლებიც აღარ ექვემდებარებოდა sandbox-ის წესებს.

რა საფრთხეს ქმნიდა ეს ხარვეზი?

უსაფრთხოების ექსპერტები აფრთხილებენ, რომ ამ ტიპის ხარვეზს ბევრად უფრო მძიმე შედეგები შეიძლებოდა მოჰყოლოდა, ვიდრე უბრალოდ მონაცემთა გაჟონვაა. სისტემაში შეღწევის შემთხვევაში, თავდამსხმელებს შეეძლოთ:

• მომხმარებლის პერსონალური მონაცემების მოპარვა;
• მავნე პროგრამების (malware) გავრცელება;
• ფიშინგური შეტევების განხორციელება, რადგან პოპ-აფ ფანჯრების კონტროლი შესაძლებელი იყო იმ გარემოში, რომელსაც მომხმარებელი ენდობა.

ყველაზე საშიშ სცენარად „zero-click“ შეტევა დასახელდა, როდესაც მომხმარებლის რაიმე ქმედების გარეშე, ავტომატურად იხსნება მავნე ფანჯარა. OpenAI-მ აღნიშნული ხარვეზის შესახებ ინფორმაციის მიღებისთანავე განახორციელა სერვერული მხარის ცვლილებები და დამატებითი დაცვის მექანიზმები დანერგა, რითაც აღნიშნული „გზა“ დაიხურა.

გაკვეთილი ტექნოლოგიური სამყაროსთვის

მკვლევრების მთავარი გზავნილია, რომ AI მოდელების უსაფრთხოება მხოლოდ იმ გარემოს სიმტკიცეზეა დამოკიდებული, რომელშიც ეს მოდელებია ინტეგრირებული. მხოლოდ მოდელის „გონების“ დაცვა საკმარისი არ არის; აუცილებელია იმ აპლიკაციების, კონექტორებისა და სერვერული კომპონენტების უსაფრთხოების კონტროლიც, რომლებიც ხელოვნურ ინტელექტს გარს აკრავს.

საქართველოში, სადაც AI ინსტრუმენტები სულ უფრო აქტიურად გამოიყენება როგორც კორპორატიულ, ისე პირად სივრცეში, ეს შემთხვევა შეხსენებაა, რომ ნებისმიერი „უსაფრთხო რეჟიმი“ არ ნიშნავს სრულ დაუცველობას. მომხმარებლებისთვის უმთავრესი რჩევა რჩება სიფრთხილე: არასოდეს გაუზიაროთ კრიტიკულად მნიშვნელოვანი მონაცემები AI მოდელებს, თუ არ ხართ დარწმუნებული მათი დამუშავების პოლიტიკაში.