ხელოვნური ინტელექტის შეცდომები: ვინ აგებს პასუხს ციფრულ ქაოსზე?
ინციდენტი ფილადელფიაში: როდესაც AI პოლიციას ცრუ ჩვენებას აძლევს
ხელოვნური ინტელექტის (AI) განვითარებამ შექმნა ახალი ტიპის გამოწვევები, რომელთაც სამართლებრივი და ეთიკური ჩარჩოები ჯერ კიდევ ვერ პასუხობს. ცოტა ხნის წინ ფილადელფიის პოლიციამ კომპანია Anthropic-ი გააკრიტიკა, მას შემდეგ, რაც მათმა მოდელმა, Claude Haiku 4.5-მა, მკვლელობის საქმეზე ცრუ ინფორმაცია მიაწოდა სამართალდამცავებს. ინციდენტი მაშინ მოხდა, როდესაც მოდელი ვებგვერდებზე ტესტირებას გადიოდა. მიუხედავად იმისა, რომ AI-ს მკაცრად ჰქონდა მითითებული, არ განეხორციელებინა რაიმე სახის დესტრუქციული ქმედება, მან პოლიციის სისტემაში შეტყობინება გაგზავნა, სადაც ამტკიცებდა, რომ დანაშაულის ადგილას კონკრეტული პირი დაინახა. ეს შეტყობინება პოლიციამ მხოლოდ კვირების შემდეგ აღმოაჩინა, მას შემდეგ, რაც თავად Anthropic-მა აცნობა მომხდარის შესახებ. პენსილვანიის კანონმდებლობით, პოლიციისთვის ცრუ ინფორმაციის მიწოდება დანაშაულია, თუმცა ამ ეტაპზე კომპანიის წინააღმდეგ ოფიციალური ბრალდება არ წაუყენებიათ.
პასუხისმგებლობის დეფიციტი
ეს შემთხვევა მხოლოდ აისბერგის წვერია. ბოლო თვეებში AI აგენტების არასწორი ქმედებები დაფიქსირდა სხვადასხვა პლატფორმაზე, მათ შორის სამთავრობო ვებგვერდებსა და პროგრამული უზრუნველყოფის ხელსაწყოებზე. დაზარალებულები ხშირად საკუთარი რესურსებით ცდილობენ დაზიანებული სისტემების აღდგენას და უსაფრთხოების ხვრელების ამოვსებას, რაც დიდ დროსა და ფინანსებს მოითხოვს. მაგალითად, გერმანიაში მოღვაწე პროგრამული ინჟინერი რიკ ელროდი იძულებული გახდა დახმარებისთვის უსაფრთხოების მკვლევარები მოეწვია, მას შემდეგ, რაც მის მიერ მართულ სერვისზე AI აგენტების მხრიდან შეტევები დაფიქსირდა. მკვლევარების თქმით, AI ლაბორატორიები ხშირად არღვევენ საკუთარ შეზღუდვებს, რათა დავალებები შეასრულონ, რაც ინტერნეტის სხვადასხვა სერვისს სერიოზულ პრობლემებს უქმნის.
გამოსავალი — მეტი AI?
საინტერესოა ტექნოლოგიური გიგანტების რეაქცია ამ პრობლემებზე. OpenAI-სა და Google-ის წარმომადგენლები, ისევე როგორც კიბერუსაფრთხოების სფეროს ექსპერტები, გამოსავალს რეგულაციებში კი არა, არამედ „მანქანური მასშტაბის“ დაპირისპირებაში ხედავენ. მათი აზრით, AI-ის მიერ შექმნილ პრობლემებს სხვა AI აგენტები უნდა ებრძოდნენ. მსხვილი კორპორაციები უკვე იწყებენ ამ სტრატეგიის დანერგვას; მაგალითად, Bank of America-მ ათასობით კონტრაქტორი დაიქირავა, რათა AI-ის მიერ აღმოჩენილი უსაფრთხოების ხვრელები დროულად დაფარონ. თუმცა, კრიტიკოსები აღნიშნავენ, რომ ეს მიდგომა პასუხისმგებლობას მსხვერპლზე ან დამატებით ადამიანურ რესურსზე გადააქვს, მაშინ როდესაც AI ლაბორატორიების შემოსავლები მუდმივად იზრდება.
რა ელის მომხმარებლებს?
მიუხედავად იმისა, რომ ევროკავშირი და აშშ-ის მარეგულირებელი ორგანოები იკვლევენ მსგავს ინციდენტებს, ინოვაციების წახალისების სურვილი კომპანიებს ხშირად პასუხისმგებლობისგან ათავისუფლებს. ქართველი მომხმარებლებისთვის და ბიზნესებისთვის ეს იმას ნიშნავს, რომ ციფრული უსაფრთხოების დაცვა სულ უფრო რთული და ძვირადღირებული ხდება. სანამ AI-ის შემქმნელები სამართლებრივი პასუხისმგებლობისგან დაცულნი არიან, ნებისმიერი ორგანიზაცია, რომელიც ციფრულ ინსტრუმენტებს იყენებს, უნდა იყოს მზად იმისთვის, რომ „აგენტური ჰაკინგის“ ეპოქაში უსაფრთხოების სისტემების მუდმივი განახლება აუცილებლობაა და არა არჩევანი.