ხელოვნური ინტელექტის უსაფრთხოების ახალი საერთაშორისო შეთანხმება

საფრანგეთის პრეზიდენტ ემანუელ მაკრონის ინიციატივით, პარიზში ხელოვნური ინტელექტის უსაფრთხოების შესახებ ახალი საერთაშორისო შეთანხმება გაფორმდა. დოკუმენტს, რომელიც „Paris Call for AI Safety and Security“-ის სახელითაა ცნობილი, მსოფლიოს ათმა წამყვანმა ტექნოლოგიურმა კომპანიამ მოაწერა ხელი, მათ შორის არიან OpenAI, Anthropic, Microsoft და Mistral. შეხვედრას, რომელიც პარიზის მშვიდობის ფორუმის ფარგლებში გაიმართა, ესწრებოდნენ როგორც სახელმწიფო ლიდერები, ისე სფეროს ექსპერტები და ტექნოლოგიური გიგანტების ხელმძღვანელები, მათ შორის სემ ალტმანი და დარიო ამოდეი. ## რა ვალდებულებებს იღებენ კომპანიები შეთანხმების თანახმად, ხელმომწერი მხარეები ვალდებულებას იღებენ, შეიმუშაონ ე.წ. „fail-safe“ მექანიზმები, რომლებიც საჭიროების შემთხვევაში ხელოვნური ინტელექტის მოდელების მყისიერად გათიშვის საშუალებას მისცემს. ეს ეხება როგორც მოდელების წვრთნის, ისე მათი პრაქტიკული გამოყენების პროცესს. გარდა ამისა, კომპანიები პირობას დებენ, რომ უზრუნველყოფენ სისტემების შესაძლებლობების შესახებ უფრო გამჭვირვალე ინფორმაციის გავრცელებას და დაუშვებენ დამოუკიდებელი კვალიფიციური ექსპერტების მიერ მათი ტექნოლოგიების შემოწმებას. დეკლარაცია ასევე მოიცავს რისკების მართვის საერთო მიდგომას, რომელიც მიზნად ისახავს ისეთი საფრთხეების პრევენციას, როგორიცაა კიბერშეტევები, იარაღის შექმნა ან სისტემების კონტროლის დაკარგვა ადამიანის მხრიდან. მნიშვნელოვანია, რომ მხარეები შეთანხმდნენ სერიოზული ინციდენტების შემთხვევაში ადრეული გაფრთხილებების გაზიარებაზე. ## კრიტიკა და არსებული ხარვეზები მიუხედავად ამ მნიშვნელოვანი ნაბიჯისა, შეთანხმებას კრიტიკოსებიც გამოუჩნდნენ. საფრანგეთის ხელოვნური ინტელექტის უსაფრთხოების ორგანიზაცია CeSIA, რომელიც დოკუმენტის ხელმომწერია, აცხადებს, რომ შეთანხმებას „კბილები აკლია“. კრიტიკოსების თქმით, დეკლარაცია არ ადგენს მკაფიო ზღვარს რისკების შეფასებისას, რაც გადაწყვეტდა, თუ როდის არის მოდელი უსაფრთხო გამოსაშვებად. ასევე არ არსებობს გარანტია იმისა, რომ დამოუკიდებელ შემმოწმებლებს ექნებათ სრული წვდომა სისტემებზე. ორგანიზაციაში მიიჩნევენ, რომ სახელმწიფოს უნდა ჰქონდეს მოდელის შეჩერების რეალური ბერკეტი, თუ მისი რისკები დასაშვებ ნორმებს გასცდება. აღსანიშნავია, რომ შეთანხმებას არ შეუერთდნენ ისეთი გიგანტები, როგორებიც არიან Google და Meta, ხოლო აშშ-მა, მიუხედავად დისკუსიებში აქტიური მონაწილეობისა, დეკლარაციას ხელი არ მოაწერა. ## ყურადღება ბავშვთა უსაფრთხოებაზე ფორუმის ფარგლებში ემანუელ მაკრონმა განსაკუთრებული აქცენტი გააკეთა ხელოვნური ინტელექტის გავლენაზე ბავშვებზე. მან მოუწოდა ინდუსტრიას, რომ ნებისმიერი AI ინსტრუმენტი, რომელიც არასრულწლოვნებისთვის იქნება ხელმისაწვდომი, მკაცრ წინასწარ სერტიფიცირებას დაექვემდებაროს. პრეზიდენტმა ეს პროცესი სათამაშოების უსაფრთხოების შემოწმებას შეადარა და აღნიშნა, რომ ბავშვების ფსიქიკურ ჯანმრთელობაზე ჩეთბოტების გავლენა უკვე სერიოზულ გამოწვევად იქცა. მიუხედავად იმისა, რომ პარიზის დეკლარაცია ღია რჩება ახალი წევრებისთვის, მასში არ არის გაწერილი ვადები და კონკრეტული სამოქმედო გეგმა. ქართველი მომხმარებლებისთვის ეს პროცესები მნიშვნელოვანია, რადგან საერთაშორისო სტანდარტების ჩამოყალიბება პირდაპირ განსაზღვრავს იმ უსაფრთხოების ჩარჩოებს, რომლითაც მომავალში ჩვენს ქვეყანაში ხელმისაწვდომი ციფრული სერვისები იხელმძღვანელებენ.