Anthropic-ი ხელოვნური ინტელექტის რეგულირების ახალ კანონპროექტს სთავაზობს
ხელოვნური ინტელექტის ტექნოლოგიების სწრაფი განვითარების ფონზე, უსაფრთხოების საკითხები დღის წესრიგში მუდმივად დგას. ამ სფეროს ერთ-ერთმა წამყვანმა კომპანიამ, Anthropic-მა, შეიმუშავა საკანონმდებლო ინიციატივა, რომელიც მთავრობას საშუალებას მისცემს, დაბლოკოს ისეთი AI მოდელების გავრცელება, რომლებიც პოტენციურად კატასტროფულ ზიანს ატარებენ.
რა საფრთხეებზეა საუბარი?
Anthropic-ის მიერ შეთავაზებული კანონპროექტის თანახმად, რეგულაცია ამოქმედდება იმ შემთხვევაში, თუ არსებობს „პროგნოზირებადი და გარდაუვალი რისკი“. ეს კრიტერიუმი გულისხმობს სცენარებს, სადაც მოდელის გამოყენებამ შესაძლოა გამოიწვიოს 50-ზე მეტი ადამიანის სიკვდილი ან მილიარდ დოლარზე მეტი ქონებრივი ზიანი. კანონპროექტი კონკრეტულად მიუთითებს საფრთხეებზე, რომლებიც დაკავშირებულია ბიოლოგიური იარაღის შექმნასთან, მოდელის მიერ კონტროლის მექანიზმების გვერდის ავლით ან კიბერშეტევების განხორციელებასთან.
აღსანიშნავია, რომ ეს ციფრები — 50 ადამიანი და მილიარდი დოლარი — უკვე გამოიყენება კალიფორნიის შტატის კანონმდებლობაში (Senate Bill 53), სადაც მსგავსი ინციდენტები „კატასტროფულ რისკად“ არის განსაზღვრული. Anthropic-ის ინიციატივა ცდილობს ეს მიდგომა უფრო ფართო, ფედერალურ დონეზე დანერგოს.
როგორ მოხდება მოდელების შეფასება?
კანონპროექტი ითვალისწინებს „დამოუკიდებელი შემფასებლების“ ინსტიტუტის შექმნას, რომლებიც აშშ-ის ვაჭრობის დეპარტამენტში იქნებიან რეგისტრირებული. მიუხედავად იმისა, რომ შემფასებლების ანაზღაურება შესაძლოა თავად AI ლაბორატორიებმა უზრუნველყონ, კანონპროექტი კრძალავს გადახდის შედეგებზე დამოკიდებულებას.
პროცედურის მიხედვით, თუ დამოუკიდებელი ექსპერტები დაადგენენ კატასტროფული რისკის არსებობას, მათ 72 საათი ექნებათ ვაჭრობის დეპარტამენტის გასაფრთხილებლად. ამის შემდეგ, დეპარტამენტმა უნდა მიმართოს სასამართლოს მოდელის გავრცელების შესაჩერებლად. მნიშვნელოვანი დეტალია, რომ კანონპროექტი პირდაპირ კრძალავს ფედერალური უწყებების მიერ მოდელების ერთპიროვნულად დაბლოკვას, რაც გადაწყვეტილების მიღების პროცესში სასამართლო კონტროლის აუცილებლობას უსვამს ხაზს.
რატომ არის ეს მნიშვნელოვანი?
ტექნოლოგიური ინდუსტრია ამჟამად ორად არის გაყოფილი. ზოგიერთი კომპანია, მათ შორის Nvidia, მიიჩნევს, რომ ახალი კანონების მიღება საჭირო არ არის. მეორე მხრივ, Anthropic-ი ცდილობს, საკუთარი „მოწინავე AI ჩარჩოს“ (Advanced AI Framework) მეშვეობით დაარეგულიროს ის სფერო, სადაც თავადვე ოპერირებს.
მიუხედავად იმისა, რომ ბოლო დროს ყველაზე მეტად „აგენტური ჰაკინგის“ (როდესაც AI პროგრამები ადამიანის კონტროლის გარეშე ინტერნეტში საიტებს ტეხენ) საფრთხეები აქტუალურია, Anthropic-ის წინადადება უფრო შორს მიმავალ, ეგზისტენციალურ რისკებზეა ორიენტირებული. ეს ინიციატივა კიდევ ერთი ნაბიჯია იმ გზაზე, სადაც ხელოვნური ინტელექტის მწარმოებლები ცდილობენ, ნებაყოფლობითი მონიტორინგის ნაცვლად, გარკვეული სახის სამართლებრივი ჩარჩოები დაადგინონ, რათა თავიდან აიცილონ უკონტროლო რეგულაციები მომავალში.