Anthropic-მა ხელოვნური ინტელექტის ვერიფიკაციის ახალი ტექნოლოგია წარადგინა
ხელოვნური ინტელექტის სფეროში ერთ-ერთმა წამყვანმა კომპანიამ, Anthropic-მა, ახალი კვლევითი პროტოტიპი სახელწოდებით FlashProve წარადგინა. ტექნოლოგია მიზნად ისახავს იმ პრობლემის გადაჭრას, რომელიც დღეს მომხმარებლებსა და ბიზნესებს აწუხებთ: როგორ დავრწმუნდეთ, რომ AI-ს მიერ მოწოდებული პასუხი ნამდვილად იმ მოდელის დამსახურებაა, რომელსაც ვიხდით, და არა რაიმე სხვა, უფრო სუსტი ან იაფი ალტერნატივის. ## კრიპტოგრაფია ნდობისთვის დღეს ხელოვნური ინტელექტის სერვისების მიმწოდებლები ხშირად იყენებენ ე.წ. „რუტერებს“, რომლებიც მოთხოვნებს სხვადასხვა მოდელზე ანაწილებენ. თეორიულად, კომპანიას შეუძლია მომხმარებელს ძვირადღირებული მოდელის საფასური გადაახდევინოს, თუმცა რეალურად პასუხი უფრო მარტივი და იაფი სისტემით დააგენერიროს. Anthropic-ის მიერ შემუშავებული FlashProve იყენებს კრიპტოგრაფიულ მეთოდს, ცნობილს როგორც zkSNARK. ეს სისტემა მოდელის შემქმნელს საშუალებას აძლევს, თითოეულ პასუხს დაურთოს ციფრული „ანაბეჭდი“, რომელიც ადასტურებს, რომ მონაცემთა დამუშავება კონკრეტულმა მოდელმა განახორციელა. ამ დროს, თავად მოდელის საიდუმლო პარამეტრები (weights) დაცულია და არ ხდება მათი გამჟღავნება. ## შესრულება და შეზღუდვები ტექნიკური ანგარიშის თანახმად, FlashProve-ის მუშაობა მნიშვნელოვან გამოთვლით რესურსებს მოითხოვს. Meta-ს Llama 4 Maverick მოდელის შემთხვევაში, ერთი H100 გრაფიკული პროცესორი წამში დაახლოებით 110 ტოკენს ამუშავებს, ხოლო თითოეული დამადასტურებელი ფაილი 19 მეგაბაიტს შეადგენს. მიუხედავად იმისა, რომ ეს სისტემა 70-დან 95-ჯერ უფრო ნელია ვიდრე ჩვეულებრივი სერვისები, ის კოლოსალურ პროგრესს წარმოადგენს. წინა ანალოგიურ სისტემებს ათასობით ტოკენის დამუშავებისთვის საათები, ზოგჯერ კი მთელი დღე სჭირდებოდათ. მიუხედავად ამისა, Anthropic ხაზს უსვამს, რომ ეს ჯერ მხოლოდ კვლევითი პროტოტიპია. სისტემას აქვს მნიშვნელოვანი შეზღუდვები: ის მხარს უჭერს მხოლოდ 1024 ტოკენამდე კონტექსტს და მუშაობს მხოლოდ იმ შემთხვევაში, როდესაც მოდელი ირჩევს ყველაზე სავარაუდო შემდეგ ტოკენს, რაც ჩვეულებრივი ჩეთბოტების შემთხვევითი პასუხებისგან განსხვავდება. ## რატომ არის ეს მნიშვნელოვანი? ასეთი ტექნოლოგია განსაკუთრებით მნიშვნელოვანია მაღალი რისკის მქონე სფეროებში. მაგალითად, მარეგულირებელ ორგანოებს შეეძლებათ შეამოწმონ, იყენებენ თუ არა კომპანიები მხოლოდ ოფიციალურად დამტკიცებულ მოდელებს. ასევე, ბიზნესებს შესაძლებლობა ექნებათ დაამტკიცონ, რომ მათი კოდი ან დოკუმენტაცია კონკრეტული უსაფრთხოების მოდელით იქნა გადამოწმებული. Anthropic-მა პროექტის კოდი უკვე გახსნა და GitHub-ზე Apache 2.0 ლიცენზიით განათავსა, რაც საშუალებას აძლევს დამოუკიდებელ მკვლევრებს, თავად გამოსცადონ ტექნოლოგიის ეფექტურობა. მიუხედავად იმისა, რომ ტექნოლოგია ჯერ კიდევ ადრეულ ეტაპზეა, ის საფუძველს უყრის უფრო გამჭვირვალე და სანდო ხელოვნური ინტელექტის ეკოსისტემას, სადაც მომხმარებელს ექნება გარანტია, რომ იღებს იმ ხარისხს, რასაც ითხოვს.