Anthropic-ის წყლის ნიშნები: რატომ რჩება ხარვეზი ძველ Claude მოდელებში

ხელოვნური ინტელექტის სფეროში უსაფრთხოებისა და გამჭვირვალობის სტანდარტები მკაცრდება. კომპანია Anthropic-მა განაცხადა, რომ საკუთარი ტექსტური წყლის ნიშნის (watermark) სისტემას კიდევ ოთხ მოდელზე ნერგავს. ეს გადაწყვეტილება ევროკავშირის ხელოვნური ინტელექტის აქტით (EU AI Act) გათვალისწინებულ დეკემბრის ვადებს უკავშირდება.

რა იცვლება Claude-ის მოდელებში

განახლებული სისტემა შეეხება Claude Mythos 5-ს, Claude Opus 4.7-ს, Claude Opus 4.6-სა და Claude Sonnet 4.6-ს. კომპანიის განმარტებით, წყლის ნიშანი წარმოადგენს სიტყვების შერჩევის ისეთ დახვეწილ სქემას, რომელიც ადამიანისთვის შეუმჩნეველია და არ ცვლის ტექსტის ხარისხს, შინაარსს ან წაკითხვადობას. აღსანიშნავია, რომ აღნიშნული მარკირება მუშაობს მოდელის დონეზე, რაც იმას ნიშნავს, რომ ის ავტომატურად აქტიურდება Amazon Web Services-ის, Google Cloud-ისა და Microsoft Foundry-ის პლატფორმებზეც.

თუმცა, Anthropic-მა აღიარა, რომ არსებობს ტექნიკური ნიუანსი, რომელიც ზოგიერთ მომხმარებელს წყლის ნიშნის გვერდის ავლის საშუალებას აძლევს. კერძოდ, Claude Opus 4.6 და Claude Sonnet 4.6 მოდელების შემთხვევაში, მარკირება მხოლოდ მაშინ მუშაობს, თუ API-ის პარამეტრები (temperature, top_p, top_k) ნაგულისხმევ მნიშვნელობებზეა დატოვებული. ამ პარამეტრების მცირედი ცვლილებაც კი საკმარისია იმისთვის, რომ სისტემამ წყლის ნიშანი ვეღარ დაიტანოს. კომპანია აფრთხილებს დეველოპერებს, რომ თუ მათთვის მნიშვნელოვანია შესაბამისობის (compliance) დაცვა, პარამეტრები უცვლელი დატოვონ.

ტექნოლოგიური გამოწვევები და კრიტიკა

Anthropic-ის მიერ გამოყენებული მეთოდი ეფუძნება Google DeepMind-ის SynthID ტექნოლოგიას, რომელიც სიტყვების არჩევისას სტატისტიკურ კანონზომიერებას ქმნის. მიუხედავად იმისა, რომ კომპანია ამტკიცებს, თითქოს ეს პროცესი ტექსტის ხარისხზე გავლენას არ ახდენს, დარგის ექსპერტები ამ მოსაზრებას სკეპტიკურად უყურებენ. კრიტიკოსები აღნიშნავენ, რომ სინონიმების არჩევა არა სემანტიკური სიზუსტის, არამედ წყლის ნიშნის კოდირების მიხედვით, გარდაუვალად ამცირებს ტექსტის ხარისხს.

ასევე საინტერესოა სამართლებრივი მხარე. იურიდიული ფირმები შიშობენ, რომ დოკუმენტებში აღმოჩენილი ასეთი მარკირება შეიძლება პრობლემური გახდეს იმ გარემოში, სადაც ხელოვნური ინტელექტის გამოყენება შეზღუდულია. ამასთან, რამდენიმე სხვადასხვა წყლის ნიშნის ერთ დოკუმენტში მოხვედრამ შესაძლოა შემდგომი ტექნიკური გართულებები გამოიწვიოს.

რას ნიშნავს ეს მომხმარებლებისთვის

Anthropic-ი უკვე მუშაობს დეტექციის API-ზე, რომელიც წყლის ნიშნის ვერიფიკაციას შეძლებს. მიუხედავად ხარვეზებისა, ეს ნაბიჯი ცხადყოფს, რომ ტექნოლოგიური გიგანტები ცდილობენ დაემორჩილონ საერთაშორისო რეგულაციებს, რაც მომავალში ხელოვნური ინტელექტის მიერ შექმნილი კონტენტის იდენტიფიცირებას უფრო სტანდარტულს გახდის. საქართველოს ბაზრისთვის, სადაც საერთაშორისო კომპანიების API სერვისები აქტიურად გამოიყენება, ეს ცვლილებები მნიშვნელოვანია როგორც პროგრამული უზრუნველყოფის დეველოპერებისთვის, ისე იმ ბიზნესებისთვის, რომლებიც ხელოვნურ ინტელექტს შინაარსის გენერირებისთვის იყენებენ.