ხელოვნური ინტელექტით შექმნილი დეზინფორმაცია არჩევნების წინ საფრთხეს ზრდის
ხელოვნური ინტელექტი, როგორც დეზინფორმაციის ახალი იარაღი
ამერიკის შეერთებულ შტატებში მოახლოებული არჩევნების ფონზე, სოციალური პლატფორმები ხელოვნური ინტელექტის (AI) მიერ გენერირებული ყალბი ინფორმაციის მოზღვავებას განიცდიან. ექსპერტები აფრთხილებენ საზოგადოებას, რომ დეზინფორმაციის გავრცელების მასშტაბი იმდენად დიდია, რომ არსებული მოდერაციის სისტემები მას ვეღარ უმკლავდება. პრობლემას ამძიმებს ისიც, რომ წამყვანმა ტექნოლოგიურმა კომპანიებმა ადამიანური რესურსებით მოდერაცია შეამცირეს და სრულად ავტომატიზებულ სისტემებზე გადაერთნენ.
დღეს ხელოვნური ინტელექტის ინსტრუმენტებით დამაჯერებელი ფოტოების, ვიდეოების და ტექსტების შექმნა უკიდურესად იაფი და ხელმისაწვდომია. როგორც დარგის სპეციალისტები აღნიშნავენ, თანამედროვე ტექნოლოგიებით ისეთი მასშტაბის საინფორმაციო კამპანიების წარმოებაა შესაძლებელი, რაც სულ რაღაც რამდენიმე წლის წინ ფანტასტიკის სფეროს განეკუთვნებოდა. დეზინფორმაციის გამავრცელებლები ხშირად ცვლიან კონტენტის მცირე დეტალებს, რათა ავტომატურმა ფილტრებმა ვერ ამოიცნონ უკვე ერთხელ მონიშნული ყალბი მასალა.
რეალური მაგალითები და მოდერაციის ხარვეზები
დეზინფორმაციის სწრაფად გავრცელების ერთ-ერთი თვალსაჩინო მაგალითი ტეხასის სენატის კანდიდატ ჯეიმს ტალარიკოსთან დაკავშირებული ჭორი გახდა. სოციალურ ქსელ X-ში ვრცელდებოდა ინფორმაცია, თითქოს კანდიდატი ფსიქიკური ჯანმრთელობის ცენტრში მკურნალობდა, მაშინ როცა ის გრიპის გამო სახლში ისვენებდა. მიუხედავად იმისა, რომ ტალარიკომ და ჰოსპიტალმა ინფორმაცია მალევე უარყვეს, ყალბი ნარატივი დღეების განმავლობაში ვრცელდებოდა და უფრო მძიმე ფორმებიც მიიღო, განსაკუთრებით ესპანურენოვან მედია სივრცეში.
კვლევები აჩვენებს, რომ პლატფორმები ესპანურენოვან კონტენტს ნაკლები სიმკაცრით აკონტროლებენ, ვიდრე ინგლისურს. როდესაც მოდერაცია მხოლოდ ალგორითმებზეა დამოკიდებული, ენობრივი ბარიერები და კულტურული კონტექსტის გაუგებრობა სისტემას საშუალებას არ აძლევს, დროულად აღკვეთოს სიცრუის გავრცელება. შედეგად, ერთხელ უარყოფილი ჭორი ახალი, უფრო დამაზიანებელი ვერსიით ბრუნდება.
რა პოზიცია აქვთ პლატფორმებს?
სოციალური ქსელები განსხვავებულ მიდგომებს იყენებენ. Meta-ს პოლიტიკა ავალდებულებს რეკლამის დამკვეთებს, მიუთითონ ხელოვნური ინტელექტის გამოყენების შესახებ, ხოლო YouTube-ი კრძალავს არჩევნების პროცესთან დაკავშირებულ დეზინფორმაციას. თუმცა, ბევრი ტიპის ყალბი ინფორმაცია ამ წესების მიღმა რჩება. X-ის შემთხვევაში, სისტემა ძირითადად ეყრდნობა მომხმარებლების მიერ შექმნილ „საზოგადოებრივ შენიშვნებს“ (Community Notes).
პრობლემა უკვე გასცდა აშშ-ის საზღვრებს და გლობალურ ხასიათს ატარებს. ესპანეთში ერთ-ერთი პოლიტიკური პარტია სასამართლო დავის წინაშე აღმოჩნდა არჩევნების დროს გამოყენებული „დიფფეიკ“ (deepfake) ვიდეოს გამო. მთავარი გამოწვევა ახლა არა მხოლოდ სინთეზური მედიის იდენტიფიცირებაა, არამედ იმ ყალბი ნარატივების შეჩერება, რომლებიც მყისიერად იცვლება და ვრცელდება პლატფორმებს შორის, ვიდრე ფაქტების გადამოწმება მოესწრება.
საქართველოსთვის, სადაც სოციალური მედია საზოგადოებრივი აზრის ფორმირების მთავარი ინსტრუმენტია, ეს ტენდენცია სერიოზულ გაფრთხილებად უნდა იქცეს. ხელოვნური ინტელექტის მიერ შექმნილი დამაჯერებელი დეზინფორმაცია მომავალში შესაძლოა უფრო რთული გამოსაცნობი გახდეს, რაც საარჩევნო პროცესებისადმი ნდობას მნიშვნელოვნად შეარყევს.