Accenture-ის კვლევაში ხელოვნური ინტელექტის მიერ შექმნილი შეცდომები აღმოაჩინეს

მსოფლიოში ერთ-ერთი უმსხვილესი საკონსულტაციო კომპანია Accenture კრიტიკის ქარცეცხლში აღმოჩნდა. მიზეზი გახდა კომპანიის მიერ გამოქვეყნებული კვლევითი ნაშრომი, რომელიც, ექსპერტების შეფასებით, ხელოვნური ინტელექტის მიერ გენერირებული მცდარი ინფორმაციითა და გამოგონილი მონაცემებით არის სავსე. საუბარია ნაშრომზე, სახელწოდებით „Leapfrogging Development: Unlocking Africa’s Potential in Global Value Chains with Artificial Intelligence“, რომელიც მადრიდის IE უნივერსიტეტთან თანამშრომლობით მომზადდა.

პრობლემის მასშტაბი

კვლევაში არსებული დარღვევები ხელოვნური ინტელექტის დეტექციაზე ორიენტირებულმა პლატფორმა GPTZero-მ გამოავლინა. ანალიზის შედეგად დადგინდა, რომ მხოლოდ ამ ერთ დოკუმენტში 15 ფაქტობრივი უზუსტობა და მრავალი არარსებული ციტატაა. საერთო ჯამში, GPTZero-მ Accenture-ის სამ სხვადასხვა დოკუმენტში ჯამში 31 ჰალუცინაცია (ხელოვნური ინტელექტის მიერ შექმნილი მცდარი ინფორმაცია) აღმოაჩინა.

GPTZero-ს წარმომადგენლების განცხადებით, მსგავსი ტიპის შეცდომები სერიოზულ საფრთხეს უქმნის აკადემიურ და კვლევით სფეროს. მათი თქმით, ინტერნეტში გამოქვეყნებული ყალბი წყაროები შესაძლოა შემდგომში სხვა ავტორებმაც გამოიყენონ, რაც ინფორმაციული ველის „მოწამვლას“ იწვევს. ეს ეფექტი წააგავს „გატეხილი ტელეფონის“ პრინციპს, სადაც მცდარი მონაცემები ცირკულირებს და საბოლოოდ ჭეშმარიტებად აღიქმება.

კომპანიის პოზიცია

Accenture-ის ოფიციალურმა წარმომადგენელმა კატეგორიულად უარყო ინფორმაცია იმის შესახებ, რომ შეცდომები ხელოვნური ინტელექტის გამოყენებამ გამოიწვია. კომპანიის განცხადებით, ხარვეზები „ადამიანური შეცდომის“ შედეგია და მათ არ გააჩნიათ მტკიცებულება, რომელიც დაადასტურებდა, რომ ტექსტები უშუალოდ AI-ს გენერირებულია. კომპანია აცხადებს, რომ უკვე მუშაობს დოკუმენტის შესწორებაზე და მის ხელახლა გამოქვეყნებაზე.

აღსანიშნავია, რომ ეს პირველი შემთხვევა არ არის, როდესაც მსხვილი საკონსულტაციო კომპანია მსგავს სკანდალში ეხვევა. მიმდინარე წლის აგვისტოში ანალოგიური პრობლემები გამოვლინდა აუდიტორულ გიგანტ PwC-ს ანგარიშებშიც. Accenture-ისთვის ეს საკითხი განსაკუთრებით მტკივნეულია, რადგან კომპანია აქტიურად მოუწოდებს საკუთარ თანამშრომლებს სამუშაო პროცესებში ხელოვნური ინტელექტის მაქსიმალურად დანერგვისკენ.

რა საფრთხეს უქმნის ეს მომხმარებელს?

მიუხედავად იმისა, რომ Accenture კვლევის შესწორებას გეგმავს, მომხდარი კიდევ ერთხელ უსვამს ხაზს იმ რისკებს, რაც ტექნოლოგიების უკონტროლო გამოყენებას ახლავს თან. კვლევები, რომლებიც ეყრდნობა ხელოვნური ინტელექტის მიერ შექმნილ „ჰალუცინაციებს“, შეცდომაში შეჰყავს მკვლევრებს, სტუდენტებსა და გადაწყვეტილების მიმღებ პირებს.

საქართველოს ტექნოლოგიური საზოგადოებისთვის ეს შემთხვევა მნიშვნელოვანი გაკვეთილია. მაშინ, როდესაც AI-ს ინსტრუმენტები სულ უფრო ხელმისაწვდომი ხდება, კრიტიკული აზროვნება და ინფორმაციის გადამოწმება ხდება გადამწყვეტი უნარი. ნებისმიერი ანგარიში თუ სტატია, რომელიც AI-ს მონაწილეობით მზადდება, ადამიანური ზედამხედველობის გარეშე შესაძლოა საშიშ მცდარ ინფორმაციად იქცეს.