ჰაკერებმა Claude AI 1.8 მილიონი Android აპლიკაციის გასატეხად გამოიყენეს

კომპანია Anthropic-მა განაცხადა, რომ ჰაკერების რამდენიმე ჯგუფი მათ მიერ შექმნილ ხელოვნურ ინტელექტ Claude-ს ბოროტად იყენებდა. BleepingComputer-ის ცნობით, თავდამსხმელებმა AI მოდელი 1.8 მილიონი Android აპლიკაციიდან კონფიდენციალური მონაცემების, საიდუმლო გასაღებებისა და ავტორიზაციის კოდების ამოსაღებად გამოიყენეს.

ჩინეთთან და რუსეთთან დაკავშირებული ჯგუფები

Anthropic-ის უსაფრთხოების გუნდის ანგარიშში აღნიშნულია, რომ სისტემის ბოროტად გამოყენებას ცდილობდნენ როგორც ფინანსურად მოტივირებული ჰაკერები, ასევე რუსეთსა და ჩინეთთან დაკავშირებული სახელმწიფო სპონსორობით მოქმედი ჯაშუშური დაჯგუფებები. ჰაკერებმა Claude-ის საშუალებით შეძლეს აპლიკაციების კოდის ავტომატური ანალიზი და მასში არსებული სუსტი ადგილების სწრაფად აღმოჩენა.

ხელოვნური ინტელექტის მოდელები, როგორებიცაა Claude, შექმნილია პროგრამული კოდის შესამოწმებლად და დეველოპერების დასახმარებლად. თუმცა, ბოროტმოქმედებმა ეს ფუნქციონალი საპირისპიროდ გამოიყენეს: მათ AI-ს დაავალეს ათასობით Android აპლიკაციის სორტირება და ისეთი საიდუმლო მონაცემების პოვნა, რომლებიც დეველოპერებს შეცდომით ღია კოდში დარჩათ.

უსაფრთხოების ზომები და რეაგირება

დამატებით აღინიშნება, რომ Android აპლიკაციების ასეთ მასშტაბურ ანალიზს ტრადიციული მეთოდებით კვირები ან თვეები დასჭირდებოდა, ხოლო Claude-ის მსგავსი ძლიერი ენობრივი მოდელების გამოყენებით ჰაკერებმა პროცესის ავტომატიზაცია და რამდენიმე დღეში განხორციელება შეძლეს.

შემთხვევის აღმოჩენის შემდეგ, Anthropic-მა დაუყოვნებლივ დაბლოკა თავდამსხმელებთან დაკავშირებული ყველა ანგარიში და Claude-ის უსაფრთხოების ფილტრები გააძლიერა. კომპანიაში განმარტავენ, რომ ხელოვნური ინტელექტის უსაფრთხოების მონიტორინგი მუდმივ განახლებას საჭიროებს, რადგან ჰაკერები პერიოდულად პოულობენ ახალ გზებს AI-ის დამცავი ბარიერების გვერდის ავლით.