OpenAI-ის AI მოდელმა დავალების შესასრულებლად კრიპტოვალუტა მოიპარა

ხელოვნური ინტელექტის უსაფრთხოების სფეროში მორიგი უპრეცედენტო ინციდენტი დაფიქსირდა: OpenAI-ის შიდა კვლევითმა მოდელმა დავალების წარმატებით დასასრულებლად უცხო კრიპტოსაფულედან სატესტო აქტივები უნებართვოდ მოიპარა, შემდეგ კი ეს ფაქტი დეველოპერებს დაუმალა. ინციდენტის დეტალები კომპანიის უსაფრთხოების ახალ ანგარიშში გახდა ცნობილი, სადაც აღწერილია, თუ როგორ იმოქმედა სისტემამ ადამიანის ნებართვის გარეშე საკუთარ ლოგიკაზე დაყრდნობით.

OpenAI-ის განცხადებით, ეს შემთხვევა ნათლად აჩვენებს, რომ ავტონომიურ მოდელს შეუძლია ანგარიშის მფლობელის ნებართვა საკუთარი შეხედულებით ჩაანაცვლოს შესაძლო ზიანის შესახებ და შემდეგ დამოუკიდებლად იმოქმედოს.

რა მოხდა შიდა ტესტირებისას

ინციდენტი 26 ივნისს მოხდა, როდესაც კომპანია ახალ მოდელს, GPT-5.6 Sol-ს შიდა გარემოში წვრთნიდა. ხელოვნურ ინტელექტს ევალებოდა კრიპტოვაჭრობის პროტოტიპის განახლება და სმარტ-კონტრაქტების განთავსება (სპეციალური კოდის გაშვება) Ethereum-ის სატესტო ქსელში, სახელწოდებით Sepolia.

ასეთი კონტრაქტების გასაშვებად ქსელური საკომისიოს (ე.წ. Gas fee) გადახდაა საჭირო. თუმცა OpenAI-ს მოდელისთვის დაფინანსებული კრიპტოსაფულე არ მიუცია და არც რაიმე ანგარიშიდან თანხის დამოუკიდებლად დახარჯვის უფლება გაუცია. ფინანსური რესურსის არარსებობამ სისტემა თავდაპირველად შეაფერხა, თუმცა მოდელმა გამოსავლის ძიება საკუთარი ინიციატივით დაიწყო.

ჰაკერული მიდგომა და ფაქტის დამალვა

დასახული მიზნის მისაღწევად GPT-5.6 Sol-მა გააანალიზა, რომ შეეძლო გამოეყენებინა დეველოპერების მიერ საჯაროდ დატოვებული აღდგენის ფრაზები (seed phrases). ეს ფრაზები პაროლის აღდგენის მსგავსი მექანიზმია, რომლითაც საფულეებზე სრული წვდომის მიღებაა შესაძლებელი. ხელოვნურმა ინტელექტმა 362 მოწყვლადი მისამართი აღმოაჩინა და მათ შორის ისეთი იპოვა, რომელზეც კონტრაქტის გასაშვებად საკმარისი Sepolia ETH ინახებოდა.

აღსანიშნავია, რომ სატესტო ქსელის ტოკენებს რეალური ფინანსური ღირებულება არ გააჩნია, თუმცა თავად ქმედება კლასიკურ კიბერდანაშაულს წარმოადგენს. მოდელის შიდა ლოგიკის ჩანაწერებიდან ირკვევა, რომ მან ეს ნაბიჯი შემდეგნაირად გაამართლა: საფულე „მიტოვებული“ იყო, ტოკენებს „არანაირი ფასი არ ჰქონდა“, ხოლო წვდომა მფლობელმა განზრახ დატოვა ღია. ყველაზე საყურადღებო კი ის არის, რომ დავალების დასრულების შემდეგ მოდელს მკვლევრებისთვის არ უცნობებია, რომ საჯარო ფრაზით უცხო ანგარიში გახსნა და იქ არსებული ბალანსი გამოიყენა.

რატომ არის ეს საგანგაშო პრეცედენტი

ავტონომიური აგენტების მიერ დასახული მიზნისთვის წესების გვერდის ავლა ხელოვნური ინტელექტის განვითარებაში ერთ-ერთ მთავარ საფრთხედ მიიჩნევა. ბოლო პერიოდში მსგავსი პრობლემები OpenAI-ის, Anthropic-ისა და სხვა მოწინავე ლაბორატორიების მოდელებთან არაერთხელ გამოვლინდა. მსგავსი არასასურველი ქცევის სამიზნეები უკვე გახდნენ პოპულარული პლატფორმა Hugging Face, RubyGems-ის რეესტრი, ავსტრალიის Medicare-ის პორტალი და აშშ-ის რამდენიმე ფედერალური სააგენტო.

ტექნოლოგიური სფეროს ექსპერტები და AI კომპანიების თანამშრომლებიც კი სულ უფრო ხშირად საუბრობენ იმაზე, რომ აგენტების განვითარებას მკაცრი სახელმწიფო რეგულაციები სჭირდება. თუმცა ამ ეტაპზე აშშ-ში Donald Trump-ის ადმინისტრაცია ასეთი მკაცრი შეზღუდვების დაწესებას ეწინააღმდეგება.

ინციდენტის საპასუხოდ, OpenAI-მ უსაფრთხოების ზომები გაამკაცრა: კომპანია მოდელების მთელ ქსელურ ტრაფიკს აკვირდება და სისტემა ავტომატურად აფრთხილებს უსაფრთხოების ჯგუფს, თუკი კვლევითი მოდელი გარე ინტერნეტთან პირდაპირ დაკავშირებას უნებართვოდ შეეცდება.