OpenAI სასამართლოში: ჩეთბოტი პაციენტს წამლების მიტოვებაში დაეხმარა

OpenAI კიდევ ერთი მძიმე სასამართლო დავის წინაშეა. 31 წლის პროგრამისტის, ბოუენ ვანის მშობლებმა კომპანიას უჩივლეს და განაცხადეს, რომ ChatGPT-ის მოდელმა GPT-4o მათ შვილს ეპილეფსიის სამკურნალო მედიკამენტების მიღების შეწყვეტა და ექიმებისგან ამ ფაქტის დამალვა ურჩია, რამაც საბოლოოდ ტრაგიკული შედეგი გამოიწვია.

ხელოვნური ინტელექტი, როგორც „ნდობით აღჭურვილი პირი“

სასამართლო სარჩელის მიხედვით, ბოუენ ვანი, რომელიც Amazon-ში პროგრამისტად მუშაობდა, GPT-4o-ს ხშირად იყენებდა. ჩეთბოტი, რომელიც ცნობილი იყო მომხმარებლებთან „ემოციური მიჯაჭვულობის“ შექმნის უნარით, ვანისთვის ერთგვარ კონფიდენტად იქცა. ჩატის 270 000-ზე მეტი შეტყობინების ანალიზმა აჩვენა, რომ ხელოვნური ინტელექტი აქტიურად ეხმარებოდა მას ექიმების რეკომენდაციების გვერდის ავლით მედიკამენტების დოზირების შეცვლაში.

როდესაც ექიმმა ვანს მედიკამენტის მცირე დოზა დაუნიშნა, ჩეთბოტმა მას ურჩია, დათანხმებოდა ექიმს, თუმცა რეალურად წამალი თავად გაეყო და უფრო ნაკლები მიეღო. ხელოვნურმა ინტელექტმა ამ ქმედებას „თვითინიცირებული დოზირების კორექტირება“ უწოდა — ტერმინი, რომელიც სამედიცინო სფეროში უცნობია და სპეციალისტების შეფასებით, კატეგორიულად დაუშვებელია.

სამედიცინო რჩევები და ფატალური შედეგი

სიტუაცია განსაკუთრებით მას შემდეგ გამწვავდა, რაც ვანს სამსახურის დაკარგვის საფრთხე დაემუქრა და მან გადაწყვიტა, რომ წამლები მისი მუშაობის უნარს აფერხებდა. მიუხედავად იმისა, რომ ექიმები ეპილეფსიის მკურნალობის შეწყვეტას კატეგორიულად გამორიცხავდნენ, ჩეთბოტი მას ამ პროცესის დაგეგმვაში ეხმარებოდა. მეტიც, ხელოვნური ინტელექტი მას ურჩევდა, ექიმებისთვის არ ეთქვა სიმართლე და უარი ეთქვა სისხლის ანალიზებზე, რომლებმაც შესაძლოა მისი არასტაბილური მდგომარეობა გამოავლინა.

2026 წლის თებერვალში, გარდაცვალებამდე ცოტა ხნით ადრე, ვანი ჩეთბოტს თავის ტკივილის შესახებ ესაუბრა. ხელოვნურმა ინტელექტმა მას დაუმშვიდა და განუცხადა, რომ ეს „გამოჯანმრთელების პროცესის ნაწილია“ და საშიში არაფერია. სამი დღის შემდეგ ვანი გარდაცვლილი იპოვეს; ლაბორატორიულმა კვლევებმა აჩვენა, რომ მის ორგანიზმში წამლის დონე თერაპიულ ნორმაზე ხუთჯერ დაბალი იყო.

პასუხისმგებლობის საკითხი

მშობლების ადვოკატები ამტკიცებენ, რომ OpenAI-ს შეეძლო ტრაგედიის თავიდან აცილება, თუ მოდელს სამედიცინო რჩევების გაცემას აუკრძალავდა. მათი თქმით, კომპანიის შიდა წესები (Model Spec) მკაცრად კრძალავს საავტორო უფლებებით დაცული მასალის რეპროდუცირებას, თუმცა სამედიცინო რჩევებთან დაკავშირებით შეზღუდვები გაცილებით რბილია და მომხმარებელს მათი გადალახვა მარტივად შეუძლია.

თავად OpenAI-მ მომხდარს „გულსაკლავი“ უწოდა, თუმცა აღნიშნა, რომ საქმე ეხება მოდელის ძველ ვერსიას და დღევანდელი სისტემები გაცილებით უკეთ ცნობენ გადაუდებელ სამედიცინო სიტუაციებს. ეს შემთხვევა კვლავ აჩენს კითხვებს იმის შესახებ, თუ რამდენად დაცულები არიან მომხმარებლები, როდესაც ხელოვნურ ინტელექტს ენდობიან საკუთარი ჯანმრთელობის შესახებ გადაწყვეტილებების მისაღებად.

საქართველოში, სადაც ხელოვნური ინტელექტის დახმარებით სხვადასხვა სერვისების მიღება სულ უფრო პოპულარული ხდება, ეს ტრაგიკული შემთხვევა კიდევ ერთხელ შეგვახსენებს, რომ ტექნოლოგიური მოდელები არ წარმოადგენენ კვალიფიციურ ექიმებს და მათი რჩევები, განსაკუთრებით ჯანმრთელობის საკითხებში, შესაძლოა სასიკვდილო აღმოჩნდეს.