Apple-ი App Store-ში ხელოვნური ინტელექტის მიერ შექმნილ მავნე კონტენტს კრძალავს
ახალი რეგულაციები ციფრული უსაფრთხოებისთვის
Apple-მა ოფიციალურად განაახლა App Store-ის წესები, რათა უფრო მკაცრად გააკონტროლოს ე.წ. „nudify“ აპლიკაციების გავრცელება. ეს აპლიკაციები ხელოვნური ინტელექტის (AI) ალგორითმებს იყენებენ მომხმარებლის ფოტოების საფუძველზე ინტიმური, სექსუალური ხასიათის გამოსახულებების შესაქმნელად. კომპანიის ახალი პოლიტიკა პირდაპირ კრძალავს „არათანხმობრივი ინტიმური გამოსახულებების“ გენერაციას, რაც მნიშვნელოვანი ნაბიჯია ციფრული უსაფრთხოებისა და პირადი ცხოვრების ხელშეუხებლობის დასაცავად.
განახლებული წესების მიხედვით, დეველოპერები ვალდებულნი არიან, პროაქტიულად დანერგონ მექანიზმები ასეთი კონტენტის აღმოსაფხვრელად. Apple აცხადებს, რომ აპლიკაციები, რომლებიც ვერ უზრუნველყოფენ უსაფრთხოების ადეკვატურ ზომებს ან არ აღმოფხვრიან დარღვევებს შესაბამისი გაფრთხილების შემდეგ, სამუდამოდ მოიხსნება App Store-იდან. გარდა ამისა, კომპანიამ დააზუსტა „bait-and-switch“ ტიპის აპლიკაციებთან დაკავშირებული წესი, რაც კრძალავს ფუნქციების შეცვლას ან დამატებას აპლიკაციის დამტკიცების შემდეგ, განსაკუთრებით მაშინ, თუ ეს ეხება ინტიმური შინაარსის გენერირების შესაძლებლობის დამატებას.
რამ გამოიწვია ცვლილებები?
Apple-ის მიერ მიღებული ეს გადაწყვეტილება საზოგადოების მხრიდან მზარდი კრიტიკის ფონზე განხორციელდა. წლის დასაწყისში სოციალურ ქსელ X-ში არსებული ხელოვნური ინტელექტის ინსტრუმენტის, Grok-ის გამოყენებით, არაერთი არათანხმობრივი, სექსუალიზებული დიფფეიკი (deepfake) შეიქმნა, მათ შორის არასრულწლოვნების მონაწილეობით. მიუხედავად იმისა, რომ Apple-ს X-ი App Store-იდან არ წაუშლია, მან საჯაროდ დაადასტურა, რომ კომპანიას Grok-ის აკრძალვის საფრთხე შეუქმნა.
სიტუაცია დაიძაბა ივნისში, WWDC-ის კონფერენციის დროს, როდესაც დემონსტრანტებმა Apple-ს მოსთხოვეს, პლატფორმიდან წაეშალა ყველა ის აპლიკაცია და ტექნოლოგია, რომელიც მსგავსი შინაარსის მასალას ქმნის. ივლისში კი სან-ფრანცისკოს ქალაქის ადვოკატის მოთხოვნით, Apple-მა 13 ასეთი აპლიკაცია უკვე წაშალა თავისი მაღაზიიდან, რაც რეალურად გახდა საფუძველი უფრო ფართომასშტაბიანი პოლიტიკის შემუშავებისა.
ბრძოლა ადამიანით ვაჭრობისა და ექსპლუატაციის წინააღმდეგ
ახალი რეგულაციები მხოლოდ „nudify“ აპლიკაციებით არ შემოიფარგლება. Apple-მა მკაფიოდ განაცხადა, რომ ნებისმიერი აპლიკაცია, რომელიც ხელს უწყობს ადამიანებით ვაჭრობას ან ბავშვთა ექსპლუატაციას, დაუყოვნებლივ იქნება წაშლილი. უფრო მეტიც, ასეთი აპლიკაციები დაიბლოკება ალტერნატიული დისტრიბუციის არხებიდანაც კი, რაც ნიშნავს, რომ მათი ინსტალაცია ნებისმიერი გზით შეუძლებელი გახდება.
ქართველი მომხმარებლებისთვის ეს ცვლილებები მნიშვნელოვანია, რადგან Apple-ის ეკოსისტემაში უსაფრთხოების სტანდარტების გამკაცრება გლობალურად მოქმედებს. ციფრული ტექნოლოგიების განვითარებასთან ერთად, პირადი ცხოვრების დაცვა და არასრულწლოვანთა უსაფრთხოება პრიორიტეტულ საკითხად რჩება, რაც იმედს იძლევა, რომ App Store-ი უფრო დაცულ გარემოდ დარჩება.