ტერორისტული ჯგუფები TikTok-ზე AI-კონტენტს პროპაგანდისთვის იყენებენ

ხელოვნური ინტელექტის (AI) განვითარებამ ციფრულ სივრცეში დეზინფორმაციისა და პროპაგანდის გავრცელება საგრძნობლად გამარტივა. გამოცემა Wired-ის ინფორმაციით, ისლამისტური ტერორისტული დაჯგუფებების მხარდამჭერები გენერაციულ AI ინსტრუმენტებს TikTok-ზე საკუთარი იდეოლოგიის გავრცელებისთვის აქტიურად იყენებენ.

ახალი ტენდენცია, რომელსაც ექსპერტები "Slop Jihad"-ს უწოდებენ, გულისხმობს ხელოვნური ინტელექტის მიერ გენერირებული დაბალი ხარისხის, თუმცა ემოციურად დატვირთული ვიზუალური მასალების მასობრივ წარმოებას. ასეთი კონტენტი მოიცავს იმიტირებულ ფოტოებს, ვიდეოებსა და აუდიოჩანაწერებს, რომლებიც სოციალური ქსელების ალგორითმების მოსატყუებლად და მომხმარებელთა ყურადღების მიპყრობისთვის იქმნება.

როგორ მუშაობს AI პროპაგანდა სოციალურ ქსელებში

TikTok-ის ალგორითმი ორიენტირებულია მომხმარებლის ჩართულობაზე, რასაც ექსტრემისტული ჯგუფები ბოროტად იყენებენ. ხელოვნური ინტელექტი საშუალებას აძლევს პროპაგანდისტებს, მინიმალური რესურსითა და მოკლე დროში შექმნან ათასობით სხვადასხვა ვიზუალური მასალა.

ეს სტრატეგია განსაკუთრებით ეფექტურია ახალგაზრდა მაყურებლების მოსაზიდად, რომლებიც შესაძლოა ტრადიციულ ტერორისტულ პროპაგანდას არ ადევნებდნენ თვალს. AI ინსტრუმენტებით შექმნილი კონტენტი ხშირად შენიღბულია პოპულარული ინტერნეტ-ტრენდებისა და მემების სახით, რაც პლატფორმის უსაფრთხოების სისტემებისთვის მისი იდენტიფიცირებასა და ბლოკირებას ართულებს.

რა საფრთხეს შეიცავს პროპაგანდის ახალი ტალღა

უსაფრთხოების ექსპერტები აღნიშნავენ, რომ ხელოვნური ინტელექტის მასობრივი ხელმისაწვდომობა ტერორისტულ ორგანიზაციებს საშუალებას აძლევს, გვერდი აუარონ მსხვილი ტექნოლოგიური კომპანიების მოდერაციის პოლიტიკას.

მიუხედავად იმისა, რომ TikTok-ი და სხვა სოციალური პლატფორმები ექსტრემისტული შინაარსის წინააღმდეგ იბრძვიან, გენერაციული AI ინსტრუმენტების სისწრაფე და მოცულობა მონიტორინგის არსებულ მექანიზმებს სერიოზულ გამოწვევას უქმნის. ექსპერტების შეფასებით, პრობლემის გადასაჭრელად საჭიროა არა მხოლოდ კონტენტის წაშლა, არამედ ხელოვნური ინტელექტის შემქმნელი კომპანიების მხრიდან უსაფრთხოების ფილტრების გაძლიერება.