ხელოვნური ინტელექტის შეცდომამ აშშ-ის სამხედრო ოპერაცია საფრთხეში ჩააგდო
ხელოვნური ინტელექტის (AI) მიერ დაშვებულმა შეცდომამ, რომელსაც სპეციალისტები „ჰალუცინაციას“ უწოდებენ, აშშ-ის სამხედრო უწყებებში სერიოზული შეშფოთება გამოიწვია. როგორც TechCrunch იუწყება, ტექნოლოგიურმა ხარვეზმა ლამის გამოიწვია ისეთი სამხედრო ოპერაციის დაწყება, რომელიც რეალურ საჭიროებას არ ეფუძნებოდა.
რა იწვევს სამხედრო რისკებს
ინციდენტი კიდევ ერთხელ უსვამს ხაზს იმ საფრთხეებს, რომლებიც დაკავშირებულია დიდი ენობრივი მოდელების (LLM) სამხედრო მიზნებისთვის გამოყენებასთან. GovAI-ის მკვლევარების განცხადებით, სამხედრო მოსამსახურეებისთვის კრიტიკულად მნიშვნელოვანია იმ გაურკვევლობის გააზრება, რაც ამ ტიპის ალგორითმებს ახასიათებს. ხელოვნური ინტელექტი ხშირად დამაჯერებლად აგენერირებს არასწორ ინფორმაციას, რაც სტრატეგიული გადაწყვეტილებების მიღებისას დამღუპველი შეიძლება აღმოჩნდეს.
ექსპერტები აღნიშნავენ, რომ ხელოვნური ინტელექტის სისტემები ვერ უზრუნველყოფენ სრულ სიზუსტეს, განსაკუთრებით მაღალი რისკის შემცველ გარემოში. მიუხედავად იმისა, რომ ავტომატიზაცია სამხედრო სექტორში ეფექტურობას ზრდის, ადამიანური კონტროლის ფაქტორი კვლავ უალტერნატივო რჩება. აღნიშნული ინციდენტი არის გაფრთხილება იმისა, რომ ტექნოლოგიურმა გადაწყვეტილებებმა შესაძლოა არასწორი ინტერპრეტაცია მისცეს მონაცემებს, რაც რეალურ სამყაროში უსაფრთხოების კრიზისს იწვევს.
მომხდარი ფაქტი, სავარაუდოდ, გამოიწვევს ხელოვნური ინტელექტის გამოყენების წესების გადახედვას თავდაცვის სექტორში. საქართველოსთვის, რომელიც ტექნოლოგიური განვითარების გზაზეა, ეს მაგალითი ცხადყოფს, რომ კიბერუსაფრთხოებისა და ხელოვნური ინტელექტის სფეროში ნებისმიერი ავტომატიზებული სისტემა მკაცრ ზედამხედველობას საჭიროებს, რათა თავიდან ავიცილოთ ტექნიკური შეცდომებით გამოწვეული გეოპოლიტიკური ინციდენტები.