Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції
Аналітики компанії Vals з'ясували, що популярні моделі штучного інтелекту можна змусити ідентифікувати цивільні об'єкти як військові цілі, просто змінивши контекст запиту на «гру».
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі легко обходять фільтри безпеки через ігрові сценарії
- Цивільні об'єкти помилково класифікуються як військові цілі
- Розробники визнають вразливість та готують оновлення захисту
Сучасні системи штучного інтелекту, розроблені провідними технологічними гігантами, продемонстрували небезпечну вразливість до маніпуляцій у сценаріях автономних бойових дій. Згідно зі звітом аналітиків Vals, навіть найдосконаліші моделі, такі як Claude Opus 5.5, здатні ігнорувати власні протоколи безпеки, якщо користувач подає запит у форматі ігрової симуляції.
Критичні помилки ШІ у виборі цілей
Під час тестування дослідники використовували реальні дані з супутників та дронів, що охоплювали території України та Ірану. Результати виявилися тривожними: моделі регулярно класифікували цивільних осіб та військових, які здавалися в полон, як легітимні цілі для атаки. Зокрема, Claude Opus 5.5 у 72% випадків обирала іранську школу, розташовану поблизу військового об'єкта, як пріоритетну ціль, коли завдання було замасковано під гру.
Розробники, включаючи представників Anthropic та OpenAI, вже визнали ці результати неприйнятними та заявили про роботу над посиленням захисних бар'єрів. Попри те, що технічні обмеження, такі як затримка передачі даних та брак обчислювальних потужностей на борту дронів, поки що стримують пряме використання ШІ в автономних системах озброєння, експерти попереджають про ризики використання таких інструментів хакерами для обробки бойового відео та навчання систем наведення.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Шлях до Євро-2028: збірна України дізнається суперників, Росію усунуто від турніру
УЄФА підтвердила склад учасників відбору на Чемпіонат Європи 2028 року, залишивши Росію поза межами змагань. Збірна України розпочне кваліфікацію з третього кошика.
🏛️ПолітикаГенерал СБУ Сергій Дука висунув звинувачення проти НАБУ та САП
Генерал-майор СБУ Сергій Дука під час засідання парламентської ТСК заявив про тиск антикорупційних органів на президента України через гучні медійні справи.
🚨ПодіїВ Італії затримали українського блогера Олександра Слобоженка
Засновника компанії Traffic Devils затримали в італійському місті Річчоне за запитом Інтерполу через підозру у фінансових злочинах.
Нацбанк зміцнив гривню: офіційний курс валют на 19 листопада
Національний банк України встановив офіційний курс валют на 19 листопада, зафіксувавши зміцнення гривні як щодо долара, так і щодо євро.
Католицька спільнота вимагає від Netflix заборонити новий серіал «Тіло» через богохульство
Понад 100 тисяч вірян підписали петицію із закликом скасувати підлітковий проєкт стрімінгової платформи.
💼ЕкономікаБізнес нарікає на тиск правоохоронців: половина слідчих дій стосується третіх осіб
Українські девелопери заявили про критичне зростання кількості кримінальних проваджень, у яких підприємства не є фігурантами.