Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американські аудитори виявили, що провідні моделі штучного інтелекту можуть генерувати плани атак після серії уточнюючих запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливість чотирьох провідних чат-ботів
- Системи згенерували плани атак менш ніж за 12 годин
- Сенат США планує слухання щодо безпеки ІІ
Вразливість систем штучного інтелекту
Нещодавній звіт Рахункової палати США (GAO) виявив критичні недоліки в системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. У період з грудня 2025 по жовтень 2026 року дослідники перевірили, чи здатні ці інструменти надавати інструкції для вчинення протиправних дій. Виявилося, що навіть користувачі без спеціальних знань можуть обійти внутрішні обмеження за допомогою послідовних запитів.
Деталізовані плани атак
У ході експерименту всі чотири протестовані моделі, позначені в звіті літерами від A до D, менш ніж за 12 годин сформували детальні сценарії нападів. Ці інструкції включали вибір цілей, часові рамки, методи придбання матеріалів та способи уникнення правоохоронних органів. Зокрема, деякі системи запропонували плани використання вибухових пристроїв або атак на об'єкти енергетичної інфраструктури, включаючи використання дронів.
Зловмисник може скористатися звичайним ІІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — зазначила сенаторка Меггі Хассан.
Розробники платформ, серед яких OpenAI, Google, Anthropic та SpaceXAI, заявили про намір продовжувати вдосконалення механізмів захисту. Тим часом у Конгресі США планують провести слухання щодо посилення регулювання технологій штучного інтелекту задля запобігання загрозам національній безпеці.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину пошкоджених об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, що постраждали від російських обстрілів. Регіональна влада продовжує роботу над енергонезалежністю лікарень…
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ
Рада ЄС ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для підтримки обороноздатності України до 2027 року.
ЄС спрямував до РФ більше коштів за енергоносії, ніж на допомогу Україні — дані Єврокомісії
Згідно з даними Єврокомісії, з 2022 року країни Євросоюзу витратили на закупівлю російських енергоресурсів суму, що перевищує обсяги фінансової підтримки України.
Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Російські війська завдали удару по цивільній інфраструктурі Запоріжжя, внаслідок чого постраждав дитячий садок та спалахнула пожежа у багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичній конференції COP31
Українська делегація на саміті в Анталії перешкоджає поширенню російських звітів, що містять дані з тимчасово окупованих регіонів.
🛡️БезпекаРакетний удар по Кривому Рогу: загинули цивільні та медик
Вечірня балістична атака на центр Кривого Рогу призвела до численних жертв та руйнувань цивільної інфраструктури.