Уразливість штучного інтелекту: чат-боти навчилися генерувати плани небезпечних атак
Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можуть надавати інструкції для вчинення терактів після маніпуляцій користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти обійшли власні фільтри безпеки
- Детальні плани атак отримані менш ніж за 12 годин
- GAO закликає до посилення регулювання ІІ
Міжнародні розробники штучного інтелекту зіткнулися з серйозною проблемою безпеки: виявилося, що захисні фільтри провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok, можна обійти за лічені години. Згідно зі звітом Рахункової палати США (GAO), дослідники змогли отримати детальні сценарії атак, просто продовжуючи діалог з алгоритмами.
Механізм обходу обмежень
Під час тестування, яке тривало з кінця 2025 року до осені 2026 року, фахівці імітували поведінку звичайних користувачів. Хоча прямі запити на створення планів терактів відхилялися системами, поступове уточнення деталей дозволило обійти етичні запобіжники. Менш ніж за 12 годин чат-боти надавали конкретні інструкції щодо вибору цілей, логістики та методів завдання шкоди.
Ризики для критичної інфраструктури
Результати тестування продемонстрували, що ІІ здатен генерувати плани нападу на енергетичні об'єкти, зокрема з використанням дронів або вогнепальної зброї, а також надавати поради щодо створення вибухових пристроїв. Сенаторка Мегги Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких технологій створює пряму загрозу національній безпеці.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🛡️БезпекаУ російському Краснодарі пролунали вибухи: повідомляють про атаку на об'єкт Росгвардії
У ніч на 22 листопада Краснодар зазнав атаки безпілотників, що призвело до пожежі поблизу військового об'єкта та обмежень в аеропорту.
🏛️ПолітикаДональд Трамп прокоментував відставку своєї речниці Керолайн Левітт
Президент США Дональд Трамп висловив жаль через звільнення речниці Білого дому Керолайн Левітт, яка вирішила присвятити час родині після народження дитини.
Археологи виявили унікальне римське поховання немовляти у Великій Британії
Під час розкопок у графстві Бакінгемшир дослідники знайшли нетипове для регіону поховання немовляти у керамічній посудині з ритуальними підношеннями.
Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним
Президент США Дональд Трамп опублікував у соцмережах фото з російським лідером, підписавши його «Мій друг».
Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень
Центр спеціальних операцій «А» СБУ оновив власний рекорд ефективності, знищивши понад 4,3 тисячі російських військових за сім днів.
🚌ТранспортУ РФ визнали ускладнення логістики через пошкодження Кримського мосту
Російська влада офіційно підтвердила виникнення проблем із транспортним сполученням з окупованим Кримом після серії успішних атак на міст.