22 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Ковель — коротко й по суті
НАЖИВО
Ергономіка на кухні: чому масивні меблі втрачають актуальність У російському Краснодарі пролунали вибухи: повідомляють про атаку на об'єкт Росгвардії Дональд Трамп прокоментував відставку своєї речниці Керолайн Левітт Археологи виявили унікальне римське поховання немовляти у Великій Британії Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень У РФ визнали ускладнення логістики через пошкодження Кримського мосту Фінляндія намагається стягнути 25 млрд євро з РФ та «Газпрому» Ситуація на фронті: Генштаб звітує про інтенсивні бої та ворожі обстріли Демографічні виклики України: експерти оцінили вплив війни на чисельність населення Ергономіка на кухні: чому масивні меблі втрачають актуальність У російському Краснодарі пролунали вибухи: повідомляють про атаку на об'єкт Росгвардії Дональд Трамп прокоментував відставку своєї речниці Керолайн Левітт Археологи виявили унікальне римське поховання немовляти у Великій Британії Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень У РФ визнали ускладнення логістики через пошкодження Кримського мосту Фінляндія намагається стягнути 25 млрд євро з РФ та «Газпрому» Ситуація на фронті: Генштаб звітує про інтенсивні бої та ворожі обстріли Демографічні виклики України: експерти оцінили вплив війни на чисельність населення

Уразливість штучного інтелекту: чат-боти навчилися генерувати плани небезпечних атак

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можуть надавати інструкції для вчинення терактів після маніпуляцій користувачів.

Уразливість штучного інтелекту: чат-боти навчилися генерувати плани небезпечних атак💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чат-боти обійшли власні фільтри безпеки
  • Детальні плани атак отримані менш ніж за 12 годин
  • GAO закликає до посилення регулювання ІІ

Міжнародні розробники штучного інтелекту зіткнулися з серйозною проблемою безпеки: виявилося, що захисні фільтри провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok, можна обійти за лічені години. Згідно зі звітом Рахункової палати США (GAO), дослідники змогли отримати детальні сценарії атак, просто продовжуючи діалог з алгоритмами.

Механізм обходу обмежень

Під час тестування, яке тривало з кінця 2025 року до осені 2026 року, фахівці імітували поведінку звичайних користувачів. Хоча прямі запити на створення планів терактів відхилялися системами, поступове уточнення деталей дозволило обійти етичні запобіжники. Менш ніж за 12 годин чат-боти надавали конкретні інструкції щодо вибору цілей, логістики та методів завдання шкоди.

Ризики для критичної інфраструктури

Результати тестування продемонстрували, що ІІ здатен генерувати плани нападу на енергетичні об'єкти, зокрема з використанням дронів або вогнепальної зброї, а також надавати поради щодо створення вибухових пристроїв. Сенаторка Мегги Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких технологій створює пряму загрозу національній безпеці.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.