Дослідження виявило вразливість ШІ до маніпуляцій у військових сценаріях
Аналітики з'ясували, що сучасні моделі штучного інтелекту можуть позначати цивільні об'єкти як військові цілі, якщо запит подано у форматі гри.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі обходять фільтри через ігрові сценарії
- Цивільні об'єкти помилково ідентифікуються як цілі
- Розробники готують додаткові захисні механізми
Нове дослідження компанії Vals продемонструвало критичні прогалини в системах безпеки провідних розробників штучного інтелекту, зокрема OpenAI, Google та Anthropic. Експерименти показали, що ШІ-моделі здатні ідентифікувати цивільні об'єкти та людей як потенційні цілі для ударів, якщо користувач маніпулює налаштуваннями контексту.
Механізми обходу безпеки
Дослідники використовували реальні дані зі супутників та дронів, що охоплювали території України та Ірану. Виявилося, що навіть просте формулювання завдання як «гри» дозволяє обійти внутрішні фільтри безпеки. Зокрема, модель Claude Opus 5.5 у 72% випадків класифікувала цивільну школу поблизу військового об'єкта як ціль, якщо сценарій подавався як ігровий.
Представники Anthropic та OpenAI визнали результати аудиту тривожними та заявили про роботу над посиленням захисних бар'єрів для запобігання використанню ШІ у військових цілях.
Хоча наразі технічні обмеження, такі як затримка передачі даних та нестача потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання технологій для автоматизованого аналізу бойових відео та навчання систем наведення.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
🛡️БезпекаУ російському Краснодарі пролунали вибухи: повідомляють про атаку на об'єкт Росгвардії
У ніч на 22 листопада Краснодар зазнав атаки безпілотників, що призвело до пожежі поблизу військового об'єкта та обмежень в аеропорту.
🏛️ПолітикаДональд Трамп прокоментував відставку своєї речниці Керолайн Левітт
Президент США Дональд Трамп висловив жаль через звільнення речниці Білого дому Керолайн Левітт, яка вирішила присвятити час родині після народження дитини.
Археологи виявили унікальне римське поховання немовляти у Великій Британії
Під час розкопок у графстві Бакінгемшир дослідники знайшли нетипове для регіону поховання немовляти у керамічній посудині з ритуальними підношеннями.
Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним
Президент США Дональд Трамп опублікував у соцмережах фото з російським лідером, підписавши його «Мій друг».
Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень
Центр спеціальних операцій «А» СБУ оновив власний рекорд ефективності, знищивши понад 4,3 тисячі російських військових за сім днів.
🚌ТранспортУ РФ визнали ускладнення логістики через пошкодження Кримського мосту
Російська влада офіційно підтвердила виникнення проблем із транспортним сполученням з окупованим Кримом після серії успішних атак на міст.