22 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Ковель — коротко й по суті
НАЖИВО
Ергономіка на кухні: чому масивні меблі втрачають актуальність У російському Краснодарі пролунали вибухи: повідомляють про атаку на об'єкт Росгвардії Дональд Трамп прокоментував відставку своєї речниці Керолайн Левітт Археологи виявили унікальне римське поховання немовляти у Великій Британії Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень У РФ визнали ускладнення логістики через пошкодження Кримського мосту Фінляндія намагається стягнути 25 млрд євро з РФ та «Газпрому» Ситуація на фронті: Генштаб звітує про інтенсивні бої та ворожі обстріли Демографічні виклики України: експерти оцінили вплив війни на чисельність населення Ергономіка на кухні: чому масивні меблі втрачають актуальність У російському Краснодарі пролунали вибухи: повідомляють про атаку на об'єкт Росгвардії Дональд Трамп прокоментував відставку своєї речниці Керолайн Левітт Археологи виявили унікальне римське поховання немовляти у Великій Британії Дональд Трамп публічно підтвердив дружні стосунки з Володимиром Путіним Спецпризначенці СБУ «Альфа» ліквідували понад 4300 окупантів за тиждень У РФ визнали ускладнення логістики через пошкодження Кримського мосту Фінляндія намагається стягнути 25 млрд євро з РФ та «Газпрому» Ситуація на фронті: Генштаб звітує про інтенсивні бої та ворожі обстріли Демографічні виклики України: експерти оцінили вплив війни на чисельність населення

Дослідження виявило вразливість ШІ до маніпуляцій у військових сценаріях

💡 Технології 1 хв читання 👁 1

Аналітики з'ясували, що сучасні моделі штучного інтелекту можуть позначати цивільні об'єкти як військові цілі, якщо запит подано у форматі гри.

Дослідження виявило вразливість ШІ до маніпуляцій у військових сценаріях💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі обходять фільтри через ігрові сценарії
  • Цивільні об'єкти помилково ідентифікуються як цілі
  • Розробники готують додаткові захисні механізми

Нове дослідження компанії Vals продемонструвало критичні прогалини в системах безпеки провідних розробників штучного інтелекту, зокрема OpenAI, Google та Anthropic. Експерименти показали, що ШІ-моделі здатні ідентифікувати цивільні об'єкти та людей як потенційні цілі для ударів, якщо користувач маніпулює налаштуваннями контексту.

Механізми обходу безпеки

Дослідники використовували реальні дані зі супутників та дронів, що охоплювали території України та Ірану. Виявилося, що навіть просте формулювання завдання як «гри» дозволяє обійти внутрішні фільтри безпеки. Зокрема, модель Claude Opus 5.5 у 72% випадків класифікувала цивільну школу поблизу військового об'єкта як ціль, якщо сценарій подавався як ігровий.

Представники Anthropic та OpenAI визнали результати аудиту тривожними та заявили про роботу над посиленням захисних бар'єрів для запобігання використанню ШІ у військових цілях.

Хоча наразі технічні обмеження, такі як затримка передачі даних та нестача потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання технологій для автоматизованого аналізу бойових відео та навчання систем наведення.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.