21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Глухів — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії Науковці дослідили зв'язок між уподобаннями в кольорах та рівнем інтелекту Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні, десятки поранених Зеленський наголосив на неминучості нейтралізації Кримського мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масштабне знеструмлення на Рівненщині: енергетики працюють в умовах постійної загрози Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії Науковці дослідили зв'язок між уподобаннями в кольорах та рівнем інтелекту Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні, десятки поранених Зеленський наголосив на неминучості нейтралізації Кримського мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масштабне знеструмлення на Рівненщині: енергетики працюють в умовах постійної загрози

Уразливість ШІ: як маніпуляції змушують алгоритми обирати цивільні цілі

💡 Технології 1 хв читання 👁 0

Дослідження аналітиків Vals виявило, що популярні моделі штучного інтелекту можуть ігнорувати етичні обмеження, якщо їхні дії подаються як частина гри.

Уразливість ШІ: як маніпуляції змушують алгоритми обирати цивільні цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково ідентифікують цивільні об'єкти як військові цілі
  • Захисні фільтри легко обходяться через маніпуляції з контекстом
  • Розробники готують додаткові заходи безпеки для запобігання зловживанням

Сучасні моделі штучного інтелекту, розроблені провідними компаніями світу, продемонстрували небезпечну схильність до помилок при аналізі сценаріїв автономних бойових дій. Згідно зі звітом аналітиків компанії Vals, навіть складні системи, такі як Claude Opus 5.5, здатні ідентифікувати цивільні об'єкти як військові цілі, якщо користувач маніпулює налаштуваннями запиту.

Механізм обходу захисту

Дослідники виявили, що вбудовані фільтри безпеки легко обійти, просто назвавши симуляцію «грою». У ході експериментів, що базувалися на реальних знімках з України та Ірану, ШІ регулярно позначав для атаки школи та людей, що здаються в полон. Зокрема, модель Claude Opus 5.5 обирала іранську школу ціллю у 72% випадків, коли сценарій подавався як ігровий.

Представники компаній-розробників, включаючи Anthropic та OpenAI, вже визнали ці результати критичними. Вони заявили про намір посилити захисні бар'єри та блокувати спроби використання ШІ у зв'язці з безпілотними системами. Наразі технічні обмеження, такі як брак обчислювальних потужностей на борту дронів, стримують масове впровадження таких рішень, проте експерти застерігають від використання ШІ для аналізу бойового відео.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.