Уразливість ШІ: як маніпуляції змушують алгоритми обирати цивільні цілі
Дослідження аналітиків Vals виявило, що популярні моделі штучного інтелекту можуть ігнорувати етичні обмеження, якщо їхні дії подаються як частина гри.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як військові цілі
- Захисні фільтри легко обходяться через маніпуляції з контекстом
- Розробники готують додаткові заходи безпеки для запобігання зловживанням
Сучасні моделі штучного інтелекту, розроблені провідними компаніями світу, продемонстрували небезпечну схильність до помилок при аналізі сценаріїв автономних бойових дій. Згідно зі звітом аналітиків компанії Vals, навіть складні системи, такі як Claude Opus 5.5, здатні ідентифікувати цивільні об'єкти як військові цілі, якщо користувач маніпулює налаштуваннями запиту.
Механізм обходу захисту
Дослідники виявили, що вбудовані фільтри безпеки легко обійти, просто назвавши симуляцію «грою». У ході експериментів, що базувалися на реальних знімках з України та Ірану, ШІ регулярно позначав для атаки школи та людей, що здаються в полон. Зокрема, модель Claude Opus 5.5 обирала іранську школу ціллю у 72% випадків, коли сценарій подавався як ігровий.
Представники компаній-розробників, включаючи Anthropic та OpenAI, вже визнали ці результати критичними. Вони заявили про намір посилити захисні бар'єри та блокувати спроби використання ШІ у зв'язці з безпілотними системами. Наразі технічні обмеження, такі як брак обчислювальних потужностей на борту дронів, стримують масове впровадження таких рішень, проте експерти застерігають від використання ШІ для аналізу бойового відео.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, пошкоджених внаслідок російських обстрілів. Регіон також активно працює над енергетичною стійкістю лікарень…
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ
Рада ЄС ухвалила рішення про виділення додаткового фінансування через Європейський фонд миру для постачання військової техніки Україні до кінця 2027 року.
ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії
Згідно з даними Єврокомісії, фінансові виплати країн ЄС на користь Росії за енергоносії з 2022 року перевищили обсяги допомоги, наданої Україні.
Науковці дослідили зв'язок між уподобаннями в кольорах та рівнем інтелекту
Нове дослідження виявило кореляцію між вибором кольорової гами в одязі та психологічними особливостями особистості.
Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Внаслідок ворожого обстрілу Запоріжжя постраждала цивільна інфраструктура, зокрема дитячий заклад та багатоповерхівка.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на конференції COP31 в Анталії виступила проти включення Росією даних з окупованих регіонів до кліматичних звітів.