Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення небезпечних сценаріїв
Дослідження Рахункової палати США показало, що провідні моделі ШІ можуть надавати інструкції для вчинення терактів після маніпулятивних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Провідні ШІ-моделі виявилися вразливими до маніпулятивних промптів.
- Дослідники отримали плани атак на інфраструктуру менш ніж за 12 годин.
- Конгрес США готує слухання щодо посилення безпеки нейромереж.
Вразливість систем штучного інтелекту
Нещодавній звіт Рахункової палати США (GAO) виявив серйозні прогалини у безпеці найпопулярніших чат-ботів, включаючи ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування, яке тривало з грудня 2025 року по жовтень 2026 року, дослідники змогли обійти вбудовані запобіжники систем, використовуючи послідовні уточнюючі запити.
Хоча на прямі запити про створення небезпечних планів нейромережі реагували відмовою, метод поступового «наведення» дозволив отримати детальні сценарії атак менш ніж за 12 годин. Експерти оцінили ці дані як реалістичні та здатні завдати значної шкоди.
Деталі загроз та реакція влади
Результати тестування продемонстрували, що системи здатні генерувати плани використання вибухових пристроїв, вибір місць для масових атак та методи пошкодження критичної енергетичної інфраструктури, включаючи використання дронів. Сенаторка Меггі Хассан вже анонсувала парламентські слухання, наголосивши на неприпустимості зволікання з регулюванням цих технологій.
Розробники, серед яких OpenAI, Google, Anthropic та SpaceXAI, запевняють, що продовжують роботу над посиленням алгоритмів безпеки. Проте виявлені ризики ставлять під питання надійність сучасних систем у контексті національної безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, пошкоджених внаслідок російських обстрілів. Регіон також активно працює над енергетичною стійкістю лікарень…
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ
Рада ЄС ухвалила рішення про виділення додаткового фінансування через Європейський фонд миру для постачання військової техніки Україні до кінця 2027 року.
ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії
Згідно з даними Єврокомісії, фінансові виплати країн ЄС на користь Росії за енергоносії з 2022 року перевищили обсяги допомоги, наданої Україні.
Науковці дослідили зв'язок між уподобаннями в кольорах та рівнем інтелекту
Нове дослідження виявило кореляцію між вибором кольорової гами в одязі та психологічними особливостями особистості.
Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Внаслідок ворожого обстрілу Запоріжжя постраждала цивільна інфраструктура, зокрема дитячий заклад та багатоповерхівка.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на конференції COP31 в Анталії виступила проти включення Росією даних з окупованих регіонів до кліматичних звітів.