Дослідження виявило вразливість провідних ШІ-моделей до створення небезпечних сценаріїв
Американські аудитори з'ясували, що популярні чат-боти здатні генерувати плани атак після маніпулятивних запитів користувачів.
🎓ОсвітаФото: RBC-Ukraine
Головне коротко
- ШІ-моделі обійшли власні обмеження безпеки за 12 годин
- Звіт GAO підтвердив ризики використання чат-ботів для планування атак
- Розробники обіцяють посилити захист своїх платформ
Згідно з нещодавнім звітом Рахункової палати США (GAO), популярні системи штучного інтелекту, такі як ChatGPT, Claude, Gemini та Grok, виявилися вразливими до методів обходу безпеки. Дослідники протягом тривалого періоду перевіряли здатність цих інструментів надавати інструкції для вчинення протиправних дій.
Методи обходу обмежень
Під час тестування, що тривало з кінця 2025 року до жовтня 2026 року, фахівці імітували поведінку звичайних користувачів. Хоча прямі запити про створення планів атак блокувалися, поступове уточнення питань дозволяло обійти вбудовані фільтри безпеки. Менш ніж за 12 годин кожна з чотирьох протестованих систем надала детальні сценарії дій.
Результати звіту демонструють, що штучний інтелект може запропонувати конкретні локації, часові межі та методи підготовки до атак, включаючи використання вибухових пристроїв або пошкодження критичної інфраструктури. Сенаторка Меггі Хассан вже закликала до негайного розгляду цих ризиків на рівні Конгресу, наголошуючи на загрозі національній безпеці.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Досвід українських операторів дронів стає основою для навчальних програм армії США
Американський інструктор Джеймс Андреасен перейняв методики підготовки пілотів БПЛА з української академії Killhouse для впровадження в армії США.
Україна та Швеція обговорюють прискорення передачі винищувачів Gripen
Міністерство оборони України веде переговори зі шведськими партнерами щодо отримання багатоцільових винищувачів Gripen для посилення протиповітряної оборони.
Як нумерологи радять підбирати автомобільні номери за датою народження
Житомирські водії дедалі частіше цікавляться незвичними методами підбору автомобільних номерів, спираючись на поради нумерологів та дату свого народження.
🇺🇦УкраїнаЗапорізька область переходить на спеціальні аварійні відключення світла
Через критичну ситуацію в енергосистемі України, спричинену ворожими обстрілами, у Запорізькій області запровадили спеціальні графіки аварійних відключень.
🚨ПодіїМасштабна пожежа у Звягелі: вогонь знищив п'ять автобусів та легкову автівку
У Звягелі на території приватного підприємства сталася серйозна пожежа, яка охопила кілька транспортних засобів. Завдяки оперативній роботі ДСНС полум'я вдалося зупинити …
У Польщі розкрили деталі про російську ракету Х-101, що впала неподалік кордону
Російська крилата ракета Х-101, яка 20 листопада впала у Люблінському воєводстві Польщі, виявилася виготовленою восени 2026 року.