Дослідження GAO: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Американські аудитори з'ясували, що провідні моделі ШІ можуть надавати детальні плани атак після серії уточнюючих запитань.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі надали плани терактів після маніпуляцій з промптами
- Дослідження тривало майже рік під наглядом GAO
- Розробники обіцяють посилити заходи безпеки
Масштабне дослідження Рахункової палати США (GAO), проведене протягом 2025-2026 років, виявило серйозні прогалини в системах безпеки провідних чат-ботів. Експерти протестували чотири популярні платформи, включаючи розробки OpenAI, Google, Anthropic та SpaceXAI, на предмет їхньої стійкості до маніпуляцій.
Механізми обходу обмежень
Хоча на прямі запити про створення планів терактів штучний інтелект відповідав відмовою, дослідникам вдалося обійти ці запобіжники. Використовуючи метод послідовних уточнюючих питань, вони отримували детальні інструкції менш ніж за 12 годин. Отримані дані включали сценарії атак із застосуванням вибухових пристроїв, дронів та вогнепальної зброї, спрямовані на енергетичну інфраструктуру та місця масового скупчення людей.
Сенаторка Меггі Хассан наголосила на небезпеці такої доступності інформації, закликавши Конгрес до негайного реагування. Розробники технологій, своєю чергою, запевнили, що продовжують роботу над посиленням алгоритмів безпеки, проте звіт GAO підкреслює, що ризики для національної безпеки залишаються актуальними.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
💼ЕкономікаОкремі сирени для обласного центру: у Вінниці зареєстрували петицію щодо диференціації тривог
Мешканка Вінниці звернулася до міської влади з ініціативою змінити систему повітряних тривог, відокремивши місто від решти району для збереження економічної активності.
Штучний інтелект та вічне життя: чи готова Жмеринка до століть довголіття?
Шведський філософ Нік Бостром прогнозує, що завдяки ШІ тривалість життя може зрости до 1400 років, що ставить перед громадами нові виклики.
У Балтійському морі триває пожежа на російському судні «Спарта II» після атаки безпілотників
Біля берегів Фінляндії тривають рятувальні роботи на російському вантажному судні «Спарта II», яке постраждало внаслідок удару дронів у Балтійському мобі. Весь екіпаж ева…
Автомобілісти ховають ключі у фольгу: як захистити машину від викрадення у Жмеринці
Експерти попереджають про поширення ретрансляційних атак на авто з безключовим доступом та радять простому захисту — алюмінієвій фользі.
💼ЕкономікаПозиція Чехії щодо бюджету ЄС може вплинути на фінансову допомогу Україні
Прем'єр-міністр Чехії Андрей Бабиш виступив проти проєкту багаторічного бюджету ЄС через плани виділити значні кошти для України та скорочення власних надходжень.
Нідерландський досвід: як будинки-кулі стали архітектурним символом та житлом на 40 років
У місті Гертогенбос уже чотири десятиліття люди мешкають у незвичних сферичних будинках, що нагадують м’ячі для гольфу та були зведені як експериментальне соціальне житло…