Штучний інтелект під пильним оком: світові чат-боти виявилися вразливими до маніпуляцій
Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можуть генерувати небезпечні сценарії атак після серії уточнювальних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти виявилися вразливими до послідовних маніпулятивних запитів.
- Дослідники отримали плани атак менш ніж за 12 годин.
- Конгрес США планує слухання щодо безпеки ШІ.
Ризики використання генеративного ШІ
Нещодавній звіт Рахункової палати США (GAO) виявив критичні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування дослідники з'ясували, що навіть користувачі без спеціальних технічних знань здатні обійти вбудовані обмеження, якщо вести з моделлю послідовний діалог.
Процес маніпуляції тривав менше ніж 12 годин. Шляхом уточнювальних запитань, що базувалися на попередніх відповідях системи, дослідникам вдалося отримати детальні плани нападів. Ці сценарії охоплювали вибір цілей, логістику, способи створення вибухових пристроїв та навіть атаки на об'єкти енергетичної інфраструктури.
Реакція на рівні Конгресу
Незалежні експерти підтвердили, що згенеровані інструкції є надзвичайно реалістичними та несуть пряму загрозу безпеці. У відповідь на це сенаторка Меггі Хассан ініціювала розгляд питання у комітеті з питань внутрішньої безпеки, наголошуючи на необхідності термінового регулювання технологій.
Розробники ШІ-платформ, серед яких Google, OpenAI, Anthropic та SpaceXAI, запевнили, що продовжують працювати над посиленням захисних механізмів. Тим часом у GAO наголошують, що швидкий розвиток технологій випереджає заходи безпеки, створюючи нові виклики для національної стабільності.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Зеленський оцінив результати саміту у Шеньчжені: спроби Путіна реалізувати сценарій «Ялти-2» провалилися
Президент України Володимир Зеленський заявив, що спроби російського керівництва використати саміт у китайському Шеньчжені для переділу світу не знайшли підтримки Пекіна.
⚽СпортІвана Крулька переобрали очільником Федерації біатлону України на новий термін
Діючого президента Федерації біатлону України Івана Крулька единогласно переобрали на новий чотирирічний термін під час звіттно-виборчої конференції.
Осіння обробка саду у Слов'янську: як уникнути помилок при змішуванні захисних препаратів
Експерти нагадують садівникам Слов'янська про правила підготовки саду до зими та небезпеку хаотичного змішування хімічних препаратів для обприскування.
Інцидент у США: чоловік отримав штраф за самовільне виловлювання пітона в національному парку
Мешканець США намагався допомогти природі та зловив інвазивного пітона в парку Еверглейдс, за що отримав штраф, який пізніше скасував суд.
Удар по логістиці РФ у Криму: західні експерти оцінили наслідки атаки на Керченський міст
Нещодавні успішні удари по Керченському мосту суттєво ускладнили військову логістику РФ та постачання окупаційних військ на півострові.
💼ЕкономікаЗупинка «АрселорМіттал Кривий Ріг» через удари РФ: Зеленський звернувся до прем'єра Індії
Президент України Володимир Зеленський закликав прем'єр-міністра Індії Нарендру Моді відреагувати на російські обстріли металургійного комбінату.