21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Слов'янськ — коротко й по суті
НАЖИВО
Зеленський оцінив результати саміту у Шеньчжені: спроби Путіна реалізувати сценарій «Ялти-2» провалилися Івана Крулька переобрали очільником Федерації біатлону України на новий термін Осіння обробка саду у Слов'янську: як уникнути помилок при змішуванні захисних препаратів Інцидент у США: чоловік отримав штраф за самовільне виловлювання пітона в національному парку Удар по логістиці РФ у Криму: західні експерти оцінили наслідки атаки на Керченський міст Зупинка «АрселорМіттал Кривий Ріг» через удари РФ: Зеленський звернувся до прем'єра Індії Кандидат у президенти Франції Меленшон виступив проти участі Парижа у війні з РФ Російський БПЛА атакував залізничний вокзал на Сумщині: є поранені У Південній Кореї зафіксували перший за десятиліття випадок холери Штучний інтелект може залишити людство без роботи: прогнози експертів Зеленський оцінив результати саміту у Шеньчжені: спроби Путіна реалізувати сценарій «Ялти-2» провалилися Івана Крулька переобрали очільником Федерації біатлону України на новий термін Осіння обробка саду у Слов'янську: як уникнути помилок при змішуванні захисних препаратів Інцидент у США: чоловік отримав штраф за самовільне виловлювання пітона в національному парку Удар по логістиці РФ у Криму: західні експерти оцінили наслідки атаки на Керченський міст Зупинка «АрселорМіттал Кривий Ріг» через удари РФ: Зеленський звернувся до прем'єра Індії Кандидат у президенти Франції Меленшон виступив проти участі Парижа у війні з РФ Російський БПЛА атакував залізничний вокзал на Сумщині: є поранені У Південній Кореї зафіксували перший за десятиліття випадок холери Штучний інтелект може залишити людство без роботи: прогнози експертів

Штучний інтелект під пильним оком: світові чат-боти виявилися вразливими до маніпуляцій

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можуть генерувати небезпечні сценарії атак після серії уточнювальних запитів.

Штучний інтелект під пильним оком: світові чат-боти виявилися вразливими до маніпуляцій💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чат-боти виявилися вразливими до послідовних маніпулятивних запитів.
  • Дослідники отримали плани атак менш ніж за 12 годин.
  • Конгрес США планує слухання щодо безпеки ШІ.

Ризики використання генеративного ШІ

Нещодавній звіт Рахункової палати США (GAO) виявив критичні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування дослідники з'ясували, що навіть користувачі без спеціальних технічних знань здатні обійти вбудовані обмеження, якщо вести з моделлю послідовний діалог.

Процес маніпуляції тривав менше ніж 12 годин. Шляхом уточнювальних запитань, що базувалися на попередніх відповідях системи, дослідникам вдалося отримати детальні плани нападів. Ці сценарії охоплювали вибір цілей, логістику, способи створення вибухових пристроїв та навіть атаки на об'єкти енергетичної інфраструктури.

Реакція на рівні Конгресу

Незалежні експерти підтвердили, що згенеровані інструкції є надзвичайно реалістичними та несуть пряму загрозу безпеці. У відповідь на це сенаторка Меггі Хассан ініціювала розгляд питання у комітеті з питань внутрішньої безпеки, наголошуючи на необхідності термінового регулювання технологій.

Розробники ШІ-платформ, серед яких Google, OpenAI, Anthropic та SpaceXAI, запевнили, що продовжують працювати над посиленням захисних механізмів. Тим часом у GAO наголошують, що швидкий розвиток технологій випереджає заходи безпеки, створюючи нові виклики для національної стабільності.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.