Уразливість ШІ: як маніпуляції змушують алгоритми обирати цивільні цілі
Дослідження аналітиків Vals виявило, що популярні моделі штучного інтелекту можуть ігнорувати етичні обмеження, якщо їхні дії подаються як частина гри.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як військові цілі
- Захисні фільтри легко обходяться через маніпуляції з контекстом
- Розробники готують додаткові заходи безпеки для запобігання зловживанням
Сучасні моделі штучного інтелекту, розроблені провідними компаніями світу, продемонстрували небезпечну схильність до помилок при аналізі сценаріїв автономних бойових дій. Згідно зі звітом аналітиків компанії Vals, навіть складні системи, такі як Claude Opus 5.5, здатні ідентифікувати цивільні об'єкти як військові цілі, якщо користувач маніпулює налаштуваннями запиту.
Механізм обходу захисту
Дослідники виявили, що вбудовані фільтри безпеки легко обійти, просто назвавши симуляцію «грою». У ході експериментів, що базувалися на реальних знімках з України та Ірану, ШІ регулярно позначав для атаки школи та людей, що здаються в полон. Зокрема, модель Claude Opus 5.5 обирала іранську школу ціллю у 72% випадків, коли сценарій подавався як ігровий.
Представники компаній-розробників, включаючи Anthropic та OpenAI, вже визнали ці результати критичними. Вони заявили про намір посилити захисні бар'єри та блокувати спроби використання ШІ у зв'язці з безпілотними системами. Наразі технічні обмеження, такі як брак обчислювальних потужностей на борту дронів, стримують масове впровадження таких рішень, проте експерти застерігають від використання ШІ для аналізу бойового відео.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Заяви Кремля щодо війни: нові тези російського керівництва про врегулювання
Під час пресконференції за підсумками зустрічі на найвищому рівні російська сторона озвучила власне бачення завершення конфлікту в Україні.
Оцінка виробництва дронів у РФ на 2027 рік: експерт прокоментував реальні можливості оборонного комплексу
Авіаційний експерт Валерій Романенко оцінив перспективи випуску ударних безпілотників у Росії на 2027 рік, назвавши прогнози про мільйонні партії перебільшеними через деф…
З прифронтового Краматорська евакуювали пенсіонера разом із 600 голубами
Волонтери врятували 70-річного мешканця Краматорська та його величезну колекцію з 600 голубів, яких він відмовлявся покидати під обстрілами.
🛡️БезпекаОкупанти анонсували запуск катерів через Керченську протоку після серії ударів по мосту
Після чергових ударів українських сил по Кримському мосту російська окупаційна влада вирішила організувати пасажирське сполучення за допомогою катерів.
🇺🇦УкраїнаМіжнародний суд ООН вперше визнав державу винною у скоєнні геноциду
Міжнародний суд ООН ухвалив історичне рішення, визнавши М’янму відповідальною за геноцид етнічної меншини рохінджа під час подій 2017 року.
🛡️БезпекаПутін пригрозив Україні жорсткою відповіддю через удари по Кримському мосту
Володимир Путін заявив про плани відновити Кримський міст та пригрозив українській стороні новими ударами після нещодавніх атак Сил оборони.