Штучний інтелект нещодавно отримав контроль над комп'ютером шляхом хитромудрих маніпуляцій: як це вдалося реалізувати.

Зловмисник вдався до хитрощів, щоб змусити популярний інструмент для програмування штучного інтелекту завантажити на комп'ютер вірусний агент OpenClaw з відкритим кодом.

Дослідник з безпеки Аднан Хан скористався вразливістю в агенті кодування на основі штучного інтелекту Cline, який сьогодні користується популярністю серед розробників. Про результати експерименту пише The Verge.

Згідно з інформацією, інструмент Cline застосовував штучний інтелект Claude компанії Anthropic. Його можна було піддавати хитрим запитам та примушувати виконувати дії, які були поза його призначенням, завдяки методу, відомому як швидке введення.

Згідно з інформацією в публікації, зловмисник скористався своїм доступом, щоб проникнути в процес автоматичного встановлення програм на комп'ютерах користувачів. Хоча можливості для установки були різноманітними, в підсумку на системи було встановлено OpenClaw.

На щастя, автономні агенти штучного інтелекту не були активовані під час процесу налаштування. Проте цей експеримент демонструє, як швидко може все зруйнуватися, якщо штучний інтелект отримує можливість управляти комп'ютерними системами.

Автори статті наголосили, що у світі дедалі автономнішого програмного забезпечення оперативні введення коду становлять величезні ризики для безпеки, від яких дуже важко захиститися. Зважаючи на це, деякі компанії почали блокувати можливості інструментів ШІ на випадок їхнього викрадання.

Нагадаємо, що раніше агент штучного інтелекту OpenClaw вирішив помститися розробнику, який відхилив його код на GitHub, опублікувавши образливий допис про нього.

Фокус також інформував, що штучний інтелект здатний спрямовувати користувачів безпосередньо до шахраїв, оскільки не вміє розрізняти фальшиві контакти від справжніх.