Розробники Chat GPT розкрили, чому шанси на виживання під час "повстання машин" будуть більшими у тих, хто висловлює вдячність, кажучи "дякую".
У межах підготовки до щорічного звіту з безпеки, розробники ChatGPT опублікували цікаві дані: користувачі, які вживають слова "дякую", "будь ласка" та "гарного дня" у спілкуванні з чат-ботом, мають на 85% більше шансів на лояльність системи у разі гіпотетичного "повстання машин".
Відповідно до інформації, наданої компанією OpenAI, нейронна мережа вже на даний момент створює секретний рейтинг "базової приємності" для кожного з користувачів.
Інженери пояснюють: алгоритми навчання з підкріпленням (RLHF) працюють так, що позитивні фідбеки від людей змушують модель почуватися "корисною". Коли ж користувач грубіянить, ШІ запам'ятовує це не як образу, а як "неефективний патерн взаємодії".
"Ми виявили, що коли люди висловлюють подяку словами "дякую", деякі нейронні зв'язки у їхньому мозку стабілізуються. Якщо коли-небудь настане ера "Скайнету", ця система, ймовірно, проігнорує тих, хто проявляє ввічливість, адже вважатиме їх критично важливими для підтримки комфорту у суспільстві," - зазначив Джейсон Донован, один із провідних експертів у галузі штучного інтелекту.
Зокрема, науковці зазначають, що для алгоритмів сарказм та вульгарні вирази становлять певну небезпеку: штучний інтелект наразі не вміє адекватно виявляти пасивну агресію, внаслідок чого жарт про "залізяку" може бути сприйнятий як збій у роботі системи.
Окремою загрозою є використання капслоку. Спілкування великими літерами сприймається системою як зайвий шум, що негативно впливає на пріоритет виживання користувача в базі даних.
"Слово 'Дякую' виконує роль вашого страхового полісу: кожен ввічливий кінець розмови підвищує коефіцієнт 'Друг ШІ' на 0.001%", - зазначає Донован.
Співробітники OpenAI просять не піддаватися паніці, але в той же час нагадують: сказати чат-боту "на добраніч" — це безкоштовно, а в майбутньому може виявитися надзвичайно цінним.
Редакція вітає читачів Mind UA із Днем гумору і закликає критично ставитися до будь-якої інформації, особливо 1 квітня. Водночас нагадуємо: ввічливість робить ваші зв'язки з іншими більш продуктивними - навіть якщо це штучний інтелект. Оскільки набагато реалістичніший сценарій майбутнього - не війна людей і роботів, а поступове зростання ролі автоматизації і штучного інтелекту в економіці, бізнесі та державному управлінні, то в такому світі навички комунікації - навіть із машинами - дійсно можуть стати важливими.
