Anthropic висловлює претензії до компаній у сфері штучного інтелекту, звинувачуючи їх у неналежному використанні Claude.
Anthropic закликає до дій проти "дистиляційних атак" на штучний інтелект, звинувативши три компанії, що займаються штучним інтелектом, у зловживанні своїм чат-ботом Claude. На своєму веб-сайті Anthropic стверджує, що DeepSeek, Moonshot і MiniMax проводили "кампанії промислового масштабу... з метою незаконного вилучення можливостей Claude для вдосконалення своїх власних моделей".
У сфері штучного інтелекту термін "дистиляція" позначає процес, при якому менш потужні моделі навчаються на основі відповідей більш розвинених моделей. Хоча дистиляція в загальному може мати позитивні аспекти, компанія Anthropic висловила занепокоєння, що такі методи можуть бути використані для незаконних цілей. Згідно з інформацією від Anthropic, три китайські компанії в галузі штучного інтелекту здійснили понад 16 мільйонів запитів до Claude через приблизно 24 000 фальшивих акаунтів. Anthropic вважає, що ці конкурентні фірми використовували Claude як швидкий шлях до створення вдосконалених AI-моделей, що могло призвести до ігнорування певних заходів безпеки.
Anthropic у своєму повідомленні повідомила, що з "високим рівнем впевненості" змогла зв'язати кожну з цих кампаній дистиляційних атак з конкретними компаніями. Це стало можливим завдяки аналізу кореляцій IP-адрес, метаданих запитів та інфраструктурних показників, а також підтвердженням від інших учасників індустрії штучного інтелекту, які зафіксували аналогічні прояви.
На початку минулого року OpenAI висловила подібні обвинувачення на адресу своїх конкурентів, які застосовували її моделі, та вжила заходів, заблокувавши підозрілі акаунти. Щодо Anthropic, компанії, що розробила Claude, вона оголосила про плани модернізації своєї системи для ускладнення дистиляційних атак і покращення їх виявлення. Незважаючи на те, що Anthropic звинувачує інші компанії, вона також опинилася під ударом позову від музичних видавців, які стверджують, що компанія AI використовувала нелегальні копії пісень для навчання свого чат-бота Claude.
