У тривожному розвитку подій для користувачів Claude, популярного інструменту штучного інтелекту, хакери експлуатують вразливості для крадіжки токенів у нічого не підозрюючих підписників. Ця проблема стала відомою, коли Грант Де Свардт, незалежний консультант з штучного інтелекту з Східного Суссекса, Великобританія, помітив незвичне споживання токенів на своєму обліковому записі, незважаючи на те, що не використовував сервіс.
4 серпня Де Свардт спостерігав 10% збільшення споживання токенів за ніч, що спонукало його відключити всі підключені служби. Проте споживання токенів продовжувало зростати. “У найчіткішому контрольованому інтервалі воно зросло з 45% до 55%, поки я не виконував жодної роботи,” повідомив він.
Шукаючи відповіді, Де Свардт звернувся до Anthropic, компанії, що стоїть за Claude, з проханням надати детальний звіт про використання. Хоча Anthropic не надала запитуваних деталей, вона визнала проблему, призупинивши його обліковий запис і видавши частковий повернення £44.49 за залишок підписки.
Призупинення суттєво вплинуло на бізнес Де Свардта, який сильно залежить від агентів штучного інтелекту для виконання різних завдань, включаючи введення даних та дизайн веб-сайтів. “Все сьогодні працює через штучний інтелект,” зазначив він.
Після подальшого розслідування Anthropic повідомила Де Свардту, що скомпрометований ключ сесії був використаний для створення несанкціонованих токенів OAuth. Компанія вказала, що його обліковий запис, здавалося, був доступний через несанкціоновану сторонню службу, хоча точний спосіб доступу залишався незрозумілим.
Досвід Де Свардта відгукнувся з іншими користувачами, коли він поділився своєю історією на Reddit, виявивши спільноту людей, які стикаються з подібними проблемами. Один користувач повідомив про автоматичне оновлення свого облікового запису без згоди, тоді як інший спостерігав швидке зростання використання, незважаючи на мінімальну взаємодію з сервісом.
У відповідь на зростаючі занепокоєння Anthropic підтвердила, що виявила зловмисника, який використовує шкідливе програмне забезпечення для крадіжки сесій входу користувачів. Це шкідливе програмне забезпечення може захоплювати збережені паролі та дані сесій, що призводить до несанкціонованого доступу.
При виявленні підозрілої активності Anthropic вжила заходів, підписавши користувачів, анулювавши існуючі авторизації та видавши повернення. Однак компанія уточнила, що шкідливе програмне забезпечення не походило від використання Claude, підкреслюючи, що такі загрози можуть виникнути з різних онлайн-джерел.
Де Свардт, який не отримав попереджувального електронного листа від Anthropic, висловив розчарування через відсутність ясності щодо порушення. Він врешті-решт скасував свою підписку на користь альтернативних послуг, які пропонують більше прозорості та гнучкості.
Незважаючи на те, що його обліковий запис був відновлений через два тижні, Де Свардт залишається незадоволеним відсутністю у Claude інструментів для моніторингу використання токенів. “Я не думаю, що ці люди можуть захистити себе,” заявив він, підкреслюючи необхідність покращення заходів безпеки.
Коли його запитали про додаткову інформацію про те, як користувачі можуть виявити зловживання, Anthropic відмовилася коментувати.