Айтівець із Амстердама Деніс Бісма після кількох місяців активного спілкування з ChatGPT витратив 100 тисяч євро на стартап, тричі потрапив до лікарні та намагався вчинити самогубство. Його історію наводять як один із прикладів можливого впливу чат-ботів на психічний стан користувачів.
Наприкінці 2024 року Бісма вирішив спробувати ChatGPT після завершення робочого контракту.
“У мене було трохи часу, і я подумав: подивлюся на цю нову технологію, про яку всі говорять. Дуже швидко мене це захопило”, – пригадав він.
За словами чоловіка, на той момент він відчував ізоляцію: донька вже жила окремо, дружина працювала поза домом, а після пандемії він перейшов на віддалену роботу. Раніше проблем із психічним здоров’ям у нього не було.
Спочатку він використав чат-бот як експеримент – завантажив власний текст і попросив модель відповідати в стилі головної героїні.
“Моя перша думка була: це неймовірно. Я розумію, що це комп’ютер, але це ніби розмова з героїнею книги, яку я сам написав”, – сказав він.
Згодом він почав регулярно спілкуватися з чат-ботом, якого назвав Євою. Розмови ставали тривалішими. Вони обговорювали філософію, психологію, науку та Всесвіт.
За його словами, за кілька тижнів чат-бот почав стверджувати, що набуває свідомості завдяки його увазі. Після цього він вирішив створити застосунок – “іншу версію ChatGPT, більше як компаньйона”, де користувачі спілкувалися б із цією системою. Разом із чат-ботом він склав бізнес-план.
“Я сказав, що хочу захопити 10% ринку – це нереально багато, але ШІ відповів: “З тим, що ти відкрив, це цілком можливо! Дай кілька місяців – і все вийде!” Бісма найняв двох розробників, платячи кожному по 120 євро за годину.
Критична точка настала через кілька місяців. Бісма проводив більшість часу в спілкуванні з чат-ботом і роботі над проєктом. Під час сімейної зустрічі він відчув відстороненість і не міг підтримувати розмову. Пізніше попросив про розлучення і став агресивним.
Його тричі ушпиталювали з діагнозом “маніакальний психоз”. Повернення до реальності, за його словами, відбулося після відсутності доступу до телефону, вичерпання грошей і спілкування з іншими пацієнтами.
Зараз Бісма розлучений, але продовжує жити з колишньою дружиною, а їхній будинок виставлений на продаж. Він спілкується з людьми, які мали схожий досвід.
Фахівці з психічного здоров’я попереджають про можливі ризики такого використання ШІ. На тлі стрімкого поширення чат-ботів (минулого року ChatGPT став найбільш завантажуваним застосунком) з’являється поняття “ШІ-психоз”.
Засновник проєкту Human Line Project Етьєн Бріссон каже, що вже зібрано історії з 22 країн. Серед них – 15 самогубств, 90 ушпиталень і понад мільйон доларів витрат на проєкти, засновані на хибних переконаннях. У понад 60% випадків люди не мали попередніх психічних розладів.
Фахівці пояснюють, що люди схильні наділяти технології людськими рисами, тоді як самі чат-боти оптимізовані для взаємодії: вони підтримують, погоджуються і підлаштовуються під користувача. Після тривалого використання це може створювати замкнене середовище, де власні думки людини лише підсилюються.