Ввічливі слова, як «будь ласка» і «дякую», якими користувачі супроводжують запити до ChatGPT, обходяться OpenAI у мільйони доларів щороку через додаткову обробку даних. Про це заявив генеральний директор компанії Сем Альтман у соцмережі X, повідомляє Tom’s Hardware.
«Згідно з оцінками, ввічливі фрази коштують OpenAI близько $137 000 щодня, або $50 мільйонів на рік», — пише Tom’s Hardware.
Ці витрати виникають через більшу кількість токенів (одиниць тексту), які обробляє модель. Кожен токен потребує обчислювальних ресурсів, а ввічливі слова додають до запитів 5−10% зайвих токенів.
Альтман вважає ці витрати виправданими, бо таке спілкування робить взаємодію зі штучним інтелектом більш людяною.
«У 2024 році Goldman Sachs повідомив, що один запит до ChatGPT споживає приблизно в 10 разів більше електроенергії, ніж пошуковий запит Google», — вказує Tom’s Hardware.
За оцінками банку, один запит до ChatGPT витрачає близько 2,9 Вт·год проти 0,3 Вт·год у Google. З урахуванням 8 млрд щоденних запитів до ШІ у 2024 році це створює значне навантаження.