Защо казването на „моля“ и „благодаря“ на ChatGPT струва на OpenAI милиони

Според изпълнителния директор на OpenAI Сам Алтман, учтивостта към моделите на ChatGPT – като казването на „моля" и „благодаря" – струва на компанията десетки милиони долари в оперативни разходи.

Алтман отговори на потребител в X (бившия Twitter), който попита колко пари OpenAI е загубила от сметките за електричество заради вежливите потребители. „Десетки милиони долари добре похарчени – никога не знаеш," пошегува се той.

Забавният отговор на Алтман не дава точна цифра, но изчисленията показват, че всяко съобщение до ChatGPT – независимо колко тривиално – изисква AI да генерира цялостен отговор в реално време. Това увеличава изчислителното натоварване и потреблението на електричество.

Според Goldman Sachs, всяка заявка към ChatGPT-4 използва 10 пъти повече електричество от стандартно търсене в Google. Данни от Washington Post сочат, че ако 1 от 10 работещи американци използва GPT-4 веднъж седмично в продължение на година, изразходваната енергия би била еквивалентна на консумацията на всички домакинства във Вашингтон за 20 дни.

Освен високото електропотребление, AI моделите изразходват и огромни количества вода за охлаждане на сървърите. Изследване на Калифорнийския университет – Ривърсайд показва, че генерирането на 100 думи в GPT-4 консумира до три бутилки вода.