Керівники великих корпорацій почали накладати обмеження на використання штучного інтелекту з огляду на стрімке збільшення витрат на токени. Серед організацій, які вже встановили ліміти, значаться такі гіганти, як Amazon, Uber, Meta, Walmart і Cisco. Цю інформацію оприлюднив Financial Times.
Ключова зміна полягає в тому, що співробітники все частіше переходять від використання чат-ботів до ШІ-агентів. Ці агенти, хоч і здатні самостійно вирішувати складніші завдання, потребують значно більше обчислювальних ресурсів. Оскільки провідні компанії галузі, як-от OpenAI та Anthropic, змінили систему виставлення рахунків з фіксованих підписок на оплату за токени, вартість такого використання суттєво зросла.
“Витрати на обчислення наразі викликають занепокоєння як у фінансових директорів, так і в рад директорів. Споживачів та бізнес привчали до думки, що штучний інтелект є недорогим або безкоштовним, але це абсолютно не так”, – зазначає Кості Перрікос, керівник напрямку глобального генеративного штучного інтелекту в Deloitte.
Генеральний директор OpenAI, Сем Альтман, раніше заявляв, що цього року вартість стала “серйозною проблемою” для клієнтів. Він додав, що минулого року подібної “проблеми не виникало” і люди “були цілком задоволені сумами, які вони витрачали”.
Також рекомендуємо до прочитання: OpenAI розглядає можливість суттєвого зниження цін через конкуренцію з Anthropic
Підписка ChatGPT Pro може коштувати OpenAI 14 000 доларів на користувача при повній потужності – SemiAnalysis
Новий підхід до фінансування штучного інтелекту призвів до того, що Uber вичерпав увесь свій річний бюджет на цю технологію вже у квітні. Президент та операційний директор компанії, Ендрю Макдональд, раніше висловлював думку, що витрати на ШІ стають дедалі складнішими для обґрунтування. Внаслідок цього для співробітників було встановлено щомісячний ліміт у 1500 доларів для кожного з інструментів програмування, таких як Claude Code або Cursor.
В Amazon ситуація подібна. На початку року компанія заохочувала працівників максимально використовувати штучний інтелект, навіть створивши спеціальну таблицю лідерів. Це призвело до того, що співробітники почали ставити ШІ нелогічні завдання, аби виконати норму. У результаті керівництво звернулося з проханням не використовувати нову технологію лише для показників, а внутрішню таблицю лідерів було скасовано.
Американська роздрібна корпорація Walmart також запровадила обмеження на використання внутрішніх ШІ-агентів, зокрема, на кількість токенів. Головний технічний директор компанії, Суреш Кумар, повідомив, що використання платформи для написання коду Code Puppy “значно зросло”, але зараз “з’явилася можливість відступити”, і співробітникам слід визначати відповідні інструменти для виконання завдань.
Джиту Патель, президент і головний директор з продуктів Cisco, зазначив, що компаніям доводиться знаходити баланс між бажанням використовувати технологію для розгортання агентів та вартістю й доступністю токенів.
“Обсяг інфраструктури, необхідної для агента, значно перевищує той, що потрібен для чат-бота”, – заявив Патель. “На кожного працівника може припадати 10, 100 або, за умови агресивного використання, 1000 агентів… Вони продовжують працювати, що споживає значну частину [обчислювальних ресурсів]”.
Ще одним цікавим аспектом ситуації є конкуренція з боку китайських компаній. Поки OpenAI та Anthropic утримують лідерство, використання китайських моделей виявляється значно ефективнішим з точки зору споживання токенів. Це пояснюється нижчою вартістю енергії та ефективнішими моделями, що дозволяє встановлювати меншу плату за токени.
Також рекомендуємо до прочитання: Компанії, “одержимі ШІ”, витрачають 7500 доларів на співробітника щомісяця
Керівник компанії скасував підвищення зарплат через витрати на штучний інтелект
Компанії починають сумніватися в ефективності ШІ через різке зростання витрат
Оригінал статті: mezha.ua