AI экономикасы: токендер неге арзандайды, ал шоттар неге өседі

Бұл не

ЖИ (жасанды интеллект) құнын әдетте API-дің миллион токенге бағасымен өлшейді. 2026 жылға қарай бұл баға 2025 жылмен салыстырғанда шамамен 80%-ға төмендеді: базалық модельдер миллион кіріс токен үшін $0.20-дан басталады.

Бірақ ЖИ-ды продакшенге енгізген компаниялар басқа көрініс байқайды: inference-ке жұмсалатын жалпы шығын өсіп келеді. Бизнес үшін токен бағасынан гөрі орындалған тапсырманың құны маңызды.

Неге қажет

ЖИ пилоттары арзан: API-ге бірнеше тест сұрау жеткілікті. Продакшендегі ЖИ қымбатырақ тұрады, себебі тапсырмалар мыңдаған токенді, көптеген шақыруды және күрделі workflow-ды талап етеді.

Agentic AI ережелерді өзгертті. Қарапайым чат-бот моделге бір рет қана жүгінсе, агент бір тапсырмаға 10–20 шақыру жасай алады: жоспарлау, деректерді іздеу, тексеру, өзін-өзі түзету. Gartner бағалауынша, agentic модельдер стандартты чат-ботпен салыстырғанда бір тапсырмаға 5–30 есе көп токен жұмсайды.

Қалай жұмыс істейді

Токендерден тапсырмаларға

Миллион токенге баға — модельдерді салыстыруға ыңғайлы көрсеткіш. Бірақ бизнес үшін орындалған тапсырманың бағасы (cost per task) маңыздырақ. Мысал (бағалар иллюстрациялық): Claude Opus-та ($5/$25 миллионға) 3 000 кіріс және 1 000 шығыс токенді бір агент тапсырмасы $0.04 тұрады. Агент бір тапсырмаға осындай 15 шақыру жасаса — бұл қазірдің өзінде $0.60.

Model routing

Тапсырманың әртүрлі бөліктері әртүрлі модельді қажет етеді. Емлені тексеру — арзан модельге. Код генерациялау — қымбат модельге. Қарапайым қосалқы тапсырмаларды арзан модельдерге бағыттайтын командалар шығынды қысқартады. Мысал: routing енгізілгеннен кейін monthly API costs $40 000-нан $24 000-ға дейін төмендеді — өнімді өзгертпей-ақ.

Prompt caching

Промпттың қайталанатын бөліктерін (жүйелік нұсқаулар, контекст) кэштеуге болады. OpenAI 50–90% жеңілдік береді, Anthropic — базалық бағадан 90%. Типтік нұсқаулары бар enterprise-қосымшалар үшін бұл кіріс шығынды 70–90%-ға төмендетеді.

Latency vs cost

Жылдам модельдер қымбатырақ. Ұзын контекст те қымбатырақ тұрады: 200K токеннен асқанда Anthropic input үшін 2x, output үшін 1.5x алады. Жылдамдық, сапа және баға арасындағы таңдау — сатып алу емес, архитектуралық шешім.

Outcome-based pricing

Кейбір компаниялар токенге төлеуден нәтижеге төлеуге көшуде. Intercom Fin әрбір resolved conversation үшін $0.99 алады. Бұл тәуекелді провайдерге ауыстырып, тараптардың мүддесін теңестіреді.

Қолданылу аясы

Customer support. Агент өтінішті жіктейді, шешім іздейді, жауап генерациялайды, тексереді. Бір тикетке 10–15 шақыру. Қарапайым кезеңдерде арзан модельдерге қолмен routing жасау құнды 40%-ға төмендетеді.

Content production. Мақала генерациялау: жоспар, іздеу, нобай, редакциялау, SEO-оптимизация. Әрбір кезең — модельге шақыру. Жүйелік промпттарды caching жасау қайталанатын тапсырмаларда 80%-ға дейін үнемдейді.

Financial services. Ұзын контекстегі құжаттарды талдау: 200K+ токен. Long context surcharge құнды 1.5–2 есе арттырады. Chunks-қа бөлу немесе RAG қолдану — балама тәсіл.

Шектеулер

Жасырын шығындар. API-биллинг продакшендегі агенттің нақты құнының 10–20%-ын ғана құрауы мүмкін. Қалғаны: инфрақұрылым, мониторинг, қателерді өңдеу, адами oversight.

Pilot-to-production gap. 100 сұраныстан тұратын пилот бір экономиканы көрсетеді. Айына 50 000 тапсырмасы бар продакшен — басқасын. Токен бойынша 5–30x айырмашылық пилот бюджетінің сызықты түрде ауқымдалмайтынын білдіреді.

ROI кепілдендірілмеген. Адам еңбегі $1–3 тұратын тапсырмалар автоматтандыру кезінде жиі өтелмейді. Оң ROI шегі — адам еңбегінің бірлігі $5–15-тан басталатын тапсырмалар.

Ары қарай не болады

Gartner болжамы бойынша, триллион-параметрлі модельдердегі inference құны 2022 жылмен салыстырғанда 2030 жылға қарай 90%+-ға төмендейді. Арзан токендер күрделірек агенттер құруға мүмкіндік береді. Күрделі агенттер көбірек токен жұмсайды. Inference-ке жалпы spend өсе береді.

Келесі блок: осы инфрақұрылым мен экономикадан өнім қалай құрылатыны туралы.