Automatically translated.View original post

Found the AI Token to retreat.

In recent times, major technology companies around the world have been pushing their employees to use AI to increase productivity, especially coding tools and AI Agents that can help them think, analyze, and perform multi-step tasks instead of humans, but most recently, this trend has begun to hit a major barrier when the cost of using AI in-house has skyrocketed faster than many companies expected.

.

Until recently, Microsoft reportedly began to gradually reduce Claude Code usage in-house and instead turned engineers to use GitHub Copilot CLI. After AI costs grew faster than the company expected.

.

This problem doesn't happen to Microsoft alone, because Uber has previously revealed that its entire 2026 AI coding tool budget has been exhausted since the first four months of the year, while NVIDIA's Applied Deep Learning executive has also acknowledged that some teams' AI processing costs are currently higher than human employee wages.

.

This is mainly due to modern AI business models that charge by token or processing volume. The more organizations start using AI Agents that can think, analyze, and perform multi-step tasks instead of humans, the more token volume exponentially increases, resulting in a rapid increase in usage bill, especially coding, data analysis, and automation that requires a lot of reasoning.

.

In Silicon Valley, this phenomenon began to be called tokenmaxxing backlash, or the bounce of the era when many companies encouraged their employees to use AI as much as possible because they believed that the more they used, the higher their productivity, but in practice, many organizations began to find that the use of AI in large numbers did not always mean the same proportion of business returns.

.

The signal is also seen in GitHub Copilot, which prepares to change its service charge system to a usage-based billing based on the use of real token. Both input and output tokens reflect that AI coding tools are transitioning from a chargeable software to a model where organizations have to manage costs like cloud infrastructure.

.

Source: Forbes, The Verge

# IT should know # IT News # Includes IT matters # IT

6/5 Edited to

... Read moreจากประสบการณ์ของผมในการทำงานกับเครื่องมือ AI coding เห็นได้ชัดว่าค่าใช้จ่ายที่คิดตามจำนวน token นั้นมีผลกระทบต่อการจัดการงบประมาณของหลายองค์กรอย่างมาก การใช้ AI Agent ที่สามารถทำงานหลากหลายขั้นตอนแทนมนุษย์นั้น ทำให้ปริมาณ token ที่ต้องประมวลผลเพิ่มขึ้นอย่างรวดเร็ว ยกตัวอย่างเช่นการเขียนโค้ดที่ต้องการการ reasoning สูง หรือการวิเคราะห์ข้อมูลเชิงลึก ทำให้ค่าใช้จ่ายจากการประมวลผล AI บางทีมสูงกว่าค่าจ้างพนักงานจริง ๆ ซึ่งเป็นเรื่องที่บริษัทที่เราคาดไม่ถึงว่า AI จะมีต้นทุนสูงขนาดนี้ สิ่งที่น่าสนใจคือโมเดลธุรกิจ AI ที่เปลี่ยนจากการจ่ายเหมาจ่ายเป็นการคิดตามการใช้งานจริง เช่น GitHub Copilot ที่เปลี่ยนไปใช้ระบบ usage-based billing ทำให้บริษัทต้องบริหารค่าใช้จ่ายเหมือนกับการใช้บริการคลาวด์อื่น ๆ โดยเฉพาะอย่างยิ่งเมื่อ AI Agent ทำงานซับซ้อนและต้องใช้ token จำนวนมาก ผมเองเคยลองใช้ระบบ TaskFlow API ที่กำหนดการจัดการโค้ดแบบ REST API พบว่าการใช้งาน AI ในทีมหรือโปรเจกต์ขนาดใหญ่ ต้องทำความเข้าใจและวางแผนการใช้ Token อย่างรัดกุม เพื่อป้องกันค่าใช้จ่ายพุ่งสูงจนเกินกว่าจะควบคุมได้ ดังนั้นองค์กรจึงควรประเมินความคุ้มทุนของการใช้ AI อย่างละเอียด ไม่ใช่แค่เน้น productivity ที่เพิ่มขึ้นอย่างเดียว แต่ต้องมองภาพรวมระยะยาวว่า AI จะช่วยขับเคลื่อนธุรกิจได้อย่างยั่งยืนและไม่สร้างภาระต้นทุนเกินจำเป็น