Black Box of Depth: When We Become the "Debtors" of the AI Itself Created
Black Box of Depth: When We Become the "Debtors" of the AI Itself Created
Imagine a Monday morning when the screen was filled with red code from an unfamiliar error. The first thing this generation of software engineers did was not open the texts or scavenge the bug themselves, but to copy the code and throw it into the AI chat box for less than two seconds. The answer was available, it appeared. We pasted it into the system. The task was closed in time.
But the question remains: Do we really understand how this new line of code works?
This is the beginning of AI's "intellectual debtor." The more we throw a problem into it without understanding what's in the "black box," the more we accumulate a huge debt that one day, when the system breaks down or the AI cannot answer, we may have to pay back at a huge price.
When the "black box" begins to devour the organizational structure,
This problem is not only at the level of engineers, but is eroding the structure of the entire technology organization, especially when the company begins to decide to "replace" the Junior Developer with AI.
1. Illusion of Productivity
What attracted the most executives was the numbers. The team of AI-based engineers reported a 40-55% increase in output per sprint. This means that one Senior Engineer with AI performs the same amount as one Senior plus one Junior. When one person works instead of half people, no one wants that "half person" anymore. And "half person" is always Junior. DEV Community
The problem is that executives often only look at short-term numbers, forgetting hidden costs, such as no Lack of Code Ownership when a bug occurs. Everyone points the finger to AI, and the technical debt that is caused by AI time cheating becomes technically insolvent when the system expands to be too complex for AI to see.
2.Case Study: Klarna - The Most Expensive Lesson of 2024
The most concrete example in the industry comes from Klarna, a Swedish Fintech company. In 2023, Klarna stopped hiring all employees. In 2024, it shook hands with OpenAI, discharged Customer Service and Marketing, confidently declaring that "AI does all the work that humans do." The company celebrated saving $10 million and pointed out that AI handles two-thirds of VICE's customer petitions.
But the real result is the opposite. In mid-2025, Klarna begins to hire humans back. After customer satisfaction slumps and operational problems begin to manifest, the CEO admits, "We focus too much on efficiency and cost. The result is lower quality, and that's not sustainable." LaSoft
What AI does well is volume, but not complexity. Customers with sensitive emotional or situational problems are repeatedly answered by AI with ready-made answers, and that damages the brand. In addition, the cost of "canceling" the use of AI, which includes hiring new employees, onboarding, and training, is much higher than the company previously predicted. Digital Applied Team
Interestingly, research from Orgvue and Forrester found that 55% of companies that accelerated replacing humans with AI later regretted Linkifico.
3. Junior Developer Crisis with Supported Data
The Klarna case is not the only story. It reflects a broader trend. Shopify CEO sent an internal memo in April 2025 telling the team that it had to "prove first that AI doesn't work." Before asking for a headcount, Duolingo cut the contractor 10% after rocking the translation job to AI. The Dropbox section collapsed 500 positions while clearly stating that AI was the cause of DEV Community.
Salesforce is not taking developers in 2025, claiming AI is increasing productivity by 30%, while Meta and Amazon are laying off engineers, combining tens of thousands of Medium positions.
The statistical numbers are even more worrisome. Research from the Stanford Digital Economy Study found that in July 2025, developer employment aged 22-25 fell nearly 20% from its peak in late 2022. The unemployment rate of new graduates in Computer Engineering in the U.S. is 7.5%, higher than the national average of 4.3% and significantly higher than that of Nursing (1.4%) or Civil Engineering (1%) Stack OverflowCIO.
4.PDE (Product-Driven Engineering): Sword with two sharp edges
The PDE or Prompt Engineering concept in engineering is that developers focus on "product outcomes" by letting AI manage the mechanism behind them. This approach allows for faster production by leaps and bounds, but it creates huge gaps in basic skills.
PDE engineers may be good at jigsaw puzzles, but if one day that piece of the puzzle is crooked or broken, they don't know how to cast a new piece of the puzzle themselves.
Long-Term Crisis: When Future "Seniors" No Longer
Cutting Junior out of the system is the most serious destruction of the learning ecosystem.
"If today we don't hire Junior next day, we won't have a Senior who really understands our system."
Economists at Stanford point out that AI is not eliminating software engineering, but is eliminating the "entrance door" to the software engineering profession. If the company stops accepting Junior now, the Senior Group will begin to shrink in 2030, and by 2033, all companies that cut the Junior pipeline in 2024 will compete for engineers with limited experience. Substack
New finishing children in this era are squeezed into having to submit jobs at an "AI equivalent" level from day one. They do not have time to practice logical thinking and trial and error, which is central to building strong developers.
AWS CEO Matt Garman said frankly, "Having AI replace Junior is one of the dumbest things I've ever heard. How would it work if in ten years we didn't have anyone to learn anything?" CodeConductor
Finding a Middle Ground: Sustainable Strategies
In order not to collapse the enterprise in the long run, we must intentionally strike a balance between AI and humans.
1.Change AI from "substitute worker" to "practice partner"
Organizations need to create a culture of questioning AI, not just Prompt & Paste. Code Review in this era needs to be intensified, not just to check if the code passes, but to ask, "Does the writer understand what is sent?" If Junior can't explain how the AI code works, that's not the job.
2.Create a Sandbox for Junior to grow
The company has to accept the cost of training people with a clear share of work. The typical Routine to use AI helps, but Core Architecture has to force Junior to do it with Senior without using AI in certain modules to experience the real structure, hurt and learn to solve problems with his brain.
3. Measure "quality of understanding," not just speed.
The increase in productivity numbers from AI is just an illusion without humans really understanding what the system is doing. Organizations need to create a new metric that measures how much depth the team has in the system, not just how many deployed features per sprint.
Conclusion
Klarna spent two years and more money than he ever saved to learn a very simple lesson: that the speed and efficiency of AI is real, but it is not the whole equation.
AI may win in a game of speed and recognition, but in a game of resilience and crisis survival, only the right-trained humans can stand it. If today we stop building developers who think, on the day AI goes out or can't answer, we'll have no one left to continue driving the system.
Don't let the comfort of the "black box" get so intoxicated that we forget how to think.
ในยุคที่ AI เข้ามามีบทบาทสำคัญในการพัฒนาเทคโนโลยีอย่างรวดเร็ว เรามักเห็นภาพการใช้ AI เพื่อเร่งงานและเพิ่มประสิทธิภาพ แต่จากประสบการณ์ที่ได้สังเกตและทำงานกับทีมพัฒนาหลายแห่ง พบว่าเมื่อพึ่งพา AI มากเกินไปโดยไม่เข้าใจโค้ดหรือกระบวนการทำงานอย่างถ่องแท้ เรากำลังสร้าง "หนี้ทางปัญญา" (Intellectual Debt) ที่จะย้อนกลับมาทำร้ายเราในอนาคตอย่างหลีกเลี่ยงไม่ได้ ครั้งหนึ่งผมได้ทำงานร่วมกับนักพัฒนาที่ใช้ AI ในการแก้ปัญหาโค้ดแทบทุกครั้งโดยไม่ได้นั่งวิเคราะห์โค้ดแต่ละบรรทัด การใช้ AI เหมือนเป็นกล่องดำที่ให้คำตอบเสร็จสรรพ ทำให้งานเสร็จเร็วขึ้นในระยะสั้นแต่ในระยะยาวเมื่อระบบซับซ้อนขึ้นและมีบั๊กยากต่อการแก้ไข นักพัฒนากลับไม่สามารถแก้ปัญหาได้อย่างมีประสิทธิภาพ เพราะไม่เข้าใจโครงสร้างโค้ดและกระบวนการทำงานของระบบอย่างลึกซึ้ง สิ่งนี้สะท้อนให้เห็นว่าการใช้ AI แทนที่นักพัฒนาจบใหม่ (Junior Developer) อาจทำลายระบบนิเวศการเรียนรู้และการพัฒนาทักษะพื้นฐานของทีม จากกรณี Klarna ที่หันมาใช้ AI แทนฝ่าย customer service และ marketing เพื่อประหยัดค่าใช้จ่าย ถึงแม้จะได้ผลในแง่ของประสิทธิภาพและประหยัดต้นทุนในช่วงแรก แต่พบว่าคุณภาพการบริการลดลงและต้องจ้างมนุษย์กลับมาแก้ปัญหาเพราะ AI ตอบโจทย์เรื่องปริมาณได้ดีแต่จัดการกับสถานการณ์ซับซ้อนได้ไม่ดี ทำให้ลูกค้าเกิดความไม่พึงพอใจและชื่อเสียงแบรนด์ได้รับผลกระทบ นอกจากนี้ ค่าต้นทุนการกลับมาแก้ไขระบบและฝึกอบรมพนักงานเก่าก็สูงกว่าที่คาดไว้มาก สำหรับ Junior Developer การที่ต้องแข่งขันกับ AI ตั้งแต่วันแรกโดยไม่มีเวลาฝึกฝนพื้นฐานของการคิดเชิงตรรกะและการแก้ปัญหาอย่างเป็นระบบ ทำให้เกิดช่องว่างทักษะที่รุนแรง และส่งผลต่อความยั่งยืนของวงการเทคโนโลยีในระยะยาว เพราะ "รุ่นพี่" ที่จะถ่ายทอดความรู้และความเข้าใจเชิงลึกจะลดจำนวนลงอย่างรวดเร็วในอนาคต เพื่อสร้างสมดุล เราไม่ควรมอง AI เป็นเพียง "ผู้ทำงานแทน" แต่ควรใช้เป็น "คู่หูฝึกซ้อม" ที่ช่วยเพิ่มประสิทธิภาพและส่งเสริมกระบวนการเรียนรู้ของนักพัฒนา โดยองค์กรควรสร้างวัฒนธรรมการใช้ AI ที่ตั้งคำถามกับผลลัพธ์ เสริมสร้างระบบ review โค้ดที่มีความเข้มข้น เน้นวัดคุณภาพความเข้าใจมากกว่าความเร็วในการส่งงาน นอกจากนี้ ควรสร้างสภาพแวดล้อม (Sandbox) ที่ Junior Developer ได้เรียนรู้กับ Senior Developer โดยจำกัดการใช้ AI ในงานหลักบางส่วน เพื่อให้ยังได้สัมผัสการแก้ไขปัญหาด้วยตนเองจริงๆ ในฐานะผู้ที่เคยผ่านช่วงต้นอาชีพมา การได้เรียนรู้อย่างลึกซึ้งและมีเวลาฝึกฝนผ่านการลองผิดลองถูกถือเป็นสิ่งสำคัญที่สุดในการพัฒนาทักษะที่แข็งแกร่งและพร้อมตอบรับวิกฤตในอนาคต ซึ่งเป็นสิ่งที่ AI ยังทดแทนไม่ได้อย่างแท้จริง สุดท้ายนี้ หากเรามัวแต่พึ่งพา "กล่องดำ" ของ AI โดยไม่เข้าใจการทำงานอย่างลึกซึ้ง เราอาจพาตัวเองเข้าสู่กับดักของความสะดวกสบายที่ทำให้สูญเสียความสามารถในการคิดอย่างมีวิจารณญาณและแก้ไขปัญหาอย่างแท้จริงในโลกเทคโนโลยีที่เปลี่ยนแปลงอย่างรวดเร็วนี้
