Microsoft is starting to let GPUs replace NPUs in some AI tasks.
Microsoft is set to expand that GeForce RTX card-based machines can use the Local AI feature on Windows, much like machines that have passed the Copilot + PC standard. Previously, it was limited to machines with NPUs of a certain strength.
.
This change marks Microsoft's new direction in pushing AI on Windows, because from the time many AI features were originally tied to the Copilot + PC concept, which required 40 TOPS or more NPUs. Now the company is starting to open the way for GPUs, especially NVIDIA GeForce RTX, to take on more AI processing roles on board.
.
Machines that use 30 Series or more NVIDIA GeForce RTX cards and have at least 6GB of VRAM will be able to use the power of the GPU to run some Local AI tasks on Windows without always needing a Copilot + PC specification NPU.
.
Simply put, people with gaming PCs, desktops, or creators line notebooks already equipped with RTX cards may have the opportunity to use more AI capabilities on Windows in the future without switching to a new generation of Copilot + PCs alone.
.
This does not mean that all Copilot + PC features are unlocked for RTX to use immediately. Some system-level features, such as Recall, Click to Do, or some Windows Studio Effects, may also require a Copilot + PC.
.
What Microsoft is opening up to now is the Windows AI APIs and Windows ML side that allows developers to create AI apps that run on a machine, opting for the right hardware - CPU, GPU or NPU - instead of being limited to NPU alone.
.
Examples of tasks that may benefit from running through the GPU include text summarization, text rewriting, language translation, running local language models, data analysis tasks, including AI features that require more processing power or memory than a typical NPU.
.
For NVIDIA, this change is considered good news, because it makes the GeForce RTX screen card not only seen as hardware for gaming and graphics work, but more as an integral part of Windows-based AI systems, especially as the RTX GPU already has Tensor Cores and a healthy AI ecosystem.
.
At the same time, NPU has not lost its importance because it is also suitable for light AI tasks that require continuous and energy-efficient tasks, such as camera image adjustment, noise reduction, or behind-the-scenes features. The GPU is better suited to heavier AI tasks, such as language models, visualizations, many document summaries, or AI apps that require a lot of VRAM instead.
.
Source: techspot
จากประสบการณ์ส่วนตัว ผมเห็นว่าการเปิดรับ GPU โดยเฉพาะการ์ดจอ NVIDIA GeForce RTX ในการประมวลผล AI บน Windows ถือเป็นการเปลี่ยนแปลงที่น่าสนใจมาก เนื่องจากเครื่องพีซีส่วนใหญ่ในตลาดเกมมิ่งหรืองานครีเอทีฟมักติดตั้ง RTX อยู่แล้ว ทำให้สามารถใช้งานฟีเจอร์ AI เช่น การสรุปข้อความ การแปลภาษา หรือแม้แต่สร้างภาพและวิเคราะห์ข้อมูล ได้โดยไม่จำเป็นต้องซื้อเครื่องใหม่ที่มี NPU กำลังสูงตามมาตรฐาน Copilot+ PC สิ่งนี้หมายความว่า นอกจากจะช่วยลดค่าใช้จ่ายของผู้ใช้งานแล้ว ยังขยายความสามารถของระบบ AI บน Windows ให้ครอบคลุมผู้ใช้ได้กว้างขึ้น และไม่ต้องพึ่งพาฮาร์ดแวร์เฉพาะกลุ่มเท่านั้น จุดเด่นของ RTX GPU อย่าง Tensor Cores ช่วยเพิ่มประสิทธิภาพด้าน AI ได้อย่างดี รวมถึงแรม VRAM อย่างน้อย 6GB เป็นข้อกำหนดที่เหมาะสมสำหรับการประมวลผลงาน AI ที่ซับซ้อน อย่างไรก็ตาม ยังมีบางฟีเจอร์ในชุด Copilot+ PC ที่ต้องการประสิทธิภาพระดับ NPU สูง เช่น ระบบ Recall หรือ Windows Studio Effects บางอย่าง ซึ่งยังคงจำเป็นต้องใช้เครื่องที่ผ่านข้อกำหนดนั้นอยู่ เรียกว่า Microsoft เลือกให้ความสำคัญกับการทำงาน AI แบบไฮบริด โดยเปิดให้เลือกใช้ฮาร์ดแวร์ที่เหมาะสมตามลักษณะงาน เช่น การใช้ NPU กับงานเบา ๆ ที่ต้องประหยัดพลังงาน หรือการใช้ GPU กับงานที่ต้องใช้ประสิทธิภาพสูง เช่น การรันโมเดลภาษาและการประมวลผลภาพจำนวนมาก ในภาพรวม แนวทางนี้สะท้อนให้เห็นว่า Microsoft และ NVIDIA กำลังร่วมมือผลักดันเทคโนโลยี AI บน Windows ให้เข้าถึงผู้ใช้ได้ง่ายขึ้น และทำให้การ์ดจอ RTX กลายเป็นมากกว่าฮาร์ดแวร์สำหรับเล่นเกม เท่ากับว่าในอนาคต เราอาจได้เห็นนวัตกรรม AI ในแอปทั่วไปหรือเกม ที่ใช้พลัง GPU ในการประมวลผลได้เต็มประสิทธิภาพมากขึ้น สำหรับผู้ที่ใช้งานเครื่องที่มีการ์ดจอ GTX หรือ RTX รุ่นเก่า ๆ อาจต้องรอติดตามว่าฟีเจอร์ Local AI ใดบ้างที่จะรองรับในอนาคต และการรองรับฮาร์ดแวร์จะมีความยืดหยุ่นเพิ่มขึ้นแค่ไหน ซึ่งนี่คือโอกาสที่ดีสำหรับคนที่อยากสัมผัสฟีเจอร์ AI บน Windows โดยไม่ต้องอัพเกรดเครื่องใหม่ทันที