Microsoft ยักษ์ใหญ่ด้านซอฟต์แวร์ได้เพิ่มโมเดล DeepSeek R1 ลงใน Azure AI Foundry เพื่อให้ผู้พัฒนาสามารถทดสอบและสร้างแอปพลิเคชันหรือบริการบนคลาวด์ และในวันนี้ได้ประกาศว่าจะนำเวอร์ชัน Distilled ของ R1 มาใช้งานบน Copilot+ PCs
โมเดล Distilled จะเปิดให้ใช้งานครั้งแรกบนอุปกรณ์ที่ใช้ชิป Snapdragon X ซึ่งเป็นอุปกรณ์ที่ใช้ชิปโปรเซสเซอร์ Intel Core Ultra 200V และพีซีที่ใช้ AMD Ryzen AI 9 ก่อน
โมเดลแรกจะเริ่มต้นด้วย DeepSeek-R1-Distill-Qwen-1.5B ซึ่งเป็นโมเดลที่มีขนาด 1.5 พันล้านพารามิเตอร์ และในอนาคตจะมีเวอร์ชันที่ใหญ่กว่า เช่น โมเดล 7B และ 14B ให้ใช้งาน โดยที่ผู้ใช้งานสามารถดาวน์โหลดโมเดลเหล่านี้ได้จาก AI Toolkit ของ Microsoft ซึ่งได้รับการออกแบบให้เหมาะสมกับฮาร์ดแวร์ที่มี NPU โดยการทำงานที่ต้องอาศัยการเข้าถึงหน่วยความจำอย่างมากจะทำงานบน CPU ในขณะที่การทำงานที่ต้องใช้การคำนวณอย่างหนัก เช่น การทำงานของ Transformer Block จะรันบน NPU ซึ่งการปรับแต่งของ Microsoft จะทำให้โมเดลสามารถทำงานได้รวดเร็ว โดยใช้เวลาเพียง 130ms ในการประมวลผล “Token” แรก และสามารถสร้างได้ 16 Tokens ต่อวินาทีสำหรับข้อความสั้น ๆ (ไม่เกิน 64 Tokens) ซึ่ง “Token” เปรียบได้กับสระในคำภาษา โดยที่แต่ละ Token มักจะยาวกว่าหนึ่งตัวอักษร
แม้ Microsoft จะเป็นผู้สนับสนุน OpenAI แต่ดูเหมือนว่าจะไม่ได้จำกัดตัวเองเพียงผู้พัฒนาเดียวซึ่ง Azure Playground ของบริษัทมีทั้งโมเดล GPT จาก OpenAI, Llama จาก Meta, Mistral และล่าสุด DeepSeek
สำหรับผู้ที่ต้องการใช้งาน AI แบบ Local สามารถดาวน์โหลด AI Toolkit บน VS Code และเลือกติดตั้งโมเดล เช่น “deepseek_r1_1_5” จากนั้นให้กด Try ใน Playground
สำหรับ Model Distillation หรือ การกลั่นความรู้ เป็นกระบวนการย่อขนาดโมเดล AI ขนาดใหญ่ (DeepSeek R1 เวอร์ชันเต็มมีขนาด 671 พันล้านพารามิเตอร์) ให้เล็กลง (เช่น 1.5 พันล้านพารามิเตอร์) แม้ความสามารถของโมเดลที่ย่อขนาดจะลดลง แต่ขนาดที่เล็กลงช่วยให้สามารถทำงานบนฮาร์ดแวร์ผู้บริโภคทั่วไปได้ โดยไม่ต้องใช้อุปกรณ์ AI เฉพาะที่มีราคาสูง
จับตา DeepSeek สตาร์ทอัพ AI จากจีน ที่กำลังทำให้วงการเทคฯโลก สะเทือน
