Qualcomm จับมือ Meta พัฒนาการประมวลผล AI ของ Llama 2 แบบ On-Device

โดย RingRangRung | 19 กรกฎาคม 2566 เมื่อ 16:28 น. | อ่าน 167

Qualcomm และ Meta สองบริษัทเทคโนโลยียักษ์ใหญ่ของโลกได้ประกาศร่วมมือกันในการพัฒนาประสิทธิภาพของ Llama 2 โมเดล AI ภาษาขนาดใหญ่ของ Meta เพื่อให้ทำงานได้โดยตรงในระดับอุปกรณ์ (On-Device) โดยไม่ต้องพึ่งพาการประมวลผลบน Cloud

ด้วยความสามารถในการประมวลผลโดยตรงจากอุปกรณ์จะช่วยให้ Llama 2 ที่ทำงานบนสมาร์ทโฟน, PC, AR/VR Headset และบนยานพาหนะ สามารถตอบสนองได้รวดเร็วมากขึ้น รวมถึงมีประสบการณ์การใช้งานที่เชื่อถือได้ และให้ความเป็นส่วนตัวแก่ผู้ใช้มากขึ้น

ในความร่วมมือครั้งนี้ได้มีจุดมุ่งหมายที่จะทำให้ Llama 2 พร้อมใช้งานในระดับอุปกรณ์ (On-Device) ซึ่งจะช่วยให้นักพัฒนาสามารถสร้างแอพพลิเคชั่น AI ที่เป็นนวัตกรรมใหม่ได้ ขณะที่ฝั่งผู้บริโภค, พาร์ทเนอร์ และนักพัฒนา ก็จะสามารถควบคุมพลังด้านประสบการณ์จาก AI เหล่านี้ในการสร้างผู้ช่วยเสมือนอัจฉริยะ, เครื่องมือเพื่อเพิ่มประสิทธิภาพ, แพลตฟอร์มในการสร้างเนื้อหา และแอพพลิเคชั่นเพื่อความบันเทิง โดยที่จุดเด่นอย่างหนึ่งของ AI แบบ On-Device คือการทำงานได้แม้ว่าในพื้นที่ดังกล่าวจะไม่มีการเชื่อมต่ออินเตอร์เน็ต หรือแม้กระทั่งว่าตัวอุปกรณ์จะอยู่ในโหมด Airplane

ทั้งนี้คาดว่า Qualcomm Technologies จะเปิดตัวชิปตระกูล Snapdragon ที่รองรับการทำงานร่วมกับ Llama 2 บนอุปกรณ์ในปี 2024 เป็นต้นไป ส่วนนักพัฒนาสามารถทดสอบปรับแต่งแอพให้รองรับการทำงานร่วมกับชิป On-Device นี้ได้ผ่านชุดเครื่องมือ AI Stack ของ Qualcomm

META ยืนยันมีระบบสกัดผู้ใช้ฝั่งยุโรปจากการเข้าใช้ THREADS ผ่าน VPN

ที่มา: gizmochina.com, qualcomm.com

About Author

RingRangRung

RingRangRung