Thursday, July 25, 2024
Technology

Apple เผยแพร่งานวิจัย การรัน LLM บนอุปกรณ์ที่มีทรัพยากรจำกัด – SMS Marketing ราคาถูกที่สุด

125views

แอปเปิลเผยแพร่งานวิจัยสองฉบับผ่าน arXiv ซึ่งเป็นงานวิจัยเกี่ยวกับเทคนิคการประมวลผล AI ที่อาจถูกนำมาใช้งานกับผลิตภัณฑ์ของแอปเปิลได้ในอนาคต

งานวิจัยแรกชื่อว่า “LLM in a flash” เป็นวิธีการทำให้อุปกรณ์ซึ่งมีหน่วยความจำจำกัด เช่น สมาร์ทโฟน สามารถรันโมเดล AI LLM ที่มีพารามิเตอร์จำนวนมากได้ โดยใช้สองเทคนิคคือ windowing ใช้งานซ้ำ AI ที่ประมวลผลไปแล้วแทนที่จะต้องใช้ข้อมูลใหม่อีกรอบ และวิธี row-column bundling ใช้การอ่านข้อมูลเป็นส่วน ๆ แทนที่จะอ่านทีละคำ ซึ่งเหมาะสำหรับงาน LLM อยู่แล้ว ผลลัพธ์ที่ได้ทำให้สามารถรัน AI LLM ที่ต้องการหน่วยความจำได้สูงถึง 2 เท่า ของหน่วยความจำที่มีอยู่

งานวิจัยที่สองชื่อ “HUGS: Human Gaussian Splats” เป็นวิธีสร้างอวตาร 3D ของคน โดยใช้อินพุทเป็นวิดีโอสั้น ๆ ซึ่งแม้ไม่ใช่ของใหม่ แต่แอปเปิลบอกว่าวิธีการที่เรียกว่า HUGS นี้ สามารถประมวลผลสร้างอวตารออกมาได้เร็วกว่าวิธีเดิม 100 เท่า และจับรายละเอียดเล็กน้อย เช่น เสื้อผ้า เส้นผม ได้ดีขึ้นด้วย

แม้แอปเปิลจะเพียงนำเสนองานวิจัยเท่านั้น แต่อาจบอกใบ้ได้ว่าฟีเจอร์ AI ในอนาคตที่อยู่ในสินค้าแอปเปิลจะเป็นอย่างไร

ที่มา: TechRadar

Bulk SMS และ SMS OTP

ราคาถูกพิเศษ สำหรับปริมาณมาก ติดต่อ LINE @deecom

Generated by Feedzy