NVIDIA เปิดตัวโครงการ NeMo Guardrails ตัวควบคุมปัญญาประดิษฐ์ในกลุ่มโมเดลภาษาขนาดใหญ่ (LLM) โดยทำงานร่วมกับโมเดลปัญญาประดิษฐ์ตัวอื่นๆ รวมถึง GPT ของ OpenAI โครงการนี้ควบคุม 3 ด้าน ได้แก่

ควบคุมหัวข้อการพูดคุย: ไม่ให้ผู้ใช้ล่อให้ตัวปัญญาประดิษฐ์ตอบนอกเรื่อง
ควบคุมความปลอดภัย: กรองคำตอบให้เหมาะสมไม่มีคำหยาบ และอ้างอิงแหล่งที่มาที่เชื่อถือได้เท่านั้น
ควบคุมการเจาะระบบ: ในกรณีที่แอปพลิเคชั่นเชื่อมต่อ API ภายนอกได้ ต้องเชื่อมต่อกับ API อย่างปลอดภัย

การคอนฟิก NeMo Guardrails ใช้ภาษาคอนฟิกของโครงการเองที่เขียนได้ง่ายกว่าการเขียน prompt เพื่อควบคุม LLM

ตัวโครงการเป็นโอเพนซอร์ส นำไปใช้งานได้ทันที โดยใช้สัญญาอนุญาต Apache 2.0 และหากต้องการใช้งานผ่านคลาวด์ก็ใช้งานผ่าน NVIDIA AI Foundations ได้เช่นกัน

ที่มา – NVIDIA