ข่าว Andrew Ng ออกไลบรารี aisuite ใช้ API เดียวเชื่อมต่อ LLM ได้หลายเจ้า แข่ง LiteLLM

[News]

Andrew Ng หนึ่งในผู้บุกเบิกวงการ deep learning ออกไลบรารี aisuite ไลบรารีีที่ไม่ซับซ้อนนัก สำหรับการเชื่อมต่อ LLM จากผู้ให้บริการหลากหลายเจ้า โดยโค้ดเปลี่ยนเฉพาะชื่อโมเดลเท่านั้น

ปัญหาการเชื่อมต่อ LLM จากผู้ผลิตหลายรายนั้นมีมานาน แต่ช่วงหลังๆ ปัญหาก็น้อยลงมากเนื่องจากผู้ให้บริการรายใหม่ๆ ยอมแพ้หันไป API ของตัวเองให้เข้ากันได้กับ OpenAI แทน แม้แต่คู่แข่งหลักอย่างกูเกิลก็ต้องทำตามแนวทางนี้

aisuite รองรับผูให้บริการไม่มากนัก เช่น OpenAI, Anthropic, Google, Together.AI, HuggingFace, Azure, AWS, Graq, Mistral, Ollama (สำหรับรันในเครื่อง) เทียบกับไลบรารีแบบเดียวกันอย่าง LiteLLM ที่รองรับผู้ให้บริการมากกว่าแถมรองรับ API หลากหลายกว่า เช่น ausuite ยังไม่รองรับการขอ output เป็น JSON แต่ความดังของ Andrew Ng ก็ทำให้มีผู้ให้ความสนใจจำนวนมาก

ที่มา - Facebook: Andrew Ng

Topics:
Andrew Ng
LLM
Open Source

Continue reading...