ข่าว SCB10X เปิดให้บริการโมเดล Typhoon บน Together.ai ยังไม่ประกาศราคาแต่คิดตามการใช้งานจริง

[News]

SCB10X ร่วมมือกับ Together.ai ผู้ให้บริการ LLM รายสำคัญ เปิดให้บริการโมเดล Typhoon สองรุ่น คือ Typhoon 1.5 8B Instruct และ Typhoon 1.5X 70B-awq (Activation-Aware Weight Quantization - การย่อโมเดลแบบคำนึงถึงความสำคัญของแต่ละพารามิเตอร์)

ตอนนี้ทั้งสองโมเดลใช้งานได้ในหน้า Playground ของ Togeter.ai แล้ว แต่ยังไม่ประกาศราคาที่แน่ชัดออกมา โดยทาง SCB10X ระบุว่าต้องสอบถามทาง Together.ai โดยตรง แต่ยืนยันว่าจะคิดค่าใช้งานเป็นโทเค็น

การเปิดให้บริการ LLM ผ่านคลาวด์แบบคิดค่าใช้งานเป็นโทเค็นสำคัญสำหรับการทดลองความสามารถโมเดล หรือเชื่อมต่อไว้ใช้งานเป็นตัวเลือกเพราะผู้ใช้ไม่ต้องเสียค่าโฮสต์โมเดลตามเวลาซึ่งมักมีราคาแพงและอาจจะไม่คุ้มค่าหากปริมาณการใช้งานไม่มากพอ

Typhoon 1.5X 70B นั้นพัฒนาจาอมาจาก Llama 3 70B ตัวโมเดลเดิมมีให้ดาวน์โหลดบน HuggingFace และใช้สัญญาอนุญาตแบบ Llama 3 Community License

ที่มา - SCB10X

Topics:
SCB10X
LLM

Continue reading...