กรุณาปิด โปรแกรมบล๊อกโฆษณา เพราะเราอยู่ได้ด้วยโฆษณาที่ท่านเห็น
Please close the adblock program. Because we can live with the ads you see


ข่าว IBM เปิดตัวโมเดลโอเพนซอร์ส Granite 3.0 ประสิทธิภาพดีกว่า Llama 3.1 และ Mistral

News 

Moderator
สมาชิกทีมงาน
Moderator
Verify member
เข้าร่วม
1 มิถุนายน 2011
ข้อความ
9,393
คะแนนปฏิกิริยา
0
คะแนน
0
IBM เปิดตัวโมเดล Granite เวอร์ชัน 3.0 ซึ่งเป็นเวอร์ชันอัพเดตจาก Granite 1.0 ที่เปิดตัวเมื่อเดือนพฤษภาคม

Granite เป็นโมเดลภาษาขนาดใหญ่ (LLM) ที่เปิดเป็นโอเพนซอร์สใต้สัญญาอนุญาตแบบเปิดกว้าง Apache 2.0 ชูจุดเด่นด้านประสิทธิภาพสูงกว่าหรือเทียบเท่าโมเดล LLM โอเพนซอร์สหรือเชิงพาณิชย์

Granite 3.0 มีให้เลือก 2 ขนาดพารามิเตอร์คือ 2B และ 8B โดย IBM โชว์เบนช์มาร์คคะแนน Hugging Face OpenLLM Leaderboard ว่าสามารถเอาชนะโมเดลโอเพนซอร์สขนาดใกล้เคียงกันอย่าง Llama 3.1 8B และ Mistral 7B

จุดเด่นอีกอย่างของ Granite 3.0 คือการออกแบบสถาปัตยกรรมแบบ Granite Mixture of Experts (MoE) ที่ตอบคำถามได้เร็ว (low latency) และลดต้นทุนการค่ารันโมเดลลงได้ ตัวโมเดลรุ่นเล็ก 2B สามารถรันในระบบที่มีแต่ซีพียูอย่างเดียวได้

ตอนนี้ Granite 3.0 เปิดให้ใช้งานแล้วบนคลาวด์ยี่ห้อต่างๆ เช่น IBM watsonx, Google Cloud Vertex AI, NVIDIA NIM และตัวโมเดลดาวน์โหลดได้จาก Hugging Face

ที่มา - IBM, IBM

No Description


No Description


No Description


No Description


Topics:
IBM
LLM
Open Source
Artificial Intelligence

Continue reading...
 

กรุณาปิด โปรแกรมบล๊อกโฆษณา เพราะเราอยู่ได้ด้วยโฆษณาที่ท่านเห็น
Please close the adblock program. Because we can live with the ads you see
กลับ
ยอดนิยม