ข่าว IBM ปล่อย AI ช่วยเขียนโค้ด Granite เก่งสุดในกลุ่ม 8B ใช้งานได้อิสระ

[News]

IBM ปล่อยโมเดลปัญญาประดิษฐ์ Granite ที่ฝึกจากฐานข้อมูลโค้ด 116 ภาษา โดยโมเดลมี 4 ขนาดได้แก่ 3B, 8B, 20B, และ 34B แยกรุ่นพื้นฐานและรุ่นรับคำสั่ง (instruct) โดยเฉพาะรุ่น 8B นั้นความสามารถในการเขียนโปรแกรมเหนือกว่าโมเดลขนาดเดียวกันค่อนข้างมาก

กระบวนการฝึกโมเดลเวอร์ชั่น 34B นั้นพิเศษกว่าเวอร์ชั่นอื่นๆ เพราะอาศัยการ upscaling โดยนำโมเดล 20B ที่มี 52 ชั้นสองเวอร์ชั่น มาถอดฝั่ง output 8 ชั้น และ input ของอีกโมเดลหนึ่ง 8 ชั้น แล้วนำมาต่อกันเป็น 34B ข้อมูลที่ใช้ฝึกนั้นมีตั้งแต่ GitHub Code Clean, StarCoderData, และโค้ดอื่นๆ รวมถึง

โมเดลทุกรุ่นเปิดให้ใช้งานแบบ Apache 2.0 ทำให้ใช้งานได้อิสระกว่าหลายโมเดลที่เปิดมาก่อนหน้านี้ โดย IBM ระบุว่าในบริษัทยังทำโมเดลอื่นๆ อยู่ด้วยและเปิดเผยออกมาภายหลัง

ที่มา - IBM

Topics:
IBM
LLM
Programming

อ่านต่อ...