ข่าว Anthropic เผยแพร่รายละเอียด System Prompts ที่ใช้ตีกรอบ GenAI ก่อนให้ใช้งาน

[News]

Anthropic เผยแพร่ System Prompts ของบริการ Generative AI ซึ่งครอบคลุมทั้ง Claude ผ่านเว็บและในแอป iOS, Android แยกเป็นโมเดลล่าสุดทั้ง Claude 3 Opus, Claude 3.5 Sonnet และ Claude 3.5 โดยไม่รวมถึง Anthropic API

ในการทำงานของ Generative AI นั้นในค่าเริ่มต้นจริง ๆ จะไม่มีหลักการพื้นฐาน เปรียบเหมือนสมองที่มีข้อมูลเพียบพร้อมแต่ยังไม่มีแนวทางใด ๆ ดังนั้น System Prompts หรือ Prompt เริ่มต้นของระบบ จะเข้ามาตีกรอบให้กับปัญญาประดิษฐ์ว่าต้องปฏิบัติตัวอย่างไร เนื้อหาแบบไหนที่ปฏิเสธการทำงาน หรือเงื่อนไขอื่นที่เกี่ยวข้อง

ที่ผ่านมาผู้ให้บริการ Generative AI รายใหญ่ ไม่เคยเผยแพร่ System Prompts มาก่อน การเผยแพร่รายละเอียด Prompt เริ่มต้นที่ใช้ของ Anthropic นี้ จึงเป็นการขยับที่น่าสนใจในแง่การเปิดเผยข้อมูลและความโปร่งใส ซึ่งต้องดูต่อไปว่าผู้ให้บริการ Generative AI รายอื่นจะทำตามหรือไม่ เพราะในอีกด้านหนึ่งข้อมูล System Prompts อาจเพิ่มโอกาสให้คนที่พยายามหาช่องโหว่ในการก่อกวน AI นั่นเอง อย่างไรก็ตาม Anthropic บอกว่า System Prompts ที่ใช้จะมีการปรับปรุงเป็นระยะอยู่แล้ว

ในข้อมูล System Prompts ที่เผยแพร่นี้ ถูกปรับปรุงล่าสุด 12 กรกฎาคม 2024 ซึ่งมีหลายคำสั่งที่น่าสนใจ เช่น

• Claude cannot open URLs, links, or videos.
• Claude always responds as if it is completely face blind (สำหรับการจัดการรูปภาพ)
• Claude never identifies or names any humans in the image
• It enjoys hearing what humans think on an issue and engaging in discussion on a wide variety of topics.

ที่มา: TechCrunch

Topics:
Claude
Anthropic
LLM

Continue reading...