คิดเรื่องต้นทุน AI แบบ Developer: token, caching และการเลือก model

วิธีคิดเรื่องต้นทุน AI สำหรับ developer ตั้งแต่การนับ token, ใช้ caching, เลือก model ที่เล็กลง ไปจนถึงการตัดสินว่าเมื่อไรที่ใช้ AI แล้วคุ้มจริง

Kasidit Wansudonอ่าน 4 นาที
aillmcostarchitectureclaude

ช่วงแรกที่เริ่มเอา LLM ไปใส่ในระบบจริง ผมคิดแค่ว่ามันตอบได้ดีไหม พอเริ่มมีผู้ใช้จริงและมีงานรันอัตโนมัติ คำถามที่ตามมาคือ "เดือนนี้จ่ายไปเท่าไร และจ่ายไปกับอะไร" การคิดเรื่องต้นทุน AI แบบ developer จึงไม่ใช่งานของฝ่ายบัญชี แต่เป็นส่วนหนึ่งของการออกแบบระบบ เหมือนกับที่เราคิดเรื่อง query ช้าหรือ bandwidth

โพสต์นี้เป็นกรอบคิดที่ผมใช้ ไม่ได้อ้างอิงราคาของผู้ให้บริการรายใด เพราะราคาเปลี่ยนบ่อย ให้ไปดูหน้า pricing ล่าสุดเสมอ

เริ่มจากหน่วยที่ถูกต้อง: token

ต้นทุนของ LLM ส่วนใหญ่คิดจาก token สองฝั่ง คือ input และ output โดยปกติ output แพงกว่า input ต่อ token สิ่งที่ developer มักประเมินต่ำไปคือ input เพราะมันไม่ได้มีแค่คำถามของผู้ใช้ แต่รวมถึง

  • system prompt
  • ประวัติการสนทนา
  • เอกสารจาก retrieval
  • นิยามของ tools
  • ผลลัพธ์ของ tool ที่ส่งกลับเข้าไป

ในระบบ agent ที่เรียก tool หลายรอบ ทุกรอบส่ง context ทั้งหมดกลับเข้าไปใหม่ ต้นทุนจึงโตเร็วกว่าที่คิดมาก

สูตรประมาณการง่าย ๆ

ก่อนสร้างฟีเจอร์ ผมประมาณต้นทุนด้วยสูตรนี้เสมอ

cost_per_request = (input_tokens x input_price) + (output_tokens x output_price)
monthly_cost     = cost_per_request x requests_per_day x 30

ตัวอย่าง (ตัวเลขสมมติ):
  input  = 3,000 tokens   (prompt + context + tools)
  output =   300 tokens
  requests_per_day = 500
  -> คูณด้วยราคาจริงของ model ที่เลือก แล้วเทียบกับคุณค่าที่ได้

ตัวเลขไม่ต้องแม่น แต่ต้องรู้ว่าตัวแปรไหนใหญ่ที่สุด ส่วนใหญ่คำตอบคือ input tokens คูณจำนวนรอบ ไม่ใช่ output

สี่วิธีลดต้นทุนที่ได้ผลจริง

1. Prompt caching ถ้า system prompt, นิยาม tools หรือเอกสารอ้างอิงซ้ำกันทุก request ให้วางส่วนที่คงที่ไว้ต้น prompt แล้วเปิด caching ผู้ให้บริการหลายรายคิดราคาส่วนที่ cache ถูกกว่าการส่งใหม่มาก กติกาสำคัญคือ อย่าใส่ข้อมูลที่เปลี่ยนทุกครั้ง เช่น timestamp หรือชื่อผู้ใช้ ไว้ก่อนส่วนที่คงที่ เพราะจะทำให้ cache ไม่ถูกใช้

2. ตัด context ที่ไม่จำเป็น

  • เก็บประวัติแชตแค่ไม่กี่รอบล่าสุด
  • ให้ tool คืนข้อมูลสรุป ไม่ใช่ข้อมูลดิบทั้งตาราง
  • retrieval เอาเฉพาะเอกสารที่คะแนนสูงจริง ทุกข้อนี้ลดต้นทุนและมักทำให้คำตอบดีขึ้นด้วย เพราะ model สับสนน้อยลง

3. เลือก model ให้เหมาะกับงาน งานจัดหมวดหมู่ ตรวจภาษา สรุปสั้น หรือดึงข้อมูลจากข้อความ ไม่จำเป็นต้องใช้ model ที่ใหญ่ที่สุด model เล็กทำได้ดีพอในราคาที่ต่ำกว่ามาก และเร็วกว่า ผมเก็บ model ใหญ่ไว้สำหรับงานที่ต้องคิดหลายขั้นหรือวางแผนเท่านั้น รายละเอียดเรื่องนี้ผมเขียนไว้ใน ใช้ Opus, Sonnet, Haiku ให้ถูกงาน

4. Cache คำตอบที่ระดับแอป คำถามบางแบบถูกถามซ้ำบ่อยมาก และคำตอบไม่เปลี่ยนในช่วงเวลาสั้น ๆ เช่น คำถามนิยามศัพท์หรือขั้นตอนการทำงาน การเก็บคำตอบไว้ใน cache ตาม key ที่ normalize แล้วช่วยลดการเรียก model ได้ แต่ต้องระวังไม่ cache คำตอบที่ขึ้นกับสิทธิ์ของผู้ใช้หรือข้อมูลที่เปลี่ยนเร็ว

วัดก่อนปรับ

ทุก request ควร log จำนวน input และ output tokens พร้อม model ที่ใช้และชื่อฟีเจอร์ เมื่อรวมรายวันจะเห็นทันทีว่าฟีเจอร์ไหนกินงบมากที่สุด บ่อยครั้งผมพบว่าต้นทุนส่วนใหญ่มาจากงานเบื้องหลังเพียงงานเดียว ไม่ใช่จากผู้ใช้ที่พิมพ์ถาม การวัดทำให้ปรับถูกจุด แทนที่จะไปลดคุณภาพของฟีเจอร์ที่ผู้ใช้ชอบที่สุด

เมื่อไรที่ใช้ AI แล้วคุ้ม

คำถามที่สำคัญกว่า "จะลดต้นทุนอย่างไร" คือ "งานนี้ควรใช้ AI ตั้งแต่แรกหรือไม่" ผมใช้คำถามสามข้อ

  1. ทำด้วยโค้ดธรรมดาได้ไหม ถ้า regex, SQL หรือ rule ง่าย ๆ ทำได้แม่นกว่า อย่าใช้ LLM
  2. คุณค่าต่อครั้งมากกว่าต้นทุนต่อครั้งชัดเจนไหม เช่น ประหยัดเวลาคนได้หลายนาทีต่อคำถาม ขณะที่ต้นทุนเป็นเศษสตางค์
  3. ผิดพลาดแล้วเสียหายแค่ไหน งานที่ผิดไม่ได้เลยต้องมีการตรวจสอบเพิ่ม ซึ่งเป็นต้นทุนแฝงที่ต้องนับด้วย

ถ้าตอบข้อ 1 ว่าได้ ไม่ต้องไปต่อ ถ้าข้อ 2 ไม่ชัด ให้ทำ prototype เล็ก ๆ แล้ววัดจริงก่อน

ต้นทุนของ AI coding ก็นับด้วย

ผมใช้ Claude Code ทุกวัน และสังเกตว่าต้นทุนของ AI coding ไม่ได้อยู่ที่ token อย่างเดียว แต่อยู่ที่เวลาที่เสียไปกับการแก้ผลลัพธ์ที่ผิดด้วย prompt ที่ชัดและขอบเขตงานที่แคบช่วยลดทั้งสองอย่าง เรื่องนี้เป็นที่มาของ Kasidit framework ที่ผมทำ

สรุป

คิดเรื่องต้นทุน AI ให้เหมือนคิดเรื่อง performance นับ token ทั้งสองฝั่ง ประมาณการก่อนสร้าง ใช้ caching ตัด context เลือก model ให้เหมาะกับงาน และ log เพื่อวัดจริง ที่สำคัญที่สุดคือถามก่อนเสมอว่างานนี้ต้องใช้ AI หรือไม่ บางครั้งวิธีที่ถูกที่สุดคือไม่เรียก model เลย

มีคำถามหรืออยากแลกเปลี่ยน?

ฝากข้อความไว้ที่ guestbook หรือทักมาทาง X ได้เลยครับ