p99 = tail latency: request ที่ช้าที่สุด 1% ใช้เวลา 3 วินาที หมากแรกคือ วัดและแยกแยะ ไม่ใช่เดา เทียบ p50 กับ p99 — ถ้า p50 เร็วแต่ p99 อยู่ที่ 3 วินาที path นั้นไม่ได้ช้าสม่ำเสมอ; มีบางอย่างกัดเฉพาะ ตอนโหลดสูงหรือในเคสขอบ (pool saturation, GC pause, N+1, cold cache, external call ที่ไม่มีการจับเวลา)
p99 คือ ไม่ใช่เวลารอเฉลี่ย — การทำให้ค่าเฉลี่ยเร็วขึ้นไม่ช่วยลูกค้าที่ติดอยู่ท้ายแถวเลย
// จับเวลาแต่ละ stage เพื่อดูว่า p99 กองอยู่ที่ไหน (อย่าเดา)
async function handler(req, res) {
const t0 = process.hrtime.bigint();
const mark = (label) =>
req.log.info({ label, ms: Number(process.hrtime.bigint() - t0) / 1e6 });
const user = await db.user.find(req.id); mark('db.user');
const courses = await loadCourses(user); mark('loadCourses'); // ต้องสงสัย
res.json(courses); mark('total');
}
// ก่อน: N+1 — N รอบวิ่งไปกลับแบบต่อเนื่อง, p99 พุ่งเมื่อ N โต
const courses = await db.course.findByUser(userId);
for (const c of courses) c.lessons = await db.lesson.byCourse(c.id);
// หลัง: ยุบเหลือ 1 query -> tail ตก (ไม่มี N รอบต่อเนื่องอีกต่อไป)
const courses = await db.course.findByUser(userId);
const lessons = await db.lesson.byCourseIds(courses.map((c) => c.id)); // one IN(...)
const byCourse = Map.groupBy(lessons, (l) => l.courseId);
for (const c of courses) c.lessons = byCourse.get(c.id) ?? [];
ตรงนี้ p50 (N เล็ก) ดูปกติดี แต่ตอนโหลดสูง N โตขึ้นและ pool เต็ม ดังนั้น p99 จึงระเบิด สำหรับ external call ให้ตั้ง timeout + circuit breaker เสมอ เพื่อไม่ให้ dependency ที่ช้าตัวเดียวลาก p99 ของทั้ง endpoint ไปด้วย
ผู้สัมภาษณ์กำลังตรวจ กระบวนการที่เป็นระบบ ไม่ใช่การเดาถูก: คุณแยก tail จาก mean ได้ไหม, วัดก่อนแก้ไหม, และดู queue/lock (การรอ) ก่อน CPU ไหม คำตอบที่อ่อน: "เพิ่ม caching / scale up เซิร์ฟเวอร์" คำตอบที่แข็งแรง: วัด → ระบุตำแหน่งด้วย tracing → แก้สาเหตุ tail ที่เฉพาะเจาะจง → ยืนยันด้วยตัวเลข
Optimize ที่ tail (p99) ไม่ใช่ค่าเฉลี่ย "p99 3 วินาที" ส่วนใหญ่มาจากการ รอ (pool/queue/lock) มากกว่าการ คำนวณ — ดังนั้นดู queue ก่อน CPU
คลังคำถามสัมภาษณ์งาน IT พร้อมคำตอบโดยละเอียด — ตั้งแต่ระดับ Junior ถึง Senior
บริจาค