#Floating Point
2 บทความ
Workflow
คลิปเงียบกับ WAV ยาวเท่ากันทุกเฟรม แต่ MP4 ปัดความยาวเป็นมิลลิวินาที
คลิปวิดีโอเงียบ 203 เฟรมที่ 24 fps กับ WAV 406,000 ซัมเปิลที่ 48 kHz ยาวเท่ากันเป๊ะ แต่ MP4 ที่ ffmpeg เขียนด้วย movie timescale 1000 เก็บความยาวเป็นจำนวนเต็มมิลลิวินาที แก้ด้วย timescale 48000 แล้วเทียบด้วย Fraction ก่อนส่งต่อไฟล์
port สูตร Excel มาเว็บให้ตรงทุกตำแหน่งทศนิยม: กับดัก floating point
พอร์ตสูตรวิศวกรรมจากไฟล์ Excel มาเป็นเครื่องคำนวณเว็บ แล้วค่าไม่ตรงที่หลักทศนิยม 1e-13 — ไม่ใช่บั๊กคณิตศาสตร์ แต่เป็นลำดับการยกกำลังและการคูณของ floating point ที่ JS กับ Excel ประเมินไม่เหมือนกัน พร้อมวิธีอ่านสูตรสองชั้นด้วย openpyxl และทำ fixture ให้จับ regression ได้จริง