但如果
A1= 1.13
A2= 0.39
B1=A1*100
B2=A2*100
LCM(B1,B2)= 4368
有冇人知點解會咁
Excel個LCM function係咪有bug
仔傻正睇轉倒
5 回覆
1 Like
2 Dislike
LCM(113,39) =4407 依個啱
但如果
A1= 1.13
A2= 0.39
B1=A1*100
B2=A2*100
LCM(B1,B2)= 4368
有冇人知點解會咁
但如果
A1= 1.13
A2= 0.39
B1=A1*100
B2=A2*100
LCM(B1,B2)= 4368
有冇人知點解會咁
floating point問題
轉返interger先
轉返interger先
姐係1.13*100唔係actually等於113？
No
你部電腦唔識計1.13*100
佢要首先轉佢做IEEE 754 format
咁IEEE 754 係用一個22-bit int去儲存你個value （剩低d bit去encode其他嘢)
當你咁轉 就會無咗d precision
又因為電腦用2進制計數 變返10進制就會出奇怪嘢
你部電腦唔識計1.13*100
佢要首先轉佢做IEEE 754 format
咁IEEE 754 係用一個22-bit int去儲存你個value （剩低d bit去encode其他嘢)
當你咁轉 就會無咗d precision
又因為電腦用2進制計數 變返10進制就會出奇怪嘢