浮点数运算导致精度丢失

发表于 | 更新于 | 阅读次数 1
浮点数运算导致精度丢失的解决方法

资料地址：https://segmentfault.com/a/1190000000324193

解决一：使用math.js库

解决二：使用函数

加法运算（0.1 + 0.2）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
function accAdd(arg1, arg2) {    
  var r1, r2, m, c;    
  try {
    r1 = arg1.toString().split(".")[1].length;
  } catch (e) {
    r1 = 0;
  } try {
    r2 = arg2.toString().split(".")[1].length;
  } catch (e) {
    r2 = 0;
  }
  c = Math.abs(r1 - r2);
  m = Math.pow(10, Math.max(r1, r2));    
  if (c > 0) {        
    var cm = Math.pow(10, c);        
    if (r1 > r2) {
      arg1 = Number(arg1.toString().replace(".", ""));
      arg2 = Number(arg2.toString().replace(".", "")) * cm;
    } else {
      arg1 = Number(arg1.toString().replace(".", "")) * cm;
      arg2 = Number(arg2.toString().replace(".", ""));
    }
  } else {
    arg1 = Number(arg1.toString().replace(".", ""));
    arg2 = Number(arg2.toString().replace(".", ""));
  }  
  return (arg1 + arg2) / m;
}
//给Number类型增加一个add方法，调用起来更加方便。
Number.prototype.add = function (arg) {   
  return accAdd(arg, this);
};

减法运算（0.3 - 0.1）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
function accSub(arg1, arg2) {    
  var r1, r2, m, n;    try {
    r1 = arg1.toString().split(".")[1].length;
  } catch (e) {
    r1 = 0;
  } try {
    r2 = arg2.toString().split(".")[1].length;
  } catch (e) {
    r2 = 0;
  }
  m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
  n = (r1 >= r2) ? r1 : r2;    
  return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
// 给Number类型增加一个mul方法，调用起来更加方便。
Number.prototype.sub = function (arg) {    
  return accMul(arg, this);
};

乘法运算（1.1 * 100）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
function accMul(arg1, arg2) {    
  var m = 0, s1 = arg1.toString(), s2 = arg2.toString();    
  try {
    m += s1.split(".")[1].length;
  } catch (e) {
  }    
  try {
    m += s2.split(".")[1].length;
  } catch (e) {
  }    
  return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
// 给Number类型增加一个mul方法，调用起来更加方便。
Number.prototype.mul = function (arg) {    
  return accMul(arg, this);
};

除法运算（111 / 1.11）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
function accDiv(arg1, arg2) {    
  var t1 = 0, t2 = 0, r1, r2;    
  try {
    t1 = arg1.toString().split(".")[1].length;
  } catch (e) {
  }    
  try {
    t2 = arg2.toString().split(".")[1].length;
  } catch (e) {
  }    
  r1 = Number(arg1.toString().replace(".", ""));
  r2 = Number(arg2.toString().replace(".", ""));        
  return (r1 / r2) * Math.pow(10, t2 - t1);
}
//给Number类型增加一个div方法，调用起来更加方便。
Number.prototype.div = function (arg) {    
  return accDiv(this, arg);
};