Skip to content
EntityQ527381· pop 14· linked from 242 articles

高精度计算

Sign in to save

Also known as bignum arithmetic, multiple precision arithmetic, infinite-precision arithmetic

calculations where numbers' precision is only limited by computer memory

Article · 中文

高精度计算是一种程序设计的算法。由于中央處理器的字長限制,如32位CPU中一个整数最大只能取值4,294,967,295(=232-1)。因此在进行更大范围的数值计算中,往往要采取模拟手段。通常通过分离字符的方法通过数字数组进行输入、通过数组倒序输出、通过模拟竖式计算进行计算。一般而言,主要模拟的是按位运算,可以用不同的進位制達成不同的目的。 有許多程式庫支援高精度計算,最著名的是GNU多重精度運算庫。另外,Java,Python和Pascal也有原生的高精度运算支持。

Abstract from DBpedia / Wikipedia · CC BY-SA

高精度计算 · Vinony