排序方式: 共有2条查询结果,搜索用时 15 毫秒
1
1.
2.
钟志新 《国防科技大学学报》1993,15(1):31-36
“二一十”转换是计算机中经常用到的,将二进制浮点数0.B_1B_2…B_n*2~B转换成十进制数0.D_1D_2…D_n*10~D的关键是首先求出D。本文通过全面研制二进制浮点数的性质,推导出了一个关于精确求D的重要结论,并由此构造出一个实际应用时总误差最小的高效求D公式。 相似文献
1