标题:
[求助]大数字的运算
[打印本页]
作者:
qdloverr
时间:
2007-11-22 17:57
标题:
[求助]大数字的运算
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪
作者:
knoppix7
时间:
2007-11-22 18:26
CMD对数字大小有限制.
作者:
scriptor
时间:
2007-11-22 18:57
Quote:
Originally posted by
qdloverr
at 2007-11-22 17:57:
set /a AA=1048576/3798863872
并不能算出 3798863872除以1048576的值
这个错在哪
最大是 2^31-1=2147483647
作者:
scriptor
时间:
2007-11-22 18:58
Quote:
Originally posted by
scriptor
at 2007-11-22 18:57:
最大是 2^31-1=2147483647
数字的精确度长度是32位的
作者:
bjsh
时间:
2007-11-22 22:29
http://www.cn-dos.net/forum/view ... ghlight=&page=2
这个帖子的26楼是最终代码
被除数可以是任意位数; 被除数还是限制在10的九次; 保留的小数位数可以指定任意位;
至于 被除数 要突破 10 的 9次的限制 有兴趣的可以尝试去写一下
欢迎光临 中国DOS联盟论坛 (http://cndos.fam.cx/forum/)
Powered by Discuz! 2.5