floating point 问题

basic · 发表于 30-3-2007 08:14 PM

如果我得到一个floating point的结果是86.63333333,

我想要把它变成86.64,理论上进位变成86.63,请问有什么方法吗?

我要的是小数点3位,只要超过0.01都要进位

不求source code,只想知道方法

如果+0.01的话,86.60000000,就会变成86.61(错误),86.60(正确)

请各位高手帮帮忙

goatstudio · 发表于 31-3-2007 12:02 AM

首先... 看你是用什么语言, Java/VB/.Net 都已经有这类的 function 来做转换.
你可以尝试寻找 Round 的关键词.

basic · 发表于 1-4-2007 02:16 AM

谢谢，我自己慢慢尝试

		自动登录	找回密码
密码			注册

floating point 问题

所属分类: 电脑手机

浏览过的版块