码迷,mamicode.com
首页 > 编程语言 > 详细

Lua与C++ 一个精度误差问题

时间:2014-09-10 12:10:20      阅读:376      评论:0      收藏:0      [点我收藏+]

标签:for   数据   问题   sp   代码   c   c++   服务器   r   

近日和服务器同事处理一个游戏数据问题的时候,发现服务器Lua脚本的浮点数据在被服务器c++代码调用有可能出现误差。类似地,如果在客户端用lua的内置函数库去操作浮点数也会重现这样的取整误差情况,举个简单例子如下:

local k = 1+122/100;
local t = 250*k
print("t:",t)
print("math t:",math.floor(t))
print(string.format("string t:%d",t))

理想情况t、math t和string t都是555。

实际输出只有t是555,math t和string t都是554。

所以客户端和服务器在同样用一套计算公式去计算某个游戏数据时,由于客户端是纯脚本运算得到结果,服务器是将脚本运算的中间结果t在C++代码中继续处理,中间出现上述的精度误差问题,导致客户端和服务器的结果总是会有一些微小的数值偏差。

 

具体的精度误差原因如果有读者知道,欢迎科普一下博主。

 

Lua与C++ 一个精度误差问题

标签:for   数据   问题   sp   代码   c   c++   服务器   r   

原文地址:http://www.cnblogs.com/mzdbskipop/p/3964107.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!