码迷,mamicode.com
首页 > 其他好文 > 详细

关于浮点数精度的问题

时间:2017-01-06 10:50:00      阅读:203      评论:0      收藏:0      [点我收藏+]

标签:变量   时间   越来越大   矩阵   自己   转换   cpu   计算   medium   

float double数精度,自己原来也不怎么在乎,但这大半年下来竟然发现屡屡在此问题上栽跟头。

总结下来写渲染程序:

1.在CPU端尽量设置为double类型数据计算各种变换矩阵,最终传给GPU时再弄为float。

2.如果数值偏差太大,建议先转换为局部坐标系进行各种计算,最终转换为最后的坐标系。

3.顶点着色器中设置为高精度的high,比medium 降低的性能真的很小,但效果改善很不错。

4.有时向着色器中传入时间变量,会随着程序的开启越来越大,此时要注意精度,采取必要的措施,如取余等方式。

关于浮点数精度的问题

标签:变量   时间   越来越大   矩阵   自己   转换   cpu   计算   medium   

原文地址:http://www.cnblogs.com/liding/p/6255172.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!