网站首页
这些小活动你都参加了吗？快来围观一下吧！>>
电子产品世界 » 论坛首页 » 综合技术 » 基础知识 » float 为什么用float定义变量后运算的结果不对？

共2条 1/1 1 跳转至页

float 为什么用float定义变量后运算的结果不对？

jackwang
院士
2006-09-17 18:14:16     打赏
float 为什么用float定义变量后运算的结果不对？
回复
收藏
0



关键词： float     为什么     定义     变量     运算     结果     不对    

jackwang
院士
2006-12-22 22:43:00     打赏
2楼
问 我的系统中有一片ADC，我把ADC转换的结果变换为float变量时，转换的结果不对，很奇怪，为什么。比如，ADC转换的输出为0XFFEC,存入uint16型变量Z中，我作这样一个变换：
temp=((fp32)(Z)/65535)*4.096;
temp竟然等于0。如果是用51的话，在KEIL中肯定不会出现这种现象的。 答 1: 你这样写试float temp;

temp=((fp32)Z/(fp32)65535)*4.096;


评论
共2条 1/1 1 跳转至页

回复

匿名不能发帖！请先 [ 登陆 注册 ]