共2条
1/1 1 跳转至页
msp430f135 如何在msp430f135里实现下列的浮点运算

问
aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了,在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过,请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了,数据精度最后2位保证不了,不过够用了。
0.255900546实际运算时是0.2559006.
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了,在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过,请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了,数据精度最后2位保证不了,不过够用了。
0.255900546实际运算时是0.2559006.
共2条
1/1 1 跳转至页
回复
有奖活动 | |
---|---|
【EEPW电子工程师创研计划】技术变现通道已开启~ | |
发原创文章 【每月瓜分千元赏金 凭实力攒钱买好礼~】 | |
【EEPW在线】E起听工程师的声音! | |
“我踩过的那些坑”主题活动——第001期 | |
高校联络员开始招募啦!有惊喜!! | |
【工程师专属福利】每天30秒,积分轻松拿!EEPW宠粉打卡计划启动! | |
送您一块开发板,2025年“我要开发板活动”又开始了! | |
打赏了!打赏了!打赏了! |
打赏帖 | |
---|---|
【我踩过的那些坑】结构堵孔导致的喇叭无声问题被打赏50分 | |
【我踩过的那些坑】分享一下调试一款AD芯片的遇到的“坑”被打赏50分 | |
电流检测模块MAX4080S被打赏10分 | |
【我踩过的那些坑】calloc和malloc错误使用导致跑飞问题排查被打赏50分 | |
多组DCTODC电源方案被打赏50分 | |
【我踩过的那些坑】STM32cubeMX软件的使用过程中的“坑”被打赏50分 | |
新手必看!C语言精华知识:表驱动法被打赏50分 | |
【我踩过的那些坑】杜绑线问题被打赏50分 | |
【我踩过的那些坑】STM32的硬件通讯调试过程的“坑”被打赏50分 | |
【我踩过的那些坑】晶振使用的问题被打赏100分 |