共2条
1/1 1 跳转至页
msp430f135 如何在msp430f135里实现下列的浮点运算

问
aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了,在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过,请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了,数据精度最后2位保证不了,不过够用了。
0.255900546实际运算时是0.2559006.
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了,在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过,请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了,数据精度最后2位保证不了,不过够用了。
0.255900546实际运算时是0.2559006.
共2条
1/1 1 跳转至页
回复
有奖活动 | |
---|---|
【有奖活动】分享技术经验,兑换京东卡 | |
话不多说,快进群! | |
请大声喊出:我要开发板! | |
【有奖活动】EEPW网站征稿正在进行时,欢迎踊跃投稿啦 | |
奖!发布技术笔记,技术评测贴换取您心仪的礼品 | |
打赏了!打赏了!打赏了! |
打赏帖 | |
---|---|
基于MSPM0L1306的MODBUS-RTU协议通讯实验被打赏50分 | |
每周了解几个硬件知识+485硬件知识分享被打赏10分 | |
【换取手持示波器】树莓派PICOW网页烟花被打赏18分 | |
【换取手持示波器】树莓派PICO逻辑分析仪被打赏16分 | |
【分享评测,赢取加热台】教你五分钟本地部署蒸馏版本的DeepSeekR1-7B被打赏12分 | |
【换取手持示波器】蓝牙音箱更换电池被打赏8分 | |
【换取手持示波器】鼠标更换微动开关被打赏10分 | |
【我要开发板】4.传感器移植被打赏50分 | |
【换取手持数字示波器】RISC-VGCC使用-fno-omit-frame-pointer编译选项实现栈回溯被打赏29分 | |
【分享评测,赢取加热台】+开关电源简述被打赏7分 |