共2条
1/1 1 跳转至页
msp430f135 如何在msp430f135里实现下列的浮点运算
问
aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了，在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过，请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了，数据精度最后2位保证不了，不过够用了。
0.255900546实际运算时是0.2559006.
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了，在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过，请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了，数据精度最后2位保证不了，不过够用了。
0.255900546实际运算时是0.2559006.
共2条
1/1 1 跳转至页
回复
| 有奖活动 | |
|---|---|
| 【有奖活动】分享技术经验，兑换京东卡 | |
| 话不多说，快进群！ | |
| 请大声喊出：我要开发板！ | |
| 【有奖活动】EEPW网站征稿正在进行时，欢迎踊跃投稿啦 | |
| 奖！发布技术笔记，技术评测贴换取您心仪的礼品 | |
| 打赏了！打赏了！打赏了！ | |
| 打赏帖 | |
|---|---|
| vscode+cmake搭建雅特力AT32L021开发环境被打赏30分 | |
| 【换取逻辑分析仪】自制底板并驱动ArduinoNanoRP2040ConnectLCD扩展板被打赏47分 | |
| 【分享评测，赢取加热台】RISC-V GCC 内嵌汇编使用被打赏38分 | |
| 【换取逻辑分析仪】-基于ADI单片机MAX78000的简易MP3音乐播放器被打赏48分 | |
| 我想要一部加热台+树莓派PICO驱动AHT10被打赏38分 | |
| 【换取逻辑分析仪】-硬件SPI驱动OLED屏幕被打赏36分 | |
| 换逻辑分析仪+上下拉与多路选择器被打赏29分 | |
| Let'sdo第3期任务合集被打赏50分 | |
| 换逻辑分析仪+Verilog三态门被打赏27分 | |
| 换逻辑分析仪+Verilog多输出门被打赏24分 | |
STM32
MCU
通讯及无线技术
物联网技术
电子DIY
板卡试用
基础知识
软件与操作系统
我爱生活
小e食堂