共2条
1/1 1 跳转至页
msp430f135 如何在msp430f135里实现下列的浮点运算
问
aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了，在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过，请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了，数据精度最后2位保证不了，不过够用了。
0.255900546实际运算时是0.2559006.
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了，在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过，请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了，数据精度最后2位保证不了，不过够用了。
0.255900546实际运算时是0.2559006.
共2条
1/1 1 跳转至页
回复
 我要赚赏金打赏帖 |
|
|---|---|
| 基于ArduinoUNO开发板的AT24C02读写测试被打赏￥16元 | |
| TCS3472S传感器及其色彩检测被打赏￥19元 | |
| 【S32DS】S32K3 RTD7.0.1 HSE 组件配置报错问题解决被打赏￥27元 | |
| 【S32K3XX】MCME 启动 CORE1被打赏￥23元 | |
| AG32VH407下温度大气压传感器及其检测被打赏￥20元 | |
| AG32VH407下光照强度传感器BH1750及其检测被打赏￥22元 | |
| AT32VH407下使用温湿度传感器DHT22进行检测被打赏￥20元 | |
| DIY一个婴儿澡盆温度计被打赏￥34元 | |
| 【FreeRtos】FreeRtos+MPU region 配置规则被打赏￥23元 | |
| 【分享开发笔记，赚取电动螺丝刀】三分钟快速上手驱动墨水屏(ArduinoIDE)被打赏￥28元 | |
STM32
MCU
通讯及无线技术
物联网技术
电子DIY
板卡试用
基础知识
软件与操作系统
我爱生活
小e食堂
