共2条
1/1 1 跳转至页
msp430f135 如何在msp430f135里实现下列的浮点运算
问
aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了,在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过,请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了,数据精度最后2位保证不了,不过够用了。
0.255900546实际运算时是0.2559006.
cc=0.255900546*aa+9.5020727E-6*aa*aa;
计算aa已经算错了,在149里运算正确。可能就是lierda 工程师所说的ram不够问题。不过,请问是不是还能有别的办法来算这个公式在135中。谢谢。 答 1: aa=500*(9.310598E+6/9.310726E+6);
cc=0.255900546*aa+9.5020727E-6*aa*aa;
上式改为aa=(9.310598E+6/9.310726E+6)/2E-3;后计算就对了。
把乘法改成除法就可以了,数据精度最后2位保证不了,不过够用了。
0.255900546实际运算时是0.2559006.
共2条
1/1 1 跳转至页
回复
我要赚赏金打赏帖 |
|
|---|---|
| 【S32K3学习整理】使用 LPUART 的loopback 模式实现核间通讯被打赏¥28元 | |
| arduinounoq原生zephyr环境搭建被打赏¥31元 | |
| 树莓派3+Klipper,MPU6050共振补偿被打赏¥41元 | |
| GroveCreatorKit套件+摇杆测评被打赏¥18元 | |
| 设备功耗web监控界面(ESP32C5)被打赏¥28元 | |
| OrangePiZero2W系统被打赏¥33元 | |
| Linux环境下以模拟方式快速实现出入管理功能测试被打赏¥24元 | |
| 树莓派3+Klipper,老3D打印机满血升级被打赏¥33元 | |
| OK1126B-S开发板下串口屏及其应用被打赏¥21元 | |
| 低功耗超声波液位测距仪(ESP32S3)被打赏¥27元 | |
我要赚赏金
