最近在产品测试中发现总有一个数值对应理论值不对,经单步调试发现固定值直接除以32767与固定值右移15位所得的结果不同,如下:
Var_Reg[0]=(INT32S)(200*0xDFF0) / 32767.0;
Var_Reg[1]=(INT32S)(200*0xDFF0) >>15;第一个式子所得的结果是-50;而第二个结果得到的结果竟是-51;
请求各位大侠帮忙释疑!
打赏帖 | |
---|---|
rtthread硬件加密--2crc加密分析被打赏10分 | |
【分享开发笔记,赚取电动螺丝刀】mcxa156使用低功耗定时器适配硬件RTC框架被打赏26分 | |
【STM32F769】AI之与本地deepseek对接被打赏50分 | |
Buck电路工作在CCM模式下电感电流的计算公式是什么?被打赏5分 | |
buck电路工作原理被打赏5分 | |
基于MSPM0L1306的MODBUS-RTU协议通讯实验被打赏100分 | |
我想要一部加热台+多合一调试工具被打赏18分 | |
每周了解几个硬件知识+485硬件知识分享被打赏10分 | |
【换取手持示波器】TouchGFX应用移植自定义屏幕被打赏34分 | |
【换取手持数字示波器】树莓派PICO调试器官方固件本地化部署实践被打赏24分 |