网站首页
这些小活动你都参加了吗？快来围观一下吧！>>
电子产品世界 » 论坛首页 » 嵌入式开发 » MCU » 求助：数据解算精度异常降低

共2条 1/1 1 跳转至页

求助：数据解算精度异常降低

茹儿
菜鸟
2007-08-27 22:41:47     打赏
各位大哥大姐：
         最近遇到一个问题，异常困惑：VxWorks5.4.2系统运行了4个任务，其中有一个人机
交互界面任务，3个解算任务，但界面任务进行图形放大操作时(此操作特别占用CPU资源)，
偶然发现(概率很低)，其中3个解算任务的计算精度都降低了，所有的计算都从先前的小数点后15位以上的精度降为小数点后仅5位！！！
       困惑！！！
       求哥哥、姐姐帮忙！！！谢谢！！！

回复
收藏
0



关键词： 求助     数据     解算     精度     异常     降低    

star800
高工
2007-08-28 08:05:21     打赏
2楼

由于计算机在同时运行多个程序时，会将CPU资源分成几部分来使用，每部分所使用的为数就会受限，故你计算的精度就会降低


评论
共2条 1/1 1 跳转至页

回复

匿名不能发帖！请先 [ 登陆 注册 ]