请教一个问题：关于西门子1500CPU REAL型数据的计算精度 - 中国亿万电器网

论坛导航

工具箱

搜索签到

亿万论坛自动化系统交流【西门子论坛】查看帖子

主题：请教一个问题：关于西门子1500CPU REA...
回复：1 帖

1

loading...

复制本帖地址

她说我乖

2023-02-14 14:14:10
人气:6950
引用

楼主

声望
＋4
魅力
3
积分
240
经验
2747
文章
16
注册
2017-05-05

请教一个问题：关于西门子1500CPU REAL型数据的计算精度

心血来潮，写了一段统计real型数据的小数位数的程序，但是结果一致没有正确过。检查程序没错，在观察程序执行过程中，发现程序将3.33-3.0的结果算成了，0.3299999，而不是0.33，这就造成了小数的增加。
请问要怎么样才能得到0.33的结果呢，查询资料未果。
请各位大侠赐教！[EM08][EM08][EM08]

Fuji_FA

2023-02-15 08:47:47
引用

第2楼

声望
＋2431
魅力
2425
积分
14198
经验
164594
文章
1183
注册
2009-06-21

浮点运算结果乘以一个大整数,然后取整,然后处以一个大整数.

HAVE FUN!

1

loading...

Powered by LeadBBS 6.0.

Page created in 7.1602 seconds with 7 queries.
豫ICP备11033203号

*验证信息	用户名密码验证码注册新用户
*帖子名称	长度不得超过255字
内容(最大25K) 是否是UBB代码内容支持插入UBB标签使用方法请参考帮助
其它选项	显示签名锁定帖子 Alt+S或Ctrl+Enter快速提交