开云手机版登录入口-开云(中国)官方

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 14:14:09

#0楼

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

【方案】提高读取和检测速率——图尔克Q300系列

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

37774

cvlsam 版主

文章数：12452

年度积分：385

历史总积分：37774

品牌积分(台达)：43

作者的所有帖子(12452)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆开云手机版登录入口

2010论坛杰出贡献奖

发表于：2021/3/25 15:04:24

#1楼

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】互联网+医疗 | 华北工控打造医疗影像云平台专用嵌入式计算机

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 15:26:12

#2楼

也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】CNC | 自动对刀仪画面实现“一键对刀”

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

37774

cvlsam 版主

文章数：12452

年度积分：385

历史总积分：37774

品牌积分(台达)：43

作者的所有帖子(12452)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆开云手机版登录入口

2010论坛杰出贡献奖

发表于：2021/3/25 16:16:58

#3楼

以下是引用piyufeng在2021/3/25 15:26:12的发言：
也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

YES，因此纯小数运算请选用浮点数。

Good Luck~

【方案】检测油中含水率

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

台达论坛

关于赋值计算请求指点一下

工控学堂推荐视频：

台达论坛

关于赋值计算 请求指点一下

工控学堂推荐视频：

关于赋值计算请求指点一下