12
返回列表 发新帖

0660芯片电阻档调校探讨

wgh1027 数字大神 2020-11-10 15:27:24
wgsd 发表于 2020-11-9 07:54
校准也是改24C,且不用读24C。

前提是你得要有个尾数全为0的标准电阻。
2020-11-10 15:27:24 回复
wgsd 楼主     数字大神 2020-11-11 08:13:49
wgh1027 发表于 2020-11-10 15:27
前提是你得要有个尾数全为0的标准电阻。

尾数4个9以上可以视为0了,小于万分之一还不够吗。
2020-11-11 08:13:49 回复
wgh1027 数字大神 2020-11-11 20:51:00
wgsd 发表于 2020-11-11 08:13
尾数4个9以上可以视为0了,小于万分之一还不够吗。

哈哈其实尾数全是9的我觉得更好,只不过万用表只认0。
2020-11-11 20:51:00 回复
wgsd 楼主     数字大神 2020-11-12 09:22:40
wgh1027 发表于 2020-11-11 20:51
哈哈其实尾数全是9的我觉得更好,只不过万用表只认0。

的确是认0,超过4个9的在低位表尾数自动进位归零了
2020-11-12 09:22:40 回复
tps12369 数字斗士 2020-11-12 17:33:32
hc061218 发表于 2020-11-6 22:05
我说的可能有人看不懂,有点绕,举个实际数字的例子!
我用89R电阻去校准200R(标准应该用100R),校准完了之 ...

实际上在0660说明书就给出简单解释:
2020-11-12 17:33:32 回复
12