我们只讨论小数，也就是毫米的小数位，

游标卡尺的常用型号有10、20、50格。

对于游标尺为20格的尺子，尺上每格长度为0.95mm，总长19mm，计数时，如果需要主尺与游标尺有大于1mm的差值，需要20格以上才可以做到，显然在游标尺的20格范围内主尺格数（1mm数）与游标尺格数（0.95mm）不一致的情况不会出现。

所以从待测位到对齐位的格数，在主尺与游标尺上是一样的，记为n，而两尺的单位差值为0.05mm，总差值，即主尺上的小数值为：0.05 * n mm。

对于10格的卡尺，小数为0.1 * n mm

对于50格的卡尺，小数为0.02 * n mm