精度是用來描述物理量的精度，它反映了測量值與真值之間的誤差，分辨率被用來描述尺度劃分，這是在讀取過程中可以讀取的最小變化值。

         例如1米軟尺有1000個刻度，分辨率為0.1%，標準尺下絕對誤差為±5毫米，精度為±0.5%。

        如果你可以把尺伸20毫米，絕對誤差為25毫米，精度降低到2.5%，但尺為1000尺，分辨率為1毫米（0.1%）。

   
        它的實際精度是未知的，因為這個尺子的2毫米讀數不知道他和真正的絕對2毫米之間的誤差。當我們用火烘焙時，我們把它加長一段時間，然后我們又能看到它。很容易看出它有100個尺度，所以它的分辨率也是1米但其精度已經發生了顯著變化。