“分辨率”与“精度”的思路
在传感器中，分辨率相当于灵敏度，表示采集精细度极限（识别极限）。另外，精度代表细致度，在采集领域不同于分辨率。下面将对容易混淆的分辨率与精度的区别及其计算方法进行说明。
明确“精度”要求的是“最小显示位”（希望读取的最小位），还是“绝对值”。在此基础上，若为“显示位”则参考显示分辨率，若为“绝对值”则参考绝对精度及采集准确度，计算必要性能。经常将“A/D分辨率”视为精度，除了准确度（精度）标记为digits或LSB（least significant bit：最低有效位）的情况以外，仅能作为参考，需要注意。
一般情况下，采样速度与分辨率具有权衡关系
DSO（数字存储示波器）通常为8 bit（256级）。±10 V（满刻度为20 V）的采集范围中分辨率为20/256=约78 mV。波形记录装置中通常为12到14 bit（4096到16384级）。±10 V（满刻度为20 V）的采集范围中分辨率为20/16384=约1.2mV。分辨率变得这么差后采集精度会下降，因此需要根据采集目标物进行选择。
