LCD屏和磁偏转阴极射线示波管以电视的速率驱动,复合信号包含悉数标志、菜单文本、图形和波形。因而,波形至格子的相对精确度不受显现器材线性度的影响。格子线的肯定精确度可能有差错,可是信号会精确定位在每条格子线上。相反地,模仿示波器的静电偏转阴极射线管的格子是腐蚀在玻璃上的,因而,任何偏转扩大器或阴极射线管的非线性都会增加总的增益差错。大多数民妇只要8位分辨率,少量DSO供给10或12位。例如关于生物医学信号,由于含有不知道的偏移电压,选用10或12位体系的较大动态规模是有优点的。假如杂乱信号要求笔直扩大以便查验微细的部分,也需求更高的分辨率。更高分辨率可由均匀方法来取得,这种方法的依据是很多无机噪音出现在处理进程中,发生典型的均方根联系,例如收集信号16次可使信号分辨率改善4倍。
一种更牢靠的方法是参加定量的特别加权噪声来扰动ADC输入。在每次取样进程中,ADC输入从实践输入信号值偏移一点点,扰动的偏移量、方向和散布是预置的,以便确保扰动进程的均匀高分辨率数据不会发生频谱失真。带来的问题是扰动使ADC的峰一峰值规模下降,其幅值与扰动信号值持平。由于分辨率的改善程度与扰动信号和求均匀的样本数成正比,所以可以完成的改善有必定约束。