垂直分辨率概念
用数字示波器测量模拟信号第一步就是用ADC（模数转换器）把探棒接收到的模拟信号转换成数字信号，ADC数模转换芯片的分辨率直接决定了示波器垂直方向上的采样精度。比如ADC是8位，那么垂直方向上的信号可以被切分成00000000~11111111一共2的8次方，256段。模数转换器的垂直分辨率，就是数字示波器的垂直分辨率，代表示波器将输入电压转换为数字值的精确程度。
数字示波器所显示的垂直分别率由什么决定
优先级从高到低
1.前端ADC的分辨率
2.显示屏分辨率：它决定了经过处理的信号，有多少可以被显示出来。比如ADC虽然可以在垂直方向上显示256段，但是可能显示屏的分辨率垂直只有240个像素点，那么有一部分点会被合并成1个像素显示。
3.插值算法：实际的示波器，上面显示的像素点不一定都是实际采样生成的，一部分是通过插值算法计算出来的虚拟的点，好的插值算法会使插值的点与实际的点差异比较小。
垂直精度
当大家用同一个示波器在不同垂直档位下测量同一信号时，得到的测量结果往往是不一样的。
比如大家测量一个2V的方波信号，在垂直档位为2V时，测出幅值可能为1.960V。
在垂直档位为500mV时，测出幅值为1.980V。
为什么会这样？因为它涉及到垂直分辨率的问题，假设当垂直档位为500mV/div时，示波器垂直方向有10格，则其垂直分辨率由ADC的分辨率决定，即为(500mV*10）/256=19.531mV，也就是ADC不能分辨小于19.531mV的电压信号。测量同一个信号，在垂直档位为2V/div的情况下，ADC能分辨的信号为（2000mV*10）/256=78.125mV，小于该电压值的信号是不能测量的，即数字测量仪器都是存在采集的量化误差的，ADC的位数越高，量化误差就会越小，但是它只能无限减小，并不能消除。
所以当大家在对波形进行测量时，尽量使波形占满示波器屏幕，目的就是为了提高垂直精度，使测量结果更准确。
通过改变算法来提高分辨率
数字示波器中ADC的位数越高，垂直分辨率越高，该分辨率由硬件决定，一旦确定无法改变。但示波器整个系统的有效位数形成的分辨率与前者不同，大家可以通过软件提高分辨率。
目前大部分的示波器对ADC采样后提高分辨率最常用的方法就是采用“平均”的做法。
在平均采样方式中，可先设置一个平均次数N，之后示波器会对采集的N段波形，将它们按照触发位置对齐，对N段波形进行平均运算，最终得到一段平均后的波形。
这种采样方式降低随机噪声的同时并没有损失带宽，示波器系统的分辨率就会提高，但是平均模式会经过较长的时间来响应变化的波形，以牺牲示波器的速度来换取较高的分辨率，而且由于其处理方式的特殊性，决定了它适用的波形信号只能是周期信号。
总结
示波器显示屏垂直方向上的分辨率本身就有限，另外测量高频信号时，幅度本身就不准确，在上限频率处甚至有30%的误差，而且垂直分辨率过高会提高模数转换时间，影响采样率，进而影响带宽，得不偿失。一般示波器的垂直分辨率是8位，高分辨率的示波器达12位，如果示波器模拟电路本身的精度没有提高，单纯追求ADC的分辨率是没有意义的。如果追求电压的准确度，应该使用万用表，示波器更主要的功能是观测波形的形状，测量准确度一般在2%以内，这种准确度应对绝大多数应用是完全游刃有余的。