放置在系统输入平面上、空间频率为ν的一维余弦光栅的光强分布可表为：
I(x)=1+cos(2πνx)
通过系统后像的光强分布则为：
I'(x)=1+m(ν)·cos[2πνx+φ(ν)]
式中m(ν)为调制度或反差度，代表交流分量的幅度I(ν)与直流分量I0的比。输入余弦光栅的调制度为1，为满幅调制；m(ν)≤1，等号仅当ν=0时才成立。m(ν)表征系统对于空间频率为ν的余弦信号的调制度的衰减，称为调制传递函数；φ(ν)则表示余弦光栅亮条纹的位置向暗条纹位置的相对移动，称为相位传递函数。复函数：
H(ν)=m(ν)exp[iφ(ν)]
称为光学传递函数。调制传递函数是光学传递函数的模，归一化手续规定m(0)=1，说明任何成像系统对于均匀一致的亮场（零频）总会响应。缓慢变化的背景和粗大物体通过系统形成的像比较清晰，系统的低频调制传递函数比较高。空间频率越高，调制传递函数越小，表明越细微的物体光学系统的分辨率越低，那些m(ν)≈0的物体细节会在通过系统的像强度分布中变得非常模糊乃至消失。调制传递函数m(ν)全面反映了从低频到高频的分量的传递特性，是评价系统成像质量的主要指标。许多场合下光学传递函数指的就是调制传递函数。若干成像系统串联时，合成系统的光学传递函数是子系统光学传递函数的乘积。
光学系统只有有限的孔径，空间频率过高时余弦光栅的衍射光离轴角过大，不能进入系统，因此存在截止频率（极限频率）νc。对于非相干成像系统，
νc=1/λF=2N.A./λ
式中F为成像系统的F数（焦距/孔径），λ为光波波长，N.A.为数值孔径。超过截止频率的图像细节将不能通过系统。为此，光学系统是低频滤波器。相同规格（如F数相同）的成像系统具有相同的截止频率。
评价大视场光学系统的成像质量时，不但要考虑低频、中频和高频的调制传递函数（MTF）的大小，还要全面评价对应于不同视场的一系列传递函数曲线。轴外视场对于水平方向（子午方向）放置的余弦光栅和垂直方向（弧矢方向）放置光栅的调制传递函数并不相同，所以要同时考察子午MTF和弧矢MTF。一般说来，调制传递函数曲线整体越高，系统的成像质量越好。在某些应用中还需要考虑相位传递函数。但在普通成像镜头生产线上，为了快速高效判别成像质量，可用几个甚至一个空间频率ν0的调制传递函数m(ν0)与阈值的比较来作为镜头像质是否合格的判据，产业部门这样的近似已经够用。ν0又称特征频率，通常取ν0=νc/2。
