通信协议就是通信双方都必须要遵守的通信规则。如果没有网络通信协议，计算机的数据将无法发送到网络上，更无法到达对方计算机，即使能够到达，对方也未必能读懂。有了通信协议，网络通信才能够发生。
协议的实现是很复杂的。因为协议要把人读得懂的数据，如网页、
电子邮件等加工转化成可以在网络上传输的信号，需要进行的处理工作非常多。两个系统中实体间的通信是一个十分复杂的过程。为了减少协议设计和调试过程的复杂性，
网络协议通常都按结构化的层次方式来进行组织，每一层完成一定功能，每一层又都建立在它的下层之上。不同的网络协议，其层的数量、各层的名字、内容和功能不尽相同。然而在所有的网络协议中，每一层都是通过层间接口向上一层提供一定的服务，而把“这种服务是如何实现的”细节对上层加以屏蔽。
假设网络协议分为若干层，那么A、B两节点通信，实际是节点A的第n层与节点B的第n层进行通信，故协议总是指某一层的协议。准确地说，它是在同等层之间的实体通信时，有关通信规则和约定的集合就是该层协议，例如
物理层协议、传输层协议、
应用层协议。每一相邻层协议间有一接口，下层通过该接口向上一层提供服务。
从用户来看，通信是在用户A和用户B之间进行的。双方遵守应用层协议，通信为水平方向。但实际上，信息并不是从A站的应用层直接传送至
B站的应用层，而是每一层都把数据和控制信息传给它的下一层，直至最低层，第一层之下是物理传输介质，在物理介质上传送的是实际电信号。信息的实际流动过程假设系统A用户向系统B用户传送数据。系统A用户的数据先进入最高层——第7层，该层给它附加控制信息H7以后，送入其下一层——第6层，该层对数据进行必要的变换并附加控制信息H6再送入其下一层——第5层，再依次向下传送，并将长报文分段、附加控制信息后，送往下一层。在第2层，不仅给数据段加头部控制信息，还加上尾部控制信息，组成帧后再送至第1层，并经物理介质传送至对方系统B。目标系统B接收后，按上述相反过程，如同剥洋葱皮一样，层层去掉控制信息，最后将数据传送给目标用户系统B的进程。从以上讨论可以看出，两系统通信时，除最低层外，其余各对应层间均不存在直接的通信关系，而是一种逻辑的通信关系，或者说是虚拟通信，如图1.19中的虚线表示。图中只有物理层下的通信介质连线为实线，它进行的是实际电信号传送。
从图1.19得知，对收、发双方的同等层，从概念上说，它们的通信是水平方向的，每一方都好像有一个“发送到对方去”和“从另一方接收”的过程。而实际上，这个数据传送过程是垂直方向的，而不是直接在水平方向上与另一方通信。
传输协议中各层都为上一层提供业务功能。为了提供这种业务功能，下一层将上一层中的数据并入到本层的数据域中，然后通过加入报头或报尾来实现该层业务功能，该过程叫做数据封装。用户的数据要经过一次次包装，最后转化成可以在网络上传输的信号，发送到网络上。当到达目标计算机后，再执行相反的拆包过程。这类似于日常生活中写信，把自己要表达的意思写到纸上，有兴趣的话还要把纸折叠成特殊的形状，然后放到信封里并封好口，写好收信人的地址、
邮政编码和姓名，再贴上邮票，邮局的工作人员再盖上
邮戳送到收信人所在邮局，邮递员按信上的地址把信交给收信人，收信人再拆信，阅读其内容。
下层能够向上层提供的服务有两种形式：面向连接的服务和无连接的服务。
面向连接的服务以电话系统最为典型。要和某人通话，应先拿起电话，拨号码，谈话，最后挂断。网络中面向连接的服务类似于打电话的过程。某一方欲传送数据时，首先给出对方全称地址，并请求建立连接，当对方同意后，双方之间的通信链路就建立起来了。第二步是传送数据，通常以帧为单位，按序传送，不再标称地址，只标称所建立的链路号，并由收方对收到的帧予以确认，为可靠传送方式。也有不需要确认的场合，为不可靠方式。第三步是当数据传送结束后，拆除链路。面向连接的服务又称虚电路服务，是一种可靠的服务。
无连接服务没有建立和拆除链路的过程，一般也不采用可靠传送方式。像普通的电报，其用户没有必要为一封电报而去经历与对方建立和拆除连接的麻烦（事实上，如果能这样做也就不用发电报了）。不可靠（无确认）的无连接服务又称数据报服务，它要求每一帧信息带有全称地址、独立选择路径，其到达目的地的顺序也是不定的。到达目的地后，还要重新对帧进行排序。这种无连接的服务是不可靠的，无法确认对方是否收到。可能有疑问，既然它是不可靠的，那么怎么用它呢？一般情况下，把这种无连接的服务用在一些对数据传输的实时性和准确性要求不是很严格的场合下，并且可以利用高层协议，使这种不可靠的服务能够发挥作用。