TCP/IP協議元件有四個層次。
每一層負責不同的功能：
1.鏈路層，有時也稱作資料鏈路層或網路介面層，通常包括作業系統中的裝置驅動程式和計算機中對應的網路介面卡。它們一起處理與電纜（或其他任何傳輸媒介）的物理介面細節。
2.網路層，有時也稱作互連網層，處理分組在網路中的活動，例如分組的路由選擇。在TCP/IP協議元件中，網路層協議包括IP協議（網際協議），ICMP協議（Internet互連網控制報文協議），以及IGMP協議（Internet組管理協議）。
3.運輸層主要為兩臺主機上的應用程式提供端到端的通訊。在TCP/IP協議元件中，有兩個互不相同的傳輸協議：TCP（傳輸控制協議）和UDP（使用者資料報協議）。
TCP為兩臺主機提供高可靠性的資料通訊。它所做的工作包括把應用程式交給它的資料分成合適的小塊交給下面的網路層，確認接收到的分組，設定傳送最後確認分組的超時時鐘等。由於運輸層提供了高可靠性的端到端的通訊，因此應用層可以忽略所有這些細節。而另一方面，UDP則為應用層提供一種非常簡單的`服務。它只是把稱作資料報的分組從一臺主機發送到另一臺主機，但並不保證該資料報能到達另一端。任何必需的可靠性必須由應用層來提供。
這兩種運輸層協議分別在不同的應用程式中有不同的用途，這一點我們將在後面看到。
4.應用層負責處理特定的應用程式細節。幾乎各種不同的TCP/IP實現都會提供下面這些通用的應用程式：
·Telnet遠端登入
·FTP檔案傳輸協議
·SMTP用於電子郵件的簡單郵件傳輸協議
·SNMP簡單網路管理協議
