1995年以色列VocalTec公司所推出的Internet Phone，不但是VoIP网络电话的开端，也揭开了电信IP化的序幕。人们从此不但可以享受到更便宜、甚至完全免费的通话及多媒体增值服务，电信业的服务内容及面貌也为之剧变。
一开始的网络电话是以软件的形式呈现，同时仅限于PC to PC间的通话，换句话说，人们只要分别在两端不同的PC上，安装网络电话软件，即可经由IP网络进行对话。随着宽频普及与相关网络技术的演进，网络电话也由单纯PC to PC的通话形式，发展出IP to PSTN（公共开关电话网络）、PSTN to IP、PSTN to PSTN及IP to IP等各种形式，当然他们的共通点，就是以IP网络为传输媒介，如此一来，电信业长久以PSTN电路交换网网络为传输媒介的惯例及独占性也逐渐被打破。
VoIP的原理、架构及要求
由Voice over IP的字面意义，可以直译为透过IP网络传输的语音讯号或影像讯号，所以VoIP就是一种可以在IP网络上互传模拟音讯或视讯的一种技术。简单地说，它是藉由一连串的转码、编码、压缩、打包等程序，好让该语音数据可以在IP网络上传输到目的端，然后再经由相反的程序，还原成原来的语音讯号以供接听者接收。
进一步来说，VoIP大致透过5道程序来互传语音讯号，首先是将发话端的模拟语音讯号进行编码的动作，目前主要是采用ITU-T G.711语音编码标准来转换。第二道程序则是将语音封包加以压缩，同时并添加址及控制信息，如此便可以在第三阶段中，也就是传输IP封包阶段，在浩瀚的IP网络中寻找到传送的目的端。到了目的端，IP封包会进行译码还原的作业，最后并转换成喇叭、听筒或耳机能播放的模拟音讯。
在一个基本的VoIP架构之中，大致包含4个基本元素：
(1)媒体网关器（Media Gateway）：主要扮演将语音讯号转换成为IP封包的角色。
(2)媒体网关控制器（Media Gateway Controller）：又称为Gate Keeper或Call Server。主要负责管理讯号传输与转换的工作。
(3)语音服务器：主要提供电话不通、占线或忙线时的语音响应服务。
(4)信号网关器（Signaling Gateway）：主要工作是在交换过程中进行相关控制，以决定通话建立与否，以及提供相关应用的增值服务。
虽然VoIP拥有许多优点，但绝不可能在短期内完全取代已有悠久历史并发展成熟的PSTN电路交换网，所以现阶段两者势必会共存一段时间。为了要让两者间能相互沟通，势必要建立一个互通的接口及管道，而媒体网关器与网关管理器即扮演了中介的色角，因为他们具备将媒体数据流及IP封包转译成不同网络所支持的各类协议。
其运作原理是，媒体网关器先将语音转换为IP封包，然后交由媒体网关控制器加以控制管理，并决定IP封包在网络中的传送路径。至于信号网关器则负责将SS7信号格式转换为IP封包。
网络电话若要走向符合企业级营运标准，必须达到以下几个基本要求：
1.服务品质（QoS）之保证：这是由PSTN过渡到VoIP、IP PBX取代PBX的最基本要求。所谓QoS就是要保证达到语音传输的最低延迟率（400毫秒）及封包遗失率（5-8%），如此通话品质才能达到现今PSTN的基本要求及水准，否则VoIP的推行将成问题。
2.99.9999％的高可用性（High Available；HA）：虽然网络电话已成今后的必然趋势，但与发展已久的PSTN相较，其成熟度、稳定度、可用性、可管理性，乃至可扩充性等方面，仍有待加强。尤其在电信级的高可用性上，VoIP必须像现今PSTN一样，达到6个9（99.9999%）的基本标准。目前VoIP是以负载平衡、路由备份等技术来解决这方面的要求及问题，总而言之，HA是VoIP必须达到的目标之一。
3.开放性及兼容性：传统PSTN是属封闭式架构，但IP网络则属开放式架构，如今VoIP的最大课题之一就是如何在开放架构下，而能达到各家厂商VoIP产品或建设的互通与兼容，同时地造成各家产品在整合测试及验证上的困难度。目前的解决方法是透过国际电信组织不断拟定及修改的标准协议，来达到不同产品间的兼容性问题，以及IP电话与传统电话的互通性。
4.可管理性与安全性问题：电信服务包罗万象，包括用户管理、异地漫游、可靠计费系统、认证授权等等，所以管理上非常复杂，VoIP营运商必须要有良好的管理工具及设备才能因应。同时IP网络架构技术完全不同于过去的PSTN电路网，而且长久以来具开放性的IP网络一直有着极其严重的安全性问题，所以这也形成网络电话今后发展上的重大障碍与首要解决的目标。
5.多媒体应用：与传统PSTN相比，网络电话今后发展上的最大特色及区别，恐怕就在多媒体的应用上。在可预见的未来，VoIP将可提供交互式电子商务、呼叫中心、企业传真、多媒体视讯会议、智能代理等应用及服务。过去，VoIP因为价格低廉而受到欢迎及注目，但多媒体应用才是VoIP今后蓬勃发展的最大促因，也是各家积极参与的最大动力。