根据体系结构不同，服务器可以分成两大重要的类别：IA架构服务器和RISC架构服务器。
这种分类标准的主要依据是两种服务器采用的处理器体系结构不同。RISC架构服务器采用的CPU是所谓的精简指令集的处理器，精简指令集CPU的主要特点是采用定长指令，使用流水线执行指令，这样一个指令的处理可以分成几个阶段，处理器设置不同的处理单元执行指令的不同阶段，比如指令处理如果分成三个阶段，当第N条指令处在第三个处理阶段时，第N+1条指令将处在第二个处理阶段，第N+2条指令将处在个处理阶段。这种指令的流水线处理方式使得CPU有并行处理指令的能力，这使处理器能够在单位时间内处理更多的指令。IA架构的服务器采用的是CISC体系结构，即复杂指令集体系结构，这种体系结构的特点是指令较长，指令的功能较强，单个指令可执行的功能较多，这样我们可以通过增加运算单元，使一个指令所执行的功能能够同时并行执行来提高运算能力。长时间以来两种体系结构一直在相互竞争中成长，都取得了快速的发展。IA架构的服务器采用了开放体系结构，因而有了大量的硬件和软件的支持者，在近年有了长足的发展。
根据服务器的规模不同可以将服务器分成工作组服务器、部门服务器和企业服务器。
这种分类方法是一种相对比较老的分类方法，主要是根据服务器应用环境的规模来分类，比如一个十台客户机左右的计算机网络环境适合使用工作组服务器，这种服务器往往采用1个处理器，较小的硬盘容量和不是很强的网络吞吐能力；一个几十台客户机的计算机网络适用部门级服务器，部门级服务器相对能力要强，往往采用2颗处理器，较大的内存和磁盘容量，磁盘I/O和网络I/O的能力也较强，这样这台服务器才能有足够的处理能力来受理客户端提出的服务需求；而企业级的服务器往往处于百台客户机以上的网络环境，为了承担对大量服务请求的响应，这种服务器往往采用4颗处理器、有大量的硬盘和内存，并且能够进一步扩展以满足更高的需求，同时由于要应付大量的访问，所以，这种服务器的网络速度和磁盘速度也应该很高。为达到这个要求，往往要采用多个网卡和多个硬盘并行处理。所有上述描述是很不的，存在很多特殊情况的，比如一个网络的客户机可能很多，但对服务器的访问可能很少，就没有必要要一台功能的企业级服务器，由于这些因素的存在，使得这种服务器的分类方法更倾向于定性，而不是定量，也就是说从小组级到部门级到企业级，服务器的性能是在逐渐加强的，其他各种特性也是在逐渐加强的。
、可扩展性
服务器必须具有一定的“可扩展性”，这是因为企业网络不可能长久不变，特别是在当今信息时代。如果服务器没有一定的可扩展性，当用户一增多就不能胜任的话，一台价值几万，甚至几十万的服务器在短时间内就要遭到淘汰，这是任何企业都无法承受的。为了保持可扩展性，通常需要在服务器上具备一定的可扩展空间和冗余件（如磁盘阵列架位、PCI和内存条插槽位等）。 [3]
可扩展性具体体现在硬盘是否可扩充，CPU是否可升级或扩展，系统是否支持WindowsNT、Linux或UNIX等多种可选主流操作系统等方面，只有这样才能保持前期投资为后期充分利用。
可用性
对于一台服务器而言，一个非常重要的方面就是它的“可用性”，即所选服务器能满足长期稳定工作的要求，不能经常出问题。其实就等同于Sun所提出的可靠性（Reliability）。
因为服务器所面对的是整个网络的用户，而不是单个用户，在大中型企业中，通常要求服务器是永不中断的。在一些特殊应用领域，即使没有用户使用，有些服务器也得不间断地工作，因为它必须持续地为用户提供连接服务，而不管是在上班，还是下班，也不管是工作日，还是休息、节假日。这就是要求服务器必须具备的稳定性的根本原因。
一般来说专门的服务器都要7X24小时不间断地工作，特别像一些大型的网络服务器，如大公司所用服务器、网站服务器，以及提供公众服务iqdeWEB服务器等更是如此。对于这些服务器来说，也许真正工作开机的次数只有一次，那就是它刚买回安装配置好后投入正式使用的那一次，此后，它不间断地工作，一直到彻底报废。如果动不动就出毛病，则网络不可能保持长久正常运作。为了确保服务器具有高得“可用性”，除了要求各配件质量过关外，还可采取必要的技术和配置措施，如硬件冗余、在线诊断等。