首先，由于云计算平台往往会运行不只一个甚至不只一类应用，因此选择适用的设备是非常必要的。例如在运行基于互联网或者小型增值应用时，通常采用开放的x86服务器架构会具有较好的适用性，但是如果需要运行某些复杂应用，如数据库、在线联机处理应用时，对稳定性和安全性的要求往往较高，这种情况下采用Unix服务器是更适用的选择。遵循这一原则，将帮助云计算平台实现计算能力和计算资源的优化。从存储产品的角度来看，对于复杂的应用来说，选择基于光纤的SAN存储方式是一种很好的选择，但是对于相对比较独立、复杂程度不高的应用来说，SCSI会具有更强的适用性。因此，适用性对于搭建一个成功的云计算平台来说是首要的原则。
其次，开放性是云计算平台区别于传统数据中心的一个重要特征，即为其对于应用的开放性。比如，在云计算平台运行中，可能会陆续有不同类型应用、服务接入，尽管在接口类型等方面有具体的标准来规范，但是采用相对主流、开放的硬件架构、操作系统，对于新增应用的无缝接入是尤为必要的。
在兼容性方面，应从硬件系统和业务系统两个方面来考虑。硬件系统的兼容性表现在服务器接口、芯片种类、存储接口和架构等各个方面。例如，由于云计算通常都会采用虚拟化技术来实现动态的管理，并提高服务器和存储利用率，但是CPU对于虚拟化技术的支持是有差别的，这时，就需要选择对于主流虚拟化软件兼容性较好的服务器和CPU来支持虚拟化的部署。同样，在网络设备中，如果要实现虚拟机跨网段的自由迁移，也需要路由器能够对这一功能具有很好的支持和兼容性。同时云计算平台应兼容既有的业务系统，在系统迁移中对原有系统不需要进行大的改动，实现平滑迁移，从而保证关键业务的连续性和系统迁移成本。
空间日益稀缺成为数据中心面临的普遍困境，在选择云计算平台的硬件时，也需要考虑环境和空间的布置。传统的服务器，需要占用大量的机架、空间，消耗大量的电缆和辅助材料。另外，空间的占用也会带来管理的困难，增加维护成本。为了营造一个高效的云计算平台，需要在硬件搭建时就考虑提高部署的密度，采用高密度计算系统就是一个不错的解决方案。
绿色是数据中心永恒的话题，对于云计算平台来说，实现绿色IT也是一个重要的构建原则。不佳的平台将会消耗更多的服务器、存储、网络设备，从而增加提供冷却的空调数量，消耗大量的电能。其实这些电能消耗对于云计算平台来说，是完全可以通过优化设计来避免的。除了选择能耗较低的硬件产品外，在供电系统、风道、出风方式、硬件格局、运营管理等方面，也需要进行合理规划和管理。
综上，随着大规模云计算数据中心的快速发展，后期扩容以及维护的难度与日激增，在设计云计算平台架构之初，充分考虑适用、开放、兼容、高密度、绿色特性已经成为共识。