高并发服务器的设计之内存池的设计

不同的业务,设计也不尽相同,但至少都一些共同的追求,比如性能。

做服务器开发很多年 了,有时候被人问到,服务器性能是什么呢?各种服务器间拼得是什么呢?

简单的回答就是QPS ,并发数,但有时候想想也许也不对。

QPS与并发数是针对同样的业务而言的,业务不同,相同 的服务器能承受的压力也会不同。

性能,也许可以打个俗点的比方:

服务器就是一艘船 ,性能就是船的容量,开的速度,行得是否稳当。

该用的用,该省的省。能用内存就别用IO, CPU则能少用就少用,相同的QPS,CPU和内存用的少点的性能就要比用的多点好,同样,QPS跑得多点的 就比

跑得小点的性能要好,哪怕多用了点CPU和内存。

什么是性能的保障呢?

高 效的事件模型,简单明了的业务架构,统一稳定的资源管理,外加纯熟的人员。

咱就从资源说 起吧。

资源多半与IO有关,如果你看过我前面的文章,一定不会对连接池陌生,没错,连接是 系统的一种IO资源,下面看看另一种IO资源:内存。

如果你看过apache, nginx之类服务器的代 码,或者想入手,那么多半应该从内存管理开始。

与服务器性能息息相关,内存池的设计也追 求快速与稳定,生命周期一般有下面三种:

global: 全局的内存,存放整个进程的全局信息。

conn: 每个连接的信息,从连接产生到关闭。

busi:业务相关的信息,伴随每个业务的 产生到结束

下面定义一个简单的内存池:

typedef struct yumei_mem_buf_s 

yumei_mem_buf_t;
typedef struct yumei_mem_pool_s yumei_mem_pool_t;  

struct yumei_mem_buf_s
{
    int                          size;
    char                        *pos;
    char                        *data;
    yumei_mem_pool_t            *pool;
};  

struct yumei_mem_pool_s
{
    int                          size;
    char                        *data;
    char                        *last;
    yumei_mem_pool_t            *next;
    yumei_mem_pool_t            *current;
};  

yumei_mem_pool_t* yumei_mem_pool_create( int block_size, int block_num );
int yumei_mem_pool_free( yumei_mem_pool_t  *pool );
yumei_mem_buf_t* yumei_mem_malloc( yumei_mem_pool_t   *pool, int size );
int yumei_mem_buf_free( yumei_mem_buf_t *buf );

以上是小编为您精心准备的的内容,在的博客、问答、公众号、人物、课程等栏目也有的相关内容,欢迎继续使用右上角搜索按钮进行搜索内存
, 服务器
, int
, struct
, 性能
, 设计内存
, typedef struct内存
, mem.
, 业务
, mem
高并发设计模型
java高并发服务器设计、高并发服务器设计、编程中设计并发服务器、mqtt高并发消息服务器、1000并发 服务器配置,以便于您获取更多的相关知识。

时间: 2024-09-17 04:21:57

高并发服务器的设计之内存池的设计的相关文章

高并发服务器的设计之连接池的设计

高并发服务器需要有一些池的设计,如内存池,连接池,数据库连接池. 池(pool)的设计 主要考虑到一些资源的频繁申请和释放,尤其是在高并发的服务器中,几万甚至几十万并发每秒,设计 人员不得不去考虑这些. 比如数据库连接池(sql pool),是通过TCP来通信的,属于IO类,有 一定的延时,在高并发系统中频繁的创建会严重影响系统性能. 内存( mem )的分配是要涉及锁 ( mutex )的,有锁就会有延时,因此可以在开始申请一大块内存,后面进行分配与释放,来节省锁开 销. 服务器的连接处理不仅

高并发服务器的设计之架构与瓶颈的设计

做架构设计,难免有时候被人问及系统的瓶颈在哪,那首先来了解下什么是瓶颈? 打个形象 的比方,人的嘴巴可以吞下一整个面包,但是却咽不下去,因为食管不给力,它比较细,所以嘴巴能吞 下的食物大小要受到食管的粗细限制. 城市内部每天会产生几十万件跨城快递,可是跨城的交 通不给力,只允许走小型卡车,一卡车一次就能装几千件,一天下来也不一定能投送的完. 人 在一定时间内能咽下多少食物,货运公司在一天运送多少货物,物理上叫做吞吐量,系统整体的吞吐量 等于最小区域的吞吐量. 下面这张图能够反映: 土黄色管子的流

基于C语言的内存池的设计与实现

介绍:        设计内存池的目标是为了保证服务器长时间高效的运行,通过对申请空间小而申请频繁的对象进行有效管理,减少内存碎片的产生,合理分配管理用户内存,从而减少系统中出现有效空间足够,而无法分配大块连续内存的情况. 目标:     此次设计内存池的基本目标,需要满足线程安全性(多线程),适量的内存泄露越界检查,运行效率不太低于malloc/free方式,实现对4-128字节范围内的内存空间申请的内存池管理(非单一固定大小对象管理的内存池). 内存池技术设计与实现     本内存池的设计方

1高并发服务器:多进程服务器

 1多进程并发服务器 使用多进程并发服务器时要考虑以下几点: A.父最大文件描述个数(父进程中需要close关闭accept返回的新文件描述符) B.系统内创建进程个数(和内存大小相关) C.进程创建过多是否降低整体服务性能(进程调度) 2.案例说明 server.c,代码如下: #include <stdio.h> #include <string.h> #include <netinet/in.h> #include <arpa/inet.h> #i

2高并发服务器:多线程服务器

1多线程并发服务器 在使用线程模型开发服务器时需要考虑以下问题: A调整进程最大文件描述符上限 B线程如有共享数据,考虑线程同步 C服务于客户端线程退出时,退出处理.(退出值,分离态) D系统负载,随着连接客户端增加,导致其它线程不能及时得到CPU 2.案例说明 server.c,代码如下: /* server.c */ #include <stdio.h> #include <string.h> #include <netinet/in.h> #include <

高并发服务器的设计:fastcgi的设计

服务器开发中不何或缺的要使用fastcgi,其使用方法如下: while( FCGI_Accept() >= 0 ){ printf( "Content-type: text/plain \r\n" "Content-Length: %d\r\n" "Connection: close\r\n\r\n%s\r\n", strlen( buffer ), buffer ); } facgcgi 头文件有如下宏: #undef fprintf

4高并发服务器:UDP局域网服务器(组播)

 1 UDP局域网服务器 A读出每一个客户端发送过来的数据包,然后fork出子进程,由子进程去处理客户端请求. B客户端与服务器段交换多个数据报,服务器为每一个客户端连接创建新的socket,在其上bind一个临时端口,然后用该socket处理对应客户端上的所有应答,这个办法要求在客户查看服务器第一个应答中的源端口号.然后后面利用此端口号和服务器进行交互. 2函数声明 int bind(int sockfd, const struct sockaddr*addr,socklen_t addr

3高并发服务器:多路IO之epoll

 1 epoll epoll是Linux下多路复用IO接口select/poll的增强版本,它能显著提高程序在大量并.发连接中只有少量活跃的情况下的系统CPU利用率,因为它会复用文件描述符集合来传递结果而不用迫使开发者每次等待事件之前都必须重新准备要被侦听的文件描述符集合,另一点原因就是获取事件的时候,它无须遍历整个被侦听的描述符集,只要遍历那些被内核IO事件异步唤醒而加入Ready队列的描述符集合就行了. 目前epell是linux大规模并发网络程序中的热门首选模型. epoll除了提供s

1高并发服务器:多路IO之select

 1 select A:select能监听的文件描述符个数受限于FD_SETSIZE,一般为1024,单纯改变进程打开 的文件描述符个数并不能改变select监听文件个数 B:解决1024以下客户端时使用select是很合适的,但如果链接客户端过多,select采用的是轮询模型,会大大降低服务器响应效率,不应在select上投入更多精力 2 依赖的头文件 #include <sys/select.h> /* According to earlier standards */ #includ