C++开发中的Atomic原子操作

原子操作在多线程开发中经常用到,比如在计数器,序列产生器等地方,这类情况下数据有并发的危险,但是用锁去保护又显得有些浪费,所以原子类型操作十分的方便。

原子操作虽然用起来简单,但是其背景远比我们想象的要复杂。其主要在于现代计算系统过于的复杂:多处理器、多核处理器、处理器又有核心独有以及核心共享的多级缓存,在这种情况下,一个核心修改了某个变量,其他核心什么时候可见是一个十分严肃的问题。同时在极致最求性能的时代,处理器和编译器往往表现的很智能,进行极度的优化,比如什么乱序执行、指令重排等,虽然可以在当前上下文中做到很好的优化,但是放在多核环境下常常会引出新的问题来,这时候就必须提示编译器和处理器某种提示,告诉某些代码的执行顺序不能被优化。

所以这里说到的原子操作,基本都包含我们三个方面所关心的语义:操作本身是不可分割的(Atomicity),一个线程对某个数据的操作何时对另外一个线程可见(Visibility),执行的顺序是否可以被重排(Ordering)。

一、legacy GCC __sync

据说在C++11标准出来之前,大家都诟病C++标准没有一个明确的内存模型,随着多线程开发的普及这个问题显得越来越迫切。当然各个C++编译器实现者也是各自为政,GCC自然是实用主义当道,于是根据Intel的开发手册老早就搞出了一系列的__sync原子操作函数集合,这也是被广大程序员最为熟悉常用的操作了吧,罗列如下:

type __sync_fetch_and_OP (type *ptr, type value, ...)
type __sync_OP_and_fetch (type *ptr, type value, ...)
bool__sync_bool_compare_and_swap (type *ptr, type oldval, type newval, ...)
type __sync_val_compare_and_swap (type *ptr, type oldval, type newval, ...)
__sync_synchronize (...)

type __sync_lock_test_and_set (type *ptr, type value, ...)
void__sync_lock_release (type *ptr, ...)
上面的OP操作包括add、sub、or、and、xor、nand这些常见的数学操作,而type表示的数据类型Intel官方允许的是int、long、long long的带符号和无符号类型,但是GCC扩展后允许任意1/2/4/8的标量类型;CAS的操作有两个版本分别返回bool表示是否成功,而另外一个在操作之前会先返回ptr地址处存储的值;__sync_synchronize直接插入一个full memory barrier,当然你也可能经常见到像asm volatile(“” ::: “memory”);这样的操作。前面的这些原子操作都是full barrier类型的,这意味着:任何内存操作的指令不允许跨越这些操作重新排序。

__sync_lock_test_and_set用于将value的值写入ptr的位置,同时返回ptr之前存储的值,其内存模型是acquire barrier,意味着该操作之后的memory store指令不允许重排到该操作之前去,不过该操作之前的memory store可以排到该操作之后去,而__sync_lock_release则更像是对前面一个操作锁的释放,通常意味着将0写入ptr的位置,该操作是release barrier,意味着之前的memory store是全局可见的,所有的memory load也都完成了,但是接下来的内存读取可能会被排序到该操作之前执行。可以这里比较绕,翻译起来也比较的拗口,不过据我所见,这里很多是用在自旋锁类似的操作上,比如:

staticvolatileint_sync;

staticvoidlock_sync(){
while(__sync_lock_test_and_set(&_sync,1));
}
staticvoidunlock_sync(){
__sync_lock_release(&_sync);
}

其实这里的1可以是任何non-zero的值,主要是用作bool的效果。

二、C++11 新标准中的内存模型

上面GCC那种full barrier的操作确实有效,但是就像当初系统内核从单核切换到多核用大颗粒锁一样的简单粗暴,先不说这种形势下编译器和处理器无法进行优化,光要变量使其对他处理器可见,就需要在处理间进行硬件级别的同步,显然是十分耗费资源的。在C++11新标准中规定的内存模型(memory model)颗粒要细化的多,如果熟悉这些内存模型,在保证业务正确的同时可以将对性能的影响减弱到最低。

原子变量的通用接口使用store()和load()方式进行存取,可以额外接受一个额外的memory order参数,而不传递的话默认是最强模式Sequentially Consistent。

根据执行线程之间对变量的同步需求强度,新标准下的内存模型可以分成如下几类:

2.1 Sequentially Consistent

该模型是最强的同步模式,参数表示为std::memory_order_seq_cst,同时也是默认的模型。

-Thread 1- -Thread2-
y = 1if(x.load() ==2)
x.store (2); assert (y ==1)
对于上面的例子,即使x和y是不相关的,通常情况下处理器或者编译器可能会对其访问进行重排,但是在seq_cst模式下,x.store(2)之前的所有memory accesses都会happens-before在这次store操作。

另外一个角度来说:对于seq_cst模式下的操作,所有memory accesses操作的重排不允许跨域这个操作,同时这个限制是双向的。

2.2 Acquire/Release

GCC的wiki可能讲的不太清楚,查看下面的典型Acquire/Release的使用例子:

std::atomic<int> a{0};
intb =0;

-Thread 1-
b = 1;
a.store(1, memory_order_release);

-Thread 2-
while(a.load(memory_order_acquire) !=1)/*waiting*/;
std::cout<< b <<'\n';
毫无疑问,如果是seq_cst,那么上面的操作一定是成功的(打印变量b显示为1)。

a. memory_order_release保证在这个操作之前的memory accesses不会重排到这个操作之后去,但是这个操作之后的memory accesses可能会重排到这个操作之前去。通常这个主要是用于之前准备某些资源后,通过store+memory_order_release的方式”Release”给别的线程;

b. memory_order_acquire保证在这个操作之后的memory accesses不会重排到这个操作之前去,但是这个操作之前的memory accesses可能会重排到这个操作之后去。通常通过load+memory_order_acquire判断或者等待某个资源,一旦满足某个条件后就可以安全的“Acquire”消费这些资源了。

2.3 Consume

这是一个相比Acquire/Release更加宽松的内存模型,对非依赖的变量也去除了happens-before的限制,减少了所需同步的数据量,可以加快执行的速度。

-Thread 1-
n = 1
m = 1
p.store (&n, memory_order_release)

-Thread 2-
t = p.load (memory_order_acquire);
assert( *t == 1&& m ==1);

-Thread 3-
t = p.load (memory_order_consume);
assert( *t == 1&& m ==1);
线程2的assert会pass,而线程3的assert可能会fail,因为n出现在了store表达式中,算是一个依赖变量,会确保对该变量的memory access会happends-before在这个store之前,但是m没有依赖关系,所以不会同步该变量,对其值不作保证。

Comsume模式因为降低了需要在硬件之间同步的数量,所以理论上其执行的速度会比之上面的内存模型块一些,尤其在共享内存大规模数据量情况下,应该会有较明显的差异表现出来。

在这里,Acquire/Consume~Release这种线程间同步协作的机制就被完全暴露了,通常会形成Acquired/Consume来等待Release的某个状态更新。需要注意的是这样的通信需要两个线程间成对的使用才有意义,同时对于没有使用这个内存模型的第三方线程没有任何作用效果。

2.4 Relaxed

最宽松的模式,memory_order_relaxed没有happens-before的约束,编译器和处理器可以对memory access做任何的re-order,因此另外的线程不能对其做任何的假设,这种模式下能做的唯一保证,就是一旦线程读到了变量var的最新值,那么这个线程将再也见不到var修改之前的值了。

这种情况通常是在需要原子变量,但是不在线程间同步共享数据的时候会用,同时当relaxed存一个数据的时候,另外的线程将需要一个时间才能relaxed读到该值,在非缓存一致性的构架上需要刷新缓存。在开发的时候,如果你的上下文没有共享的变量需要在线程间同步,选用Relaxed就可以了。

2.5 小结

看到这里,你对Atomic原子操作,应当不仅仅停留在indivisable的层次了,因为所有的内存模型都能保证对变量的修改是原子的,C++11新标准的原子应该上升到了线程间数据同步和协作的问题了,跟前面的LockFree关系也比较密切。

手册上也这样告诫菜鸟程序员:除非你知道这是什么,需要减弱线程间原子上下文同步的耦合性增加执行效率,才考虑这里的内存模型来优化你的程序,否则还是老老实实的使用默认的memory_order_seq_cst,虽然速度可能会慢点,但是稳妥些,万一由于你不成熟的优化带来问题,是很难去调试的。

三、C++11 GCC __atomic

GCC实现了C++11之后,上面的__sync系列操作就变成了Legacy而不被推荐使用了,而基于C++11的新原子操作接口使用__atomic作为前缀。

对于普通的数学操作函数,其函数接口形式为:

type __atomic_OP_fetch (type *ptr, type val,intmemorder);
type __atomic_fetch_OP (type *ptr, type val,intmemorder);
除此之外,还根据新标准提供了一些新的接口:

type __atomic_load_n (type *ptr,intmemorder);
void__atomic_store_n (type *ptr, type val,intmemorder);
type __atomic_exchange_n (type *ptr, type val,intmemorder);
bool__atomic_compare_exchange_n (type *ptr, type *expected, type desired,boolweak,intsuccess_memorder,intfailure_memorder);

bool__atomic_test_and_set (void*ptr,intmemorder);
void__atomic_clear (bool*ptr,intmemorder);

void__atomic_thread_fence (intmemorder);

bool__atomic_always_lock_free (size_tsize,void*ptr);
bool__atomic_is_lock_free (size_tsize,void*ptr);

从函数名,看起来意思也很明了吧,上面的带_n的后缀版本如果去掉_n就是不用提供memorder的seq_cst版本。最后的两个函数,是判断系统上对于某个长度的对象是否会产生lock-free的原子操作,一般long long这种8个字节是没有问题的,对于支持128位整形的构架就可以达到16字节无锁结构了。

Boost.Asio这里就不在罗列了,不过其中有一些例子比较好,基于内存模型的Wait-free的ring buffer、producer-customer的例子,可以去看看。

时间: 2024-10-28 18:05:37

C++开发中的Atomic原子操作的相关文章

iOS开发中各种关键字的区别

一.一些概念 浅Copy:指针的复制,只是多了一个指向这块内存的指针,共用一块内存. 深Copy:内存的复制,两块内存是完全不同的, 也就是两个对象指针分别指向不同的内存,互不干涉. atomic是Objc使用的一种线程保护技术, 基本上来讲,是防止在写未完成的时候被另外一个线程读取, 造成数据错误.而这种机制是耗费系统资源的, 所以在iPhone这种小型设备上,如果没有使用多线程间的通讯编程,那么nonatomic是一个非常好的选择. 二.各种属性的解析 weak: <修饰Object类型,A

安卓应用开发-安卓开发中红米手机拍照发出去后为啥旋转了90度

问题描述 安卓开发中红米手机拍照发出去后为啥旋转了90度 10C 开发过程中,做了一个类似微信朋友圈的东西,拍照上传图片的时候,在红米手机上遇到了这个问题,本来是正着拍摄,发出去后在朋友圈显示的是旋转了90度的,如图所示,键盘旋转了90度 解决方案 跟手机有关,手机拍照默认横屏 解决方案二: 我也是红米,做移动开发时拍照是正常的

struts2.0-struts2在实际开发中的使用的多吗?

问题描述 struts2在实际开发中的使用的多吗? struts2在实际开发中的使用的多吗? struts2在实际开发中的使用的多吗? struts2在实际开发中的使用的多吗? 解决方案 老项目多,新项目用SpringMVC了 解决方案二: SpringMVC用得越来越多了.

jpanel-java开发中我设置了一个JPanel里面装了图片作为背景 但是为什么没有显示出来背景图片

问题描述 java开发中我设置了一个JPanel里面装了图片作为背景 但是为什么没有显示出来背景图片 此段代码中什么地方出错了?为什么我的ip,h还有rs,drgl这三个地方的背景图片 无法显示或者切换? p4=new JPanel(new BorderLayout()); p2=new JPanel(new CardLayout()); //处理p2,p3,p4 p2_lab1=new JLabel(new ImageIcon("image/21.jpg")); p2_lab2=ne

开发中常见的中文乱码原因

在开发中,我们常常遇到中文乱码的问题,比如: &浏览器中看到的 Jsp/Servlet 页面中的汉字成了 '?'      &浏览器中看到的 Servlet 页面中的汉字都成了乱码   &Jsp/Servlet 页面无法显示 GBK 汉字. &Jsp/Servlet 不能接收 form 提交的汉字. &JSP/Servlet 数据库读写无法获得正确的内容. 隐藏在这些问题后面的是各种错误的字符转换和处理.解决类似的字符encoding问题,需要了解 Jsp/Serv

请问在jsp开发中使用的mysql server数据库服务器

问题描述 请问在jsp开发中使用的mysql server数据库服务器 请问在jsp开发中使用的mysql server数据库服务器,在Visual C++ 6.0中也可以使用么?如果可以,请问如何使用? 解决方案 到底你说的是mysql还是sql server?不过这两者都可以在VC中访问,具体你google下 解决方案二: 可以吧,但是6.0都是多少年前的版本了,连sql server会出现各种未知的问题,具体google,楼上正解 解决方案三: 应该是可以的,直接都连接同一个数据库不就可以

iOS开发中常用的数学函数

iOS开发中常用的数学函数   /*---- 常用数学公式 ----*/ //指数运算 3^2 3^3 NSLog(@"结果 %.f", pow(3,2)); //result 9 NSLog(@"结果 %.f", pow(3,3)); //result 27 //开平方运算 NSLog(@"结果 %.f", sqrt(16)); //result 4 NSLog(@"结果 %.f", sqrt(81)); //result

android 应用程序开发中,清除缓存的功能怎么做啊?

问题描述 android 应用程序开发中,清除缓存的功能怎么做啊? android 应用程序开发中,清除缓存的功能怎么做啊?清除此应用程序的缓存,怎么做? 解决方案 getCacheDir()能够得到当前项目的缓存地址 在项目中经常会使用到WebView 控件,当加载html 页面时,会在/data/data/应用package 目录下生成database与cache 两个文件夹.请求的url 记录是保存在WebViewCache.db,而url 的内容是保存在WebViewCache 文件夹下

安卓开发中某一个界面还没等你操作呢 自己就没了 哪里出问题了?

问题描述 安卓开发中某一个界面还没等你操作呢 自己就没了 哪里出问题了? 问题如上 好困惑! 解决方案 自己就没了,是返回上一级页面么?还是什么?有可能是AndroidManifest.xml文件里activity配置的问题.. 解决方案二: 出现fatal crash了把,抓下log看看. 解决方案三: 贴出代码,贴出log,才好分析,这样描述太抽象 解决方案四: 看一下log日志,看看错误信息. 解决方案五: 这个问题问的有点抽象能不能再具体些