经典科幻电影《2001：太空漫游》（2001: A Space Odyssey）可能是很多读者的科幻启蒙，那么这个故事的寓意是什么？在影片中，主人公发现 HAL 9000人工智能电脑开始自主控制飞船，完全脱离宇航员的控制，同时电脑开始变得偏执、尝试杀死船上的所有人。显然，这个故事表现了作者对自动化科技的担心，当生命完全依赖于全自动系统，似乎存在很多隐患。
然而，自动化是人类不懈的追求，从简单的洗衣机、洗碗机到开始具有复杂算法的扫地机器人、智能家居设备以及目前火热的自动驾驶汽车，自动化开始从更多层面影响人们的生活。但是，你真的可以把控制权完全交给机器吗？一起来看看近期几个典型的反面案例。
PetNet 的失败
PetNet 是发迹于众筹平台的一款智能宠物喂食机，通过连接到WIFI网络、iOS远程控制，可以实现手动分配食物，当然，你也可以通过应用进行自动化的预设。另外，它还能通过亚马逊的Dash系统自动购买狗粮或猫粮。
听上去，PetNet 完全可以解决很多宠物主人的麻烦，实现自动化、定时定量的喂食。然而，在发售后，PetNet基于谷歌的云服务一度发生中断，时间长达10小时。也就是说，如果主人没有发现，那么在这10小时里使用它的猫咪和狗狗得不到任何食物和水。虽然PetNet官方表示并没有造成大的影响，但宠物挨饿是事实。
事后，PetNet还向用户发送邮件，通知他们确保人工喂养宠物，直至问题完全解决。试想一下，一些外出度假的家庭，完全依靠PetNet来喂养宠物，是多么不靠谱的一件事。
Nest恒温器崩溃
作为最著名的智能家居设备，Nest恒温器一直备受关注。然而，最近一周在美国各地，均发生了Nest恒温器失效的情况，事实上这已经不是第一次。Nest发布声明，声称仅有很少一部分产品发生离线情况。
虽然没有任何人受伤或是死亡，但是作为家庭中的温控中枢，Nest的不稳定无疑降低了人们的生活品质，而他们购买Nest的初衷，则是让生活更方便。
特斯拉自动驾驶死亡车祸
特斯拉最近无疑处于风口浪尖上，其自动驾驶汽车发生车祸、导致司机死亡，似乎为自动驾驶汽车的发展蒙上了一层阴影。
究其原因，目前最大的争议在于其自动驾驶模式的机制，虽然当时环境较为特殊，强烈日照致使自动驾驶系统和司机都没有发现拖挂车的白色车身、没有及时刹车，但从另一个角度来说，即便摄像头失效、雷达也应该监测到障碍车辆。这是第一个问题：自动驾驶的障碍监测系统并不能处理任何状况，但在驾驶这种高危环境下，一个小失误就会造成生命损失。
显然，特斯拉自动驾驶汽车的传感器部署并不完善，而在这种情况下，鼓励用户完全脱离驾驶的机制也是一个问题，事实上司机当时正在汽车屏幕上玩游戏，显然他过于相信自动化系统了。
不要过于依赖全自动化系统
显然，上面三个实例告诉我们，不要过于依赖全自动化系统，尤其是涉及到生命安全时。其实这是一个非常简单的道理：人会生病、产品会出现故障，你永远不能预知未来的事情。科技发展虽然迅猛，但即便是人工智能，也是人类所开发，而人类会犯错误，任何系统也是一样。
特斯拉的例子其实非常有代表性，CEO马斯克一方面积极抵制强人工智能发展，认为在众多不确定因素下，强人工智能一旦具有真正的思考能力，可能会危及人类；但另一方面，他又认为特斯拉的自动驾驶技术并没有问题，这显然是矛盾的。所以，在目前这个技术横流的时代，人类依然需要制定规则，并且始终相信，任何技术都没有人类本身来的可靠。
====================================分割线================================
本文转自d1net（转载）