《HBase管理指南》一1.6 修改内核参数设置

1.6 修改内核参数设置

HBase是运行在Hadoop上的数据库,和其他数据库一样,它也要同时打开很多个文件。Linux对于一个进程可打开文件描述符的个数有所限制。默认的限制是每个进程可打开1024个文件。为了使HBase能够顺畅运行,你需要调高启动HBase的那个用户允许打开的文件描述符的最大个数。在本书中,就是hadoop用户。

你还要调高Hadoop的nproc设置。nproc设置指定了用户可以同时启动的最大进程数量。如果nproc过低,就会遇到OutOfMemoryError这种错误。

本节将描述如何显示和更改这些内核参数。

1.6.1 准备

请确保你在所有服务器上都有root权限。

1.6.2 操作步骤

你需要对集群中的所有服务器进行如下的内核参数设置修改。

1.以hadoop用户的身份登录并执行以下命令,以确认可打开文件数的当前限制。

hadoop$ ulimit -n
1024

2.使用-u选项的ulimit命令来查看最大进程数的当前设置。

hadoop$ ulimit -u
unlimited

3.以root用户身份进行登录并调高可打开文件数和nproc的限制。在limits.conf文件中添加下列设置。

root# vi /etc/security/limits.conf
hadoop soft nofile 65535
hadoop hard nofile 65535
hadoop soft nproc 32000
hadoop hard nproc 32000

4.为使上述修改生效,使用如下命令在/etc/pam.d/common-session文件中增加一行内容。

root# echo "session required pam_limits.so" >> /etc/pam.d/common-session

5.注销登录,再以hadoop用户的身份重新进行登录,然后再次确认这些设置的当前值,你应该能够看到前面的修改已经生效了。

hadoop$ ulimit -n
65535
hadoop$ ulimit -u
32000

1.6.3 运行原理

上述的内核参数修改将hadoop用户的可打开文件数限制调高到了65535,同时将hadoop用户的最大进程数限制调高到了32000。经过这种内核参数的修改,HBase就可以同时打开足够多的文件,因此也就可以顺畅运行了。

1.6.4 参考章节
第8章“基本性能调整”

时间: 2024-08-02 11:36:08

《HBase管理指南》一1.6 修改内核参数设置的相关文章

《HBase管理指南》一导读

前 言 HBase管理指南作为一个开源.分布式的大数据存储系统,HBase可以处理记录数达几十亿条.字段数达数百万个的大数据,并且只需依靠一些由商品化硬件而构成的集群就可以运行.如果你正在寻找一种能够实时存储和访问海量数据的方法,那么你就必须研究一下HBase. <HBase管理指南>一书提供了一些实用的例子和一些简单详尽的操作步骤,使你可以轻松地管理HBase.本书的章节涵盖了在云计算环境中管理一个完全分布式的高可用HBase集群所需的各种过程.处理如此海量的数据意味着建立起一套有组织.可管

《HBase管理指南》一第1章 HBase集群安装

第1章 HBase集群安装 HBase管理指南本章内容: 快速入门 Amazon EC2的安装及准备 Hadoop安装 ZooKeeper安装 内核参数设置修改 HBase安装 Hadoop/ZooKeeper/HBase基本配置 多个高可靠性(HA)主节点的安装

app-我自己开发了一个WebView的App,工作需要,怎样修改内核参数,设置为默认的浏览器呢?

问题描述 我自己开发了一个WebView的App,工作需要,怎样修改内核参数,设置为默认的浏览器呢? 我用真机nexus5,尝试了开启root,然后去看data/Ssystem/package.XML,通过设置不同的默认浏览器,找哪个位置被修改了,但找不到.请问修改默认浏览器后,是哪个内核文件被修改了? 解决方案 http://blog.sina.com.cn/s/blog_4e1e357d0101bfjq.html 试一试

《HBase管理指南》一1.1 简介

1.1 简介 本章将介绍HBase集群的安装方法,首先将介绍基本的单机运行模式的HBase实例的安装方法,然后介绍如何在Amazon EC2上安装完全分布式运行的高可靠性HBase集群. 根据Apache HBase主页上的定义: HBase是Hadoop上的数据库.它适合在需要对大数据进行随机且实时读写的情况下使用.其目标是在基于商品化硬件构建的集群之上存储那些非常大的表--比如那些有数百万个字段和数十亿条记录的大表. HBase可以在任何文件系统上运行.比如说,无论是在EXT4本地文件系统.

《HBase管理指南》一1.2 快速入门

1.2 快速入门 HBase有两种运行模式:单机运行(Standalone)模式和分布式运行(Distributed)模式.单机运行模式是HBase的默认模式.在单机模式中,HBase会使用一个本地文件系统来代替HDFS,并且在同一个JVM上运行所有的HBase守护进程和HBase管理的ZooKeeper实例. 本节将介绍单机HBase的安装.内容包括:安装HBase.以单机模式启动HBase.在HBase Shell中创建一张表.插入记录.清除记录以及关闭单机模式HBase实例. 1.2.1

《HBase管理指南》一1.7 HBase安装

1.7 HBase安装 完全分布式运行的HBase实例要在HDFS上运行一个或多个主节点(HMaster)和多个从节点(RegionServer).它使用一个可靠的ZooKeeper仲裁团来协调HBase集群中的所有组件,包括主节点.从节点和客户端. HMaster并非必须与HDFS NameNode运行在同一服务器上,但对小集群来说,为了便于管理通常会让它们运行在同一台服务器上.RegionServers通常被配置在HDFS的DataNode服务器上运行.在Datanode服务器上运行Regi

《HBase管理指南》一1.5 ZooKeeper安装

1.5 ZooKeeper安装 分布式的HBase需要运行一个ZooKeeper集群.HBase集群的所有节点和客户端都必须能够访问该ZooKeeper仲裁团. 此节将描述如何建立一个ZooKeeper集群.我们将仅为我们的HBase集群建立一个单机运行的ZooKeeper节点,但是如果是在生产环境中,就应该建立一个至少含有三个节点ZooKeeper仲裁团.此外,还要确保运行节点的个数是奇数. 我们将在本节的"1.5.4 补充说明"一节中讨论集群式ZooKeeper的安装. 1.5.1

《HBase管理指南》一1.4 安装Hadoop

1.4 安装Hadoop 完全分布式的HBase要运行在HDFS之上.对于完全分布式的HBase集群来说,其主守护进程(HMaster)通常要运行在HDFS主节点所在的服务器(NameNode)上,而其从守护进程(HRegionServer)要运行在HDFS从节点所在的服务器(我们称之为DataNode)上. HBase并不必须使用Hadoop MapReduce,所以我们也不需要启动MapReduce的守护进程.本节也会对MapReduce的安装进行介绍,因为你毕竟有可能要在HBase上运行M

《HBase管理指南》一1.3 Amazon EC2的安装及准备

1.3 Amazon EC2的安装及准备 Amazon EC2(Amazon Elastic Compute Cloud)是一种可在云计算环境中提供具有可伸缩行的计算能力的Web服务.通过使用Amazon EC2,我们只需用很低的成本就可以轻松地体验到完全分布式运行的HBase的运行模式.本书中用来展示HBase各种管理操作的所有服务器都运行在Amazon EC2上. 本节将介绍如何安装Amazon EC2环境,这是在EC2上安装HBase的准备工作.我们将建立在Amazon EC2上一个名称服