使用 pinpoint 进行微服务数据统计

1，关于pinpoint

Pinpoint 是用 Java 编写的 APM（应用性能管理）工具，用于大规模分布式系统。Pinpoint 提供了一个解决方案，以帮助分析系统的总体结构以及分布式应用程序的组件之间是如何进行数据互联的。

能够非常方便的查询分布式系统之间的调用。比如常用的dubbo服务，grpc服务。支持大多数的java调用框架。

pinpoint 有以下几个特点：

分布式事务跟踪，跟踪跨分布式应用的消息

自动检测应用拓扑，帮助你搞清楚应用的架构

水平扩展以便支持大规模服务器集群

提供代码级别的可见性以便轻松定位失败点和瓶颈

2，以docker方式安装

2.1，安装hbase

按照docker的方式安装hbase
hbase最新的稳定版本是：1.2.6
下载hbase dockerfile：

FROM docker.io/java:8-jre-alpine

RUN echo -e "http://mirrors.aliyun.com/alpine/latest-stable/main\n\
http://mirrors.aliyun.com/alpine/latest-stable/community" > /etc/apk/repositories

RUN apk update && apk add tzdata bash && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone

ADD hbase /opt/hbase

COPY docker-entrypoint.sh /opt/docker-entrypoint.sh
COPY replace-hostname.sh /opt/replace-hostname.sh

# REST API
EXPOSE 8080
# REST Web UI at :8085/rest.jsp
EXPOSE 8085
# Thrift API
EXPOSE 9090
# Thrift Web UI at :9095/thrift.jsp
EXPOSE 9095
# HBase's Embedded zookeeper cluster
EXPOSE 2181
# HBase Master web UI at :16010/master-status;  ZK at :16010/zk.jsp
EXPOSE 16010

VOLUME /data
WORKDIR  /opt

ENV PATH=$PATH:/opt/hbase/bin

ENTRYPOINT ["/opt/docker-entrypoint.sh"]

hbase的配置文件：

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>hbase.zookeeper.quorum</name>
        <value>hbase-docker</value>
    </property>
    <property>
        <name>hbase.rootdir</name>
        <value>file:////data/hbase</value>
    </property>
    <property>
        <name>hbase.zookeeper.property.dataDir</name>
        <value>/data/zookeeper</value>
    </property>
    <property>
        <name>hbase.master.info.bindAddress</name>
        <value>hbase-docker</value>
    </property>
    <property>
        <name>hbase.regionserver.info.bindAddress</name>
        <value>hbase-docker</value>
    </property>
</configuration>

hbase的zookeeper 配置文件：

clientPort=2181
clientPortAddress=hbase-docker
server.1=hbase-docker:2181

在启动之前要替换掉 hbase-docker 的参数，修改成docker自己的主机名称。

declare -a files=(
        '/opt/hbase/conf/hbase-site.xml'
        '/opt/hbase/conf/zoo.cfg'
)

for file in "${files[@]}"; do
        if [ -f "${file}.bak" ]; then
                cp "${file}.bak" "${file}"
        else
                cp "${file}" "${file}.bak"
        fi
        sed -i "s/hbase-docker/${HOSTNAME}/g" "${file}"
done

最后启动hbase服务：docker-entrypoint.sh

#!/bin/sh

set -e

logs_dir=/data/logs

mkdir -p $logs_dir /data/hbase /data/run

# Thrift server (background)
# Ports: 9090 API and 9095 UI
echo "hbase thrift start logging to $logs_dir/hbase-thrift.log"
hbase thrift start > $logs_dir/hbase-thrift.log 2>&1 &

# REST server (background)
# Ports: 8080 API
echo "hbase rest start logging to $logs_dir/hbase-rest.log"
hbase rest start > $logs_dir/hbase-rest.log 2>&1 &

# Master server (Foreground) that also starts the region server
# Ports: Master: 16000 API, 16010 UI; 2181 ZK;  Region: 16020 API, 16030 UI
echo "hbase master start logging to $logs_dir/hbase-master.log"
exec hbase master start 2>&1 | tee $logs_dir/hbase-master.log

只要hbase启动成功了后面的配置就简单多了。

2.2，安装collector

collector 直接从 pinpoint的下载war包，然后解压缩即可。
下载一个tomcat8的二进制，拷贝collector到ROOT下面即可。

FROM docker.io/java:8-jre-alpine

RUN echo -e "http://mirrors.aliyun.com/alpine/latest-stable/main\n\
http://mirrors.aliyun.com/alpine/latest-stable/community" > /etc/apk/repositories

RUN apk update && apk add tzdata bash && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone

ADD tomcat8 /tomcat8

COPY pinpoint-collector /tomcat8/webapps/ROOT

ENV HBASE_IP localhost
ENV HBASE_HOST hbase-name

EXPOSE 8080
EXPOSE 9994
EXPOSE 9995
EXPOSE 9996

COPY start.sh /start.sh

ENTRYPOINT ["/start.sh"]

需要特殊说明的就是环境变量参数是hbase的主机名称和ip。
hbase是通过主机名称访问的。

start.sh :

#!/bin/sh
LOGS_DIR="/data/logs"
if [ ! -d $LOGS_DIR ]; then
    mkdir -p ${LOGS_DIR}
fi
echo "${HBASE_IP} ${HBASE_HOST}" >> /etc/hosts
/tomcat8/bin/catalina.sh run  > $LOGS_DIR/tomcat.log 2>&1

要修改 pinpoint-collector/WEB-INF/classes/ 下的hbase.properties 和 pinpoint-collector.properties
两个文件中的hbase地址。

这里需要特别注意的是collector的端口一共有3个。
9994是tcp端口9995，9996是udp端口。要保证这些是通的。
在haproxy是不支持udp的。要使用其他方式如ku8-proxy等进行代理。

2.3，安装web

和安装collector类似，都放到tomcat的ROOT目录下面。

FROM docker.io/java:8-jre-alpine

RUN echo -e "http://mirrors.aliyun.com/alpine/latest-stable/main\n\
http://mirrors.aliyun.com/alpine/latest-stable/community" > /etc/apk/repositories

RUN apk update && apk add tzdata bash && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone

ADD tomcat8 /tomcat8

COPY pinpoint-web /tomcat8/webapps/ROOT

ENV HBASE_IP localhost
ENV HBASE_HOST hbase-001

COPY start.sh /start.sh
EXPOSE 8080

ENTRYPOINT ["/start.sh"]

要修改 pinpoint-collector/WEB-INF/classes/ 下的hbase.properties 和 pinpoint-web.properties
两个文件中的hbase地址。

启动脚本也是一样的。要启动hbase，
再执行 hbase shell init-hbase.txt 创建hbase表。
然后再启动collector，web就可以访问了。
docker的方式构建脚本，搭建环境还是非常的方便的。尤其是用alpine，打成的镜像都很小。

2.4，构建agent

下载 pinpoint-agent zip。然后修改启动参数：
比如将pinpoint-agent 放到了 /opt/pinpoint 目录下了。

JAVA_OPTS=" -Duser.timezone=\"Asia/Shanghai\" -Djava.awt.headless=true -Djava.net.preferIPv4Stack=true"

PINPOINT_OPTS=" -javaagent:/opt/pinpoint/pinpoint-bootstrap-*.jar -Dpinpoint.agentId=store-demo-agent01 \
    -Dpinpoint.applicationName=store-demo"

java -jar ${JAVA_OPTS} ${PINPOINT_OPTS} /opt/store-demo-*.jar

设置好pinpoint.agentId 和pinpoint.applicationName 两个参数。
再自动就可以了。

启动之前要替换pinpoint collector的ip：

sed -i -e "/profiler.collector.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config
sed -i -e "/profiler.collector.span.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config
sed -i -e "/profiler.collector.stat.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config
sed -i -e "/profiler.collector.tcp.ip/ s/=.*/=$PINPOINT_COLLECTOR_IP/" /opt/pinpoint/pinpoint.config

PINPOINT_COLLECTOR_IP 是collector的ip。要保证能访问 9994 的tcp，和 9995 9996 的udp端口。
否则只能注册而不能看到数据。udp端口是负责收集数据的。

3，数据收集效果

对于微服务框架来说，pinpoint还是非常的能直观的表现出调用的拓扑图。
并且开可以查看调用成功失败的情况。能实时的展示。

4，总结

本文的原文连接是: http://blog.csdn.net/freewebsys/article/details/75365049 未经博主允许不得转载。
博主地址是：http://blog.csdn.net/freewebsys

构建pinpoint的麻烦的地方在于搭建起hbase。
使用docker的方式能大大的减少搭建的工作量。hbase搭建好了，pinpoint搭建就方便多了。启动两个tomcat就行。一负责收集，一个负责web的展示。两个互不影响。

pinpoint的页面还是非常的酷炫的。对于分布式的微服务管理监控起来非常的方便。
hbase也能很好的支持海量的日志数据。算是一个比较成熟的解决方案。

项目是开源的，而且是比较友好的 Apache License 2.0 开源协议。
如果想做二次开发直接修改web 就可以改界面。

时间： 2024-10-27 04:40:09

使用 pinpoint 进行微服务数据统计的相关文章

微服务架构设计（五）：获取微服务数据, 生成报表

架构师在设计从多个微服务取数据, 而生成报表的架构设计方案时, 往往面临著需在边界上下文 (Bounded Context), 数据的时效性, 性能, 可靠性与开发的复杂度间作取舍. 从多个微服务取数据, 而生成报表的设计方案, 主要是参考: Enterprise Integration Patterns; Hohpe and Woolf. A. Database Pull Model (Shared DataIntegration Style): 直接至各微服务所拥有的数据库中获取数据, 并写

基于微服务和Docker容器技术的PaaS云平台架构设计

本文讲的是基于微服务和Docker容器技术的PaaS云平台架构设计[编者的话]在系统架构上,PaaS云平台主要分为微服务架构.Docker容器技术.DveOps三部分,这篇文章重点介绍微服务架构的实施. [3 天烧脑式容器存储网络训练营 | 深圳站]本次培训以容器存储和网络为主题,包括:Docker Plugin.Docker storage driver.Docker Volume Pulgin.Kubernetes Storage机制.容器网络实现原理和模型.Docker网络实现.网络插件.

【行业观点】如何为微服务选择正确的数据库

微服务成为基础设施建设重点的原因在于它提供了服务分离.数据自主存储.小型化开发.测试可设置等优势,这有助于新应用程序更快地上市或迭代更新.此外,容器和容器编排工具也增加了对微服务的使用频率.微服务的核心摒弃了传统架构,这使得它在服务之间共享一个单一的数据库.相比于传统的服务架构,微服务架构的每个微服务单元都具有独立.自主.专用的数据存储单元. 以一个电子商务解决方案为例,如图所示,该方案采用的服务包括:应用服务器.内容缓存.会话存储.产品目录.搜索发现.订单处理.订单跟踪和数据分析等等.现代电子

融数数据基于DevOps的微服务架构演进之路

主题:互联网架构  融数数据基于DevOps的微服务架构演进之路 - 融数数据CTO  王东 讲师介绍 王东: 现任融数数据北京研发中心CTO,负责公司大数据平台.微服务框架以及DevOps平台的研发工作:  毕业于天津大学,毕业后一直从事软件相关研发和架构设计工作,曾经在普元软件任资深架构师.IBM GBS任咨询经理.亚马逊任架构师等,后加入创业公司,从事研发和管理工作:  热爱编程,喜欢钻研新技术,对于微服务.企业架构.大数据以及DevOps有浓厚的兴趣.  谈谈微服务 近年来微服务热度逐渐

【转】微服务MySQL分库分表数据到MongoDB同步方案

需求背景 近年来,微服务概念持续火热,网络上针对微服务和单体架构的讨论也是越来越多,面对日益增长的业务需求是,很多公司做技术架构升级时优先选用微服务方式.我所在公司也是选的这个方向来升级技术架构,以支撑更大访问量和更方便的业务扩展. 发现问题 微服务拆分主要分两种方式:拆分业务系统不拆分数据库,拆分业务系统拆分库.如果数据规模小的话大可不必拆分数据库,因为拆分数据看必将面对多维度数据查询,跨进程之间的事务等问题.而我所在公司随着业务发展单数据库实例已经不能满足业务需要,所以选择了拆分业务系统同时

在微服务中如何管理数据

来自Stitch Fix团队的工程副总裁Randy Shoup在QCon纽约2017会议上讨论了如何在基于微服务的应用中管理数据和隔离持久化.他还介绍了将事件(Event)作为微服务的第一类构造.他介绍自己的团队将机器学习技术应用到了业务的各个组成部分,比如购买.库存管理以及风格推荐等. 个性化推荐会基于库存运行机器学习,从而创建出推荐的算法.这些推荐算法随后会被全国范围内的设计师所监管,从而形成个性化风格的推荐. 微服务架构是渐进演化的.像eBay.Twitter和Amazon这样的组织都经历

Christian Posta谈如何处理微服务的数据

人们之所以会采用微服务架构,一个非常重要的原因就是这种架构允许不同的团队分工协作,各自推进,互不影响.那么怎样做才能实现微服务架构呢?最近Red Hat的首席中间件架构师.开源爱好者和Apache代码提交者Christian Posta在博客上发表了一篇文章分享了自己的看法,他认为单纯地使用Spring Boot.Dropwizard或者Docker并不意味着你已经走在了微服务的路上,要真正地实现微服务,必须要深入理解领域和数据. 对于数据,有人认为每一个微服务都应该拥有并控制自己的数据库,任意

微服务和容器所引发的数据中心变革

软件定义基础架构.微服务和容器正在逐渐改变数据中心的构建和运行方式,未来的数据中心将会更加高效并且易于使用. 软件定义基础架构.微服务和容器是当前IT领域最为热门的话题,这些技术对数据中心的构建和运行方式产生了颠覆式影响,并且能够提升系统性能.弹性以及易用性.数据中心正在从传统的死板架构转换为更加灵活和快速响应的全新架构,甚至成为快速资源分配的发起者. 软件定义基础架构的概念并不复杂.比如,通过软件定义数据位于存储中的哪个部分,之后创建一个全新VLAN,将代码移动到虚拟机中形成一系列微服务.这些

从 Spring Cloud 开始，聊聊微服务架构实践之路

本文讲的是从 Spring Cloud 开始,聊聊微服务架构实践之路[编者的话]随着公司业务量的飞速发展,平台面临的挑战已经远远大于业务,需求量不断增加,技术人员数量增加,面临的复杂度也大大增加.在这个背景下,平台的技术架构也完成了从传统的单体应用到微服务化的演进. 系统架构的演进过程 单一应用架构(第一代架构) 这是平台最开始的情况,当时流量小,为了节约成本,并将所有应用都打包放到一个应用里面,采用的架构为 .NET SQL Server: 表示层:位于最外层(最上层),最接近用户.用于显示数