Spotify编目微服务经验

本文讲的是Spotify编目微服务经验【编者的话】Spotify作为一家大规模采用了微服务架构的公司,运行着成百上千的微服务,如何有效地治理微服务生态系统?本文从微服务编目的角度,给大家带来了一些可供借鉴的经验。

天下没有免费的午餐,几乎所有的技术和架构选型都有利有弊。ThoughtWorks的Martin Fowler和他的同事们写了一写关于使用微服务架构时权衡利弊的好文章。本文将以Spotify的软件编目系统为例,详细介绍这篇文章中并未涉及的一个重要问题。

微服务架构的一个优点是可以通过强壮的模块边界和独立部署,来帮助你快速地扩展开发团队。因此你可以通过增加团队的数量来加快服务的开发。不过这就像计算机科学中的很多好东西一样,它也是一把双刃剑,因为具有快速扩展服务的能力也就意味着会有更多的服务被开发出来。当你拥有一个包含很多小型服务的大生态系统时,尽管每个服务都非常简单,大量的服务也意味着完全理解生态系统会非常的困难。

Spotify目前大约有100个团队,他们各自独立构建、部署和运行微服务。登记在册的服务大约有1600个,服务发现系统中注册了大约1000个(关于这种差异的详细信息,请见下文),这意味着我们已经无法通过口口相传来找到谁负责一个服务以及它起什么作用了。于是我们使用了名为System-Z的内部工具对我们的服务进行编目。

System-Z:软件编目工具系统

System-Z包括一组微服务(很显然)和一个Web UI(见右上)。

System-Z的核心是一个称为“sysmodel”的服务,它跟踪我们生态系统中各种微服务的静态配置元数据。这个信息与任何文档都有相同的问题:能提供它的人或者团队不是能从中获益最大的。由于它关乎Spotify整体服务的质量,所以我们鼓励团队保持他们的服务元数据是最新的,例如:

  1. 将元数据与代码一起存储,可以清楚地突显元数据和代码的所有者。
  2. 如果元数据良好,可以更方便地使用工具来管理服务。
  3. 如果数据维护不及时,将显示警告和提示,促使工程师的强迫症来维护它。

为了自然地获取一些动态数据(运行位置、当前版本等),并提高一些数据的可靠性(其他服务实际调用情况等),我们还通过轮询方式来获取实例的运行时数据。这些元数据会通过我们的后端框架Apollo来创建并发布。

System-Z也已经成为了大多数用于管理后端服务工具的基础,并且大多数这些工具倾向于建立在sysmodel服务提供的数据之上。

模型

在sysmodel数据模型中,一些核心的概念包括:

  1. 软件组件(Software component) ,虽然System-Z和sysmodel是为了支持我们的微服务而开发的,但我们不仅用来跟踪微服务,还包括数据处理管道、库以及像Jenkins这种第三方工具等。
  2. 角色(Role) ,角色是一种我们扩展到一定数量的用户,或者部署一定数量的可用区到指定的地理位置等的功能。例如“登录”,这个允许Spotify的用户可以登录。角色通常在(虚拟)主机上实例化,并且需要一个或多个组件在主机上运行才能工作。角色通常水平缩放到足够数量的主机。Kubernetes Pod就是这个概念很好的例子。
  3. 项目(Project) ,一组相关的角色,例如“登录”角色和包含用户数据的存储。
  4. 模板(Recipe), 为了运行一个角色,必须在主机上同时安装软件组件的描述,例如Kubernetes pod模板就是这个很好的实现示例。
  5. 发现名称(Discovery name) ,为了表示微服务之间的依赖关系,我们使用发现名称。这允许我们间接做一些事情,例如在现有服务之前插入代理,用于缓存、升级和灰度上线,在不停机的情况下进行改进。部署的组件可以注册0到多个发现名称。
  6. 所有者(Owner) ,在我们目录中关于软件最常问到的一个问题是:“是谁的服务?”,因为知道所有者,就可以去问他,如何用这个服务来做某事了。

sysmodel服务读取的数据实际格式为自由格式的YAML,这意味着用户可以根据自己的需要自由添加自己服务的元数据。当我们在2015年5月启动它的时候,我们决定在Spotify中公开sysmodel服务。在2016年9月回顾它时,我们发现了至少18个不同的使用案例,从业务规则定义的服务器访问控制(X服务的拥有者团队将获得Y服务器的登录权限),到自动更新各个团队的监控面板。大多数sysmodel服务提供数据的使用方式是我们构建它时没有预料到的。

结论

微服务架构给团队和开发者带来的很大的自由,它允许分散地创建许多小的组件,这大大提高了实验和学习的速度,但是也导致了软件数量的增加,这反过来让整个软件生态系统变得难以理解:什么应该在那里?谁拥有它?如何宏观地看到它们?是否可以弃用它?System-Z这样的微服务编目系统可以简化理解,也可以作为与后端系统一起工作的其他工具的基础。

原文链接:Cataloging Microservices(翻译:刘思贤)

===========================================
译者介绍

刘思贤 ,爱油科技架构师,PMP,关注互联网相关技术与软件项目管理,是一名DevOps实践者,乐于整理和分享一些实践经验。

原文发布时间为:2017-01-07

本文作者:刘思贤

原文标题:Spotify编目微服务经验

时间: 2024-09-13 21:32:51

Spotify编目微服务经验的相关文章

微服务部署面临的挑战

以前,我们邀请几位嘉宾讨论了他们在开发微服务时遇到的挑战,比如Fred George或Dustin Huptas和Andreas Schmidt.近日,Usman Ismail参加了一场小组会议,讨论了微服务持续交付面临的挑战,并决定随后详述其中的部分重点内容.他首先讨论了微服务其中一个基本原则的缺点,那允许大型团队通过快速原型和迭代以一种更加敏捷的方式推进(软件)开发: 不过,微服务显著增加了开发团队的运维和工具负担.每个服务都需要一个部署管道.一个监控系统.自动报警.轮流电话值班,等等.对于

REST真的完全适合微服务架构吗?

本文讲的是REST真的完全适合微服务架构吗,[编者的话]作者根据自己的微服务经验,提出REST并不是微服务的唯一通信机制,从而介绍了微服务的几种通信机制,包括REST.管道以及基于异步消息传递.同时,作者提出了在不同的场景下可以使用不同的通信机制. 在我接触微服务的这段时间,大部分关于如何安装部署微服务的线上样例或文章都一致认为REST是微服务之间通信的唯一方式.因此,你可能理所当然地认为REST就是微服务的一种标准,并且是设计与实现微服务系统一种方式.然而,并非如此. REST 基于REST的

从面向服务架构(SOA)学习:微服务时代应该借鉴的5条经验教训

[编者按]本文作者为 Matt McLarty,通过介绍 SOA 的兴衰变化,总结了微服务应该借鉴的5条经验教训.文章系国内 ITOM 管理平台 OneAPM 编译呈现. SOA 的兴衰变化让我们更了解如何充分利用微服务 正如笔者在上文<微服务架构是敏捷软件架构>中提到的,笔者对微服务架构的第一反应,就是质疑它跟面向服务架构(SOA)有何区别.还有很多人将这两种架构联系在一起.詹姆斯·刘易斯和马丁·福勒在他们的权威博客中包含了一个侧边栏,进行微服务和 SOA 的对比.对此,怀疑派做出的回应是二

DockOne微信分享(九十七):现有系统实施微服务架构改进经验分享

本文讲的是DockOne微信分享(九十七):现有系统实施微服务架构改进经验分享[编者的话]微服务是最近非常热门的话题了,它带来的好处吸引不少互联网公司对现有项目进行微服务架构改进. 本次分享是博主根据自身的项目经验,介绍如何对现有架构进行调整,总结这过程中的相关技术选型,以及如何实施技改,并分享最终取得的非常让人意外的成果. 大家好,我是凤凰牌老熊,很高兴能有机会和大家交流关于微服务系统建设相关的话题. 近期和微服务相关的话题非常地火,大家看到的各种开发技术网站,微服务都是一个热门的话题. 今天

为什么公司采用微服务以及他们如何获取成功

本文讲的是为什么公司采用微服务以及他们如何获取成功[编者的话]微服务架构设计是最近讨论最热的话题.随着最近几年互联网行业的迅猛发展,随着公司或者组织业务的不断扩张,需求不断的增加以及用户量的不断增加,单块架构的优势已逐渐无法适应互联网时代的快速变化,面临着越来越多的挑战.我们是否要开始使用微服务架构来避免单体式架构带来的挑战?微服务架构真的是我们想要的吗?什么样的场景应该拥抱微服务架构?本文从非技术的角度阐述了对微服务的理解,为什么公司选择微服务架构设计,以及分享使用微服务架构的成功经验. 这篇

微服务架构设计 (一): 核心概念

微服务设计是架构设计. 所以, 微服务设计不应是一个讲求标准答案, 简单粗暴的设计过程.而应该是一个考量各方因素下的一个决策的过程. 所以, 在探讨微服务设计前, 我们先来探讨下, 所谓的微服务具体应包含哪些核心的概念? I. 分布式 (Distributed): 微服务与微服务间分布式调用最主要的概念便是: protocol-aware heterogeneous interoperability; 各微服务可各自拥有自身的 platform (Java,C#, Scala-等等), 但, 各

微服务的4大设计原则和19个解决方案

作者|郝炎峰 编辑|小智 本文将介绍微服务架构的演进.优缺点和微服务应用的设计原则,然后着重介绍作为一个"微服务应用平台"需要提供哪些能力.解决哪些问题才能更好的支撑企业应用架构. 注:本文转载自公众号 EAWorld,已获授权. 写在前面 微服务架构现在是谈到企业应用架构时必聊的话题,微服务之所以火热也是因为相对之前的应用开发方式有很多优点,如更灵活.更能适应现在需求快速变更的大环境. 微服务平台也是我目前正在参与的,还在研发过程中的平台产品,平台是以 SpringCloud 为基础

微服务的4个设计原则和19个解决方案

微服务架构现在是谈到企业应用架构时必聊的话题,微服务之所以火热也是因为相对之前的应用开发方式有很多优点,如更灵活.更能适应现在需求快速变更的大环境. 本文将介绍微服务架构的演进.优缺点和微服务应用的设计原则,然后着重介绍作为一个"微服务应用平台"需要提供哪些能力.解决哪些问题才能更好的支撑企业应用架构. 微服务平台也是我目前正在参与的,还在研发过程中的平台产品,平台是以SpringCloud为基础,结合了普元多年来对企业应用的理解和产品的设计经验,逐步孵化的一个微服务应用平台. 一.微

SoundCloud:我们最终是如何使用微服务的?

本文讲的是SoundCloud:我们最终是如何使用微服务的,[编者的话]很多的技术文章着重介绍的都是项目后总结出的最佳实践,本文从另外的角度,介绍项目中解决问题的整个探索过程,详细讲述了在最终使用微服务架构之前所做的种种分析和尝试,这对于正在尝试解决问题的技术人员来说有很大的启示作用. 微服务是近期的热点. 当我在SoundCloud工作时,负责从一个巨大的Ruby on Rails应用程序里迁移到众多的微服务上.我已经多次讲述这个过程的技术问题了,在演讲里,也在SoundCloud的工程师博客