资讯专栏INFORMATION COLUMN

【开源】Tseer产品介绍

ruicbAndroid / 1111人阅读

摘要:并根据调用方指定的负载均衡策略将被调节点信息返给调用方。并且被调方信息缓存负载均衡以及失效节点剔除都在中完成。

作者: 钟科

一.TSeer简介

TSeer是一套服务注册发现容错的方案,是对Tars名字服务功能的轻量化。在腾讯浏览器、应用宝、管家、手机书城、腾讯文学、广点通等众多业务中广泛采用,目前日均承载百亿级的请求量。

TSeer轻巧灵便,对业务的侵入性低,非tars服务亦可无缝接入。在服务发现的核心功能之上,Tseer还支持多种负载均衡算法,提供可靠的故障容错策略,可有效解决业务跨地区跨机房调用等难题,极大提升服务的可用性和调用质量,是微服务框架中优秀的名字服务解决方案。

TSeer拥有web管理界面和API接入两种方式可供用户根据需求自由选择,通过代理节点和代理服务器机制为需要频繁发布变更的业务提供透明的服务发现功能,学习成本很低,操作也很方便,对于业务维护人员十分友好。

二.研发背景

在传统的单体式应用中,变更发布相对较少,系统中的网络位置也很少变化,偶尔的变更也可以通过手动更改配置的方式来应对。但是在当前海量服务的大环境下,这种架构已经无法高效稳定的支撑高速增长的业务。越来越庞大的分布式服务集群和微服务框架已经逐渐成为主流。

但是新型架构为业务提供更好支撑的同时,频繁的发布更新与动态伸缩也导致了网络位置的频繁变化,在这种情况下业务维护人员手动更改配置这种大规模重复性工作不仅增大了出错的风险,其低效也会限制业务的高速发展。往往配置还没改完,新的变更就需要发布了。所以就必须要一个自动化的服务发现工具来解决这些问题。

然而这些也并不是问题的全部。在保证访问成功的前提下,响应时间作为服务质量中最重要的指标,是影响业务发展最关键的一环。多业务集之间复杂的调用关系再加上跨地区跨网络调用等其他因素,响应时间达不到预期是持续困扰整个业务发展周期的棘手问题。与此同时,无论是采用物理机还是虚拟机,节点挂掉导致的不可用时有发生,如何有效容错也是亟待解决的问题。
基于这些问题,我们开发了TSeer。

三.TSeer架构


整个Tseer的结构分为四部分:TseerServer、业务客户端(主调)、业务服务端(被调)、web管理。

• TseerServer

TseerServer是整个Tseer的枢纽与核心模块。 当新节点上线时,需要先通过WEB管理平台在Tseer服务集群注册,将其网络位置信息记录在Tseer系统中。当需要对节点进行下线或者其他修改时,也需要在WEB管理平台就行相关操作。被调节点也会定时上报心跳给TseerServer,server端会屏蔽心跳超时的节点使其无法被调用。

• 业务客户端

业务客户端是需要调用其他服务的节点,称之为主调,是服务发现功能的使用者。 Tseer为业务客户端提供了:安装Agent与API调用两种方式来从TseerServer获得需要调用的服务(被调)的地址来完成调用。

• 业务服务端

业务服务端是需要被调用的节点,称之为被调,是服务的提供者。 当新节点上线时,被调需要在TseerServer注册。不论同一个被调服务集群有多少个节点,注册时该服务集群都需要注册一个统一的名字。主调在调用逻辑中只需要写明需要调用的服务的名字,Tseer会根据被调名字来返回被调地址。当被调需要扩容时,只需要把新节点加在该服务对应的名字下面即可。业务人员无需管理被调集群下繁多的服务节点信息,十分方便。

• Web管理

业务信息及节点路由信息的增删改查都是通过web管理界面操作,简便快捷直观。甚至agent安装包都可以通过web平台更新发布。详细使用方式可参考github上TSeer项目的使用文档。

四.Tseer功能的特点

1.负载均衡

当同一业务集群中某些节点被频繁调用而另一些节点没有承担合理的负载时,不仅业务的服务质量和响应时间会大幅下降,同时也会造成资源的浪费。

Tseer系统中,当主调发起调用时,会针对被调名字下所有可用节点为调用提供四种负载均衡方式来保障各个节点的合理负载,分别是

• 轮询

• 随机

• 静态权重

• 一致性哈希

用户还可以使用调用分组的方式来自定义负载均衡实现,调用分组会在下文中提到。

2.故障容错

为了解决节点故障导致的业务不可用与服务质量降低,Tseer还提供了可靠的故障容错机制。

当主调进行一次调用之后,会将调用结果上报。如果调用失败Tseer会暂时将该节点屏蔽来避免故障节点被反复调用,Tseer会定时探测被屏蔽的节点,当发现故障节点恢复服务时,会重新将其激活。

对于任意被调节点,满足下列条件之一则屏蔽该节点:

1.在一个检测周期(60秒)内调用失败次数达到2次,且调用错误数占总调用次数的50%以上

2.在5秒内连续调用失败5次以上

对于被屏蔽的节点Tseer Agent/Api将每隔30秒对已屏蔽的节点进行重试。

同时当Tseer故障时,主调也能根据缓存信息继续调用。

3.调用优化

Tseer为调用逻辑提供IDC分组、Set分组、All三种方式来解决跨地区调用等问题。

• All

为主调提供所有可用被调节点地址

• IDC分组

IDC分组可以近似的看作就近接入。

该方法按照两个层次进行划分。第一个是物理小组,是最小的组调度单位,即按照节点所在的机房或者区域分配统 一的组名。第二个是物理小组组成的逻辑组,可以理解为按照更大的区域来划分的统一的组名。

针对IDC的逻辑分组,Tseer还定义了调用优先级策略。即部分逻辑组不可用时,会按照优先级策略返回可用被调节点地址列表。

• Set分组

IDC分组主要是在区域概念上去划分分组,实现就近访问策略,在后台服务架构中,业务规模达到一定数量时,如果要对某几个服务节点实现根据容量、灰度,分区域管理的隔离控制,IDC分组是无法满足的,而Set分组则是对IDC分组的再细化。

Set分组的命名规则为: Set名.Set地区.Set组。其中Set组是最小区分单元的名称,支持通配符*,表示Set地区下的所有分组。比如0,1,2,3,4或者a,b,c,d。

Set分组的调用逻辑如下:

1.主调(客户端)和被调(服务端)都启用了Set分组,并且Set名要一致才认为是启用同SET内

2.启用Set分组的主调和被调只能访问同Set内的节点

3.主调启用Set分组,被调没有启用Set分组,则默认会走按IDC分组查询的逻辑(前提是启用了IDC分组)

4.两种接入方式

根据服务客户端是否在其物理机中部署Tseer Agent,Tseer的使用方式可以分为Agent 和Tseer API两种方式:

• Agent 方式

名字路由

Agent 方式下,Tseer Agent会定期缓存被调方的信息。并根据调用方指定的负载均衡策略将被调节点信息返给调用方。如果调用方希望通过服务特性来实现负载均衡,Tseer也支持按照调用方指定的分组策略将被调的组信息返给调用方。

数据上报

每次调用完成后,调用方需要调用Tseer Api提供的上报接口上报调用信息,调用信息将由Tseer Api即使上报至Tseer Agent。Tseer Agent将根据调用信息剔除失效被调节点。

容错 使用Agent 方式时,如果Tseer Agent失效,Tseer Api将会从内存中返回已访问过的节点给主调,如果Tseer Api缓存失效,此时Tseer Api将会从本地磁盘中的缓存文件恢复缓存信息提供给主调。需要注意的是此时Tseer Api提供给主调服务的信息为有损信息,Tseer Api不保证节点一定健康。

• Tseer Api方式

名字路由

Agent 方式与Tseer Api方式的区别在于是否需要在主调的宿主机中部署Tseer Agent。Tseer Api会直接访问Tseer server。并且被调方信息缓存、负载均衡以及失效节点剔除都在Tseer Api中完成。

Tseer Api会定时拉取Tseerserver的后端信息并屏蔽不可用的被调节点。

容错

Tseerserver故障时,Tseer Api会将内存中缓存的信息返回给主调。当内存缓存不可用时,Tseer Api将会用本地磁盘中的缓存恢复内存缓存。

Agent Api方式 与Tseer Api方式对比

结语

TSeer是一套服务注册发现容错的方案,是对Tars名字服务功能的轻量化,轻巧灵便,对业务的侵入性低。在服务发现的核心功能之上,Tseer还支持多种负载均衡算法,提供可靠的故障容错策略,可有效解决业务跨地区跨机房调用等难题,极大提升服务的可用性和调用质量,是微服务框架中优秀的名字服务解决方案。

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/61973.html

相关文章

  • 持续开放,腾讯TARS、TSeer助力Linux建设开源社区

    摘要:在本届大会上,腾讯宣布将其两大自研开源项目高性能开发框架,及其轻量化名字服务方案贡献给基金会。 6月25日,Linux 基金会,集结世界顶级开发者的非营利开源组织,宣布腾讯正式成为Linux基金会白金会员。这意味着,腾讯继今年3月成为LF深度学习基金会初始白金会员后,进一步与Linux基金会深入协作,持续助力中国开源社区的创新发展。 25日, LC3(LinuxCon + Contai...

    kid143 评论0 收藏0
  • 从用户成为“股东” —— 在 Apache 基金会的 2600 天

    摘要:从用户成为股东在基金会的天从年开始为的初始版本打补丁,堵俊平已经在社区深耕了近年,年月成为中国第一个的年月,年月荣升。他们有权选举董事会,成为董事会选举的候选人。基金会成员对基金会直接负责,在多个项目中做出贡献,拥有董事会的投票权。 3月27日,腾讯云大数据及人工智能产品研发的专家研究员堵俊平受邀成为 Apache 软件基金会Member(Apache Softeware Founda...

    scola666 评论0 收藏0
  • 腾讯荣升Linux基金会白金会员助力支持开源社区

    摘要:年月日,基金会,集结世界顶级开发者的非营利开源组织,宣布腾讯成为基金会的最新白金会员。刘昕腾讯开源顾问基金会董事刘昕表示我们很荣幸能成为基金会的白金会员。基金会已注册并使用商标。 2018年6月25日,Linux 基金会,集结世界顶级开发者的非营利开源组织,宣布腾讯成为基金会的最新白金会员。 在开源领域,腾讯的贡献正逐步增长,日益成为社区活跃一员。在与社区机构互动上,腾讯广泛联动Li...

    Thanatos 评论0 收藏0
  • #私藏项目实操分享# 介绍一款开源电商网站的购物车添加功能的实现

    摘要:目前电商领域有两款比较出名的开源电商网站解决方案,分别是基于开发框架,代号为的开源项目,以及基于的作为开源项目的开发成员之一,今天我想通过本文,给大家介绍一下我们平时购物时最常使用到的功能之一,添加产品到购物车的技术实现。 目前电商领域有两款比较出名的开源电商网站解决方案,分别是基于 Angular 开发框架,...

    不知名网友 评论0 收藏0
  • 产品概述 智能大数据平台 USDP

    摘要:产品概述产品概述产品概述本篇目录产品特点产品特点功能简介功能简介操作指南操作指南开发指南开发指南任务调度任务调度产品价格产品价格简称,是推出的云上智能化轻量级的大数据基础服务平台,能够帮您快速构建起大数据的分析处理能力。 产品概述本篇目录产品特点功能简介操作指南开发指南任务调度产品价格UCloud Smart Data Platform(简称 USDP),是 UCloud 推出的云上智能化、...

    ernest.wang 评论0 收藏441

发表评论

0条评论

最新活动
阅读需要支付1元查看
<