您好,欢迎来电子发烧友网! ,新用户?[免费注册]

您的位置:电子发烧友网>源码下载>其它程序>

GO语言的可靠性和持久性

大小:0.09 MB 人气: 2017-09-28 需要积分:1

  作者在本文介绍了Dropbox公司是如何开启探索使用Go语言之路的,在探索的过程中遇到了哪些问题,从结果来看证明了Go语言的可靠性和持久性。以下为译文。

  

  Tammy Butow(@tammybutow)是Dropbox基础架构开发团队的工程经理。Tammy管理着代码工作流——包括了Dropbox内使用Go从编码到上线的整个过程。她在2017年的GopherCon大会上谈到了Dropbox的工程师是如何使用Go语言建立和运行大型服务。

  注意:这篇文章记录了大会上的演讲内容。如果遗漏了什么,请在Twitter上告诉我(@sqs)。如果有错误,肯定是我描述的有问题;因为Tammy的演讲太棒了!

  Dropbox探索使用Go语言之旅

  Tammy引用了Rob Pike于2012年编写的谷歌Go语言:专为软件工程服务设计的编程语言》中的说法,解释了Go语言为何能够在Dropbox公司当中发挥重要作用:

  “Go语言非常高效,支持扩展,而且还能提高生产。一些程序员觉得使用Go进行工作很有趣;另一些人则认为它缺乏想象力,甚至枯燥乏味。本文我们将解释为什么这些对立的观点是不成立的。Go语言旨在解决谷歌在软件开发中所面临的问题,导致了这门语言并不是一门突破性的研究语言,但对于大型软件项目来说,它还是一个很优秀的工具。”——Rob Pike,2012年

  Dropbox的规模非常庞大:

  超过5亿个用户

  200000个商业客户

  500PB的用户数据

  数据EB GO存储系统

  因此,Dropbox对它们的系统、语言和工程师们有很高的要求。指导原则以及要求是:

  建立可靠的系统

  构建安全的系统

  将可靠性和安全性合并到初始设计中

  99.9999999999%(12个9)的可靠性

  99.99%的可用性

  Dropbox公司对Go语言的应用

  现在Dropbox的大多数基础架构都是用Go编写的。具体包括如下:

  Go服务器库拥有150名贡献者(来自总计500名工程师)

  Dropbox公司内部超过15个团队构建和运行Go服务

  在Dropbox公司内总共有130万行Go语言代码

  使用Go开发的关键系统包括:

  RAT:限速与限流工具

  HAT:memcached的替代方案

  AFS:一套用于替代全局Zookeeper的文件系统

  Edgestore:分布式数据库

  Bolt:消息传递

  DBmanager:用于对Dropbox的6000多个数据库进行自动化和监控

  “Jetstream”、“Telescope” 、分块路由以及更多……

  其中许多都是原本的非Go系统。

  Dropbox开始使用Go语言的原因是?

  Tammy分享了一些关于Dropbox是如何一步步使用Go语言的故事。

  Hack技术周成就Go速率限制器原型设计

  在一年的Hack技术周之前,Dropbox的工程师们针对各项服务分别进行限速与限流。所以Dropbox的一位工程师决定为这些事情建立一个公共服务的实现,因此RAT诞生了。

  最初的RAT原型是在4天内完成的,并在第5天进行演示。短短几周之后,RAT的大名在公司内部迅速扩散。另一位Dropbox工程师给Tammy的团队发了电子邮件,看看他们时如何在Python项目中使用RAT。整合过程进展的很顺利,采用率也逐渐在提升,RAT也变得越来越实用。现在,Dropbox的好几个团队都使用了RAT。

  DBmanager

  Dropbox公司拥有6000多个数据库,这样一个庞大的系统需要自动化和监控。在任意给定的时刻,数据库都在进行复制、故障转移以及通过副本进行主体升级等。

  为了管理这些问题,Dropbox的工程师建立了DBmanager,它是一套Web UI,可以快速查看所有6000多个数据库中发生的事情。它还将这些状态信息发布到其它系统中。

  Go语言升级版

  有了成百上千的工程师,Dropbox小心翼翼地进行Go语言各主要版本的升级工作。Tammy表示升级过程没有产生任何问题,过程非常顺利!

  下面来看一些有趣的事实:

  Dropbox最近完成了从1.5版升级到1.6版的生产服务。

  为了追踪升级过程,他们创建了一个简单的Dropbox文件文档,并让每个服务负责人汇报进展,并在必要时向他们寻求帮助。

  Dropbox将会跳过1.7版本,在1.6迁移完全完成(包括非生产服务)的情况下直接升级到1.8。

  Dropbox如何培训新工程师使用Go

  每个Dropbox工程师都经历了同样严格的培训过程,包括:

  阅读基础设施拓扑资料、Go语言风格指南以及Protobuf风格指南

  严格但友好的代码审查

  在Go中构建一个娱乐性质应用程序(应用程序商店)

  学习Bazel的构建和代码测试

  对于有经验的工程师来说,这个过程需要一个星期左右的时间。

  Dropbox的Go语言发展情况如何?有哪些缺点呢?

  总的来说,Dropbox的Go应用之路非常成功。

  使用Go语言以后富有成效。

  编写和使用服务变得很容易了。(人们喜欢做这两种事情!)

  Go语言标准库非常出色。

  调试工具(总体上)运行很好。

  一个关键的数据点是,Dropbox没有努力将服务从另一种语言改写为另一种语言,这表明人们对其相当满意。(Tammy确实抛出了一份有趣的信息:Dropbox公司也在部分使用Rust,但其并不属于Go的替代品。)

  Dropbox公司在使用Go语言时遇到哪些困难?

  Tammy证实称,Go语言最大的问题在于处理竞态条件。

  数据竞态类bug给调试、查询与修复等工作带来挑战。

  一些Dropbox的工程师特别善于发现这些,而其他工程师则依赖于他们的专业技能。

  Go数据竞赛检测器并不总是有用的。确定这种不起作用的情况非常重要。

  必须以审慎的态度设计需要对数据进行并发访问的Go程序。

  Dropbox雇佣了那些关心可靠性和持久性的工程师,因此他们亦应当有能力解决上述问题(尽管在任何地方,并发性都是非常困难的)。

非常好我支持^.^

(0) 0%

不好我反对

(0) 0%

      发表评论

      用户评论
      评价:好评中评差评

      发表评论,获取积分! 请遵守相关规定!