GO语言的可靠性和持久性
作者在本文介绍了Dropbox公司是如何开启探索使用Go语言之路的,在探索的过程中遇到了哪些问题,从结果来看证明了Go语言的可靠性和持久性。以下为译文。
Tammy Butow(@tammybutow)是Dropbox基础架构开发团队的工程经理。Tammy管理着代码工作流——包括了Dropbox内使用Go从编码到上线的整个过程。她在2017年的GopherCon大会上谈到了Dropbox的工程师是如何使用Go语言建立和运行大型服务。
注意:这篇文章记录了大会上的演讲内容。如果遗漏了什么,请在Twitter上告诉我(@sqs)。如果有错误,肯定是我描述的有问题;因为Tammy的演讲太棒了!
Dropbox探索使用Go语言之旅
Tammy引用了Rob Pike于2012年编写的谷歌Go语言:专为软件工程服务设计的编程语言》中的说法,解释了Go语言为何能够在Dropbox公司当中发挥重要作用:
“Go语言非常高效,支持扩展,而且还能提高生产。一些程序员觉得使用Go进行工作很有趣;另一些人则认为它缺乏想象力,甚至枯燥乏味。本文我们将解释为什么这些对立的观点是不成立的。Go语言旨在解决谷歌在软件开发中所面临的问题,导致了这门语言并不是一门突破性的研究语言,但对于大型软件项目来说,它还是一个很优秀的工具。”——Rob Pike,2012年
Dropbox的规模非常庞大:
超过5亿个用户
200000个商业客户
500PB的用户数据
数据EB GO存储系统
因此,Dropbox对它们的系统、语言和工程师们有很高的要求。指导原则以及要求是:
建立可靠的系统
构建安全的系统
将可靠性和安全性合并到初始设计中
99.9999999999%(12个9)的可靠性
99.99%的可用性
Dropbox公司对Go语言的应用
现在Dropbox的大多数基础架构都是用Go编写的。具体包括如下:
Go服务器库拥有150名贡献者(来自总计500名工程师)
Dropbox公司内部超过15个团队构建和运行Go服务
在Dropbox公司内总共有130万行Go语言代码
使用Go开发的关键系统包括:
RAT:限速与限流工具
HAT:memcached的替代方案
AFS:一套用于替代全局Zookeeper的文件系统
Edgestore:分布式数据库
Bolt:消息传递
DBmanager:用于对Dropbox的6000多个数据库进行自动化和监控
“Jetstream”、“Telescope” 、分块路由以及更多……
其中许多都是原本的非Go系统。
Dropbox开始使用Go语言的原因是?
Tammy分享了一些关于Dropbox是如何一步步使用Go语言的故事。
Hack技术周成就Go速率限制器原型设计
在一年的Hack技术周之前,Dropbox的工程师们针对各项服务分别进行限速与限流。所以Dropbox的一位工程师决定为这些事情建立一个公共服务的实现,因此RAT诞生了。
最初的RAT原型是在4天内完成的,并在第5天进行演示。短短几周之后,RAT的大名在公司内部迅速扩散。另一位Dropbox工程师给Tammy的团队发了电子邮件,看看他们时如何在Python项目中使用RAT。整合过程进展的很顺利,采用率也逐渐在提升,RAT也变得越来越实用。现在,Dropbox的好几个团队都使用了RAT。
DBmanager
Dropbox公司拥有6000多个数据库,这样一个庞大的系统需要自动化和监控。在任意给定的时刻,数据库都在进行复制、故障转移以及通过副本进行主体升级等。
为了管理这些问题,Dropbox的工程师建立了DBmanager,它是一套Web UI,可以快速查看所有6000多个数据库中发生的事情。它还将这些状态信息发布到其它系统中。
Go语言升级版
有了成百上千的工程师,Dropbox小心翼翼地进行Go语言各主要版本的升级工作。Tammy表示升级过程没有产生任何问题,过程非常顺利!
下面来看一些有趣的事实:
Dropbox最近完成了从1.5版升级到1.6版的生产服务。
为了追踪升级过程,他们创建了一个简单的Dropbox文件文档,并让每个服务负责人汇报进展,并在必要时向他们寻求帮助。
Dropbox将会跳过1.7版本,在1.6迁移完全完成(包括非生产服务)的情况下直接升级到1.8。
Dropbox如何培训新工程师使用Go
每个Dropbox工程师都经历了同样严格的培训过程,包括:
阅读基础设施拓扑资料、Go语言风格指南以及Protobuf风格指南
严格但友好的代码审查
在Go中构建一个娱乐性质应用程序(应用程序商店)
学习Bazel的构建和代码测试
对于有经验的工程师来说,这个过程需要一个星期左右的时间。
Dropbox的Go语言发展情况如何?有哪些缺点呢?
总的来说,Dropbox的Go应用之路非常成功。
使用Go语言以后富有成效。
编写和使用服务变得很容易了。(人们喜欢做这两种事情!)
Go语言标准库非常出色。
调试工具(总体上)运行很好。
一个关键的数据点是,Dropbox没有努力将服务从另一种语言改写为另一种语言,这表明人们对其相当满意。(Tammy确实抛出了一份有趣的信息:Dropbox公司也在部分使用Rust,但其并不属于Go的替代品。)
Dropbox公司在使用Go语言时遇到哪些困难?
Tammy证实称,Go语言最大的问题在于处理竞态条件。
数据竞态类bug给调试、查询与修复等工作带来挑战。
一些Dropbox的工程师特别善于发现这些,而其他工程师则依赖于他们的专业技能。
Go数据竞赛检测器并不总是有用的。确定这种不起作用的情况非常重要。
必须以审慎的态度设计需要对数据进行并发访问的Go程序。
Dropbox雇佣了那些关心可靠性和持久性的工程师,因此他们亦应当有能力解决上述问题(尽管在任何地方,并发性都是非常困难的)。
非常好我支持^.^
(0) 0%
不好我反对
(0) 0%
下载地址
GO语言的可靠性和持久性下载
相关电子资料下载
- golang语言的加密解密算法实现 41
- 解析Go语言的高级特性 56
- 微服务架构组件分析,看这篇就够了 285
- 基于Go语言的反弹Shell命令生成工具简介 116
- 什么是K3s和K8s?K3s和K8s有什么区别? 538
- Go能取代Python成为开发者的首选语言吗? 147
- Go语言中的整数类型 106
- Go语言常量的声明 141
- Go语言变量的命名和声明 191
- Go语言简介和安装方法 269