“持续集成”也需要重构——持续集成实践在Cruise开发过程中的演进

作者 乔梁 发布于 2009年3月25日 上午12时30分

社区
Java,
Agile,
.NET,
Ruby
主题
工件和工具,
敏捷技术
标签
重构,
持续集成

前言

持续集成是极限编程十二实践之一(1999年Kent Beck编写的《解析极限编程》),最初被使用极限编程方法的开发人员所推捧,并在过去的几年中得到广泛应用,成为业界广为人知的软件开发实践。该实践用于解决软件开发过程中一个具体且重要的问题,即“确保当某个开发人员完成新的功能或修改代码后,整个软件仍旧能正常工作。”

然而,持续集成并非像大多数人想像的那样,首次部署好持续集成环境后就大功告成,一劳永逸了。恰恰相反,它与你项目中的其它产品代码一样,需要改进与重构,否则,就会使你进入一种“持续闹心”的状态,甚至可能让你觉得这件事根本不应该做,如何解决这一问题呢?对“持续集成”应用“Retrospective”和“重构”。本文将结合Cruise团队一年多的实际历程,讲述持续集成实践在软件开发过程中的演进。

友情提示:请读者在阅读本文时,注重文中所述的思考过程与“持续集成”的重构方式,而非产品本身。

基本持续集成——万里长征第一步

实际问题:我们需要一个持续集成环境

为什么要做持续集成不在本文讨论之内。

理论基础

持续集成基于这样一个假设:如果两次代码集成的间隔时间越长,最终集成时痛苦的经历就会越多。而其目标有两个:一是“频繁集成”,二是“反映代码质量”。为了做到“ 频繁集成”,就要求任何开发人员在每次向中央代码库提交代码时,就将所有代码进行编译,打包,部署,以确保能够产生交付物。然而,“频繁集成”仅仅证明了 每次提交是否可以得到交付物,而我们真正需要知道的是“这个交付物的质量如何”。如果交付物有问题,引起问题的代码则要么被回滚,要么被修正。当然,这样 的任务也可以通过手工来完成,但手工工作的特点就是易出错且耗时,所以需要将其自动化。为了做好“持续集成实践”,写一个自动化构建脚本来自动构建并运行 一些自动化测试套件还是必要的。这种传统的持续集成方式常被固化于开发环节,即:开发人员安装一个专门的持续集成服务器来自动化运行这些单元测试,然后通 过各种各样自动生成的测试结果分析代码的质量,这也是CruiseControl诞生的原因。

解决方案

最初,我们的代码并不多,自动化脚本比较简单,在一台机器上运行所有的测试也仅需要几分钟,该构建套件的运行顺序是:CheckStyle -> Compile -> UnitTest -> FunctionTest -> Report。示意如下:

 <project name="Cruise" default="all" basedir=".">
   <target name="all" depends="checkStyle, Compile, UnitTest,FunctionTest, Report"/>
   <target name="checkStyle">
      ....
   </target>
   <target name="Compile" >
      ...
   </target>
   <target name="UnitTest" depends="Compile">
      ...
   </target>
   <target name="FunctionTest" depends="Compile">
      ...
   </target>
   <target name="Report" depends="FunctionTest">
     ...
   </target>
 </project>
 

这也是大部分软件团队进行持续集成的起点。

目前,有很多种持续集成工具,其中不乏开源产品,如CruiseControl家族。项目伊始,我们使用CruiseControl建立了自己的持续集成服务器,整个项目的持续集成基础结构如图所示:

图1 基础持续集成模式

注:得到快速反馈是开发好产品的关键。因此,我们自己就做了Cruise的第一个用户,首先解决自己的持续集成需求。项目开始后仅几周,我们的产品Cruise已经基本满足自身团队持续集成的需求,因此,我们就将CruiseControl替换成Cruise,但持续集成基本结构并没有变化。

阶段化持续集成 —— 平衡的艺术

实际问题:测试越来越慢,开发人员等得不耐烦。

随着时间的推移,Cruise每次做持续集成的运行时间很快就超过了15分钟(开发人员能够忍受的最大限度)。然而,为了保证Cruise支持大多数浏览器,我们还打算增加Cruise运行于不同操作系统及不同浏览器的功能测试。

理论基础

一般来说,测试代码越多,越能够正确反映代码的质量[前提:你写的测试是有意义的:)]。所以在整个生命周期中,大家都试图增加更多的测试代码。然而,越 多的测试代码也意味着更长的运行时间,更慢的反馈速度。因此,我们不得不在“反馈时间”与“判断质量准确性”两者之间找到一种平衡,而“阶段化持续集成” 就有了用武之地。

所谓的“阶段化持续集成”是指为不同的构建测试套件(以下称构建计划)建立不同的持续集成循环周期,由于单元测试运行时间短,反馈较快,所以可以频繁进 行,而功能测试、性能测试的时间比较长,占用资源比较多,比较昂贵,所以适当减少集成次数,但一定要保证其周期性运行。因此,我们的持续集成方案很自然地 分成了多个构建计划:快速构建计划让开发人员尽可能快地得到反馈,此时我们牺牲了准确性来换取时间。但当你得到了快速反馈以后,再花多一点儿时间从其它构 建计划中得到更详细的反馈。这样一来,对于同一个项目,你有多个构建计划,每个对应一种构建类型(单元测试,功能测试、功能测试等),越靠后的构建计划在 运行时需要的时间就越长。如下图,

单元测试构建计划运行了多次, U1,U2...U7,其中U4失败了。功能测试构建计划时间较长,在该时间段内仅运行两次,F1和F2(失败),而性能测试构建计划P1时间最长。整个 持续集成系统由多个机器组成,包括一个中心服务器(Server)和多台工作站(Agent),每个构建计划都在一台工作站(agent)独立执行,以便 无相互影响。

图2 阶段式并行构建图解

解决方案

由于Cruise本身已经支持这种持续集成模式,所以我们的持续集成基本框架也演变成下图:

图3 阶段式持续集成模式图解

中心服务器(Server)的责任是(1)检查中央代码库的代码是否发生变化,(2)如果代码发生了变化,将相应的构建类型分配到各自的工作站 (Agent)上运行;(3)中心仓库,保存所有信息。上图中,单元测试(Unit Test)构建类型运行于工作站Agent1上,每次执行需要15分钟左右,而功能测试(Function Test)构建类型分别运行于三个工作站(Agent2,Agent3和Agent4)上,每次执行约30分钟(其中Agent1为Debian操作系 统,Agent2是Ubuntu8.04操作系统,安装有Firefox2.0,Agent3是WindowXP+IE6,而Agent4是 Windows 2003 + IE7)。

细心的读者会发现,中央代码库从Subversion变成了Mercurial,我的同事胡凯在《为什么我们要放弃Subversion》一文中讲述了缘由,其根本收益就是提高了Cruise生产效率。构建计划:是根据功能划分的自动构建循环周期,由一系列的步骤组成。下图为三种不同的构建计划:

图4 不同类型的构建计划

利弊分析

益处:暂时解决反馈时间长的问题。

缺点:仍存在浪费,提交频繁时,问题定位有时较困难。

在执行每个构建计划前,都需要从中央服务器上检出代码。不同的构建计划中,有很多步骤都是重复的,例如图4所示的编译与打包工作。当代码库比较小时,这并 不是一个大问题。然而,对于此时的Cruise来说,就已经是“浪费”了。在图2中,单元测试U4已经以失败而告终,可功能测试还是在另外三台工作站 (Agent)上运行着,一直占用着机器,直至结束。想像一下,如果构建计划的数量多于工作站(Agent)的个数时,这种资源的浪费又是多么严重呢?

另外,如图2所示,由于单元测试运行较快,所以功能测试F2中包含多个单元测试(U2,U3,U4)所覆盖的代码变化。如果F2失败,很难判断是哪次Checkin使F2失败的,因为前面已经成功结束的U2和U3也可能使F2失败。

过程化持续集成 —— 消除浪费

实际问题

开始使用阶段式持续集成时,由于不用改太多的构建脚本,而且也初步达到了目的。可是随着时间的推移,代码越来越多,逻辑越来越复杂,问题定位令我们头痛,而且每个构建计划都要重新编译和打包等重复性工作也让团队不爽。

理论基础

过程化则是将每一个步骤单元化,并顺序执行。如第一个单元是CheckStyle,编译及单元测试,第二个单元是打包生成软件,第三个单元是“部署 并进行功能测试”,第三个单元是“性能测试”。这种过程化分解因去除了重复步骤,所以更有效率,而且每次执行时,代码可以顺序经历一系列的测试。

图5 过程化构建图解

该类型集成的关键在于让所有这些分离的单元可以顺序执行。首先,编译过程被调用,一旦编译单元成功结束,下一单元(快速测试)即开始。正是此刻,我们遇到 了第一个复杂性。由于第二个单元(如快速测试)并不是一个完整的过程,所以并不能用它自己产生的产物来测试。而这一点恰恰是过程化持续集成的的关键:将构 建与测试分离以节省时间,这也是其与阶段性集成的不同之处。由于后续单元并不产生测试所需要的产物,就要从外部获取,而这些产物正好产生于前面的单元。因 此,运行前面单元时,它要将这些产物放在一个已知位置,而后续的单元从这个已知位置拿到产物。图5所示,U4成功后,P3从U4处拿到代码进行打包;P3 结束后,F2从P3处拿到交付物进行部署和功能测试,F2成功后,P2再开始运行。

利弊分析

优点:消除和重复工作,提供了持续的信息反馈,反映了整个的过程。

前一个构建计划U2失败后,后续的构建计划P2也不会从U2中拿取产物来运行,而是等待拿U3的结果来运行,从而也有效的利用的资源。

缺点:团队自己管理的内容多一些,复杂一些。

由于各个构建计划之间是各自独立的,所以它们之间的依赖关系由它们之间传递的参 数表现。当您想追踪某个后续构建计划为什么失败时,你必须找到这个参数。可 这种过程化持续集成并没有提供一个内在功能来完成它,所以你必须自己再多做一点儿工作,而且前后构建单元之间的产物传递也要自己来完成。 产物传递看上去要复杂一点儿。因为最近一次构建的结果很容易将前一次的结果覆盖掉。解决这一问题的一种方法是将每次构建的结果分开存放,而后续的单元要知 道在哪里可以找到它们所需的文件。利用构建编号做为目录名来保存构建结果时,后续的单元就需要知道这个构建编号,以便找到它所需要的文件。尽管这不难做 到,但还是需要做一点儿工作才能做到的。

另外,由于这种方式需要准备产品的中央存储空间,建立命名规则,修改我们的构建代码,以便在各过程之间传参数。另外,这种模式还是不能从根本解决问题定位这个难题。

团队结论

由于采用这种方式的管理复杂性较高,在我们的环境中,潜在的时间消耗也不少,所以我们放弃了这种集成方式。

管道式持续集成——企业级持续集成的解决方案

实际问题

阶段化持续集成重复任务多,而过程化集成的管理复杂性太高了,任何过程化上的变化都要修改已经写好的脚本,而这些脚本维护比较困难。既然以上两种模式都不灵了,那就再想别的办法吧。

理论基础

管道式持续集成形式上与过程化持续集成相类似,但却在概念上有显著不同。在管道式持续集成中,所有的过程单元都运行在同一管道的上下文中,即各单元所使用 的原材料都是完成相同的,即代码基线相同。当持续集成服务器发现有新的代码时,会创建新的一个管道,所有的过程单元都在这一个管道中运行。而每个单元产生 的产物也在该管道中有效。如图所示:

图6 管道化持续集成

利弊分析

管道式持续集成综合了阶段化与过程化的优点,而带来的复杂性却不用你操心,因为Cruise为你管理这一切。

也就是说,你很容易就掌握,哪些产品代码是在哪个管道中生成的,是由哪些原材料(源代码)生成的,而与其它管道产生的产品代码有什么不同。在管道式中,每次构建都会试图从管道的一端走到另一端。因此,你不会遗漏任何一个版本的成功产品代码。

解决方案

Cruise持续集成类似于下面的持续集成构建管道:

<pipeline name="Cruise">
     <stage name="UnitTest">
         <job name = "windows">
 <artifacts>
               <artifact src="testreport"  dest="report"/>
               <artifact src="pkg"  dest="package"/>
            </artifacts>
            <tasks>
               <ant />
            </tasks>
         </job>
         <job name="linux"/>
     </stage>
     <stage name="FuncTest">
         <job name = "windows"/>
         <job name="linux"/>
     </stage>
     <stage name="TwistTest">
         <job name = "windows"/>
         <job name="linux"/>
     </stage>
     <stage name="Package">
         <job name = "Solaris"/>
         <job name="linux"/>
     </stage>
 </pipeline>

如图7所示,最后一次构建版本(1.2.128)从管道的一头成功走到了另一头,正在进行最后一步(部署到生产环境,黄色方块代表正在运行),版本 1.2.127失败于打包交付物,虽然我们让版本1.2.126走到了管道的尽头,但您可能注意到这是一个有暇疵的版本(Package有点问题),而且 被很快在1.2.128中修复了。而其它版本都有问题而未能走到管道的尽头。

图7 构建管道图解

并发执行——时间就是金钱,资源也是金钱

实际问题

尽管我们将整个持续集成过程中所需完成的工作根据具体任务分成了很多独立的步骤,并管道化运行,但是并未能解决真正的“时间运行超长”问题。因为, 我们的测试代码已经达到相当数量,运行一次所有的单元测试要在40分钟以上,而在一台机器上运行所有功能测试大约需要2小时以上。而且可以预见到,这一时 间量会快速增加。那么,要如何解决这个问题呢?当然不可能因为时间长而不增加测试。

理论基础

将同一类型的测试分成几组,同时运行在配置相同的Agent上。这样,虽然不能减少总时间,但是完成所有同类型测试所需要的时间周期会缩短。

解决方案

Cruise团队成员利用业余时间创建了一个开源项目,名为Test-Load-Balance, 利用Cruise的特性,根据Cruise中Job的配置,自动将测试分成多组,运行于不同的Agent中。当测试运行时间到了无法接受的时候,只需要在 Cruise的配置文件中增加一个Job,它就会自动感知这一变化,将测试再多分一份出来。只要有足够的Agent,那么你的测试时间一定会缩短到15分 钟以内。目前,Cruise的单元测试被Test-load-Balance自动等分成四组运行于Windows,以及五组运行于Linux,而功能测试也一样被自动分成四组,分别运行于Windows和Linux。目前用于 Cruise持续集成环境中的工作站共计11台虚拟机,使Cruise的所有单元测试可以在15分钟内完成,所有的功能测试可以在35分钟内完成。

我们的持续集成基本结构变为:

图8 Build Cloud

Cruise团队的持续集成类似下面的配置文件:

  <pipeline name="Cruise">
     <stage name="UnitTest">
         <job name = "windows-01"/>
         <job name = "windows-02"/>
         <job name = "windows-03"/>
         <job name = "windows-04"/>
         <job name="linux-01"/>
         <job name="linux-02"/>
         <job name="linux-03"/>
         <job name="linux-04"/>
     </stage>
     <stage name="FuncTest">
         <job name = "windows"/>
         <job name="linux"/>
     </stage>
     <stage name="TwistTest">
         <job name = "windows-01"/>
         <job name = "windows-02"/>
         <job name = "windows-03"/>
         <job name = "windows-04"/>
         <job name="linux-01"/>
         <job name="linux-02"/>
         <job name="linux-03"/>
         <job name="linux-04"/>
     </stage>
     <stage name="Package">
         <job name = "Solaris"/>
         <job name="linux"/>
     </stage>
     <stage name="UAT">
         <job name = "deployUAT"/>
     </stage>
     <stage name="Production">
         <job name = "deployProd"/>
     </stage>
 </pipeline> 

利弊分析

我们已无需投入过多的精力在持续集成环境上了,除非我们的硬件不足(可现在的硬件成本要比人工成本低多了)。因为Cruise Server自动会将构建计划平均分成多组,并分配到相应的工作站(Agent)上运行。如果测试代码进一步膨胀,我们只需要在相应的测试阶段加增加 Job的个数,再克隆出几台虚拟机扔到我们的Agent grid中。而这仅需很少的人工操作,根本不必修改我们的自动构建代码。

个人持续集成——最大化利用资源

实际问题

测试越来越多,运行时间越来越长。开发人员在本地执行单元测试的时候,开发人员就要看着屏幕等待吗?

解决方案

在PairStation上安装一个虚拟机,在其上建立自己的代码仓库。需要运行测试时,把PairStation物理机器的代码提交到这个虚拟机的代码仓库中,并让其运行测试。然后,继续在PairStation上写代码。如图所示:

利弊分析

益处显而易见,节省时间,提高开发效率。团队(至少个人)要使用分布式版本控制系统。另外,用于开发的物理机性能不能太差。其实,这也算不上大问题,因为在你开发软件时,思考的时间应该多于你写代码的时间。

小结

在敏捷团队中,我们所要做的只不过是:不断的回顾、找出问题与瓶颈、不断地重构。通过不断重构持续集成基础结构以及自动化构建脚本,使其达到我们对“反馈时间”和“判断质量准确性”的要求。

另外,我们已将“持续集成”扩展到整个软件开发周期,涵盖了持续部署及发布。在上面的配置文件中,细心的你会发现最后的两个Stage分别名为 “UAT”和“Production”,它们一个用于部署新版本到我们自己的持续集成服务器,另一个用于部署新版本到一个公用的持续集成服务器。部署 ‘UAT’的频率为两天到一周之间,‘Production’的频率为一周。这样,我们可以得到快速反馈,改进自己的产品,同时其它团队可以尽早地使用我 们开发的新功能。

持续集成并不是一蹴而就的工作,需要根据团队的实际情况来实施(但这并不能成会“偷赖”的另一个说法)。仅管Cruise团队的持续集成尚属“简单”之列,但并不能说明复杂项目无法做持续集成。俗语道,“没有做不到,只有想不到”。只要不断反思与重构,一样可以硕果累累。

注:这些持续集成方式早有出处,例如2004年的《通过“产物依赖”实现企业级持续集成》,而Cruise团队仅是勇于实践者,并进行着不断的思考和优化。

关于Cruise

2008年7月ThoughtworksStudios部门首次发布一款持续成与发布管理的系统工具(名为Cruise),该产品将持续集成延伸到了应用的测试、部署与发布阶段。Cruise可以运行在多种操作系统上(包括WindowsMac OS X,和Linux),并为.NETJavaRuby提供了使用上的便捷。 它使复杂软件应用的发布管理变得容易、可靠,为你的团队争取更多的时间,以便集中精力开发新的功能。

关于作者

乔梁,ThoughtWorks公司资深咨询师及敏捷过程教练;产品Cruise的项目经理。 他在IT业界有十余年的工作经验,从事过开发、系统管理、培训、项目管理等工作,对于企业从CMMI到Lean/Agile的转换,业务分析,企业IT管 理多有心得。目前致力于获取和传播构建、测试、部署方面的最佳实践,将Cruise开发成为持续集成和发布管理的第一商业服务器。

相关阅读

[ ThoughtWorks实践集锦(1)] 我和敏捷团队的五个约定

[ ThoughtWorks实践集锦(2)] 如何在敏捷开发中做好数据迁移

[ ThoughtWorks实践集锦(3)] RichClient/RIA原则与实践(上)(下)

[ ThoughtWorks实践集锦(4)] 为什么我们要放弃Subversion


给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家加入到InfoQ中文站用户讨论组中与我们的编辑和其他读者朋友交流。

::...
免责声明:
当前网页内容, 由 大妈 ZoomQuiet 使用工具: ScrapBook :: Firefox Extension 人工从互联网中收集并分享;
内容版权归原作者所有;
本人对内容的有效性/合法性不承担任何强制性责任.
若有不妥, 欢迎评注提醒:

或是邮件反馈可也:
askdama[AT]googlegroups.com


点击注册~> 获得 100$ 体验券: DigitalOcean Referral Badge

订阅 substack 体验古早写作:


关注公众号, 持续获得相关各种嗯哼:
zoomquiet


自怼圈/年度番新

DU22.4
关于 ~ DebugUself with DAMA ;-)
粤ICP备18025058号-1
公安备案号: 44049002000656 ...::