第1章

Apache Kylin概述

Apache Kylin是Hadoop大数据平台上的一个开源OLAP引擎。它采用多维立方体预计算技术，可以将大数据的SQL查询速度提升到亚秒级别。相对于之前的分钟乃至小时级别的查询速度，亚秒级别速度是百倍到千倍的提升，该引擎为超大规模数据集上的交互式大数据分析打开了大门。

Apache Kylin也是中国人主导的、唯一的Apache***开源项目，在开源社区有世界级的影响力。

本章将对Apache Kylin的历史和背景做一个完整的介绍，并从技术的角度对Kylin做一个概览性的介绍。

本书内容以Apache Kylin v1.5为基础。

1.1　背景和历史

今天，大数据领域的发展如火如荼，各种新技术层出不穷，整个生态欣欣向荣。作为大数据领域最重要的技术——Apache Hadoop，从诞生至今已有10周年。它最初只是致力于简单的分布式存储，然后在其之上实现大规模并行计算，到如今它已在实时分析、多维分析、交互式分析、机器学习甚至人工智能等方面都有着长足的发展。

2013年年初，eBay内部使用的传统数据仓库及商业智能平台应用碰到了瓶颈，即传统的架构只支持垂直扩展，通过在一台机器上增加CPU和内存等资源来提升数据处理能力，相对于数据指数级的增长，单机扩展很快就达到了极限。另一方面，Hadoop大数据平台虽然能存储和批量处理大规模数据，但与BI平台的连接技术依然不成熟，无法提供高效的交互式查询。于是寻找更好的方案便成为了当务之急。正好在2013年年中的时候eBay公司启动了一个大数据项目，其中的一块内容就是BI on Hadoop的预研。当时eBay中国卓越中心组建了一支很小的团队，他们在分析和测试了多种开源和商业解决方案之后，发现没有一种方案能够完全满足当时的需求，即在超大规模数据集上提供秒级的查询性能，并能基于Hadoop与BI平台无缝整合等。在研究了多种可能性之后，最终eBay的Apache Kylin核心团队决定自己实现一套OLAP on Hadoop的解决方案，以弥补业界的这个空白。与此同时，eBay公司也非常鼓励开源各个项目，回馈社区，eBay的Apache Kylin核心团队在向负责整个技术平台的高级副总裁做汇报的时候，得到的一个反馈就是“要从第一天就做好开源的准备”。

经过一年多的研发，在2014年的9月底，Kylin平台在eBay内部正式上线。它一上线便吸引了多个种子客户。Kylin在Hadoop上提供了标准的、友好的SQL接口，外加查询速度非常迅速，原本要用几分钟的查询现在几秒钟就能返回结果，BI分析的工作效率得到了几百倍的提升，因此Kylin获得了公司内部客户、合作伙伴及管理层的高度评价。2014年10月1日，项目负责人韩卿将Kylin的源代码提交到github.com并正式开源，当天就获得了业界专家的关注和认可，如图1-1所示的是Hortonworks的CTO在Twitter上对此给出的评价。

很快，Hadoop社区的许多朋友都鼓励eBay的Apack Kylin核心团队将该项目贡献到Apache软件基金会（ASF），让它能够与其他大数据项目一起获得更好的发展，在经过一个月的紧张筹备和撰写了无数个版本的项目建议书之后，Kylin项目于2014年11月正式加入Apache孵化器项目，并有多位资深的社区活跃成员作我们的导师。

在项目组再次付出无数努力之后，2015年的11月，Apache软件基金会宣布Apache Kylin正式成为***项目。这是第一个也是唯一一个完全由我国团队贡献到全球最大的开源软件基金会的***项目。项目负责人韩卿成为Apache Kylin的项目管理委员会（PMC）***，也是Apache软件基金会160多个***项目中的唯一一个中国人，Apache Kyln创造了历史。正如Kylin的导师——Apache孵化器副总裁Ted Dunning在ASF官方新闻稿中的评价：“…Apache Kylin代表了亚洲国家，特别是中国，在开源社区中越来越高的参与度…”。

2016年3月，由Apache Kylin核心开发者组建的创业公司Kyligence正式成立。就如每一个成功的开源项目背后都有一家创业公司一样（Hadoop领域有Cloudera、Hortoworks等；Spark领域有Databricks；Kafka领域有Conf?luent），Kylin也可以通过Kyligence的进一步投入保持高速研发，并且Kylin的社区和生态圈也会得到不断的发展和壮大，可以预见这个开源项目将会越来越好。

在业界最负盛名的技术类独立评选中，InfoWorld的Bossie Award每年都会独立挑选和评论相关的技术、应用和产品等。2015年9月，Apache Kylin获得了2015年度的“***开源大数据工具奖”，2016年9月，Apache Kylin再次蝉联此国际大奖，与Google TensorFlow齐名。这是业界对Apache Kylin的充分认可和褒奖。