01 什么是数据分析？
一句话定义，数据分析是一个从数据中通过分析手段发现业务价值的过程。这个过程的起点是获取一份数据，这个过程的终点是发现业务价值。过程可以大致为分数据获取——数据清洗——数据处理——数据建模——分析结果呈现——业务价值发现——业务价值实现这几个阶段。
在具体说明每个阶段之前，首先要谈下我对数据和业务价值这两个概念的理解。
过程的详细说明：
数据获取：这个阶段的输入需要一个分析目标，哪怕不是那么的明确和清晰。为什么需要一个目标？在一个大型企业中，可以获取的数据往往是海量，如果没有一个目标限制，那数据分析往往是无从着手的。这个阶段的输出是一个数据子集，它可以是物理上的货逻辑上的。所谓物理上的，就是把分析中用到的数据单独拷贝到一个地方；而逻辑上就只是定义出可用的数据范围，比如时间周期、维度、指标等。这个阶段的困难之处在于理解相关的数据源，因为数据源文档不完整或者变更的情况经常在业务中发生。数据清洗：通常包括异常数据的处理、缺失数据的处理、数据的一致性变换、编码的替换等
数据处理：对数据进行汇总，或者形式上的变换，以便可以适用于后期的建模
数据建模：用统计分析或机器学习算法对数据建模，以便描述数据或对未来进行预测。其实大多数分析师在这个阶段只观测数据的同比、环比的趋势上的变化，亦或对指标在不同维度上进行拆分，以观察维度对指标变化的影响。以上三个阶段在很多书籍中都有具体的技术描述，不再赘述。
分析结果呈现：通常认为，这个阶段的主要任务是把建模的结果以图、表或者更加复杂的可视化方式呈现出来。但我认为不止于此。首先，呈现结果不是这个阶段的目的，目的应该是让业务人员对分析结果有充分的理解。其次，呈现的手段除了可视化，最重要的应该是沟通。而沟通是双向的，可以保证结果最大程度上被他人理解。业务价值发现：通常数据分析师会在分析结果中提出对业务的价值，但是这个价值只有被业务人员认可才有可能实现。所以，此处的“发现”应该是分析师和业务人员的“共同认知”。
业务价值实现：业务价值发现和实现经常不被包含在数据分析过程中。但是，就如同我对数据分析的定义，业务价值才是数据分析的终极目的。因此，我认为价值的实现才是整个过程的最后一个阶段，这个阶段虽然是有业务人员控制的，但是仍然需要分析师的深度参与。因为双方对于分析结果的理解和价值的发现经常出现偏差，需要在实践中逐步达到统一。最后，关于数据分析过程，我认为有几点需要给予非常的重视：
在开始做分析之前，首先要有分析目标！分析目标！分析目标！重要的事情说三遍。
过程不是单向的，在后一个阶段中发现问题时可以跳回到前一阶段
过程不是一次性，而是不断循环往复的。上一次分析过程的终点，可能是下一次分析过程的起点。我们经常会在业务价值发现和实现阶段发现新的分析主题，并把它作为下一次分析的起点。
对于任何一次分析来讲，不是每个阶段都是必需的
整个过程中的大多数时间都需要分析师和业务人员的密切合作
02 数据分析有哪些分类？
1、面对的问题不同：战略、运营
战略分析：是为了解决公司战略方向问题，回答要向哪里去的问题。
此类分析通常比较宏观，需要分析者有大局观、有战略思维；
所用的数据除了公司内部的数据，还需要竞品数据、行业数据。
战略分析的方法：需要从竞品及行业数据中发现行业发展趋势及竞品的战略定位，同时结合公司内部数据，可以发现相对于行业和竞品发展，内部在哪些地方存在不足，以此制定进攻和防守策略
运营分析：不同于战略分析，运营分析以解决实际运营问题为目标，比较微观。
2、服务的部门不同：业务、数据
3、分析的范围不同：行业、公司、部门、业务环节
行业分析：目的是总结和预测整个行业的过去和未来的发展趋势，时间窗口一般在1年以上。使用场景较多的是在投资公司中或者很多公司的市场宣传稿中会出现。行业分析的对象是商业模式或者业务形态，关注的是资金、市场格局、用户需求的变化和各企业的应对。最有价值和最难的是要提前预测行业的增长爆发点和衰退的转折点。
公司分析：目的是结合行业分析对公司业务发展做出诊断，给公司发展提供决策建议。时间窗口一般在一年以内，在公司战略决策会发挥较大的作用。SWOT等方法适合在公司分析中使用。分析者首先要认清企业的商业模式，要与公司的管理者同步公司的短期和长期目标，了解企业的盈利来源和运作方式，通过公司内外部数据的对比发现运营中的问题和商机。在这个过程中，了解市场和竞品的动态是非常重要的。
部门分析：目的是对部门职能范围内的业务发展做出正确的诊断并给出适当的建议。前提是能充分理解部门在整个公司中的角色和地位、该部门与其他部门的协作关系、在工作流程中的上下游关系。基于以上理解，以配合公司业务发展为目的，以提升部门KPI或某个关键任务为分析目标，利用公司和部门运营数据去做分析。此类分析中，理解公司业务、有产品和业务思维很重要，指标的分解、对比，数据变化的归因往往是常用的分析方法。
业务环节分析：这是数据分析在业务最细粒度的应用。分析者只需要关注非常具体的某个业务环节，让大家感兴趣的是这个业务环节数据的变化原因和改善方式。此时分析的指标经常是确定的，目标也很直接。但所谓牵一发动全身，这个环节的变化通常是由其他环节的变化引起的。所以万万不能走入一叶障目不见泰山的误区。
4、项目的阶段不同：咨询、实施
咨询分析：以前有过跟咨询公司合作的经历。在项目开始阶段，乙方通常需要花很多时间讨论项目立项的必要性、收益等，以此来说服甲方老板，你懂的。但是，我要说的是，即使是公司自行研发的项目，在立项阶段，数据分析需要做的是树立目标。通过数据分析，可以对业务有一个全面的诊断，发现问题，提出项目需要改善的主要指标，并预测出项目上线后的收益。立项是需要管理层批准的，因此这个阶段的分析需要简明扼要、一针见血，分析结果的呈现起着至关重要的作用。
实施分析：项目开始后，数据分析需要做的是过程控制。除了项目目标涉及的主要指标需要持续关注之外，还需要关注过程类指标。所谓过程类指标，是指能够反映出项目执行内容的数据。因为主要指标的表现通常是滞后的，而且是若干因素影响的结果，过程指标是为了明确各影响因素的作用效果。比如项目目标是提升使用时长，项目内容可能包括提升新用户和老用户的使用时长，那么则应该把新老用户的时长作为指标单独监控和分析。
综上，根据数据分析的使用场景、业务阶段、服务人群、范围及层次不同，可以分为很多种。以上只是列举出一部分。在每种场景下，数据分析的目标、关注的重点和难点都有所不同，分析师要在分析过程中时刻关注自己有没有偏离目标，并对重点和难点有充分的准备。
03 如何设定分析目标？
从我的经历看，数据分析的目标主要来自两方：一方是业务，一方是数据部门自身。
对于一个具体的数据分析项目来说，可能以上两方的因素都会存在，只是占比多少而已。以下详细说明这两种方式的场景、前提及“坑”。
分析目标主要来自业务方：这种场景通常存在于业务方对业务发展有疑问，希望通过数据分析提升业务。业务设定的目标要么是对过去的业务发展做总结和诊断，希望从中发现问题；要么是基于业务的历史预测未来的发展趋势。
这里经常存在的问题是，业务方提出目标往往是模糊不清的，并且通常用业务术语而非数据口径来定义。因此，这种情况下，分析师要花较多的精力做需求分析。而要做好需求分析，分析师需要具备一定的产品和业务思维，要从业务视角出发，充分理解业务的处境，才能从最根本上理解业务的需求。同时，需要对数据产生的流程和指标计算的口径对业务人员进行充分的说明。如此不断地迭代沟通，往往分析到最后，却发现已经不是原来的需求了。
还有一种情况，业务对数据了解较多，会在需求中说明需要的数据口径，这种需求会被单纯地看做一个数据提取需求。即使是这样，如果希望让这部分数据更有价值，分析师也需要就其业务背景有深入的讨论，然后可以修正该需求。
分析目标主要来自数据部门自身：这种场景下，数据部门在组织上是独立于业务部门的。但是独立不意味着可以不考虑数据分析对业务的价值（参见第一章）。如果说实现业务价值是分析的根本原因，那么重要数据指标的变化则是数据分析的直接原因。
也就是说，如果数据部门要能够独立提出分析目标，首先要有相对完善的指标监控体系。而指标体系可以分层，并且建立起各指标之间的关联关系。因此，数据部门提出分析目标可以更全面、更客观，而不局限于一隅。但是，这个分析目标的设定对数据部门要求更高：不仅要具备完善的指标监控体系，更要了解业务。经常出现的情况是，数据部门自己费了挺大的劲做出的分析报告，业务部门却无动于衷，其中没有涉及到业务痛点可能是一个重要原因。
总结一下，分析目标的设定是数据分析最初也是最重要的一步。一个合理的分析目标应该具备以下特征：
04 怎样才算是一个合格的数据分析师？
可以从分析师的工作目标、工作内容和能力要求三个方面回答这个问题。其中工作目标和工作内容是息息相关的。要说清楚这个问题，我认为除了一些公认的标准之外，还有一些标准是因公司和行业而异的。也就是说，必须把它放在一个具体的公司业务框架之中考虑。
1、工作目标主要由公司的业务发展阶段决定
一般来说，无论是哪个公司，都希望分析师能有效地利用数据引导和驱动业务发展，实现数据的价值。但是，公司发展的情况不同，对数据分析师的价值定义也会不同。
公司整体处于初创阶段，此时分析师的价值在于能通过对行业和竞争对手的分析，为公司的发展方向提出适当的建议；
公司如果处于快速发展期，此时分析师的价值在于一方面监控业务取得的成绩，关注增长速度，一方面要健全指标体系，发现被业绩增长所可能掩盖的问题；
如果公司处于稳定期，分析师则需要从效率和成本角度，从业务细节入手，为精细化运营提供支持；
如果公司发展遇到瓶颈，分析师需要分析市场中供给和需求的变化，关注竞争对手的应对策略，为公司业务发展发现新的增长点。
2、工作内容主要由公司的数据建设程度决定
参照前文，分析师的主要工作内容数据获取、数据处理、数据清洗、数据建模、分析结果呈现、数据价值发现及实现。无论分析的目标是什么，大体总要经过这几个阶段。由于数据建设的阶段不同，分析师在这几项工作内容上所花费的时间也不同。在公司数据建设早期，分析师可能在数据获取、数据处理和清洗、指标建设上花费更多的时间；数据建设到达一定阶段之后，分析师的工作更多会在数据建模、呈现和数据价值实现上。
3、分析师的能力要求
对分析师的能力要求可分为通用能力和技术两部分，同时也可以分为业务和数据两部分。
① 业务能力：业务要求又可以分为微观和宏观两方面：
②数据通用能力：
③数据技术：
好的分析师在实际的业务操作中至少会做好三点：
大局观：大处着眼，小处着手，全局和细节并重。因为从数据角度看，小数据往往可以反映出大问题。而没有大局观，就不知道该看哪些小数据
思维：数据思维与业务思维并重。业务思维容易理解，什么是数据思维？比如：对指标由粗到细的拆解、考虑时间维度上的趋势、注意寻求指标之间的相关关系、直接影响关系、因果关系等。很多人都注重分析师要懂业务，有业务思维，这当然没错，但不能走向极端。因为在实际中，业务是需要不一样的思维的，可以发现他们发现不了的问题，从而为他们在困境中提供解决方案。分析师需要了解业务的思维方式，但不能模仿他们。
沟通：要想让分析师的观点被业务方所接受，沟通的作用是举足轻重的。首先，分析师要为沟通找到合适的对象和时机。事先要根据沟通对象的不同设计适合的表达方式、内容和过程。
沟通的时机要选在业务最需要的时候。很多时候，事后诸葛亮固然不好，但太超前了也不会有好结果。其次，要有同理心。需要真正站在对方的角度上想问题。再次，需要在沟通中建立互信、发挥影响力。一个好的分析师，能在沟通中恰到好处地展现自己的专业能力和经验，适时的让业务方对人产生信任，从而对分析结果信服。
05 如何实现数据分析的价值？
在上面已经提到分析的价值在于业务价值，而业务价值实现的最后一步是把分析结论应用于业务中，并反复迭代。
我想从一个例子来说明分析师在整个价值实现链条中的位置和作用。
假设我们在考虑如何实现一件工具的价值，这件工具可以是一把钳子，或者更复杂点，比如一部电脑。在这个例子中：
也就是说，数据分析的价值除了分析师这个因素之外，还受到其他因素的影响。
比如：
数据分析结果的交付质量、可视化及可理解性（类比：工具本身的质量、设计及易用性）
数据分析结果使用者的素质（类比：工具使用者的素质，对工具的了解程度，工具使用的相关知识背景）
数据分析结果使用的场景（类比：工具使用的场景是否符合工具设计者的初衷） 环境因素，比如不可抗力、趋势（类比：台式机的价值在移动化办公的趋势下会变小）
呃，是不是漏了点什么？分析师哪里去了？其实分析师的作用正在于对上述因素形成过程中的影响：
06 一篇好的分析报告有什么样的标准？
写分析报告应该是每个分析师的必做功课之一，不管是简单的或者复杂的，正式的或者非正式的。
什么是分析报告？我定义为有特定的主题、分析过程和结论的都可以算作分析报告，而不拘泥于表现形式。
那么怎么才算是一篇好的分析报告？相信每一个分析师都会有自己的标准。比如：对业务有意义、数据准确、逻辑严密等。这些都没有错，但是报告是给人看的，而每个人的背景和需求不同，那么从报告读者的角度出发去衡量报告的好坏会更加客观。
既然要从读者出发，那么首先就要对读者分类。从我的经验出发，我们可以把报告的读者按职级不同简单分为决策层、执行层；按对业务的了解程度不同分为了解和不了解两类。那么读者可以细分为四类：
我将从选题、数据选择、分析过程、结论、报告结构、可视化这几个方面去说明对不同类别的读者，一篇好的分析报告的标准是什么。
对于A类读者：由于他们对业务了解，视野又有一定的高度，所以选题应该以相对宏观且能反应业务痛点的主题。比如对公司或一级部门KPI目标完成度的剖析、相对于竞品主要业务指标的表现分析。数据应该选择较大的、粒度较粗的指标数据，不能用那种多个维度交叉且口径定义很复杂的指标。
分析过程应简单明了，逻辑推理尽可能把数据变化和业务解读结合起来，同时一定需要关注时间维度上的变化。结论应清晰明了，包括对业务方向性的诊断和预判。在发布报告时，结论前置较为合适，对业务背景的描述不需要太多。可视化方面，以趋势性的图表为主。
对于B类读者：一般是经理及以下的运营人员。选题方面应侧重具体的运营问题，范围限定在二级或三级部门的职责范围内。选择某个业务线环节及上下游的微观数据，分析过程中要将统计方法或机器学习方法与业务规则结合，发现各指标之间的因果关系。报告结构的重心在于分析过程和结论，可视化方面要注重细节数据的呈现。
对于C类读者：选题偏重业务诊断和监控，选择宏观的、KPI或目标相关的重点指标，可以包含行业的、竞争对手的相关数据。分析方法以对比和预测为主。结论以对业务方向的定性总结为好。报告结构应在业务背景介绍、选题的依据、结论建议等多花些笔墨，过程可以简略。报告呈现以精简为好。
对于D类读者：通常是新人或者新业务。选题偏重业务发展细节中的痛点或瓶颈。数据选择微观的但较为简单的指标，分析过程中着重在于指标的历史趋势、相关指标之间的对比和变化，结论侧重于发现和定义业务问题。报告结构侧重于业务背景的描述、数据选择和指标定义。可视化需要在业务逻辑的展示上多花些功夫。
总结下，我认为报告选题、数据选择、分析过程、结论、报告结构、可视化是影响一篇报告质量的主要因素。但是分析报告如同一件艺术品，没有放之四海而皆准的标准，只有是否迎合和满足的受众的需求。
因此，分析师必须清楚谁会看你的报告、你的读者希望从你的报告中得到什么、读者的背景（包括业务和数据方面的知识）是怎样的、读者对你和数据的信任度如何。如果分析师要写出一篇好的分析报告，需要了解的不只是数据和业务。
07 数据分析三元论：势、道、术
1、势
有个成语叫“大势所趋”，顺应趋势、迎合潮流的事情做起来总是事半功倍的。
在做数据分析之前，我们要问一问：在这个时代、行业、公司做数据分析是大势所趋吗？
要回答这个问题，首先要搞清楚哪些因素构成了数据分析的“势”。我列举如下几个：
行业：我以为只有那些能够产生大量数据、且市场需求和业务模式变化较快、竞争较为充分的行业更适合做数据分析。大量数据是基础和原材料；市场需求和竞争压力是内在的驱动力。比如To C的电商行业，数据量已经到了一定量级，而人的需求往往是变化较快的，且这个行业没有形成事实上的垄断。虽然阿里、京东的电商平台已经占据了很大的市场份额，但是他们之间仍然存在竞争，而且垂直电商也还有生存空间。
再比如电信和金融行业，也能满足以上几个条件。但是有些行业，看起来业务规模大，但实际上不适合去做数据分析。比如家装、餐饮，这两个行业虽然古老，但除了某些巨头之外，信息化做的相对较差，数据采集都是问题，更谈不上做数据分析了。再比如能源行业，也能够产生大量的数据，但是因为市场需求相对稳定，且基本形成了国家垄断，没有做数据分析的内在需求。
公司的数据环境：数据环境包括信息化水平、数据文化、老板对数据的重视程度等。这几个因素是很好理解的。信息化水平决定了数据的量和质量，消除数据不一致、清洗脏数据要花多少时间和精力，做过的人都知道。数据文化包括数据相关的流程、规章、制度，公司内部对数据认知和利用的程度等。最后，我向来认为数据是一把手工程，由于数据从采集到价值产出，都是涉及多个部门的利益，没有老板的支持，做好数据是天方夜谭。
2、道
所谓“道”，主要指分析体系和框架、目的和价值。
而这些主要受公司的业务模式和业务需求的影响。说白了，业务模式越简单、越清晰，数据分析越容易出成果。因为简单的业务模式能显著减少数据分析师学习业务的成本。分析体系和框架也会简单明了，在分析时需要考虑的影响因素就越少。而价值链短业务模式更容易让分析主题直接与业务收益挂钩，更容易让数据分析成果变现。而分析需求越稳定，就可以给分析师更多的时间深入研究下去，不断迭代，最终产出更大的价值。分析需求越清晰，花在需求讨论中的时间就越少，最终分析成果被转化的可能性就越大。
3、术
所谓“术”，是指数据分析的方法和过程，其中分析思维和分析技术对分析结果的影响。
正如我在开篇所述，数据分析所涉及技术体系非常庞大，而且学习资料也很多，不在本专栏范围之内。我重点想说说我经验中的一些分析技巧（包括思维和方法）：
分析主题的定性与定量：设计分析主题中的重要一步，是要确定分析的目的是定性或是定量。如果是定性，通常只要考虑有关或无关，正面影响或负面影响。定量分析是很受业务方欢迎的，分析也更加复杂和困难，通常要通过机器学习模型解决。
发现分析主题的两个切入点：指标监控与业务问题。在《如何设定分析目标》一节讲过，数据部门更适合从指标监控中发现问题，业务部门更适合从业务中发现问题。但对于一个成熟的数据部门，把指标监控和业务监控深度结合，对于发现分析主题更有利。
数学建模：我对数学建模技术了解并不深。但是如果能把业务问题转化为一个数学模型，对于确定分析思路会很有帮助。
指标创新：指标其实是数据分析师分析业务问题的武器。因为无论你用什么分析方法，总要用到一些数据，而这些数据的计算方法、范围会很大程度上影响分析结果。且不说任何一个建模过程中的特征选择都非常重要，即使只是对业务的简单监控，一个好的指标往往能准确无误地反映出问题。对于互联网，PV、UV、时长、留存、点击率、退出率这些是大家很常用的。用来监控整体业务是没有问题的，但是对于某个小的业务板块就不太够了。比如，作为内容平台，我想衡量一次曝光的用户体验如何，应该用什么指标？有人会建议用点击率，但是点击率会受到标题党的影响，此时高的点击率并不代表好的用户体验。比较好的选择是把点击率、阅读时长、阅读进度等合成一个指标。
整体与个体：大处着眼，小处着手。无论是数据还是业务，都不是孤立存在的，系统性思维对于分析师非常重要。所以在看到一个小问题的时候，要知道它绝对不会影响这一小块业务；而看到大的目标出现问题的时候，要能意识到可能是一些小的业务环节出了岔子。在动手层面，对于数据分析来说，微观分析更容易获取实验数据，也更容易找到因果关系。所以要不断地对问题分解和细化。
分析维度的引入：在低维空间上解决不了，在高维空间上就不是个事（想到三体了吗）。比如SVM，低维空间上无法做到线性可分的数据样本，在高维空间上就可以。所以如果你在某个分析问题中费了牛劲也找不到答案，也许正是因为你忽略了某个重要的因素。当然也不是维度越多越好，因为维度越多，解释起来就越困难，不要忘了，结果是给人看的。
大胆假设，小心求证：试想求解一个方程式，我把某个解代入方程验证是否正确，要比我从空间中求解容易得多。同理，由于在现实世界中可能影响业务的因素太多，选择其中最有可能的因素去验证无疑是一条捷径。这个假设怎么去做？首先要对业务有足够的敏感度。
是的，业务老鸟就是比新手能更快地“嗅”出问题的根源；其次要对数据有足够的敏感度，数据之间都是有关系的，某个相关的指标变化也许就能告诉我们答案。究竟这个假设是不是问题的答案，最终取决于数据验证。“小心”的意思是，一定要保证在验证过程中不受其他因素的干扰，AB测试无疑是个很好的方法。还有，在求证过程中要保持逻辑的严密。