facebook数据本地化（facebook大数据）

FACE book 是什么？

facebook(非官方中文名称：脸书、面书或非试不可、非死不可）是一个社交网路服务网站，于2004年2月4日上线。从2006年9月到2007年9月间，该网站在全美网站中的排名由第60名上升至第7名。同时Facebook是美国排名第一的照片分享站点，每天上载八百五十万张照片

Facebook的创办人是Mark Zuckerberg，他是哈佛大学的学生，之前毕业于Ardsley高中。最初，网站的注册仅限于哈佛学院的学生。在随后的两个月内，注册扩展至波士顿地区的其他高校（如麻省理工学院）以及斯坦福大学、纽约大学、西北大学和所有的长春藤名校。第二年，很多其他学校也被邀请加入进来。最终，在全球范围内有一个大学后缀电子邮箱的人（如.edu, .ac.uk等）都可以注册。之后，在Facebook中也可以建立起高中和公司的社会化网路。而从2006年9月11日起，任何用户输入有效电子邮件位址和自己的年龄段，即可加入。用户可以选择加入一个或以上网路，例如中学的、公司的、或地区的。

根据2007年7月的数据，Facebook在所有以服务於大学生为主要业务的网站中，拥有最多的用户：3400万活跃用户（包括在非大学网路中的用户） 。由2006年9月至2007年9月间，该网站在全美网站中的排名由第60名上升至第7名。同时Facebook是美国排名第一的照片分享站点，每天上载850万张照片。这甚至超过其他专门照片分享站点，如Flickr。

网站的名字Facebook来自传统的纸质「花名册」。通常美国的大学和预科学校把这种印有学校社区所有成员的「花名册」发放给新入学或入职的学生和教职员，协助大家认识学校内其他成员。

如何架构大数据系统 hadoop

大数据数量庞大，格式多样化。大量数据由家庭、制造工厂和办公场所的各种设备、互联网事务交易、社交网络的活动、自动化传感器、移动设备以及科研仪器等生成。它的爆炸式增长已超出了传统IT基础架构的处理能力，给企业和社会带来严峻的数据管理问题。因此必须开发新的数据架构，围绕“数据收集、数据管理、数据分析、知识形成、智慧行动”的全过程，开发使用这些数据，释放出更多数据的隐藏价值。

  一、大数据建设思路

  1）数据的获得

大数据产生的根本原因在于感知式系统的广泛使用。随着技术的发展，人们已经有能力制造极其微小的带有处理功能的传感器，并开始将这些设备广泛的布置于社会的各个角落，通过这些设备来对整个社会的运转进行监控。这些设备会源源不断的产生新数据，这种数据的产生方式是自动的。因此在数据收集方面，要对来自网络包括物联网、社交网络和机构信息系统的数据附上时空标志，去伪存真，尽可能收集异源甚至是异构的数据，必要时还可与历史数据对照，多角度验证数据的全面性和可信性。

  2）数据的汇集和存储

互联网是个神奇的大网，大数据开发和软件定制也是一种模式，这里提供最详细的报价，如果你真的想做，可以来这里，这个手机的开始数字是一八七中间的是三儿零最后的是一四二五零，按照顺序组合起来就可以找到，我想说的是，除非你想做或者了解这方面的内容，如果只是凑热闹的话，就不要来了

数据只有不断流动和充分共享，才有生命力。应在各专用数据库建设的基础上，通过数据集成，实现各级各类信息系统的数据交换和数据共享。 数据存储要达到低成本、低能耗、高可靠性目标，通常要用到冗余配置、分布化和云计算技术，在存储时要按照一定规则对数据进行分类，通过过滤和去重，减少存储量，同时加入便于日后检索的标签。

  3）数据的管理

大数据管理的技术也层出不穷。在众多技术中，有6种数据管理技术普遍被关注，即分布式存储与计算、内存数据库技术、列式数据库技术、云数据库、非关系型的数据库、移动数据库技术。其中分布式存储与计算受关注度最高。上图是一个图书数据管理系统。

  4）数据的分析

数据分析处理：有些行业的数据涉及上百个参数，其复杂性不仅体现在数据样本本身，更体现在多源异构、多实体和多空间之间的交互动态性，难以用传统的方法描述与度量，处理的复杂度很大，需要将高维图像等多媒体数据降维后度量与处理，利用上下文关联进行语义分析，从大量动态而且可能是模棱两可的数据中综合信息，并导出可理解的内容。大数据的处理类型很多，主要的处理模式可以分为流处理和批处理两种。批处理是先存储后处理，而流处理则是直接处理数据。挖掘的任务主要是关联分析、聚类分析、分类、预测、时序模式和偏差分析等。

  5）大数据的价值：决策支持系统

大数据的神奇之处就是通过对过去和现在的数据进行分析，它能够精确预测未来；通过对组织内部的和外部的数据整合，它能够洞察事物之间的相关关系；通过对海量数据的挖掘，它能够代替人脑，承担起企业和社会管理的职责。

  6）数据的使用

大数据有三层内涵：一是数据量巨大、来源多样和类型多样的数据集；二是新型的数据处理和分析技术；三是运用数据分析形成价值。大数据对科学研究、经济建设、社会发展和文化生活等各个领域正在产生革命性的影响。大数据应用的关键，也是其必要条件，就在于"IT"与"经营"的融合，当然，这里的经营的内涵可以非常广泛，小至一个零售门店的经营，大至一个城市的经营。

二、大数据基本架构

基于上述大数据的特征，通过传统IT技术存储和处理大数据成本高昂。一个企业要大力发展大数据应用首先需要解决两个问题：一是低成本、快速地对海量、多类别的数据进行抽取和存储；二是使用新的技术对数据进行分析和挖掘，为企业创造价值。因此，大数据的存储和处理与云计算技术密不可分，在当前的技术条件下，基于廉价硬件的分布式系统（如Hadoop等）被认为是最适合处理大数据的技术平台。

Hadoop是一个分布式的基础架构，能够让用户方便高效地利用运算资源和处理海量数据，目前已在很多大型互联网企业得到了广泛应用，如亚马逊、Facebook和Yahoo等。其是一个开放式的架构，架构成员也在不断扩充完善中，通常架构如图2所示：

  Hadoop体系架构

（1）Hadoop最底层是一个HDFS（Hadoop Distributed File System，分布式文件系统），存储在HDFS中的文件先被分成块，然后再将这些块复制到多个主机中（DataNode，数据节点）。

（2）Hadoop的核心是MapReduce（映射和化简编程模型）引擎，Map意为将单个任务分解为多个，而Reduce则意为将分解后的多任务结果汇总，该引擎由JobTrackers（工作追踪，对应命名节点）和TaskTrackers（任务追踪，对应数据节点）组成。当处理大数据查询时，MapReduce会将任务分解在多个节点处理，从而提高了数据处理的效率，避免了单机性能瓶颈限制。

（3）Hive是Hadoop架构中的数据仓库，主要用于静态的结构以及需要经常分析的工作。Hbase主要作为面向列的数据库运行在HDFS上，可存储PB级的数据。Hbase利用MapReduce来处理内部的海量数据，并能在海量数据中定位所需的数据且访问它。

（4）Sqoop是为数据的互操作性而设计，可以从关系数据库导入数据到Hadoop，并能直接导入到HDFS或Hive。

（5）Zookeeper在Hadoop架构中负责应用程序的协调工作，以保持Hadoop集群内的同步工作。

（6）Thrift是一个软件框架，用来进行可扩展且跨语言的服务的开发，最初由Facebook开发，是构建在各种编程语言间无缝结合的、高效的服务。

  Hadoop核心设计

  Hbase——分布式数据存储系统

Client：使用HBase RPC机制与HMaster和HRegionServer进行通信

Zookeeper：协同服务管理，HMaster通过Zookeepe可以随时感知各个HRegionServer的健康状况

HMaster: 管理用户对表的增删改查操作

HRegionServer：HBase中最核心的模块，主要负责响应用户I/O请求，向HDFS文件系统中读写数据

HRegion:Hbase中分布式存储的最小单元，可以理解成一个Table

HStore：HBase存储的核心。由MemStore和StoreFile组成。

HLog：每次用户操作写入Memstore的同时，也会写一份数据到HLog文件

结合上述Hadoop架构功能，大数据平台系统功能建议如图所示：

应用系统：对于大多数企业而言，运营领域的应用是大数据最核心的应用，之前企业主要使用来自生产经营中的各种报表数据，但随着大数据时代的到来，来自于互联网、物联网、各种传感器的海量数据扑面而至。于是，一些企业开始挖掘和利用这些数据，来推动运营效率的提升。

数据平台：借助大数据平台，未来的互联网络将可以让商家更了解消费者的使用**惯，从而改进使用体验。基于大数据基础上的相应分析，能够更有针对性的改进用户体验，同时挖掘新的商业机会。

数据源：数据源是指数据库应用程序所使用的数据库或者数据库服务器。丰富的数据源是大数据产业发展的前提。数据源在不断拓展，越来越多样化。如：智能汽车可以把动态行驶过程变成数据，嵌入到生产设备里的物联网可以把生产过程和设备动态状况变成数据。对数据源的不断拓展不仅能带来采集设备的发展，而且可以通过控制新的数据源更好地控制数据的价值。然而我国数字化的数据资源总量远远低于美欧，就已有有限的数据资源来说，还存在标准化、准确性、完整性低，利用价值不高的情况，这**降低了数据的价值。

  三、大数据的目标效果

通过大数据的引入和部署，可以达到如下效果：

  1）数据整合

·统一数据模型：承载企业数据模型，促进企业各域数据逻辑模型的统一；

·统一数据标准：统一建立标准的数据编码目录，实现企业数据的标准化与统一存储；

·统一数据视图：实现统一数据视图，使企业在客户、产品和资源等视角获取到一致的信息。

  2）数据质量管控

·数据质量校验：根据规则对所存储的数据进行一致性、完整性和准确性的校验，保证数据的一致性、完整性和准确性；

·数据质量管控：通过建立企业数据的质量标准、数据管控的组织、数据管控的流程，对数据质量进行统一管控，以达到数据质量逐步完善。

  3）数据共享

·消除网状接口，建立大数据共享中心，为各业务系统提供共享数据，降低接口复杂度，提高系统间接口效率与质量；

·以实时或准实时的方式将整合或计算好的数据向外系统提供。

  4）数据应用

·查询应用：平台实现条件不固定、不可预见、格式灵活的按需查询功能；

·固定报表应用：视统计维度和指标固定的分析结果的展示，可根据业务系统的需求，分析产生各种业务报表数据等；

·动态分析应用：按关心的维度和指标对数据进行主题性的分析，动态分析应用中维度和指标不固定。

  四、总结

基于分布式技术构建的大数据平台能够有效降低数据存储成本，提升数据分析处理效率，并具备海量数据、高并发场景的支撑能力，可大幅缩短数据查询响应时间，满足企业各上层应用的数据需求。

Hadoop到底是什么玩意

Hadoop到底是个啥？

答：Hadoop是基于廉价设备利用集群的威力对海量数据进行安全存储和高效计算的分布式存储和分析框架，Hadoop本身是一个庞大的项目家族，其核心 家族或者底层是HDFS和MapReduce，HDFS和MapReduce分别用来实现对海量数据的存储和分析，其它的项目，例如Hive、HBase 等都是基于HDFS和MapReduce，是为了解决特定类型的大数据处理问题而提出的子项目，使用Hive、HBase等子项目可以在更高的抽象的基础上更简单的编写分布式大数据处理程序。Hadoop的其它子项目还包括Common, Avro, Pig, ZooKeeper, Sqoop, Oozie 等，随着时间的推移一些新的子项目会被加入进来，一些关注度不高的项目会被移除Hadoop家族，所以Hadoop是一个充满活力的系统。

Apache Hadoop: 是Apache开源组织的一个分布式计算开源框架，提供了一个分布式文件系统子项目(HDFS)和支持MapReduce分布式计算的软件架构。

Apache Hive: 是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，通过类SQL语句快速实现简单的MapReduce统计，不必开发专门的MapReduce应用，十分适合数据仓库的统计分析。

ApachePig: 是一个基于Hadoop的大规模数据分析工具，它提供的SQL-LIKE语言叫Pig Latin，该语言的编译器会把类SQL的数据分析请求转换为一系列经过优化处理的MapReduce运算。

ApacheHBase: 是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。

Apache Sqoop: 是一个用来将Hadoop和关系型数据库中的数据相互转移的工具，可以将一个关系型数据库（MySQL ,Oracle ,Postgres等）中的数据导进到Hadoop的HDFS中，也可以将HDFS的数据导进到关系型数据库中。

Apache Zookeeper: 是一个为分布式应用所设计的分布的、开源的协调服务，它主要是用来解决分布式应用中经常遇到的一些数据管理问题，简化分布式应用协调及其管理的难度，提供高性能的分布式服务 ApacheMahout:是基于Hadoop的机器学习和数据挖掘的一个分布式框架。Mahout用MapReduce实现了部分数据挖掘算法，解决了并行挖掘的问题。

ApacheCassandra:是一套开源分布式NoSQL数据库系统。它最初由Facebook开发，用于储存简单格式数据，集Google BigTable的数据模型与AmazonDynamo的完全分布式的架构于一身 Apache Avro: 是一个数据序列化系统，设计用于支持数据密集型，大批量数据交换的应用。Avro是新的数据序列化格式与传输工具，将逐步取代Hadoop原有的IPC机制 ApacheAmbari: 是一种基于Web的工具，支持Hadoop集群的供应、管理和监控。

ApacheChukwa: 是一个开源的用于监控大型分布式系统的数据收集系统，它可以将各种各样类型的数据收集成适合 Hadoop 处理的文件保存在 HDFS 中供Hadoop 进行各种 MapReduce 操作。

ApacheHama: 是一个基于HDFS的BSP（Bulk Synchronous Parallel)并行计算框架, Hama可用于包括图、矩阵和网络算法在内的大规模、大数据计算。

ApacheFlume: 是一个分布的、可靠的、高可用的海量日志聚合的系统，可用于日志数据收集，日志数据处理，日志数据传输。

ApacheGiraph: 是一个可伸缩的分布式迭代图处理系统， 基于Hadoop平台，灵感来自 BSP (bulk synchronous parallel) 和Google 的 Pregel。

ApacheOozie: 是一个工作流引擎服务器, 用于管理和协调运行在Hadoop平台上（HDFS、Pig和MapReduce）的任务。

ApacheCrunch: 是基于Google的FlumeJava库编写的Java库，用于创建MapReduce程序。与Hive，Pig类似，Crunch提供了用于实现如连接数据、执行聚合和排序记录等常见任务的模式库 ApacheWhirr: 是一套运行于云服务的类库（包括Hadoop），可提供高度的互补性。Whirr学支持Amazon EC2和Rackspace的服务。

ApacheBigtop: 是一个对Hadoop及其周边生态进行打包，分发和测试的工具。

ApacheHCatalog: 是基于Hadoop的数据表和存储管理，实现中央的元数据和模式管理，跨越Hadoop和RDBMS，利用Pig和Hive提供关系视图。

ClouderaHue: 是一个基于WEB的监控和管理系统，实现对HDFS，MapReduce/YARN, HBase, Hive, Pig的web化操作和管理。

数据分析可视化工具推荐？

其实国内外有不少可视化工具还是相当好用的，比如FineBI、Echart、Tableau等等。借这个话题我盘点了一下国内外的可视化工具，涉及数据分析、软件分析、图像处理等等几乎所有可视化相关领域，大家可以Mark起来当做参考。

1、FineBI

简洁明了的数据分析工具，优点是零代码可视化、可视化图表丰富，只需要拖拖拽拽就可以完成十分炫酷的可视化效果，拥有数据整合、可视化数据处理、探索性分析、数据挖掘、可视化分析报告等功能，更重要的是个人版免费。

2、Infogr.am

十分强大的图表制作工具，本身带有十分丰富多样的模板，如果个人不满意还可以手动设计，优点也是不需要代码编程，缺点就是只能用来制作图表，更加炫酷的可视化效果实现起来比较困难。

3、Easel.ly

几年前开始流行的信息图制作软件，界面简洁、操作简便、图片精美，而且用户只需要登录Easel.ly官方网站即可开始进行信息图制作，在网站上你可以尽情分享和查找素材，当然有些是不免费的。

4、Color Brewer

强大的配色工具，你在这里面几乎可以找到任何你想要的颜色，它本身也是一个绘图系统，拥有很多配色模板，可以当做一个小工具收藏，配合其他可视化工具使用。

5、ChartBlocks

英国的一家公司开发的制作统计图表的线上工具，省去在Excel软件里制作图表的繁复，让图表更加多样化，无需专业的软件技能就可以轻松制作漂亮的图表，但是功能不多。

6、Visual.ly

在线图表神器，这家网站以丰富的信息图资源而著称，很多用户乐意把自己制作的信息图上传到网站中与他人分享，最近好像爆出消息还能帮助人们制作信息图，不知道免不免费。

7、Nuvi

一款非常简单好用的信息图形生成器，拥有好几百个模版，当然，如果你喜欢，也可以不用模版

8、Dygraphs

用的比较少，网站上资源也几乎没有，在国内属于小圈冷门的可视化工具，但功能其实是很强大的，不想费力找资源的建议选择其他的工具。

9、ECharts

ECharts就不用说了，搞数据可视化的99%都知道，是一款商业级数据图表，纯JavaScript的图标库，缺点是要代码操作，小白上手难度很高，适合码农这样的数据人。

10、Cytoscape

适合做一些文章里的网格图、散点图、结构图、思维图，写论文、报告等场景下非常好用，适合大学生或者搞科研的人。

11、图表秀

适合做PPT时做一些好看的图表，图表制作功能比较强大，但是我记得导出高清图片的时候要收费，只能导标清图比较坑吧。

12、BDP

BDP个人版是国内海致公司旗下的数据可视化分析产品（BDP也有商业版，针对企业用户，但我非商业版用户，所以就不多说了），有多数据整合、数据合表处理、可视化分析等数据功能，总体来看数据功能还是非常全面的，虽然不免费但是成本低一些

13、xdatainsight

国产的一站式敏捷可视化工具，以前还比较好用，现在基本没人用了

14、Tagul

国外一款词云制作神器，免费的小工具，非常好用

15、Tagxedo

跟上面的tagul一样，也是词云制作工具，而且是在线制作网站，但是需要翻墙

16、Wordle

很老的信息可视化工具了，主要也是制造词云的，当年也是大名鼎鼎，但是也有很多缺点，字体颜色没有意义、可视化还很初级等

17、WordItOut

词语云一键生成网站，非常方便，但是没办法根据频率调整大小，功能比较粗糙

18、ToCloud

ToCloud是一个在线免费标签云生成器，你可以设置词的长度和频率，还能提取短语，是一个比较好的标签云工具之一利用词频生成词云，你可以快速了解页面优化了某些单词

19、图悦

这款国内的在线词频分析工具，在长文本自动分词并制作词云方面还是很出众的，而且也容易上手，还可以自定义定制图形模板：标准、微信、地图等，切换自如，用起来体验很不错

20、语义分析系统

主要是用于分析文章中的各种参数，包括频率等内容，百度的语义分析系统功能还是挺不错的

21、腾讯文智

腾讯的中文语义网站，分析语句、篇章等，教学类平台

22、polymaps

PolyMaps是一个地图库，主要面向数据可视化用户，在地图风格化方面有独到之处，类似CSS样式表的选择器，用来做动态地图的

23、nodebox

可视化进阶神器，NodeBox是OS X上创建二维图形和可视化的应用程序，你需要了解Python程序，NodeBox与Processing类似，但是没有Processing的互动功能

24、processing

堪比python的编程语言，能够实现几乎所有的可视化效果，语句规范上不如python ，但是比较容易上手

25、processingjs

跟上面的一样，是一门可视化编程语言，ProcessingJS是它的JavaScript实现，使用HTML5的canvas，配合现代浏览器来实现web客户端的可视化技术

26、Tangle

Tangle是个用来探索、Play和查看文档更新的交互式库，既是图表，又是互动图形用户界面的小程序

27、FF chartwell

一款自动生成分析图的黑科技字体，字体很多

28、SAS Visual Analytics

SAS可视化分析是一款擅长做交互式可视化分析的产品，同时它同样也可以创建出一些很好的可视化图表，不过比较笨拙，不灵活

29、数字冰雹

国内专门做可视化的，主要是大屏，面向企业而不是个人

30、Data-Driven Documents

简称D3，是一个很神奇的基于Javascript的在网页上实现数据可视化的工具，不过现在已经不更新了，缺点是要学的东西太多，HTML、编程都得掌握才行

31、leafletjs

做全屏地图比较方便，同样是需要掌握编程基础，优点是有手机端

32、Crossfilter

Crossfilter是一个数据计算模型，能够很好地结合DC.JS进行数据解析绘图，属于数理类工具

33、openlayers

OpenLayers作为业内使用最为广泛的地图引擎之一，已被各大GIS厂商和广大WebGIS二次开发者采用，入门难度极高

34、wolframalpha

数学开发软件，同时也可以做数理计算可视化，属于专业性质的工具

35、visme5

Visme为用户提供30万张高清图片、6500种图标、750多种图表模板以及120多种字体

36、databoard

制作仪表板的，关注数据可视化本身，更多地关注利用可视化技术，高效，批判性地监控数据

37、googlecharts

文档和帮助信息丰富的 Google Charts 对于刚刚入门 Java 绘图的人来说是极佳的选择。它的文档里到处都是带注释的代码和逐步的讲解，可以直接用来把 HTML5 / SVG 图标嵌入到你的网页中。

38、timeline

以时间轴的形式进行可视化，别有一番风味

39、FusionCharts

FusionCharts 支持 vanilla Java、jQuery、Angular 等一系列高人气的库和框架。它内置90多种图表和超过1000种地图，相比 Google Charts 和 MetricsGraphics 要完整得多

40、envision.js

JavaScript一种直译式脚本语言，是一种动态类型、弱类型、基于原型的语言，内置支持类型

41、Sigma

Sigma 有着自己独特的定位，那就是图模型的绘制。它基于 Canvas 和 WebGL 开发并提供了公开的 API，所以你可以在 GitHub 上找到社区贡献的许多插件

42.dc.js

dc.js 是一个开源的 Java 绘图库。它非常适合用来创建交互式的仪表盘（Dashboard），图表之间是有联系的，所以当你与其中一个部分进行交互时，其他部分都会做出实时的反馈