Tag：hadoop
网站简介：Hadoop是一个分布式系统基础架构，由Apache基金会开发；用户可以在不了解分布式底层细节的情况下，开发分布式程序；充分利用集群的威力高速运算和存储；Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS；HDFS有着高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高传输率（highthroughput）来访问应用程序的数据，适合那些有着超大数据集（largedataset）的应用程序；HDFS放宽了（relax）POSIX的要求（requirements）这样可以流的形式访问（streamingaccess）文件系统中的数据。Hadoop是Apache组织下的一个开源项目，致力于开发一套分布式计算环境下的可靠、可扩展软件。其中包括：HadoopCore,提供了一套分布式文件系统以及支持Map-Reduce的计算框架。HBase，建立于HadoopCore之上提供一个可扩展的数据库系统。Pig，建立于HadoopCore之上为并行计算环境提供了一套数据工作流语言和执行框架。ZooKeeper，高可用的和可靠的分布式协同（coordination）系统。分布式应用可以使用ZooKeeper存取其关键状态。Hadoop这个名字不是一个缩写，它是一个虚构的名字。该项目的创建者，DougCutting如此解释Hadoop的得名：\"这个名字是我孩子给一个棕黄色的大象样子的填充玩具命名的。我的命名标准就是简短，容易发音和拼写，没有太多的意义，并且不会被用于别处。小孩子是这方面的高手。”[Hadoop:TheDefinitiveGuide]Hadoop由ApacheSoftwareFoundation公司于2005年秋天作为Lucene的子项目Nutch的一部分正式引入。它受到最先由GoogleLab开发的Map/Reduce和GoogleFileSystem(GFS)的启发。2006年3月份，Map/Reduce和NutchDistributedFileSystem(NDFS)分别被纳入称为Hadoop的项目中。Hadoop是最受欢迎的在Internet上对搜索关键字进行内容分类的工具，但它也可以解决许多要求极大伸缩性的问题。例如，如果您要grep一个10TB的巨型文件，会出现什么情况？在传统的系统上，这将需要很长的时间。但是Hadoop在设计时就考虑到这些问题，采用并行执行机制，因此能大大提高效率。Hadoop是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop还是可伸缩的，能够处理PB级数据。此外，Hadoop依赖于社区服务器，因此它的成本比较低，任何人都可以使用。Hadoop带有用Java语言编写的框架，因此运行在Linux生产平台上是非常理想的。Hadoop上的应用程序也可以使用其他语言编写，比如C++。Hadoop有许多元素构成。其最底部是HadoopDistributedFileSystem（HDFS），它存储Hadoop集群中所有存储节点上的文件。HDFS（对于本文）的上一层是MapReduce引擎，该引擎由JobTrackers和TaskTrackers组成。Hadoop是项目的总称，起源于作者儿子的一只玩具大象的名字。主要是由HDFS、MapReduce和Hbase组成。HDFS是GoogleFileSystem（GFS）的开源实现。MapReduce是GoogleMapReduce的开源实现。HBase是GoogleBigTable的开源实现。这个分布式框架很有创造性，而且有极大的扩展性，使得Google在系统吞吐量上有很大的竞争力。因此Apache基金会用Java实现了一个开源版本，支持Fedora、Ubuntu等Linux平台。雅虎和硅谷风险投资公司BenchmarkCapital6月28日联合宣布，他们将联合成立一家名为Hortonworks的新公司，接管被广泛应用的数据分析软件Hadoop的开发工作。Hadoop实现了HDFS文件系统和MapRecue。用户只要继承MapReduceBase，提供分别实现Map和Reduce的两个类，并注册Job即可自动分布式运行。目前Release版本是0.20.205.0。还不成熟，但是已经集群规模已经可以达到4000个节点，是在Yahoo!实验室中构建的。
温馨提示：
1、2024-02-26，Hadoop网站世界排名0位，浏览人数已经达到0次，网站关注度0。如果需要了解该站的相关权重信息，可以使用"爱站工具""Chinaz站长工具"查询，本页的网站数据不是实时更新、仅供参考，建议大家以爱站查询数据为准。关于Hadoop网站价值评估：如访问速度、搜索引擎收录情况以及索引量、用户体验等；当然，要评估一个站的价值，最主要还是需要根据您自身的需求以及需要，一些确切的数据则需要找Hadoop的站长进行洽谈提供。如该站的IP、PV、跳出率等信息！
2、本网页的Hadoop官网信息收录于2024-02-26，内容来自互联网收集与整理。由于Hadoop网站不属于今日学习吧所拥有，后期发展无法实时掌控。随着时间的变化，本页网址指向的网站内容可能会有所变动，今日学习吧无法保证外部链接的合法性。因此，请大家查阅Hadoop网站信息时，谨慎选择、自真伪，注意保护好个人信息，感谢你的理解与支持（41.0）。
