hdfs的优缺点是什么

hdfs的优点是:1、高容错性;2、适合批处理;3、适合大数据处理;4、流式数据访问;5、可构建在廉价机器上。hdfs的缺点是:1、不适合低延迟的数据访问;2、不适合存储⼤量的⼩⽂件;3、不⽀持并发写⼊以及随即修改。hdfs通过增加副本的形式,提高容错性。

hdfs的优缺点是什么-Worktile社区

hdfs的优点是:

1、高容错性

数据自动保存多个副本。它通过增加副本的形式,提高容错性。某一个副本丢失以后,它可以自动恢复,这是由 HDFS 内部机制实现的,我们不必关心。

2、适合批处理

它是通过移动计算而不是移动数据。它会把数据位置暴露给计算框架。

3、适合大数据处理

数据规模:能够处理数据规模达到 GB、TB、甚至PB级别的数据。

文件规模:能够处理百万规模以上的文件数量,数量相当之大。

节点规模:能够处理10K节点的规模。

4、流式数据访问

一次写入,多次读取,不能修改,只能追加。它能保证数据的一致性。

5、可构建在廉价机器上

它通过多副本机制,提高可靠性。它提供了容错和恢复机制。比如某一个副本丢失,可以通过其它副本来恢复。

hdfs的缺点是:

1、不适合低延迟的数据访问

访问hdfs的数据是相对较慢的,⽆法做到像 mysql 那样的毫秒级别的读写数据。所以不适合低延时数据访问,比如毫秒级的存储数据,是做不到的。低延迟数据访问:例如,订单是否适合存储在HDFS中,要求数据毫秒级就要查出来。

2、不适合存储⼤量的⼩⽂件

所有存储在 hdfs上的⽂件都需要由 NameNode来管理元数据信息,每个 block块的元数据信息都会占⽤ 150字节的内存空间,会增⼤ NameNode的负担。

例如同样存储10M的内容,采取副本数为3的备份机制,这10M放在⼀个⽂件中,所⽤到的元数据占⽤的内存为150*3=450字节,如果把这10M放到10个⽂件中,则占

⽤150*10*3=4500字节,很明显,存储相同的内容,第⼆种⽅式占⽤的内存更多。

3、不⽀持并发写⼊以及随即修改

⼀个⽂件只能有⼀个⽤户写,不允许多个线程同时写⼊

仅⽀持数据的追加,不⽀持⽂件的随即修改,一个文件只能有一个写,不允许多个线程同时写;仅支持数据append(追加),不支持文件的随机修改。不适合修改,实际中网盘、云盘内容是不允许修改的,只能删了重新上传,它们都是Hadoop实现的。

延伸阅读:

什么是hdfs?

Hadoop分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束,来实现流式读取文件系统数据的目的。HDFS在最开始是作为Apache Nutch搜索引擎项目的基础架构而开发的。HDFS是Apache Hadoop Core项目的一部分。

HDFS有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

HDFS采用了主从(Master/Slave)结构模型,一个HDFS集群是由一个NameNode和若干个DataNode组成的。其中NameNode作为主服务器,管理文件系统的命名空间和客户端对文件的访问操作;集群中的DataNode管理存储的数据。

文章标题:hdfs的优缺点是什么,发布者:小编,转载请注明出处:https://worktile.com/kb/p/35108

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
小编小编站长
上一篇 2023年1月10日 上午1:41
下一篇 2023年1月10日 下午4:07

相关推荐

  • 禅道项目管理软件怎么使用

    虽然禅道官网存在四个版本,但本质上只分为开源版、云禅道两个条线,因为:无论是开源版、专业版还是旗舰版,都是禅道项目管理软件的私有部署版本;云禅道是saas版本,并且又分为免费、企业版、旗舰版。 禅道成立于2010年,致力于为开发者提供高效的研发协同和管理解决方案。在2021年完成数千万元首次融资,由…

    2023年2月1日
    27300
  • 日常进度报表有什么好的软件

    日常进度报表好的软件有:一、Worktile;二、PingCode;三、progress 进度条;四、简道云;五、SeaTable;六、Asana;七、Jira;八、Weekdone。Worktile 是国内为数不多的同时提供OKR目标+项目管理功能的工具,它曾在2021年36氪发布的项目管理系列榜…

    2023年4月21日
    13600
  • 数据库系统的核心到底是什么

    数据库系统的核心到底是什么:数据库系统的核心是数据库管理系统(DBMS),它是在操作系统的支持下工作,解决如何科学地组织和存储数据,如何高效获取和维护数据的系统软件;DBMS可以对数据库进行统一的管理和控制,以保证数据库的安全性和完整性。 一、数据库系统的核心到底是什么 数据库系统的核心是数据库管理…

    2023年6月4日
    26900
  • 真正厉害的Java技术人员和一般的Java技术人员有什么区别

    一般的java技术人员, 统称为码农,就是做一些没营养的代码。真正的java技术人员在开发中有自己独特的见解,在开发前就能很好的把思路摸清,从而减少很多开发时间。主要还是思维逻辑的不同,思考问题的方式不同,真正Java技术人员是想怎么让程序更高效更安全。 一般的java技术人员, 统称为码农,就是做…

    2023年1月30日
    14100
  • 什么是NSGA-II多目标遗传算法

    NSGA-II,也称为非支配排序遗传算法II,是一种用于解决多目标优化问题的遗传算法。我们可以从以下几点去深入了解:1、算法的背景与特点;2、核心步骤与算法流程;3、主要应用领域;4、与其他遗传算法的对比;5、算法的优势与局限性;6、未来的发展趋势。 1、算法的背景与特点 多目标优化:在许多实际问题…

    2023年7月30日
    40500
  • 文件备份软件哪个好

    好的文件备份软件有:一、备份宝;二、文件管理;三、文件管理君;四、奇信文件管家;五、手机备份还原;六、亲木文件管理器;七、超卓文件管理器;八、百度网盘;九、天翼云盘;十、曲奇云盘。备份宝能够进行照片,音频,视频以及各种文档的轻松备份。 一、备份宝 能够进行照片,音频,视频以及各种文档的轻松备份,甚至…

    2023年4月24日
    6400
  • 什么是项目里程碑

    项目里程碑是一种用于项目进度表中规划定点的管理工具。这些点可以记录一个项目的开始和结束,并标志着一个工作阶段的完成。里程碑虽然是一个调度工具,也可以用来象征已经开始或完成的任何事情。 一、什么是项目里程碑 项目里程碑是一种用于项目进度表中规划定点的管理工具。这些点可以记录一个项目的开始和结束,并标志…

    2023年4月24日
    41700
  • 如何做一个合格的项目经理

    合格的项目经理要具备:一、目标定位能力;二、项目管理知识;三、通用管理知识;四、相关专业知识;五、计划能力;六、组织能力;七、环境适应及人际关系能力;八、责任心。目标定位能力指项目为了达到预期的结果而必须完成一些指标,如质量、工期等。 一、目标定位能力 目标定位能力指项目为了达到预期的结果而必须完成…

    2023年3月30日
    9200
  • JAVA中print和return有什么区别

    区别是:print作用是将数据输出,展示在控制台上,即打印在你能看到的界面上。return语句[表达式]退出函数,选择性地向调用方返回一个表达式。不带参数值的return语句返回None。return作为脚本单独运行时则需要print函数才能显示,但是在交互模式下,return的结果会自动打印出来。…

    2023年2月12日
    23400
  • JAVA中的StringBuilder和StringBuffer适用的场景是什么

    JAVA中的StringBuilder和StringBuffer适用的场景:StringBuilder 一般使用在方法内部来完成类似 + 功能,因为是线程不安全的,所以用完以后可以丢弃。StringBuffer 主要用在全局变量中。 一、StringBuffer 字符串变量(Synchronized…

    2023年2月9日
    28400

发表回复

登录后才能评论
站长微信
站长微信
电话联系

400-800-1024

工作日9:30-21:00在线

分享本页
返回顶部