hdfs的优缺点是什么

hdfs的优点是:1、高容错性;2、适合批处理;3、适合大数据处理;4、流式数据访问;5、可构建在廉价机器上。hdfs的缺点是:1、不适合低延迟的数据访问;2、不适合存储⼤量的⼩⽂件;3、不⽀持并发写⼊以及随即修改。hdfs通过增加副本的形式,提高容错性。

hdfs的优缺点是什么-Worktile社区

hdfs的优点是:

1、高容错性

数据自动保存多个副本。它通过增加副本的形式,提高容错性。某一个副本丢失以后,它可以自动恢复,这是由 HDFS 内部机制实现的,我们不必关心。

2、适合批处理

它是通过移动计算而不是移动数据。它会把数据位置暴露给计算框架。

3、适合大数据处理

数据规模:能够处理数据规模达到 GB、TB、甚至PB级别的数据。

文件规模:能够处理百万规模以上的文件数量,数量相当之大。

节点规模:能够处理10K节点的规模。

4、流式数据访问

一次写入,多次读取,不能修改,只能追加。它能保证数据的一致性。

5、可构建在廉价机器上

它通过多副本机制,提高可靠性。它提供了容错和恢复机制。比如某一个副本丢失,可以通过其它副本来恢复。

hdfs的缺点是:

1、不适合低延迟的数据访问

访问hdfs的数据是相对较慢的,⽆法做到像 mysql 那样的毫秒级别的读写数据。所以不适合低延时数据访问,比如毫秒级的存储数据,是做不到的。低延迟数据访问:例如,订单是否适合存储在HDFS中,要求数据毫秒级就要查出来。

2、不适合存储⼤量的⼩⽂件

所有存储在 hdfs上的⽂件都需要由 NameNode来管理元数据信息,每个 block块的元数据信息都会占⽤ 150字节的内存空间,会增⼤ NameNode的负担。

例如同样存储10M的内容,采取副本数为3的备份机制,这10M放在⼀个⽂件中,所⽤到的元数据占⽤的内存为150*3=450字节,如果把这10M放到10个⽂件中,则占

⽤150*10*3=4500字节,很明显,存储相同的内容,第⼆种⽅式占⽤的内存更多。

3、不⽀持并发写⼊以及随即修改

⼀个⽂件只能有⼀个⽤户写,不允许多个线程同时写⼊

仅⽀持数据的追加,不⽀持⽂件的随即修改,一个文件只能有一个写,不允许多个线程同时写;仅支持数据append(追加),不支持文件的随机修改。不适合修改,实际中网盘、云盘内容是不允许修改的,只能删了重新上传,它们都是Hadoop实现的。

延伸阅读:

什么是hdfs?

Hadoop分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统(Distributed File System)。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束,来实现流式读取文件系统数据的目的。HDFS在最开始是作为Apache Nutch搜索引擎项目的基础架构而开发的。HDFS是Apache Hadoop Core项目的一部分。

HDFS有着高容错性(fault-tolerant)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。

HDFS采用了主从(Master/Slave)结构模型,一个HDFS集群是由一个NameNode和若干个DataNode组成的。其中NameNode作为主服务器,管理文件系统的命名空间和客户端对文件的访问操作;集群中的DataNode管理存储的数据。

文章标题:hdfs的优缺点是什么,发布者:小编,转载请注明出处:https://worktile.com/kb/p/35108

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
小编小编认证作者
上一篇 2023年1月10日 上午1:41
下一篇 2023年1月10日 下午4:07

相关推荐

  • 产品经理应如何设置优先级

    在产品管理中,明智地确定任务优先级是关键的一环,1、基于价值和紧迫性评估、2、采用权衡分析、3、运用优先级矩阵、4、顾客反馈导向、5、迭代和灵活性尤为重要。其中,基于价值和紧迫性评估意味着将资源投入到能够为用户和企业带来最大价值同时又急需解决的任务上。以基于价值和紧迫性评估为例,产品经理需明确功能或…

    2023年12月19日
    28200
  • 为什么要用项目管理软件

    为什么要用项目管理软件:1、提高管理效率;2、实现统一管理;3、人员分配与管理;4、有效的进度管理;5、降低管理成本;6、合理评价考核。提高管理效率是指,管理人员只需要登录系统点击相应的功能模块即可获得详细的信息,避免了人工询问的延时性,从而能够有效提高管理效率。 一、提高管理效率 在项目管理软件中…

    2023年4月20日
    49000
  • 什么是联邦学习,它为何重要

    联邦学习是一种机器学习技术,它允许多个参与者协作训练模型,同时不需要直接交换数据,保护了数据隐私。它的重要性体现在三个核心观点上:1、隐私保护;2、数据效率;3、可扩展性。 联邦学习通过训练本地模型并只分享模型更新信息来保护用户隐私。这种方式减少了对中心化大规模数据集的依赖,有效提升了数据使用效率。…

    2023年11月24日
    53200
  • 数据库到底指的什么

    数据库是存放数据的仓库。它的存储空间很大,可以存放百万条、千万条、上亿条数据。但是数据库并不是随意地将数据进行存放,是有一定的规则的,否则查询的效率会很低。除了文本类型的数据,图像、音乐、声音都是数据。 一、数据库到底指的什么 数据库是存放数据的仓库。它的存储空间很大,可以存放百万条、千万条、上亿条…

    2023年7月22日
    45000
  • 人工智能会不会取代人类的工作

    随着人工智能技术的迅速发展,人们普遍关心这一技术是否有可能取代人类的工作。答案是人工智能将在某些领域取代人类工作,但也会创造新的职业机会。其中,核心观点包括:1、人工智能优化效率和精准度2、其在特定任务上胜于人类3、可能引起某些行业的工作岗位减少4、同时促进新技能和职业的出现5、对教育和培训领域提出…

    2023年11月24日
    58300
  • 产品管理中的可持续性和生态系统思维是什么

    可持续性和生态系统思维在产品管理中是两个非常重要的概念。可持续性主要关注产品生命周期内的环境、社会和经济影响,目的是创造长期价值并减少负面影响。生态系统思维则强调产品不是独立存在的,而是嵌入在更广泛的商业、技术和社会生态系统之中。主要观点包括:一、长期价值与责任;二、全局视角与复杂性;三、合作与共生…

    2023年9月22日
    45900
  • 数据分析步骤是什么

    本文提供了一份关于数据分析步骤的详细指南,包括它们的顺序和重要性。数据分析是用来从原始数据中提取可用信息和洞察的过程。其核心步骤包括数据清洗、数据探索、数据分析、结果验证和结果呈现。这些关键步骤的目的是确保数据的质量、识别数据集中的关键特征、应用合适的统计方法分析数据、确认发现的结果的可靠性,并将分…

    2023年11月21日
    43500
  • oa 即时通讯

    标题:即时通讯在现代办公自动化中的作用 摘要:现代办公自动化(OA)依赖于即时通讯(IM)实现快速有效的沟通1、降低运营成本2、提高工作效率3、促进团队协作4、。在快节奏的商务环境中,即时通讯促进团队协作,具有即时响应,便捷分享文件和屏幕共享功能,促进团队成员之间的实时交流及信息共享,确保商业活动中…

    2024年1月17日
    22700
  • 树莓派可以用来做什么

    树莓派是一款非常强大的微型计算机,其主要用途包括:1、编程学习;2、搭建家庭媒体中心;3、IoT项目;4、家庭自动化;5、搭建服务器;6、游戏主机。树莓派提供了一个优异的平台,用于教授和学习编程。 一、编程学习 树莓派提供了一个优异的平台,用于教授和学习编程。它支持各种编程语言,如Python、Ja…

    2023年7月29日
    3.0K00
  • oa全称是什么意思

    OA全称是“Office Automation”,指的是办公自动化。这个概念涵盖了使用计算机及网络技术,来提升日常办公效率、改善工作流程、降低运营成本以及优化信息管理的一系列做法。在企业与机构中,办公自动化的引入意味着从手工处理到电子方式的转变,促进信息流转的同时也带来了更高的文档管理效率和决策支持…

    2024年1月11日
    49500

发表回复

登录后才能评论
注册PingCode 在线客服
站长微信
站长微信
电话联系

400-800-1024

工作日9:30-21:00在线

分享本页
返回顶部