当前位置: 首页 > wzjs >正文

广州网站建设studstu营销官网

广州网站建设studstu,营销官网,大连百度关键词排名,做网站官网好处🧠 1. 什么是伪分布式模式(Pseudo-distributed Mode)? 在 Hadoop 中,伪分布式模式是一种 用一台机器模拟多节点集群 的运行方式。 每个 Hadoop 组件(如 NameNode、DataNode、ResourceManager、NodeManager&…

🧠 1. 什么是伪分布式模式(Pseudo-distributed Mode)?

在 Hadoop 中,伪分布式模式是一种 用一台机器模拟多节点集群 的运行方式。

  • 每个 Hadoop 组件(如 NameNode、DataNode、ResourceManager、NodeManager)都在 独立的 Java 进程中运行

  • 适合做开发、调试、学习使用。

简单来说:“一台电脑,装扮成一群电脑”


🔁 2. 什么是 MapReduce?

MapReduce 是一种用于大数据处理的编程模型,由两个阶段组成:

阶段作用说明
Map对数据进行切分处理,比如统计每个词出现一次
Reduce对中间结果合并,比如把相同的词频加总

经典例子是:统计一篇文章中每个单词出现了几次(WordCount)


🔧 3. 开始运行 WordCount 示例程序

我们使用的是 Hadoop 自带的 MapReduce 示例程序:hadoop-mapreduce-examples-3.3.4.jar
里面包括了经典的应用程序,比如:wordcount, grep, pi 等。


🪜 步骤一:查看有哪些示例程序

$ hadoop jar /usr/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.4.jar

📌 这条命令会列出 JAR 包里的所有示例,比如:

  • wordcount:统计词频

  • grep:用正则表达式匹配文本

  • pi:估算圆周率


🪜 步骤二:查看 wordcount 的用法

$ hadoop jar /usr/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.4.jar wordcount

你会看到提示:

Usage: wordcount <input> <output>

说明它需要两个参数:

  1. 输入路径(input):HDFS 上的目录,里面放文本文件

  2. 输出路径(output):结果存储的目录(注意不能事先存在)


🪜 步骤三:准备环境

✅ 1)启动 HDFS 和 YARN

$ start-dfs.sh $ start-yarn.sh
  • start-dfs.sh 启动分布式文件系统(NameNode、DataNode)

  • start-yarn.sh 启动任务调度系统(ResourceManager、NodeManager)

✅ 2)创建用户目录(如果没建过)

$ hdfs dfs -mkdir -p /user/user

这一步是给你在 HDFS 上建一个“个人文件夹”。


🪜 步骤四:上传输入文件

✅ 创建输入目录并上传文件:

$ hdfs dfs -mkdir input$ hdfs dfs -put text.txt input
  • mkdir input 是在 HDFS 上建一个 input 文件夹

  • put text.txt input 把本地的 text.txt 文件上传进去


🪜 步骤五:运行 WordCount 程序!

$ hadoop jar /usr/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.4.jar wordcount input output
  • 输入目录是 input

  • 输出目录是 output

  • 程序会在后台运行 Map 和 Reduce 任务,统计每个单词的出现次数。


🪜 步骤六:查看结果

✅ 方法一:下载输出结果到本地

$ hdfs dfs -get output/part-* $ cat part-r-00000
  • part-r-00000 是 Reduce 阶段的输出文件。

  • 里面是每个单词及其频率,比如:

a 5 and 3 hadoop 10


✅ 方法二:直接在终端查看输出内容

$ hdfs dfs -cat output/part-*

 

 

 

 


⚠️ 常见错误:输出目录已存在!

如果你再次运行程序,而 output 文件夹还存在,就会报错。

🧹 解决方案一:删掉旧的输出目录

$ hdfs dfs -rm -r output

🧳 解决方案二:用新的输出目录

比如:

$ hadoop jar ... wordcount input output2$ hdfs dfs -cat output2/part-*

✅ 总结流程图(简化)

Step 1: 启动 Hadoop → start-dfs.sh → start-yarn.shStep 2: 准备数据 → 上传 text.txt 到 HDFS 的 input 文件夹Step 3: 运行程序 → hadoop jar ... wordcount input outputStep 4: 查看结果 → cat output/part-*

✅ 一句话总结

Hadoop 的 MapReduce 示例程序(如 wordcount)能在伪分布式模式中运行,读取 HDFS 上的文本文件,统计词频,并将结果保存到 HDFS 的输出目录中。

http://www.dtcms.com/wzjs/522277.html

相关文章:

  • 塘厦镇网站仿做岳阳网站界面设计
  • 自己做配图的网站公司网站建设全包
  • 在北京建设教育协会的网站百度快速收录权限域名
  • 备案号怎么放置到网站网站开发怎么做
  • 做写真网站犯法吗seo关键词优化的技巧和方法
  • 上海网站建设系统怎么让百度收录我的网站
  • wordpress创建空白网页seo积分优化
  • 常熟做网站多少钱按关键词的优化方案
  • 做网站做国外广告网络营销课程
  • 芜湖做网站北京网络推广
  • 济宁网站建设的公司大型网站建设方案
  • 江苏市场监督管理局app上海网站优化公司
  • 网站设计怎么用黑色网站推广平台
  • 自驾游网站建设广州网站推广软件
  • 小城市网站建设业务百度极速版客服电话
  • 有关做洁净工程的企业网站潍坊seo教程
  • 返利网站开发搜索引擎调词工具
  • wordpress快速仿站视频教程网络营销有哪些手段
  • 小程序搭建骗局厦门关键词seo排名网站
  • 购物商场网站开发过程详细说明站长工具忘忧草
  • 网站建设流量入口泰安做百度推广的公司
  • 中国最好的网站建设有哪些微信营销策略有哪些
  • 包头网站建设公司百度指数需求图谱
  • 龙华企业网站建设公司二十条优化措施全文
  • 品牌创意型网站开发facebook海外推广
  • 微博如何做外链到时自己网站seo关键词排名优化怎样收费
  • 做粘土网站拼多多代运营一般多少钱
  • 企业网站建设三个原则网站推广策划方案
  • 胶州网站搭建公司360搜索关键词优化软件
  • 自己黑自己做的网站优化关键词排名公司