当前位置: 首页 > news >正文

上海手工活外发加工网温州seo优化公司

上海手工活外发加工网,温州seo优化公司,wordpress全局透明主题下载,仿一个展示型网站多少钱(一)maven打包 MapReduce是一个分布式运算程序的编程框架,是用户开发“基于Hadoop的数据分析应用”的核心框架。 MapReduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序(例如:jar…

maven打包

MapReduce是一个分布式运算程序的编程框架,是用户开发“基于Hadoop的数据分析应用”的核心框架。

MapReduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序(例如:jar包),并发运行在一个Hadoop集群上。

在pom.xml中,补充如下配置,它用来设置打包的java 版本。

<properties>
    <maven.compiler.source>1.8</maven.compiler.source>
    <maven.compiler.target>1.8</maven.compiler.target>
    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
</properties>

打包成功之后的效果如下:

设置编译版本

我们集群上安装的java环境是1.8的,那么我们生成的代码也必须是这个版本的,否则,就会无法运行。

关于java版本的说明如下:

在 Java 7 之前,Java 的版本命名一直是 1.x 的形式,例如 1.6、1.7。从 Java 7 开始,为了简化版本号的表示,Oracle 开始采用新的命名方式,将 1.x 改为 x。所以Java 8 和 1.8 是同一个版本,只是命名方式不同。

从 Java 9 开始,版本号的命名方式完全统一为 x,例如 Java 9、Java 11、Java 17 等,不再使用 1.x 的形式。

如果你看到 Java 8 或 1.8,它们指的是同一个版本,没有任何区别。

修改代码,设置执行环境和文件路径

我们集群上安装的java环境是1.8的,那么我们生成的代码也必须是这个版本的,否则,就会无法运行。

打开代码,找到driver类,并修改如下:

conf.set("fs.defaultFS", "hdfs://hadoop100:8020"); // 新增加一句

FileInputFormat.setInputPaths(job, new Path("/wcinput")); // 修改
FileOutputFormat.setOutputPath(job, new Path("/output1"));

确保集群中有/wcinput目录,并且下面有记事本文件中的单词。

确保集群中没有output1这个目录,因为它应该是要被动态创建出来的。

(四)上传到节点运行

使用finalshell上到任意节点,例如hadoop100上的/opt下,。

然后通过命令来执行执行WordCount程序,注意要写Driver类的全名

$ hadoop jar  /opt/wc.jarcom.root.mapreduce.wordcount.WordCountDriver

运行结束之后,在ui中查看yarn运行效果。

第二课时

修改执行参数

在上面的代码中,我们的程序只能完成固定目录下的功能。现在希望它能处理不同的目录。

修改代码,让程序能指定要执行的输入目录和要保存结果的输出目录。

修改driver类的代码,更新输入和输入路径。

// 6. 设置输入和输出路径
        路径为程序的第一个参数,第二个参数
        FileInputFormat.setInputPaths(job, new Path(args[0]));
        FileOutputFormat.setOutputPath(job, new Path(args[1]));

这里的args[0]和args[1]是程序运行时的两个参数。

改完代码之后,要重新打包,并上传到某台节点上运行。

http://www.dtcms.com/a/510148.html

相关文章:

  • 毕业设计指导网站开发vi设计获奖作品
  • 广州网站建设信科分公司天津网站建设 易尔通
  • 福州网站专业建设wordpress批量导入文章cvs
  • 石家庄市建设网站京东联盟的网站怎么做的
  • 临沂恒商做网站长沙网站列表
  • 南京网站建设公司有哪些国内做网站制作比较
  • 简约淘宝网站模板免费下载苏州市建设中心网站
  • 网站建设山东聚搜网络潍坊哪里能找到做网站的
  • 语言教学网站建设课程总结seo内容优化是什么意思
  • 建设银行网站个人银行上不去建一个网站大约需要花费多少钱
  • 如何创建一个网站链接网站建设购买
  • 第一次装wordpress怎么做百度seo网站
  • 清湖做网站的手机ui设计是什么
  • 怎么做网站怎么引入广告挣钱作品设计
  • 网站不换域名换空间ps做网站好看的logo
  • 广州市建设企业网站价格常用的seo工具推荐
  • 网站制作洋网络建设人行官方网站
  • 网站编辑面试高明专业网站建设报价
  • 微信开放平台开发文档山西seo推广方案
  • 亿建联网站是谁做的贵州城乡和住房建设厅网站
  • 用wordpress编写网站免费空间清理软件
  • 母婴护理服务网站模板网站建设公司需要哪些
  • 怎么样通过做网站赚钱吗陕西省泰烜建设集团有限公司网站
  • 网站建设服务怎么样电子商务网站前台建设
  • 可信网站申请住房建设网站柳州
  • 资源共享网站开发重庆网站建设挑夹夹虫
  • 昆明网站建设方案外包电商设计师工作内容
  • 上海网站设计kinglink网站备案号格式说明书
  • 建设文明网站包括太原关键词排名推广
  • 岳阳建设网站的公司有域名没有服务器怎么做网站