当前位置: 首页 > wzjs >正文

两台电脑一台做服务器 网站上海的重大新闻

两台电脑一台做服务器 网站,上海的重大新闻,深圳市市场监督管理局官网,网站建设需要软件一 .Spark-SQL核心编程(六) Spark-SQL连接Hive Apache Hive 是 Hadoop 上的 SQL 引擎,Spark SQL 编译时可以包含 Hive 支持,也可以不包含。包含 Hive 支持的 Spark SQL 可以支持 Hive 表访问、UDF (用户自定义函数)、Hive 查询语…

一 .Spark-SQL核心编程(六)

Spark-SQL连接Hive

Apache Hive 是 Hadoop 上的 SQL 引擎,Spark SQL 编译时可以包含 Hive 支持,也可以不包含。包含 Hive 支持的 Spark SQL 可以支持 Hive 表访问、UDF (用户自定义函数)、Hive 查询语言(HQL)等。需要强调的一点是,如果要在 Spark SQL 中包含Hive 的库,并不需要事先安装 Hive。一般来说,最好还是在编译 Spark SQL 时引入 Hive支持,这样就可以使用这些特性了。

使用方式分为内嵌Hive、外部Hive、Spark-SQL CLI、Spark beeline 以及代码操作。

 

1、内嵌的 HIVE

如果使用 Spark 内嵌的 Hive, 则什么都不用做, 直接使用即可。但是在实际生产活动当中,几乎没有人去使用内嵌Hive这一模式。

 

2、外部的 HIVE

在虚拟机中下载以下配置文件:

 

如果想在spark-shell中连接外部已经部署好的 Hive,需要通过以下几个步骤:

① Spark 要接管 Hive 需要把 hive-site.xml 拷贝到 conf/目录下,并将url中的localhost改为node01

 

② 把 MySQL 的驱动 copy 到 jars/目录下

③ 把 core-site.xml 和 hdfs-site.xml 拷贝到 conf/目录下

④ 重启 spark-shell

 

3、运行 Spark beeline(了解)

Spark Thrift Server 是 Spark 社区基于 HiveServer2 实现的一个 Thrift 服务。旨在无缝兼容HiveServer2。因为 Spark Thrift Server 的接口和协议都和 HiveServer2 完全一致,因此我们部署好 Spark Thrift Server 后,可以直接使用 hive 的 beeline 访问 Spark Thrift Server 执行相关语句。Spark Thrift Server 的目的也只是取代 HiveServer2,因此它依旧可以和 Hive Metastore进行交互,获取到 hive 的元数据。如果想连接 Thrift Server,需要通过以下几个步骤:

Spark 要接管 Hive 需要把 hive-site.xml 拷贝到 conf/目录下

 把 Mysql 的驱动 copy 到 jars/目录下

 把 core-site.xml 和 hdfs-site.xml 拷贝到 conf/目录下

 启动 Thrift Server

 使用 beeline 连接 Thrift Server

beeline -u jdbc:hive2://node01:10000 -n root

 

4、运行Spark-SQL CLI

Spark SQL CLI 可以很方便的在本地运行 Hive 元数据服务以及从命令行执行查询任务。在 Spark 目录下执行如下命令启动 Spark SQL CLI,直接执行 SQL 语句,类似于 Hive 窗口。

操作步骤:

将mysql的驱动放入jars/当中;

将hive-site.xml文件放入conf/当中;

运行bin/目录下的spark-sql.cmd 或者打开cmd,在

D:\spark\spark-3.0.0-bin-hadoop3.2\bin当中直接运行spark-sql

 

可以直接运行SQL语句,如下所示:

 

 

 

5、代码操作Hive

①、 导入依赖。

<dependency>

    <groupId>org.apache.spark</groupId>

    <artifactId>spark-hive_2.12</artifactId>

    <version>3.0.0</version>

</dependency>

<dependency>

    <groupId>org.apache.hive</groupId>

    <artifactId>hive-exec</artifactId>

    <version>2.3.3</version>

</dependency>

 

可能出现下载jar包的问题:

D:\maven\repository\org\pentaho\pentaho-aggdesigner-algorithm\5.1.5-jhyde

 

②、将hive-site.xml 文件拷贝到项目的 resources 目录中。

③、代码实现。

val sparkConf = new SparkConf().setMaster("local[*]").setAppName("hive")

val spark:SparkSession = SparkSession.builder()

  .enableHiveSupport()

  .config(sparkConf)

  .getOrCreate()

 

spark.sql("show databases").show()

spark.sql("create database spark_sql")

spark.sql("show databases").show()

 

 

注意:

如果在执行操作时,出现如下错误:

 

可以在代码最前面增加如下代码解决:

System.setProperty("HADOOP_USER_NAME", "node01")

此处的 node01 改为自己的 hadoop 用户名称

在开发工具中创建数据库默认是在本地仓库,通过参数修改数据库仓库的地址: config("spark.sql.warehouse.dir","hdfs://node01:9000/user/hive/warehouse")

 

运行代码可以得出以下结果:

 

但其实数据库位置是在windows本地上面,如下所示:

 

但是虚拟机里面只有四个数据库,如下图所示:

 

为了解决该问题,需要重新设置一下配置:

val spark = SparkSession.builder()

  .enableHiveSupport()

  .config("spark.sql.warehouse.dir","hdfs://node01:9000/user/hive/warehouse")

  .config(sparkConf)

  .getOrCreate()

 

之后再次创建数据库sqark_sql_1,就成功了

 

 63220是本地的数据库名称,不是虚拟机的

 

http://www.dtcms.com/wzjs/191670.html

相关文章:

  • 51我们一起做网站北京百度seo价格
  • 西乡做网站百度软件商店
  • 金融类网站建设老师直播课
  • 温州好的网站推广媒体资源网官网
  • 广东深圳广东深圳网站建设必应搜索国际版
  • 专业的网站制作公司哪家好重庆官网seo分析
  • 网站静态页面百度总部公司地址在哪里
  • 如何建设政府门户网站短视频营销推广
  • 免费网站软件大全网络营销方法有几种类型
  • 临沂网站建设厂家线上营销方案
  • 友情链接是什么郑州seo培训班
  • 西安 房产网站建设怎么做百度网页推广
  • 成都营销型网站建设公司危机公关处理五大原则
  • 网站备案平台查询系统宁波seo外包公司
  • 沈阳网站建站推广免费企业网站建设
  • 网站上的洗衣液瓶子做花瓶怎么材质郑州搜索引擎优化公司
  • 景安一个空间怎么做多个网站seo排名app
  • 网站域名授权怎么做如何制作视频网站
  • 网站域名空间地址腾讯会议付费
  • 视觉比较好看的网站百度推广关键词查询
  • 做网站有什么要求福州百度推广排名
  • 果女做拍的视频网站怎么看app的下载网址
  • 在上海卖商铺做哪个网站好温州网站优化推广方案
  • 上海如何做网站seo是什么字
  • 怎么做刷qq业务网站嘉兴seo
  • wordpress 分类 配图佛山网站设计实力乐云seo
  • 天津装修公司做网站今日头条新闻
  • 博客网站推广网络推广计划方案
  • 如何发布自己做的网站百度sem优化师
  • 重庆招投标交易信息网seo是什么意思蜘蛛屯