SparkSQL访问Hive会遇到什么问题?怎样解决?

时间:2020-02-14 11:03:38 来源: 今日头条


需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中

测试代码

SparkSQL访问Hive遇到的问题及解决方法

报错

SparkSQL访问Hive遇到的问题及解决方法

查看源码

SparkSQL访问Hive遇到的问题及解决方法

解决方法

将$HIVE_HOME/lib下的spark-hive_2.11-2.4.2.jar与spark-hive-thriftserver_2.11-2.4.2.jar添加到project中

继续报错

SparkSQL访问Hive遇到的问题及解决方法

查看源码

SparkSQL访问Hive遇到的问题及解决方法

进入ConfVars

SparkSQL访问Hive遇到的问题及解决方法

发现ConfVars中定义的变量并没有METASTORE_CLIENT_SOCKET_LIFETIME,而HiveConf.java来自于hive-exec-1.1.0-cdh5.7.0.jar,即证明hive1.1.0中并没有假如该参数。

解决方法

将hive依赖换为1.2.1

SparkSQL访问Hive遇到的问题及解决方法

继续报错

SparkSQL访问Hive遇到的问题及解决方法

解决方法

这是因为远端没有启动hive造成的,启动hive时需要配置metastore。

关键词:

关于我们 加入我们 广告服务 网站地图

All Rights Reserved, Copyright 2004-2020 www.ctocio.com.cn

如有意见请与我们联系 邮箱:5 53 13 8 779@qq.com

豫ICP备20005723号    IT专家网 版权所有