配置hive的元数据到Mysql中

时间:2022-07-26
本文章向大家介绍配置hive的元数据到Mysql中,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
  1. 在hive的安装目录下,进入conf目录,创建一个hive-site.xml文件
  2. 根据官方文档配置参数,拷贝数据到hive-site.xml文件中 https://cwiki.apache.org/confluence/display/Hive/AdminManual+MetastoreAdmin

注意:先创建一个metastore数据库,字符集要用latin1

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
	<property>
	  <name>javax.jdo.option.ConnectionURL</name>
	  <value>jdbc:mysql://hostname:3306/metastore?createDatabaseIfNotExist=true</value>
	  <description>JDBC connect string for a JDBC metastore</description>
	</property>

	<property>
	  <name>javax.jdo.option.ConnectionDriverName</name>
	  <value>com.mysql.jdbc.Driver</value>
	  <description>Driver class name for a JDBC metastore</description>
	</property>

	<property>
	  <name>javax.jdo.option.ConnectionUserName</name>
	  <value>root</value>
	  <description>username to use against metastore database</description>
	</property>

	<property>
	  <name>javax.jdo.option.ConnectionPassword</name>
	  <value>your_password</value>
	  <description>password to use against metastore database</description>
	</property>
</configuration>
  1. 将mysql驱动复制到hive的lib目录里。(这有关上一篇安装MySQL的内容) 解压驱动包

将mysql驱动复制到hive的lib目录里

  1. 启动hive(别忘了先启动hdfs和yarn~~)
start-dfs.sh
start-yarn.sh
hive

创建一张表,试试看元数据能否保存到MySQL里

查看一下metastore库 TBLS表

COLUMNS_V2表

DBS表

从上图中,可得知 元数据的结构

  • 表的信息都存储在tbls表中,通过db_id和dbs表中的库进行外键约束!
  • 库的信息都存储在dbs表中!
  • 字段信息存在在column_v2表中,通过CD_ID和表的主键进行外键约束!