一佳互联

展开菜单

Hive学习之路 (一)Hive初识

Hive学习之路 (一)Hive初识
目录 Hive 简介 什么是Hive 为什么使用 Hive Hive 特点 Hive 和 RDBMS 的对比 Hive的架构 1、用户接口: shell/CLI, jdbc/odbc, webui Command Line Interface 2、跨语言服务 : thrift server 提供了一种能力,让用户可以使用多种不同的语言来操纵hive 3、底层的Driver: 驱动器Driver,编译器Co...

Hive学习之路 (二)Hive安装

Hive学习之路 (二)Hive安装
目录 Hive的下载 Hive的安装 1、本人使用MySQL做为Hive的元数据库,所以先安装MySQL。 2、上传Hive安装包 3、解压安装包 4、修改配置文件 5、 一定要记得加入 MySQL 驱动包(mysql-connector-java-5.1.40-bin.jar)该 jar 包放置在 hive 的根路径下的 lib 目录 6、 安装完成,配置环境变量 7、 验证 Hive 安装 8、 初始化元数据...

Hive学习之路 (三)Hive元数据信息对应MySQL数据库表

Hive学习之路 (三)Hive元数据信息对应MySQL数据库表
目录 概述 一、存储Hive版本的元数据表(VERSION) 二、Hive数据库相关的元数据表(DBS、DATABASE_PARAMS) 1、DBS 2、DATABASE_PARAMS 三、Hive表和视图相关的元数据表 1、TBLS 2、TABLE_PARAMS  3、TBL_PRIVS 四、Hive文件存储信息相关的元数据表 1、SDS  2、SD_PARAMS...

Hive学习之路 (四)Hive的连接3种连接方式

Hive学习之路 (四)Hive的连接3种连接方式
目录 一、CLI连接 二、HiveServer2/beeline 1、修改 hadoop 集群的 hdfs-site.xml 配置文件 2、修改 hadoop 集群的 core-site.xml 配置文件 三、Web UI   正文 回到顶部 一、CLI连接 进入到 bin 目录下,直接输入命令:  [hadoop@hadoop3 ~]$ hive SLF4J: Class path contains...

Hive学习之路 (五)DbVisualizer配置连接hive

Hive学习之路 (五)DbVisualizer配置连接hive
目录 一、安装DbVisualizer 二、配置DbVisualizer里的hive jdbc 1、在DbVisualizer的安装目录jdbc文件夹下新建hive文件夹 2、拷贝Hadoop的相关jar包放入新建的hive文件夹里面 3、拷贝Hive的相关jar包放入新建的hive文件夹里面 4、结果 5、在tools/Driver manager中进行配置 6、在Tool--Driver manager中进行配置...

prometheus+grafana 监控hadoop、yarn

prometheus+grafana 监控hadoop、yarn
主要是以jmx_exporter、prometheus为主导进行对hadoop的metrics进行收集,通过grafana进行展示、预警。 1、安装jmx_exporter以及配置文件 1、通过https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.3.1/jmx_prometheus_javaagent-0.3.1.jar 下载jmx exporter包 2、创建配置文件...

[一起学Hive]之四-Hive的安装配置

[一起学Hive]之四-Hive的安装配置
其实Hive的安装配置应该放在第二章来介绍,晚了些,希望对Hive初学者有用。 三、Hive的安装配置 3.1 环境需求 Hadoop Client Mysql 3.2 下载并解压Hive0.13.1安装包 下载地址:http://archive.apache.org/dist/hive/hive-0.13.1/apache-hive-0.13.1-bin.tar.gz cp apache-hive-0.13.1-bin.tar.gz /usr/local...

HBase参数配置及说明

HBase参数配置及说明
版本:0.94-cdh4.2.1 hbase-site.xml配置 hbase.tmp.dir 本地文件系统tmp目录,一般配置成local模式的设置一下,但是最好还是需要设置一下,因为很多文件都会默认设置成它下面的 线上配置 <property>      <name>hbase.tmp.dir</name>   &nb...

Kafka安装配置测试

Kafka安装配置测试
Kafka的整体架构: 本文中的配置: 在两台机器Node1和Node2上,分别部署了两个broker,Zookeeper使用的是单独的ZK集群。 在每个机器上下载并解压kafka_2.10-0.8.2.1 http://kafka.apache.org/downloads.html Kafka配置 Node1: ip为 172.16.212.17   cd $KAFKA_HOME/config cp server.properti...

Airflow1.8 分布式工作流平台搭建

Airflow1.8 分布式工作流平台搭建
版本信息:     python 2.7.15     airflow==1.8.0     SQLAlchemy==1.1.18     flower==0.9.2 其中SQLAlchemy的版本如果是1.2.x版本会在创建用户是报错,     [root@localhost ~]# python2 create_use...