带你快速上手HetuEngine

2023-08-18 15:13:11 来源：博客园

本文分享自华为云社区《【手把手带你玩转HetuEngine】（一）HetuEngine快速上手》，作者：HetuEngine九级代言。

HetuEngine是什么

HetuEngine是华为推出的高性能交互式SQL分析及数据虚拟化引擎。与大数据生态无缝融合，实现海量数据秒级交互式查询；支持跨源跨域统一访问，使能数据湖内、湖间、湖仓一站式SQL融合分析。

特点 (相关资料图)	说明
统一SQL	支持标准的SQL，用户可以使用标准的SQL进行数据查询和分析计算
多数据源	支持对接多种数据源，如Hive、Hudi、Hbase、Clickhouse、Elasticsearch、Gaussdb、iotdb等多种数据源
高性能	完全的内存计算，自动实现计算下推，动态过滤等，实现PB级数据毫秒级响应
跨源跨域	支持多种数据源的跨源跨域联合分析查询，一条SQL实现多源协同、湖仓协同
高并发高可用	算力、并发可横向扩展，弹性伸缩，自动路由，自动实时调配超大SQL的计算规模
智能加速	基于收益最大化原则，实现对热查询的自动识别、预计算与在线分析加速，IO降低90%
智能运维	支持SQL诊断，快速定位出质量欠佳的SQL记录及用户信息，辅助管理员提前预判潜在风险

HetuEngine面向企业级能力方面，构建了极致稳定、高性能的企业级交互式分析引擎。

模块名称	常见概念名称	描述
云服务层	HetuEngine CLI/JDBC	HetuEngine的客户端，使用者通过客户端向服务端提交查询请求，然后将执行结果取回并展示。
HSBroker	HetuEngine的服务管理，用作计算实例的资源管理校验，健康监控与自动维护等。
HSConsole	对外提供数据源信息管理，计算实例管理，自动化任务的查看等功能的可视化操作界面和RESTful接口。
HSFabric	提供SQL统一访问入口及跨域（DC）高性能安全数据传输。
QAS	HetuEngine的自研模块，针对SQL执行历史记录提供自动感知、自动学习、自动诊断服务，提升在线SQL运维能力，自动加速在线SQL分析任务。
引擎层	Coordinator	HetuEngine计算实例的管理节点，提供SQL接收、SQL解析、生成执行计划、执行计划优化、分派任务和资源调度等能力。
Worker	HetuEngine计算实例的工作节点，提供数据源数据并行拉取，分布式SQL计算等能力。

HetuEngine引擎执行流程简单介绍：

Coordinator

负责管理Worker节点，以及接受客户端查询请求，并进行SQL的语法解析（Parser）、执行计划生成与优化（Plannner）和查询任务的调度（Scheduler）

Worker

负责具体的查询计算和数据读写

Discovery Server

负责发现集群的各个节点，用于节点间心跳监控

工欲善其事必先利其器，在使用HetuEngine之前，首先需要了解基本的架构，并与业务场景相结合，然后进行集群相关的规划和配置，最后进行业务对接和验证上线。本系列将从以下几方面内容手把手带你玩转HetuEngine。

点击关注，第一时间了解华为云新鲜技术~

关键词：