新建集群实例

·          普通用户新建集群实例时,需要走流程审批,待审批人审批通过后才能触发新建实例的操作。管理员用户新建集群实例时,会直接触发新建实例的操作。

·          实例名称具有唯一性,在系统中创建多个实例时名称不能重复。

·          新建实例前,要求在云平台中已完成云资源的准备。云资源包括裸金属和云主机两种,根据实际使用需求任选其一即可。

·          不同组件之间可能存在依赖关系,请根据页面提示进行关联选择即可。

·          大数据集群支持安装的组件类别和版本号,详情请以实际页面为准。

·          实例创建完成后,同名的大数据集群也自动创建完成。实例中的主机节点不允许修改主机名。

 

新建大数据平台DataEngine的集群实例时,集群实例创建完成后会自动同步创建同名的大数据集群,且大数据集群的配置与集群实例的配置完全保持一致。

当前版本中,支持新建的集群实例类型包括:

新建Hadoop实例

·          Hadoop实例创建完成以后,同名的Hadoop集群也自动创建完成,且集群的配置状态与实例完全保持一致。

·          新建实例前需要提前规划集群模式和集群超级用户,且同时需要提前对节点数量、待安装组件、是否开启安全管理、是否开启日志管理、是否开启高可用等进行规划。

·          新建实例时,若没有开启安全管理(Kerberos除外)和高可用,则后续在使用过程中将再也无法开启。所以在生产环境中,强烈建议新建实例时同时开启安全管理和高可用。

·          新建实例时,对于Hadoop组件(包括HDFSYARNMapReduceHiveSparkHBaseFlinkImpalaDLH)支持选择存储类型。存储类型支持HDFSONEStor、对象存储,请根据实际情况提前进行存储类型的规划以及相关存储的准备。需要注意:选择不同的存储类型时,部分组件部署时的内置组件缺省规则将不同,详情请待实例部署成功后查看。

·          创建实例时,云主机节点的实例规格要求最小为8*32*80(即8CPU*32GB内存*80GB硬盘)。云主机的实例规格可以在云平台的[云服务/计算/云主机]管理页面的左侧导航树中进入[服务配置/云主机规格/组合规格]页面进行自定义新增,超过最小规格要求的节点规格才可被识别到。

·          创建实例时,裸金属节点的实例规格根据硬件配置自动获取,规格数据来自云平台的[资源/裸金属资源池]中处于“可分配”状态的节点。

·          新建实例前,要求在云平台[云服务/网络/经典网络]管理页面完成所需IP的新增。

·          选择安装组件时,Hadoop组件提供针对大数据集群的分布式数据存储、离线计算、统一资源调度框架,包含HDFSMapReduceYARN

·          实例创建完成后,同名的大数据集群也自动创建完成。实例中的主机节点不允许修改主机名。

 

新建Hadoop实例时,可选择安装SparkElasticsearchHiveFlinkZookeeperKafka等组件,支持部署多种模式或多种功能用途的大数据集群,比如查询分析集群、流式计算集群、全文检索集群等。

新建Hadoop实例的步骤如下:

  1. 在顶部导航栏选择[云服务/大数据计算/大数据平台DataEngine]菜单项,进入集群实例页面。

  1. 在集群实例页面,单击<新建实例>按钮,跳转至新建实例页面。

  1. 新建Hadoop实例包括3个配置步骤,根据提示配置对应参数项的值,如下:

第一步:基础配置,参数说明如下:

参数

说明

ONEStor集群地址

登录ONEStor软件管理界面的地址。

网络要求:ONEStor软件的存储前端业务网地址必须与大数据集群主机IP地址在同一个网段。

用户名

登录ONEStor软件管理界面的用户名。

密码

登录ONEStor软件管理界面的用户名对应的密码。

 

参数

说明

网关地址

对象存储的网关地址,支持IP或域名两种方式。当选择以域名作为网关地址时需要填写DNS IP,当选择以IP作为网关地址时DNS IP不需要填写。

网络要求:大数据集群主机需可以正常访问网关地址。

Access Key

用户访问对象存储时用到的Access Key ID,用于标识用户。

Secret Key

用户访问对象存储时用到的Secret Key,用于验证用户的密钥。

容器名称

对象网关的bucket(桶)。

DNS IP

DNS IP地址,即域名服务器的IP地址。

 

第二步:硬件配置,参数说明如下:

【注意】当虚拟化类型为CAS时,同一节点类型的实例规格必须完全一样,格式为“CPU*内存*硬盘”(CPU单位为“核”,内存单位为“GB”,硬盘单位为“GB”),请根据实际情况进行选择;当虚拟化类型为BareMetal时,Master节点的实例规格必须完全一样,Core节点的实例规格则不做限制。

表-1 集群节点说明

节点类型

是否必选

选型说明

描述

Master实例

必选

即主实例,用来管理集群、进行资源调度的实例,主要部署各组件的Master进程,如NameNodeResourceManager

【说明】若集群未开启高可用,则Master实例个数为1,且不可更改;若集群开启了高可用,则Master实例个数为2,且不可更改

在生产环境中,强烈建议集群开启高可用,此时HDFSYARNHiveHBase等组件也将同步开启HA

【注意】在生产环境中,若在创建集群的硬件配置步骤没有开启高可用,后续在使用过程中集群将再也无法开启高可用

Core实例

必选

即核心实例,用来存储数据和处理数据的实例,主要部署各组件的数据进程等,如DataNodeNodeManager

【说明】若集群未开启高可用,则Core实例个数至少为2;若集群开启了高可用,则Core实例个数至少为1

在生产环境中,Core实例的个数需要根据实际数据量大小或计算需求等情况进行规划

专有实例

可选

当前版本中,集群支持的专有实例类型包括:RedisZookeeperElasticsearchSolrKafka

集群达到一定规模时,可单独部署指定组件的实例

 

第三步:确认信息,查看实例的基础配置、硬件配置的详细信息,若检查配置无误可单击<确认信息并创建>按钮启动创建实例(自动同步创建同名大数据集群),若检查配置有误可返回上一步进行修改。

  1. 创建实例启动后,会跳转至集群实例页面,等待一段时间实例即可创建完成,同时Hadoop集群也创建完成。

新建Elasticsearch实例

·          Elasticsearch实例创建完成以后,同名的Elasticsearch集群也自动创建完成,且集群的配置状态与实例完全保持一致。

·          新建实例前需要提前对节点数量(是否配置专有Master实例或Client实例)、是否开启安全管理、是否开启高可用等进行规划。

·          新建实例时,若没有开启安全管理和高可用,则后续在使用过程中将再也无法开启。

·          创建实例时,云主机节点的实例规格要求最小为8*32*80(即8CPU*32GB内存*80GB硬盘)。云主机的实例规格可以在云平台的[云服务/计算/云主机]管理页面的左侧导航树中进入[服务配置/云主机规格/组合规格]页面进行自定义新增,超过最小规格要求的节点规格才可被识别到。

·          创建实例时,裸金属节点的实例规格根据硬件配置自动获取,规格数据来自云平台的[资源/裸金属资源池]中处于“可分配”状态的节点。

·          新建实例前,要求在云平台[云服务/网络/经典网络]管理页面完成所需IP的新增。

·          选择安装组件时,不同组件之间可能存在依赖关系,请根据页面提示进行关联选择即可。

·          实例创建完成后,同名的大数据集群也自动创建完成。实例中的主机节点不允许修改主机名。

 

新建Elasticsearch实例的步骤如下:

  1. 在顶部导航栏选择[云服务/大数据计算/大数据平台DataEngine]菜单项,进入集群实例页面。

  1. 在集群实例页面,单击<新建实例>按钮,跳转至新建实例页面。

  1. 新建实例包括3个配置步骤,根据提示配置对应参数项的值,如下:

第一步:基础配置,参数说明如下:

第二步:硬件配置,参数说明如下:

【注意】当虚拟化类型为CAS时,同一节点类型的实例规格必须完全一样,格式为“CPU*内存*硬盘”(CPU单位为“核”,内存单位为“GB”,硬盘单位为“GB”),请根据实际情况进行选择;当虚拟化类型为BareMetal时,同一节点类型的实例规格也必须完全一样。

表-2 集群节点说明

节点类型

是否必选

选型说明

描述

专有Master实例

可选

用于处理数据读写请求的实例,可避免大数据量时Data实例负载过大。若开启专有Master实例,则集群的主节点将在专有Master实例中选出,主节点只管理集群的元数据信息,不存储数据。

【说明】建议在大于等于10实例的集群中开启该功能,且10~49实例的集群建议配置3个专有Master实例,50~100实例的集群建议配置5个专有Master实例

若配置专有Master实例,则实例个数至少配置3个,且只能配置奇数个

Data实例

必选

用来存储数据的实例,如果集群不开启专有Master实例,则Data实例同时承担数据读写请求

在生产环境中,Data实例的个数需要根据实际数据量大小或计算需求等情况进行规划

  • 未开启专有Master实例时,Data实例至少配置3个,且建议配置奇数个

  • 若开启专有Master实例时,Data实例个数根据实际需求进行配置即可

Client实例

可选

用于对读写请求进行负载均衡的实例。Client实例既不参与主节点选举,也不存储数据,仅负责转发读写请求

若配置Client实例,则实例个数至少配置1

 

第三步:确认信息,查看实例的基础配置、硬件配置的详细信息,若检查配置无误可单击<确认信息并创建>按钮启动创建实例(自动同步创建同名大数据集群),若检查配置有误可返回上一步进行修改。

  1. 创建实例启动后,会跳转至实例列表页面,等待一段时间实例即可创建完成,同时Elasticsearch集群也创建完成。

新建Solr实例

·          Solr实例创建完成以后,同名的Solr集群也自动创建完成,且集群的配置状态与实例完全保持一致。

·          新建实例前需要提前对节点数量、是否开启安全管理、是否开启高可用等进行规划。

·          新建实例时,若没有开启安全管理和高可用,则后续在使用过程中将再也无法开启。

·          创建实例时,云主机节点的实例规格要求最小为8*32*80(即8CPU*32GB内存*80GB硬盘)。云主机的实例规格可以在云平台的[云服务/计算/云主机]管理页面的左侧导航树中进入[服务配置/云主机规格/组合规格]页面进行自定义新增,超过最小规格要求的节点规格才可被识别到。

·          创建实例时,裸金属节点的实例规格根据硬件配置自动获取,规格数据来自云平台的[资源/裸金属资源池]中处于“可分配”状态的节点。

·          新建实例前,要求在云平台[云服务/网络/经典网络]管理页面完成所需IP的新增。

·          实例创建完成后,同名的大数据集群也自动创建完成。实例中的主机节点不允许修改主机名。

 

新建Solr实例的步骤如下:

  1. 在顶部导航栏选择[云服务/大数据计算/大数据平台DataEngine]菜单项,进入集群实例页面。

  1. 在集群实例页面,单击<新建实例>按钮,跳转至新建实例页面。

  1. 新建实例包括3个配置步骤,根据提示配置对应参数项的值,如下:

第一步:基础配置,参数说明如下:

第二步:硬件配置,参数说明如下:

【注意】当虚拟化类型为CAS时,同一节点类型的实例规格必须完全一样,格式为“CPU*内存*硬盘”(CPU单位为“核”,内存单位为“GB”,硬盘单位为“GB”),请根据实际情况进行选择;当虚拟化类型为BareMetal时,同一节点类型的实例规格也必须完全一样。

表-3 集群节点说明

节点类型

是否必选

选型说明

描述

Solr实例

必选

Solr运行实例

实例个数至少配置3

专有Zookeeper实例

可选

用来协调整个集群的实例

【说明】建议在大于等于50实例的集群中开启该功能,且50~100节点建议配置5

若配置Zookeeper专有实例,则实例个数至少配置3个,且只能配置奇数个

【说明】

  • 若未配置Zookeeper专有实例,则ZookeeperSolr部署在相同节点上

  • 若配置Zookeeper专有实例,则ZookeeperSolr分开部署

 

第三步:确认信息,查看实例的基础配置、硬件配置的详细信息,若检查配置无误可单击<确认信息并创建>按钮启动创建实例(自动同步创建同名大数据集群),若检查配置有误可返回上一步进行修改。

  1. 创建实例启动后,会跳转至集群实例页面,等待一段时间实例即可创建完成,同时Solr集群也自动创建。

新建Kafka实例

·          Kafka实例创建完成以后,同名的Kafka集群也自动创建完成,且集群的配置状态与实例完全保持一致。

·          新建实例前需要提前规划集群模式,且同时需要提前对节点数量、是否开启安全管理、是否开启高可用等进行规划。

·          新建实例时,若没有开启安全管理和高可用,则后续在使用过程中将再也无法开启。

·          创建实例时,云主机节点的实例规格要求最小为8*32*80(即8CPU*32GB内存*80GB硬盘)。云主机的实例规格可以在云平台的[云服务/计算/云主机]管理页面的左侧导航树中进入[服务配置/云主机规格/组合规格]页面进行自定义新增,超过最小规格要求的节点规格才可被识别到。

·          创建实例时,裸金属节点的实例规格根据硬件配置自动获取,规格数据来自云平台的[资源/裸金属资源池]中处于“可分配”状态的节点。

·          新建实例前,要求在云平台[云服务/网络/经典网络]管理页面完成所需IP的新增。

·          实例创建完成后,同名的大数据集群也自动创建完成。实例中的主机节点不允许修改主机名。

 

新建Kafka实例的步骤如下:

  1. 在顶部导航栏选择[云服务/大数据计算/大数据平台DataEngine]菜单项,进入集群实例页面。

  1. 在集群实例页面,单击<新建实例>按钮,跳转至新建实例页面。

  1. 新建实例包括3个配置步骤,根据提示配置对应参数项的值,如下:

第一步:基础配置,参数说明如下:

第二步:硬件配置,参数说明如下:

【注意】当虚拟化类型为CAS时,同一节点类型的实例规格必须完全一样,格式为“CPU*内存*硬盘”(CPU单位为“核”,内存单位为“GB”,硬盘单位为“GB”),请根据实际情况进行选择;当虚拟化类型为BareMetal时,同一节点类型的实例规格也必须完全一样。

表-4 集群节点说明

节点类型

是否必选

选型说明

描述

Kafka实例

必选

Kafka运行实例

为保证Kafka数据高可用,实例个数至少配置3

专有Zookeeper实例

可选

用来协调整个集群的实例,集群达到一定规模时,可单独部署Zookeeper的实例

若配置Zookeeper专有实例,则实例个数至少配置3个,且只能配置奇数个

【说明】

  • 若未配置Zookeeper专有实例,则ZookeeperKafka部署在相同节点上

  • 若配置Zookeeper专有实例,则ZookeeperKafka分开部署

 

第三步:确认信息,查看实例的基础配置、硬件配置的详细信息,若检查配置无误可单击<确认信息并创建>按钮启动创建实例(自动同步创建同名大数据集群),若检查配置有误可返回上一步进行修改。

  1. 创建实例启动后,会跳转至集群实例页面,等待一段时间实例即可创建完成,同时Kafka集群也自动创建。

新建Redis实例

·          Redis实例创建完成以后,同名的Redis集群也自动创建完成,且集群的配置状态与实例完全保持一致。

·          新建实例前前需要提前对节点数量、是否开启高可用等进行规划。

·          Redis仅支持集群模式,Redis集群模式的集群节点数大于等于3(且为奇数)。

·          新建实例时,若没有开启安全管理和高可用,则后续在使用过程中将再也无法开启。

·          创建实例时,云主机节点的实例规格要求最小为8*32*80(即8CPU*32GB内存*80GB硬盘)。云主机的实例规格可以在云平台的[云服务/计算/云主机]管理页面的左侧导航树中进入[服务配置/云主机规格/组合规格]页面进行自定义新增,超过最小规格要求的节点规格才可被识别到。

·          创建实例时,裸金属节点的实例规格根据硬件配置自动获取,规格数据来自云平台的[资源/裸金属资源池]中处于“可分配”状态的节点。

·          新建实例前,要求在云平台[云服务/网络/经典网络]管理页面完成所需IP的新增。

·          实例创建完成后,同名的大数据集群也自动创建完成。实例中的主机节点不允许修改主机名。

 

新建Redis实例的步骤如下:

  1. 在顶部导航栏选择[云服务/大数据计算/大数据平台DataEngine]菜单项,进入集群实例页面。

  1. 在集群实例页面,单击<新建实例>按钮,跳转至新建实例页面。

  1. 新建实例包括3个配置步骤,根据提示配置对应参数项的值,如下:

第一步:基础配置,参数说明如下:

第二步:硬件配置,参数说明如下:

【注意】当虚拟化类型为CAS时,同一节点类型的实例规格必须完全一样,格式为“CPU*内存*硬盘”(CPU单位为“核”,内存单位为“GB”,硬盘单位为“GB”),请根据实际情况进行选择;当虚拟化类型为BareMetal时,同一节点类型的实例规格也必须完全一样。

表-5 集群节点说明

节点类型

是否必选

选型说明

描述

Redis实例

必选

Redis运行实例

对于Redis集群模式,实例个数至少配置3

 

第三步:确认信息,查看实例的基础配置、硬件配置的详细信息,若检查配置无误可单击<确认信息并创建>按钮启动创建实例(自动同步创建同名大数据集群),若检查配置有误可返回上一步进行修改。

  1. 创建实例启动后,会跳转至集群实例页面,等待一段时间实例即可创建完成,同时Redis集群也自动创建。