Ambari自定义Service

Ambari自定义Service

一、Ambari基本架构

www.zeeklog.com  - Ambari自定义Service

img016.jpg

Ambari Server 会读取 Stack 和 Service 的配置文件。当用 Ambari 创建服务的时候,Ambari Server 传送 Stack 和 Service 的配置文件以及 Service 生命周期的控制脚本到 Ambari Agent。Agent 拿到配置文件后,会下载安装公共源里软件包(Redhat,就是使用 yum 服务)。安装完成后,Ambari Server 会通知 Agent 去启动 Service。之后 Ambari Server 会定期发送命令到 Agent 检查 Service 的状态,Agent 上报给 Server,并呈现在 Ambari 的 GUI 上。

二、创建Ambari自定义Service

#AmbariServer资源文件在/var/lib/ambari-server/resources目录
#cd到Ambari Stack目录下 (目前最新版为2.6)
cd /var/lib/ambari-server/resources/stacks/HDP/2.6/services
#创建自定义Service目录 (以大写ServiceName命令,这里以My Service为例)
mkdir MYSERVICE
cd MYSERVICE 

1.编辑metainfo.xml

<?xml version="1.0"?>
<metainfo> <schemaVersion>2.0</schemaVersion> <services> <service> <!-- --> <!-- 编写Service名称和Service信息 --> <name>MYSERVICE</name> <displayName>My Service</displayName> <comment>this is comment</comment> <version>1.0</version> <components> <component> <!-- 编写Master组件 --> <name>MYMASTER</name> <displayName>My Master</displayName> <category>MASTER</category> <cardinality>1</cardinality> <commandScript> <script>scripts/master.py</script> <scriptType>PYTHON</scriptType> <timeout>5000</timeout> </commandScript> </component> <component> <!-- 编写Slave组件 --> <name>MYSALVE</name> <displayName>My Slave</displayName> <category>SLAVE</category> <cardinality>1+</cardinality> <commandScript> <script>scripts/slave.py</script> <scriptType>PYTHON</scriptType> <timeout>5000</timeout> </commandScript> </component> </components> <osSpecifics> <osSpecific> <osFamily>any</osFamily> </osSpecific> </osSpecifics> </service> </services> </metainfo> 
  • components 下编写多个组件。
  • category 为组件的角色,支持Master、Slave、和Client
  • cardinality 为节点数量,可以为1、1+、或数值范围1-2
  • commandScript 为组件生命周期回调的脚本

2.编写Master组件生命周期回调脚本

mkdir -ppackage/scripts
vim package/scripts/master.py
import sys, os
from resource_management import *
from resource_management.core.exceptions import ComponentIsNotRunning from resource_management.core.environment import Environment from resource_management.core.logger import Logger class Master(Script): def install(self, env): print "Install My Master" def configure(self, env): print "Configure My Master" def start(self, env): print "Start My Master" def stop(self, env): print "Stop My Master" def status(self, env): print "Status..." if __name__ == "__main__": Master().execute() 

3.编写Slave组件生命周期回调脚本

package/scripts/slave.py
import sys, os
from resource_management import *
from resource_management.core.exceptions import ComponentIsNotRunning from resource_management.core.environment import Environment from resource_management.core.logger import Logger class Slave(Script): def install(self, env): print "Install My Slave" def configure(self, env): print "Configure My Slave" def start(self, env): print "Start My Slave" def stop(self, env): print "Stop My Slave" def status(self, env): print "Status..." if __name__ == "__main__": Slave().execute() 

4.重启AmbariServer

ambari-server restart

5.加入刚才添加的My Service服务

在Ambari Web上。点击Actions-> Add Service 添加My Service服务

www.zeeklog.com  - Ambari自定义Service

[email protected]

三、丰富自定义Service功能

1.增加Service Check逻辑

在 Service 的 metainfo.xml 中,commandScript 字段就是用来配置 service check 脚本入口。如果一个 Service 的 metainfo.xml 有该字段,那么在 Service 的 Action 列表中就会出现“Run Service Check”这个命令。

当用户在 WEB 中点击“Run Service Check”时,Ambari Server 会随机通知一个该 Service 所在机器上的 Agent 进程,然后由 Agent 执行该 Service check 脚本。

<commandScript>
<script>scripts/master/my_check.py</script> <scriptType>PYTHON</scriptType> <timeout>300</timeout> </commandScript> 
www.zeeklog.com  - Ambari自定义Service

[email protected]

2.增加Service 的配置项

这里需要在Service的metainfo.xml 中增加<configuration-dependencies>字段。该字段就是用来关联一个 Service 与配置项文件入口

每一行<config-type>字段,用来指定一个配置文件。一个 Service 可以同时指定多个配置文件。不过所有的配置文件必须放在 Service 的 configuration 目录中。

<!-- 以HDFS为例 -->
<metainfo>
  <services> <service> <!-- 省略... --> <configuration-dependencies> <!-- 在下面指定配置文件 --> <config-type>core-site</config-type> <config-type>hdfs-site</config-type> <config-type>hadoop-env</config-type> <config-type>hadoop-policy</config-type> <config-type>hdfs-log4j</config-type> <config-type>ranger-hdfs-plugin-properties</config-type> <config-type>ssl-client</config-type> <config-type>ssl-server</config-type> <config-type>ranger-hdfs-audit</config-type> <config-type>ranger-hdfs-policymgr-ssl</config-type> <config-type>ranger-hdfs-security</config-type> </configuration-dependencies> <restartRequiredAfterRackChange>true</restartRequiredAfterRackChange> </service> </services> </metainfo> 
#configuration目录下的文件:
[root@node1 2.1.0.2.0]# ll configuration/ total 84 -rwxr-xr-x 1 admin root 7948 May 27 10:11 core-site.xml -rwxr-xr-x 1 admin root 16723 May 27 10:11 hadoop-env.xml -rwxr-xr-x 1 admin root 6201 May 27 10:11 hadoop-policy.xml -rwxr-xr-x 1 admin root 8879 May 27 10:11 hdfs-log4j.xml -rwxr-xr-x 1 admin root 8192 May 27 10:11 hdfs-logsearch-conf.xml -rwxr-xr-x 1 admin root 19139 May 27 10:11 hdfs-site.xml -rwxr-xr-x 1 admin root 2627 May 27 10:11 ssl-client.xml -rwxr-xr-x 1 admin root 2959 May 27 10:11 ssl-server.xml 

配置文件中,其实就是指定了一些键值对的属性,以及一个描述。当在 Ambari 的 WEB 中增加这个 Service 时,Ambari Server 会读取这些信息,并显示到该 service 的配置页面中(Customize Service 和 config 页面)。默认情况下,如果一个配置项没有配置默认值,用户则必须输入。如果一个项允许为空,则需要在<property>中增加 require-input="false“的属性。

3.增加自定义Command

以RebalanceHDFS为例,在Service的metainfo.xml中增加以下内容
当点击RebalanceHDFS后 则触发scripts/namenode.py脚本

<customCommands>
  <customCommand>
    <name>REBALANCEHDFS</name> <background>true</background> <commandScript> <script>scripts/namenode.py</script> <scriptType>PYTHON</scriptType> </commandScript> </customCommand> </customCommands> 
www.zeeklog.com  - Ambari自定义Service