手机版
你好,游客 登录 注册
背景:
阅读新闻

Python加Shell快速部署集群

[日期:2013-05-09] 来源:Linux社区  作者:slaytanic [字体: ]

最近痛感在集群里逐台部署ganglia, cacti这些监控的东西很麻烦,就写了个小程序去批量自动部署。原理是通过Python的pexpect用ssh去复制文件和执行系统命令,我用它来部署ganglia等,但是其他的东西也可以通过这个脚本来批量部署,只要自己编写部署脚本就可以了。主要是提出一个解决思路,看对大家是否有所帮助。

先约定一个概念,我们把放置python和脚本的服务器叫做主控节点或者server,把需要安装的节点叫做受控节点或者client。以下均以server和client代称。

首先是配置文件,我需要先定义一个配置文件,来约定server的一些路径,和client具体信息。

#-*-coding:UTF-8 -*-

log_dir = './logs/'#定义日志路径,不过我还没写,打算用log4py来做

client_tmp_dir = '/tmp/'#定义client端存放脚本路径

ssh_port = '22'#SSH端口

script_dir = './shells/'#server端脚本存放路径

node_list = [

{'ip':'192.168.1.1', 'user':'root', 'passwd':'123456', 'cmd':'sh /tmp/dpkg_client_Ubuntu_x.x86_64.sh'},

#cmd为在client端执行的命令,别的不解释

{'ip':'192.168.1.2', 'user':'root', 'passwd':'123456', 'cmd':'sh /tmp/dpkg_client_ubuntu_x.x86_64.sh'},

]

接下来是主程序


#!/usr/bin/env python

#-*-coding:UTF-8 -*-

import os

import sys

import platform

#用import方式引入conf.py

import conf

import subprocess

'''

判断server(本机)操作系统类型和版本的类

'''

class System:

    def GetBranch(self):

        Branch = platform.dist()[0]

        return Branch

    def GetRelease(self):

        Release = platform.dist()[1]

        return Release

    def GetInstaller(self):

        if self.GetBranch() in ['Ubuntu', 'debian']:

            installer = 'apt-get'

        elif self.GetBranch() in ['RedHat', 'Fedora', 'CentOS']:

            installer = 'yum'

        elif self.GetBranch() in ['SUSE']:

            installer = 'zypper'

        else:

            installer = 'unknown'

        return installer

'''

以操作系统版本为依据获取相应的pexpect包并尝试引入,因pexpect非默认操作系统安装,这部分支持RH,Ubuntu,Debian,SuSE

'''

try:

    import pexpect

except ImportError:

    installer = System()

    inst = install.GetInstaller()

    if (inst == 'apt-get') or (inst == 'zypper'):

        cmd = '%s install python-pexpect' % (inst)

    elif inst == 'yum':

        cmd = '$s install pexpect' % (inst)

    else:

        cmd = 'echo "Not support yet:)"';

    try:

        fd = subprocess.Popen( cmd, shell=True, stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.PIPE )

        out = fd.stdout.readlines()

        err = fd.stderr.readlines()

        all = out+err

        all = "".join(all)

    except OSError,e:

        all = "Cannot run command, Exception:"+e+os.linesep

    import pexpect

#print all

'''

pexpect执行类,分两个方法,ssh和scp,自动判断是否首次连接,并自动完成yes或输入密码的应答。

'''

class Expect:

    #定义ssh方法,入口变量包括ip, port,username,password,执行命令

    def ssh(self, ip, port, user, passwd, cmd):

        #创建连接子进程对象

        ssh = pexpect.spawn('ssh -p %s %s@%s "%s"' % (port, user, ip, cmd))

        r = ''

        try:

            #判断是否首次连接,如果是首次,则回答yes并输入密码,否则直接输入密码

            i = ssh.expect(['password:', 'continue connecting (yes/no)?'], timeout=5)

            if i == 0 :

                ssh.sendline(passwd)

            elif i == 1:

                ssh.sendline('yes')

                ssh.expect('password:')

                ssh.sendline(passwd)

        except pexpect.EOF:

            ssh.close()

        else:

            r = ssh.read()

            ssh.expect(pexpect.EOF)

            ssh.close()

        return r

    #定义scp方法,入口变量包括ip,port,username,password,需要复制到client的文件名,复制到client的路径

    def scp(self, ip, port, user, passwd, srcfile = "index.html", distpath):

        #创建连接子进程对象

        ssh = pexpect.spawn('scp -P %s %s %s@%s:%s ' % (port, file, user, ip, distpath))

        r= ''

        try:

            #判断是否首次连接,如果是首次,则回答yes并输入密码,否则直接输入密码

            i = ssh.expect(['password:', 'continue connecting (yes/no)?'], timeout=5)

            if i == 0:

                ssh.sendline(passwd)

            elif i == 1:

                ssh.senline('yes')

                ssh.expect('password:')

                ssh.sendline(passwd)

        except pexpect.EOF:

            ssh.close()

        else:

            r = ssh.read()

            ssh.expect(pexpect.EOF)

            ssh.close()

        return r

#创建conf中的对象,只是为了写起来方便。不创建直接用也行

packages = conf.package_dir

logs = conf.log_dir

c_tmp = conf.client_tmp_dir

port = conf.ssh_port

scripts = conf.script_dir

nodes = conf.node_list

expect = Expect()

#在本机执行server端脚本。该脚本会安装Ganglia gmetad,gmond,cacti,nagios,gangliaweb,mysql,apache等等

os.system("sh " + scripts + "dpkg_server_ubuntu_x.x86_64.sh")

#循环列出conf的列表中配置的主机,用户名,密码,执行命令

for i in range(len(nodes)):

    ip = nodes[i]['ip']

    user = nodes[i]['user']

    passwd = nodes[i]['passwd']

    cmd = nodes[i]['cmd']

    #将本机的client执行脚本复制到client端的conf.py中定义的路径client_tmp_dir

    r = expect.scp(ip, port, user, passwd, scripts+'dpkg_client_ubuntu_x.x86_64.sh', c_tmp)

    print r

    #在client端执行刚复制过去的脚本,脚本中包含gmond,nagios-client,snmpd等等

    r = expect.ssh(ip, port, user, passwd, cmd)

    print r

我还没写按自动判断client端操作系统安装不同脚本的逻辑,有兴趣的可以自己改改,其实本身脚本并不难,核心都是在pexpect,我主要是不想用puppet,不想用puppet的主要原因是不想学ruby和他那复杂的配置文件。不光是部署监控,自己写shell脚本,随便部署什么都可以。nginx,php,反正能用脚本完成的事都可以干。

linux
相关资讯       集群  Python Shell 
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数

       

评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款