码迷,mamicode.com
首页 > 其他好文 > 详细

openfalcon源码分析之agent

时间:2017-10-29 12:56:10      阅读:277      评论:0      收藏:0      [点我收藏+]

标签:des   mode   磁盘容量   数据解析   rev-parse   接口   退出   timeout   使用   

  1. agent功能
    • 1.1 agent上报数据
    • 1.2 agent与HBS同步
    • 1.3 agent Http服务
  2. agent源码分析
    • 2.1 初始化config配置
    • 2.2 初始化根目录,本地IP和rpc连接池 big mapper
    • 2.3 定时同步各种数据
    • 2.4 HTTP服务
  3. agent设计优缺点
    • 优点:

1. agent功能

agent的目的是收集目标机器上的所有数据,并动态同步hbs中的配置信息,将数据上报到transfer中,是所有监控数据的产生源头。

1.1 agent上报数据

agent上报的数据主要分为三类:

  1. 内置采集数据
    • 内置采集数据是agent启动就会自动采集的一些数据,包括服务器的cpu,内存,硬盘等一些数据
  2. plugin采集数据
    • plugin采集数据是定期的去执行一些脚本,捕捉脚本打印出来的数据解析成特定的数据之后发送到transfer。
  3. 第三方采集数据
    • 第三方采集数据,是agent提供的http服务,其他服务采集的数据按照一定格式通过http协议发送到agent,代为帮转发到transfer中。

1.2 agent与HBS同步

agent起了一个定时任务,定时与HBS同步一些信息,获取一些动态数据以及上报自己的状态信息。默认上报时间间隔是一分钟。
上报给HBS的数据:

  • HostName
  • IP(cfg中如果配置了,优先cfg中,否则自己获取本机IP上报)
  • agent版本
  • plugin版本 脚本所在git目录的版本,git rev-parse HEAD)

HBS获取的数据:

  • Plugin信息,需要以什么频率运行什么脚本
  • 内置采集信息
    • URL_CHECK_HEALTH,需要定期检查哪些URL
    • NET_PORT_LISTEN,需要检查哪些端口的存活
    • DU_BS,需要检查哪些文件夹的占用空间
    • PROC_NUM,需要检查哪些进程的存活
  • 信任IP列表(执行远程命令时需要检查,基本不使用,该接口本来是开发时用来调试使用,可废弃)

1.3 agent Http服务

agent提供了HTTP服务,用于管理者检查agent服务是否正常,远程操作agent等。
主要提供的Http服务如下:

  • Admin命令:
    • 退出agent进程
    • 重载agent配置
    • agent进程工作目录
    • 信任IP列表
  • 当前采集的数据,包括cpu,内存,硬盘,内核,io等
  • plugin,使用git同步远端脚本到本地目录
  • push,接收其他服务上报过来的数据,转发给transfer
  • run,执行shell命令并返回结果,需要验证请求的IP是否是受信任IP
  • system,获取系统启动时间,当前时间,系统负载

2. agent源码分析

agent源码得分块分析,下面是各个块的源码分析:

2.1 初始化config配置

下面是agent的默认配置,已在下面源码中做了注释

{
    "debug": true,  // 开启debug模式
    "hostname": "",  // 定义主机名,如果没定义,则会去获取本机主机名
    "ip": "",  // 定义上报时的IP地址,若未配置则自动获取本机IP
    "plugin": {  // 关于插件的配置,配置插件目录,git地址等
        "enabled": false,
        "dir": "./plugin",
        "git": "https://github.com/open-falcon/plugin.git",
        "logs": "./logs"
    },
    "heartbeat": {  // 配置HBS服务地址和同步数据周期,默认是60秒
        "enabled": true,
        "addr": "127.0.0.1:6030",
        "interval": 60,
        "timeout": 1000
    },
    "transfer": {  // 配置transfer集群地址,以及同步数据周期,默认是60秒同步一次
        "enabled": true,
        "addrs": [
            "127.0.0.1:8433",
            "127.0.0.1:8433"
        ],
        "interval": 60,
        "timeout": 1000
    },
    "http": {  // 配置http服务启动端口
        "enabled": true,
        "listen": ":1988",
        "backdoor": false
    },
    "collector": {  // 配置网卡名称开头,因为在linux物理机上,网卡名并不一定都是以eth开头
        "ifacePrefix": ["eth", "em"],
        "mountPoint": []
    },
    "default_tags": {  // 设置默认tags
    },
    "ignore": {  // 忽略的上报数据,有些内置的上报数据是用户不关心的,可以在这里配置不上报这些数据
        "cpu.busy": true,
        "df.bytes.free": true,
        "df.bytes.total": true,
        "df.bytes.used": true,
        "df.bytes.used.percent": true,
        "df.inodes.total": true,
        "df.inodes.free": true,
        "df.inodes.used": true,
        "df.inodes.used.percent": true,
        "mem.memtotal": true,
        "mem.memused": true,
        "mem.memused.percent": true,
        "mem.memfree": true,
        "mem.swaptotal": true,
        "mem.swapused": true,
        "mem.swapfree": true
    }
}

2.2 初始化根目录,本地IPrpc连接池 big mapper

  • 初始化agent进程的根目录
  • 本地IP获取是通过连接尝试连接HBS获取本地连接HBS的网口的IP地址。
  • 初始化一个单一的RPC链接,为了和HBS通信。
  • 初始化一个大的列表,用来存储所有内置监控的历史数据

下面是创建的big mapper的源码,把各种需要获取的内置监控项的数据都存储在这个大列表中,等待发送到transfer中。


type FuncsAndInterval struct {
    Fs       []func() []*model.MetricValue
    Interval int
}
var Mappers []FuncsAndInterval
func BuildMappers() {
    interval := g.Config().Transfer.Interval
    Mappers = []FuncsAndInterval{
        {
            Fs: []func() []*model.MetricValue{
                AgentMetrics,
                CpuMetrics,
                NetMetrics,
                KernelMetrics,
                LoadAvgMetrics,
                MemMetrics,
                DiskIOMetrics,
                IOStatsMetrics,
                NetstatMetrics,
                ProcMetrics,
                UdpMetrics,
            },
            Interval: interval,
        },
        {
            Fs: []func() []*model.MetricValue{
                DeviceMetrics,
            },
            Interval: interval,
        },
        {
            Fs: []func() []*model.MetricValue{
                PortMetrics,
                SocketStatSummaryMetrics,
            },
            Interval: interval,
        },
        {
            Fs: []func() []*model.MetricValue{
                DuMetrics,
            },
            Interval: interval,
        },
        {
            Fs: []func() []*model.MetricValue{
                UrlMetrics,
            },
            Interval: interval,
        },
    }
}

2.3 定时同步各种数据

  • cron.InitDataHistory方法每隔一秒钟同步一次CPU状态和disk list状态,只保留最近两次的数据。
  • cron.ReportAgentStatus方法每隔60秒向HBS上报自己的信息,数据包括:
    • Hostname,优先找cfg中的配置,如果为空,自己获取
    • IP,有先兆cfg中的配置,如果为空,自己获取
    • AgentVersion
    • PluginVersion
  • cron.SyncMinePlugins方法同步HBS中的MinePlugins,获取最新的plugins路径,再删除旧的路径添加新的路径
  • cron.SyncBuiltinMetrics方法同步HBS中的BuiltinMetrics,获取需要监控的ports,paths,procs,urls,并把这些组合成相应的metrics,插入到需要监控的metrics中
  • cron.SyncTrustableIps方法同步HBS中的TrustableIps,获取信任IP列表,在这个列表中的IP可以通过agent执行shell命令
  • cron.Collect方法默认每隔60将big mapper中的数据向transfer汇报一次,Endpoint是获取的hostname,若cfg中配置了则用cfg的配置,这时候会检查cfg中如果配置了default_tags,则会在上传每条数据之前,在其Tags中增加default_tags中的tags。注意,在cfg中如果配置了多个transfer地址,则每份数据都会发给所有的transfer节点。

2.4 HTTP服务

Http服务提供的路由接口代码如下:

func init() {
    configAdminRoutes()
    configCpuRoutes()
    configDfRoutes()
    configHealthRoutes()
    configIoStatRoutes()
    configKernelRoutes()
    configMemoryRoutes()
    configPageRoutes()
    configPluginRoutes()
    configPushRoutes()
    configRunRoutes()
    configSystemRoutes()
}
  • configAdminRoutes提供如下api:
    • "/exit"退出agentJ进程
    • "/config/reload"重载agent的配置
    • "/workdir"获取agent的工作根目录
    • "/ips"获取受信任IP列表
  • configCpuRoutes获取CPU相关的状态信息
  • configDfRoutes获取挂载磁盘容量使用信息
  • configHealthRoutes检查agent是否存活以及版本信息
  • configIoStatRoutes获取磁盘IO状态信息
  • configKernelRoutes获取内核信息
  • configMemoryRoutes获取内存信息
  • configPageRoutes获取页面展示当前主机的监控信息
  • configPluginRoutes可查看、更新plugins列表,从git同步plugins到指定目录
  • configPushRoutes通过"/v1/push"接口可以将其他服务收集的数据push到agent中转发给transfer
  • configRunRoutes执行shell命令并返回给客户,需要验证客户IP地址是否是受信任IP
  • configSystemRoutes获取一些系统当前时间,启动信息等数据

3. agent设计优缺点

优点:

  1. 支持Http接收其他服务发过来的数据,这样就可以实现一些非本主机上的数据监控,比如向腾讯云,阿里云购买的redis,mysql等服务,无法部署agent,可以通过这种方式上报监控信息
  2. 支持plugins,并支持从git同步plugins,能够快速的将plugins下发到所有被监控主机,实现了自动化下发plugins

openfalcon源码分析之agent

标签:des   mode   磁盘容量   数据解析   rev-parse   接口   退出   timeout   使用   

原文地址:http://www.cnblogs.com/bingabcd/p/7749533.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!