1、Rest服务

　　Spark源为了方便用户对任务做监控，从1.4版本启用Rest服务，用户可以通过访问地址，得到application的运行状态。

　　Spark的REST API返回的信息是JSON格式的，开发者们可以很方便地通过这个API来创建可视化的Spark监控工具。目前

　　这个API支持正在运行的应用程序，也支持历史服务器。在请求URL都有/api/v1。比如，对于历史服务器来说，我们可以通过 　　http://***:18080/api/v1 来获取一些信息，端口可以改；对于正在运行的Spark应用程序，我们可以通过
https://***/api/v1  　　来获取一些信息。   　　
主要用途： 通过rest服务，可以轻松对任务时长、stage等做监控，同时可以配合时间序列数据库，对集群各个任务做监控。

2、实例代码（Python）

　　通过脚本指令，先得到自己程序有关的application id，根据application id 去请求rest服务，获取结果集，进而对结果进行其他分析。

 1 #!/usr/bin/env python
 2 # -*- coding: utf-8 -*-
 3 '''
 4     Created by zhangy on Aug 25, 2017
 5 '''
 6 import datetime
 7 import json, urllib2
 8 import os
 9 import time  
10 
11
12 if __name__ == '__main__':
13     command = "yarn application -list |grep Noce |awk -F'\t' '{print $1}'"
14     val = os.popen(command).read()
15     appids = val.split("\n")
16     for pid in appids:
17         if pid.__eq__(""):continue
18         url = "http://th04-znwg-sgi620-001:18088/api/v1/applications/" + pid
19         req = urllib2.Request(url)
20         res_data = urllib2.urlopen(req)
21         res = res_data.read()
22         jo = json.loads(res)
23         dict1 = jo['attempts'][0]
24         st = dict1['startTime']
25         GMT_FORMAT = '%Y-%m-%dT%H:%M:%S.%fGMT'
26         sti = datetime.datetime.strptime(st, GMT_FORMAT)
27         startTime = time.mktime(sti.timetuple()) + 8 * 60 * 60
28         nowTime = long(time.time())
29         sub = nowTime - startTime
30         if sub > 4 * 60 * 60:
31             killCommand = "yarn application -kill " + pid
32             res = os.popen(killCommand ).read() 
33 　　　　　　　cc = time.strftime("%Y-%m-%d %H:%M:%S", time.localtime(float(nowTime)))
34 　　　　　　　f = open("/home/noce1/run_noce/his/monitor/" + pid + ".txt", "a") 
35 　　　　　　　f.write(cc + " : " + "pid ： " + "\n" + sub + " seconds") 
36 　　　　　　　f.write(res + "\n") 
37  　　　　    f.close()

   　　测试实例中，只是对spark任务的时间做了监控，如果任务超过理想执行时长（4个小时），则终止任务，释放资源。

　结果：

 1 例如：
 2 http://132.12*****:18088/api/v1/applications/application_1502706935975_233268/
 3 
 4 返回内容：json格式
 5 {
 6   "id" : "application_1502706935975_233268",
 7   "name" : "FRT3_73",
 8   "attempts" : [ {
 9     "startTime" : "2017-09-04T01:29:53.986GMT",
10     "endTime" : "2017-09-04T01:31:52.955GMT",
11     "sparkUser" : "noce1",
12     "completed" : true
13   } ]
14 }

3、官方其他（2.1.0版本，http:**** :18080/api/v1/）

 　　　　官方给出了rest服务的其他地址接口，通过这些请求这些地址，可以获取不同的json结果集合。