24小时热门版块排行榜    

查看: 560  |  回复: 0

wuy069

铁杆木虫 (正式写手)

[求助] 请教:用Shell, awk, perl等语言实现监视SGE集群节点和任务

http://muchong.com/bbs/viewthread.php?tid=5282178&fpage=1 (有100金币在这个帖子中)
请教:用Shell, awk, perl等语言实现监视SGE集群节点和任务
简单的bash shell和awk语言会点,但弄个复杂的脚本,功底还是不够

[wuy@cluster test]$ qhost -j
HOSTNAME                ARCH         NCPU  LOAD  MEMTOT  MEMUSE  SWAPTO  SWAPUS
-------------------------------------------------------------------------------
global                  -               -     -       -       -       -       -
compute-0-0             lx26-amd64      4  2.97    3.9G    3.5G    4.0G    2.9G
   job-ID  prior   name       user         state submit/start at     queue      master ja-task-ID
   ----------------------------------------------------------------------------------------------
         6 0.50500 test1.sh   wuy          r     12/09/2012 14:47:26 all.q@comp MASTER        
         7 0.60500 test4.sh   wuy          r     12/09/2012 14:47:26 all.q@comp MASTER        
                                                                     all.q@comp SLAVE         
                                                                     all.q@comp SLAVE         
compute-0-1             lx26-amd64      4  3.56    3.9G    3.8G    4.0G    3.1G
   job-ID  prior   name       user         state submit/start at     queue      master ja-task-ID
   ----------------------------------------------------------------------------------------------
         8 0.60500 test2.sh   tester       r     12/09/2012 14:48:52 all.q@comp MASTER        
                                                                     all.q@comp SLAVE         
                                                                     all.q@comp SLAVE
         9 0.60500 test3.sh   tester       r     12/09/2012 14:48:52 all.q@comp MASTER        
                                                                     all.q@comp SLAVE         
                                                                     all.q@comp SLAVE
在compute-0-0节点上有两个任务6和7,所用的cpu分别为1和2;在compute-0-1节点上有两个任务8和9,所用的cpu分别为2和2.
使用Shell, awk, perl等语言获得的命令脚本打印输出下面所示:
------------------------------------------------------------------------------------------------
  node          state   load    ncpu   mem   memuse   swapto  swapus  tasks  jobids/users     
------------------------------------------------------------------------------------------------
compute-0-0    free    2.97     4    3.9G   3.5G     4.0G    2.9G      3     6/wuy 7/wuy
compute-0-1    busy    3.56     4    3.9G   3.8G     4.0G    3.1G      4     8/tester 9/tester

其中,当node的LOAD为“-”时,相应node的state为down.

下面是根据qstat命令编写脚本监视任务的申请时间和逝去时间
[wuy@cluster test]$ qstat -u '*'
job-ID  prior   name       user         state submit/start at     queue                          slots ja-task-ID
-----------------------------------------------------------------------------------------------------------------
      6 0.50500 test1.sh   wuy          r     12/09/2012 14:47:26 all.q@compute-0-0.local            1        
      7 0.60500 test4.sh   wuy          r     12/09/2012 14:47:26 all.q@compute-0-0.local            2  
      8 0.60500 test2.sh   tester       r     12/09/2012 14:48:52 all.q@compute-0-1.local            2        
      9 0.60500 test3.sh   tester       r     12/09/2012 14:48:52 all.q@compute-0-1.local            2
[wuy@cluster test]$ qstat -j 6 |grep h_rt
hard resource_list:         h_rt=3600
得到的申请时间(reqtime)为3600s,改为小时制:1:00:00
逝去的时间(elaptime)为现在的时间`date`减去任务开始的时间

使用Shell, awk, perl等语言获得的命令脚本打印输出下面所示
job-ID   name       user         state submit/start at     queue                      slots   reqtime      elaptime
--------------------------------------------------------------------------------------------------------------------
      6  test1.sh   wuy          r     12/09/2012 14:47:26 all.q@compute-0-0.local      1      1:00:00     00:50:00
      7  test4.sh   wuy          r     12/09/2012 14:47:26 all.q@compute-0-0.local      2      2:00:00     00:50:00
      8  test2.sh   tester       r     12/09/2012 14:48:52 all.q@compute-0-1.local      2      5:00:00     00:48:34
      9  test3.sh   tester       r     12/09/2012 14:48:52 all.q@compute-0-1.local      2     12:00:00     00:48:34
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 wuy069 的主题更新
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +6 YLsF7OSIoYU4 2026-11-21 6/300 2026-11-23 01:15 by AyQg4gRU5coM
[公派出国] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 Xoz0hXWi9tT1 2026-11-21 5/250 2026-11-23 00:42 by AyQg4gRU5coM
[教师之家] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +3 TxdNP2oT1Q0A 2026-11-21 3/150 2026-11-22 20:27 by AyQg4gRU5coM
[考博] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 TxdNP2oT1Q0A 2026-11-21 3/150 2026-11-22 20:16 by AyQg4gRU5coM
[考研] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 Gt0XhENGW3Q3 2026-11-21 3/150 2026-11-22 19:10 by 4xQThdVkmqn8
[博后之家] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +3 YpGmINmR5fp3 2026-11-21 4/200 2026-11-22 18:04 by 4xQThdVkmqn8
[考博] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +4 YpGmINmR5fp3 2026-11-21 4/200 2026-11-22 18:04 by 4xQThdVkmqn8
[硕博家园] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +5 YpGmINmR5fp3 2026-11-21 5/250 2026-11-22 17:53 by 4xQThdVkmqn8
[考研] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +5 YpGmINmR5fp3 2026-11-21 5/250 2026-11-22 17:32 by 4xQThdVkmqn8
[硕博家园] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +5 K2uSGhxsSAvH 2026-11-21 6/300 2026-11-22 17:21 by 4xQThdVkmqn8
[考研] 售SCI一区文章,我:8O5.5.1.O5.4,科目全,可伽急 +5 K2uSGhxsSAvH 2026-11-21 5/250 2026-11-22 17:20 by 4xQThdVkmqn8
[基金申请] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +3 K2uSGhxsSAvH 2026-11-21 3/150 2026-11-22 17:20 by 4xQThdVkmqn8
[硕博家园] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +3 K2uSGhxsSAvH 2026-11-21 3/150 2026-11-22 17:09 by 4xQThdVkmqn8
[公派出国] 售SCI文章,我:8O.5.5.1O.54,科目全,可十急 +7 YLsF7OSIoYU4 2026-11-21 7/350 2026-11-22 16:48 by 4xQThdVkmqn8
[硕博家园] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +3 Gt0XhENGW3Q3 2026-11-21 4/200 2026-11-22 11:28 by HAlUgI97lcPc
[论文投稿] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 Xoz0hXWi9tT1 2026-11-20 5/250 2026-11-22 08:54 by HAlUgI97lcPc
[公派出国] 售SCI一区文章,我:8.O.551.O.5.4,科目全,可伽急 +3 Xoz0hXWi9tT1 2026-11-21 4/200 2026-11-22 03:46 by mNjrFMLoQVIW
[教师之家] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 Xoz0hXWi9tT1 2026-11-21 4/200 2026-11-21 15:48 by Gt0XhENGW3Q3
[教师之家] 征友后感触 +7 重新启 2026-11-17 9/450 2026-11-20 17:06 by 爱唠叨的小木虫
[论文投稿] 食品与机械 编辑C处理稿子时间 10+3 奇妙001 2026-11-19 4/200 2026-11-20 15:02 by tfang
信息提示
请填处理意见