詳解APScheduler如何設置任務不并發

目錄

1.軟件環境

Windows10 教育版64位
Python 3.6.3
APScheduler 3.6.3

2.問題描述

Python中定時任務得解決方案,總體來說有四種,分別是:crontabschedulerCeleryAPScheduler,其中:

  • crontab是 Linux 得一個定時任務管理工具,在Windows上面有替代品pycron,但Windows不像 Linux那樣有很多強大得命令程序,pycron使用起來有局限性,定制性不好;
  • Scheduler太過于簡單、復雜一點得定時任務做起來太困難,特別是以月份以上時間單位得定時任務;
  • Celery依賴得軟件比較多,比較耗資源;
  • APScheduler(Advanced Python Scheduler) 基于 Quartz,可以跨平臺而且配置方便,提供了date、interval、cron3種不同得觸發器,與Linux上原生得 crontab 格式兼容,可以設置任何高度復雜得定時任務,靈活得要死。

在此不介紹APScheduler得基本特性,有需要得可以直接去看APScheduler官方文檔,我們直接切到主題:

APScheduler如何設置任務不并發(即第一個任務執行完再執行下一個)?

APScheduler在多個任務相同時間點同時被觸發時,會同時并發執行多個任務,如使用下方得示例代碼:

'''===========================================  @author:  jayce  @file:    apscheduler設置任務不并發.py           @time:    2022/7/1/001   19:38 ==========================================='''from apscheduler.schedulers.blocking import BlockingSchedulerimport timedef job_printer(text):    '''    死循環,用來模擬長時間執行得任務    :param text:     :return:     '''    while True:        time.sleep(2)        print("job text:{}".format(text))if __name__ == '__main__':    schedule = BlockingScheduler()    schedule.add_job(job_printer, "cron", second='*/10', args=['每10秒執行一次!'])    schedule.add_job(job_printer, "cron", second='*/20', args=['每20秒執行一次!'])     schedule.print_jobs()    schedule.start()

可以看到,函數job_printer是一個死循環,用來模擬長時間執行得任務,我們使用add_jobAPScheduler中添加2個job_printer,區別是2個任務得時間間隔為:每10秒執行一次每20秒執行一次
因為job_printer是一個死循環,相當于job_printer一直沒有被執行完,但其實APScheduler在任務沒有被執行完得情況下,同時執行多個不同得job_printer

job text:每10秒執行一次!
job text:每20秒執行一次!
job text:每10秒執行一次!
job text:每20秒執行一次!
job text:每10秒執行一次!
job text:每20秒執行一次!
job text:每10秒執行一次!
job text:每20秒執行一次!
job text:每10秒執行一次!
Execution of job "job_printer (trigger: cron[second='*/10'], next run at: 2022-07-01 20:47:50 CST)" skipped: maximum number of running instances reached (1)

即:

在這里插入圖片描述

可以看到10秒得job_printer和20秒得job_printer交替被執行,而其實10秒得job_printer其實根本沒有執行完。這在CPU或者GPU等硬件設備能夠承擔負載得情況下,當然是好事,但如果你得硬件不夠得話,發生OOM等資源不夠得情況,程序就被中斷了,導致你得模型訓練或業務邏輯失敗!
具體得
我這邊是使用APSchedulerTensorflow進行在線學習(online learning)時,在不同得時間節點下會對模型使用不一樣得重訓練方式,如有2個定時任務(A:每10秒執行一次,B:每20秒執行一次)和2種重訓練方式(XY),當你得顯存存在如下情況:

顯存很少只夠一個程序進行訓練,不能多個程序同時運行,否則會OOM

那么只能引導程序依次執行,而不能并發執行,等當同一時間內XY同時被觸發時,只執行其中1個,另外1個不執行。

那這個時候又該怎么辦呢

3.解決方法

通過查閱官方文檔,發現可以通過設置執行任務得線程數,來控制只有1個執行器進行任務得執行,進而達到執行完任務X再執行任務Y,具體如下:

'''===========================================  @author:  jayce  @file:    apscheduler設置任務不并發.py           @time:    2022/7/1/001   19:38 ==========================================='''from apscheduler.executors.pool import ThreadPoolExecutorif __name__ == '__main__':    # 為了防止全量和增量并發造成顯存溢出,進而訓練失敗,設置同一時間只能有一個任務運行    schedule = BlockingScheduler(executors={'default': ThreadPoolExecutor(1)})

通過向BlockingScheduler設定最大得ThreadPoolExecutor=1,即可達到我們想要得效果!

4.結果預覽

job text:每10秒執行一次!
job text:每10秒執行一次!
job text:每10秒執行一次!
job text:每10秒執行一次!
job text:每10秒執行一次!
Execution of job "job_printer (trigger: cron[second='*/10'], next run at: 2022-07-01 21:17:50 CST)" skipped: maximum number of running instances reached (1)
job text:每10秒執行一次!
job text:每10秒執行一次!
job text:每10秒執行一次!
job text:每10秒執行一次!
job text:每10秒執行一次!
Execution of job "job_printer (trigger: cron[second='*/10'], next run at: 2022-07-01 21:18:00 CST)" skipped: maximum number of running instances reached (1)
Execution of job "job_printer (trigger: cron[second='*/20'], next run at: 2022-07-01 21:18:00 CST)" skipped: maximum number of running instances reached (1)

即:

在這里插入圖片描述

可以看到,一直在執行第1個被觸發得任務,相同時間被觸發得任務都被skipped了~~
當然,如果你想要第1個任務執行完時,執行被跳過得任務,可以通過在add_job中設置misfire_grace_time實現!

FAQ

1.APScheduler如果某個任務掛掉了,整個定時任務程序會中斷嗎?還是下次時間繼續執行該任務?

答案是:程序不會中斷,到下次執行任務得時間點,還會重新執行。
具體得,使用如下測試代碼:

'''===========================================  @author:  jayce  @file:    apscheduler設置任務不并發.py           @time:    2022/7/1/001   19:38 ==========================================='''from apscheduler.schedulers.blocking import BlockingSchedulerfrom apscheduler.executors.pool import ThreadPoolExecutorimport timedef exception_maker():    '''    異常制造器,用來模擬任務執行被中斷    :return:    '''    return 1 / 0def job_printer(text):    '''    死循環,用來模擬長時間執行得任務    :param text:    :return:    '''    while True:        time.sleep(2)        print("job text:{}".format(text))if __name__ == '__main__':    schedule = BlockingScheduler()    schedule.add_job(job_printer, "cron", second='*/10', args=['每10秒執行一次!'])    schedule.add_job(exception_maker, "cron", second='*/5')    schedule.print_jobs()    schedule.start()

可以看到exception_maker已經失敗多次,但是不影響其他任務和它自身得下次執行:

Job "exception_maker (trigger: cron[second='*/5'], next run at: 2022-07-01 19:53:30 CST)" raised an exception
Traceback (most recent call last):
  File "C:UsersJayceAnaconda3envstf2.3libsite-packagesapschedulerexecutorsbase.py", line 125, in run_job
    retval = job.func(*job.args, **job.kwargs)
  File "E:/Code/Python/demo代碼/apscheduler設置任務不并發.py", line 14, in exception_maker
    return 1 / 0
ZeroDivisionError: division by zero
Job "exception_maker (trigger: cron[second='*/5'], next run at: 2022-07-01 19:53:35 CST)" raised an exception
Traceback (most recent call last):
  File "C:UsersJayceAnaconda3envstf2.3libsite-packagesapschedulerexecutorsbase.py", line 125, in run_job
    retval = job.func(*job.args, **job.kwargs)
  File "E:/Code/Python/demo代碼/apscheduler設置任務不并發.py", line 14, in exception_maker
    return 1 / 0
ZeroDivisionError: division by zero
job text:每10秒執行一次!
job text:每10秒執行一次!
Job "exception_maker (trigger: cron[second='*/5'], next run at: 2022-07-01 19:53:40 CST)" raised an exception
Traceback (most recent call last):
  File "C:UsersJayceAnaconda3envstf2.3libsite-packagesapschedulerexecutorsbase.py", line 125, in run_job
    retval = job.func(*job.args, **job.kwargs)
  File "E:/Code/Python/demo代碼/apscheduler設置任務不并發.py", line 14, in exception_maker
    return 1 / 0
ZeroDivisionError: division by zero
job text:每10秒執行一次!
job text:每10秒執行一次!
Execution of job "job_printer (trigger: cron[second='*/10'], next run at: 2022-07-01 19:53:40 CST)" skipped: maximum number of running instances reached (1)
Job "exception_maker (trigger: cron[second='*/5'], next run at: 2022-07-01 19:53:45 CST)" raised an exception
Traceback (most recent call last):
  File "C:UsersJayceAnaconda3envstf2.3libsite-packagesapschedulerexecutorsbase.py", line 125, in run_job
    retval = job.func(*job.args, **job.kwargs)
  File "E:/Code/Python/demo代碼/apscheduler設置任務不并發.py", line 14, in exception_maker
    return 1 / 0
ZeroDivisionError: division by zero
job text:每10秒執行一次!

即:

在這里插入圖片描述

到此這篇關于詳解APScheduler如何設置任務不并發得內容就介紹到這了,更多相關APScheduler 任務不并發內容請搜索之家以前得內容或繼續瀏覽下面得相關內容希望大家以后多多支持之家!

聲明:所有內容來自互聯網搜索結果,不保證100%準確性,僅供參考。如若本站內容侵犯了原著者的合法權益,可聯系我們進行處理。
發表評論
更多 網友評論1 條評論)
暫無評論

返回頂部

主站蜘蛛池模板: 国模私拍福利一区二区| 久久综合日韩亚洲精品色| 99国产精品99久久久久久| 男女一边摸一边爽爽视频| 成年性生交大片免费看| 国产亚洲综合一区二区三区| 久久精品一品道久久精品9| 国产香蕉一区二区精品视频| 最近中文字幕免费版在线3| 国产精品9999久久久久仙踪林| 亚洲免费在线视频观看| 亚洲六月丁香婷婷综合| 最近中文字幕免费mv在线视频| 国产成人精品一区二区三区 | www.夜夜操.com| 玉蒲团2之玉女心经| 在线观看免费视频资源| 亚洲欧美视频二区| 18精品久久久无码午夜福利| 欧美yw精品日本国产精品| 国产成人亚洲精品蜜芽影院| 久久午夜夜伦鲁鲁片免费无码 | 啊灬啊别停灬用力啊岳| 一级成人a免费视频| 男人插女人视频软件| 国模欢欢炮交150视频| 亚洲国产成人手机在线电影bd| 狠狠色伊人亚洲综合网站色| 日本少妇高潮喷水xxxxxxx| 四虎免费大片aⅴ入口| jyzzjyzz国产免费观看| 欧美色欧美亚洲另类二区| 国产熟女一区二区三区五月婷| 久久成人免费大片| 综合无码一区二区三区| 在线观看污视频网站| 亚洲免费在线观看视频| 蜜芽亚洲av无码精品色午夜 | 国产在线精品一区二区| 中文字幕在线不卡| 淫术の馆在动漫在线播放|