使用 Tornado PeriodicCallback 实现多线程任务

本文介绍了如何在 Tornado 框架中使用 PeriodicCallback 结合线程池来执行耗时任务,避免阻塞主线程,从而保证应用的响应性。通过 IOLoop.current().run_in_executor() 方法,可以将任务提交到线程池中异步执行,实现并发处理,提高程序的性能和稳定性。

Tornado 作为一个高性能的异步网络框架,其核心在于单线程事件循环。然而,在实际应用中,我们经常会遇到一些耗时的同步操作,比如复杂的计算、数据库查询或者网络请求。如果这些操作直接在主线程中执行,将会阻塞事件循环,导致应用的响应速度下降,甚至出现卡顿。

为了解决这个问题,Tornado 提供了 run_in_executor() 方法,允许我们将这些耗时操作提交到线程池或进程池中异步执行,从而避免阻塞主线程。本文将结合 PeriodicCallback 介绍如何使用线程池来执行定时任务。

使用 run_in_executor() 和 PeriodicCallback 实现多线程任务

PeriodicCallback 是 Tornado 提供的一个定时回调工具,它可以周期性地执行指定的函数。结合 run_in_executor(),我们可以将定时任务提交到线程池中执行,从而实现多线程的定时任务。

以下是一个示例代码:

import tornado.ioloop
import tornado.web
from concurrent.futures import ThreadPoolExecutor

# 创建一个线程池
executor = ThreadPoolExecutor(max_workers=8)

def calculator1():
    """模拟一个耗时的计算任务"""
    import time
    time.sleep(0.6) # 模拟耗时
    print("calculator1 executed")

def calculator2():
    """模拟一个耗时的计算任务"""
    import time
    time.sleep(1.2) # 模拟耗时
    print("calculator2 executed")

def calculator1_runner():
    """这个函数用于调用 calculator1 函数,将其放入线程池执行"""
    tornado.ioloop.IOLoop.current().run_in_executor(executor, calculator1)

def calculator2_runner():
    """这个函数用于调用 calculator2 函数,将其放入线程池执行"""
    tornado.ioloop.IOLoop.current().run_in_executor(executor, calculator2)


def push():
    """模拟一个与IOLoop交互的任务"""
    print("push executed")


def make_app():
    return tornado.web.Application([
        (r"/websocket", tornado.web.RequestHandler), # 占位符,实际使用时替换为你的 WebsocketHandler
        (r"/getData", tornado.web.RequestHandler), # 占位符,实际使用时替换为你的 DataRequestHandler
    ])


if __name__ == '__main__':
    # 注册 runner 函数,用于周期性执行 calculator1
    tornado.ioloop.PeriodicCallback(
        callback=calculator1_runner,
        callback_time=500
    ).start()

    # 注册 runner 函数,用于周期性执行 calculator2
    tornado.ioloop.PeriodicCallback(
        callback=calculator2_runner,
        callback_time=1000
    ).start()

    tornado.ioloop.PeriodicCallback(callback=push, callback_time=1000).start()

    app = make_app()
    app.listen(8888)
    tornado.ioloop.IOLoop.current().start()

代码解释:

  1. 创建线程池: 使用 ThreadPoolExecutor 创建一个线程池,max_workers 参数指定线程池中最大线程数。可以根据实际情况调整线程池的大小。
  2. 定义任务函数: calculator1 和 calculator2 函数模拟了两个耗时的计算任务。
  3. 定义 runner 函数: calculator1_runner 和 calculator2_runner 函数用于将 calculator1 和 calculator2 函数提交到线程池中执行。IOLoop.current().run_in_executor(executor, calculator1) 将 calculator1 函数提交到 executor 线程池中异步执行。
  4. 注册 PeriodicCallback: 使用 PeriodicCallback 注册 calculator1_runner 和 calculator2_runner 函数,使其周期性地执行。callback_time 参数指定回调的间隔时间,单位为毫秒。
  5. 启动 IOLoop: 最后,启动 Tornado 的 IOLoop,开始事件循环。

注意事项:

  • run_in_executor() 方法返回一个 Future 对象,可以通过该对象获取任务的执行结果或取消任务的执行。
  • 在线程池中执行的任务不能直接操作 Tornado 的 IOLoop 对象,如果需要在任务中与 IOLoop 交互,可以使用 IOLoop.add_callback() 方法将回调函数添加到 IOLoop 中执行。
  • 合理设置线程池的大小,避免线程过多导致资源竞争,影响性能。
  • 确保线程安全,避免多个线程同时访问共享资源导致数据不一致。

总结:

通过结合 PeriodicCallback 和 run_in_executor(),我们可以方便地在 Tornado 框架中实现多线程的定时任务,避免阻塞主线程,提高应用的响应性和性能。在实际应用中,可以根据具体的业务需求,选择合适的线程池大小和回调间隔时间,从而达到最佳的性能。

以上就是使用 Tornado PeriodicCallback 实现多线程任务的详细内容,更多请关注昆居客【www.kunjuke.com】。

相关推荐:

QClaw怎么处理多线程和并发代码?Java并发编程辅助效果

QClaw通过融合JMM、线程生命周期及企业级并发模式知识图谱,提供线程安全集合选型、读写锁智能推荐与ThreadPoolExecutor动态配置三大能力,精准支撑Java并发开发。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜ 如果您在Java项目中需要编写多线程与并发代码,但面临线程安全、锁机制选择、线程池配置或死锁排查等复杂问题,则可...
· AI · 15616

Qoder 更新日志解读:V4.5 版本中关于多线程处理的重大改进

Qoder V4.5通过四项改进优化多线程性能:一、启用协程调度器降低上下文切换开销;二、配置线程亲和性绑定保障关键Agent响应稳定;三、重构工具链实现不可变参数与状态隔离;四、增强中断信号穿透确保全栈资源清理。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜ 如果您在使用 Qoder 进行高并发代码开发或大规模项目构建时遇到线程阻塞、资源...
· AI · 73583

谷歌浏览器下载速度慢怎么解除限制_谷歌浏览器多线程下载开启

谷歌浏览器下载慢是因默认单连接,需启用chrome://flags/#enable-parallel-downloading并重启;Edge同理;还可禁用QUIC、启用预连接;进阶可用Aria2接管下载。 如果您在使用谷歌浏览器下载文件时发现速度明显低于网络带宽上限,且未出现明显卡顿或中断,则很可能是浏览器默认启用单连接下载机制所致。以下是解除该限制、激活多线程并行下载能力的具体操作路径: 一、通...

如何在Python中为测试用例添加自定义标记_通过pytest.mark进行分类执行

pytest.mark 必须作为装饰器直接作用于测试函数或类,不可写在函数外部;可叠加多个标记,执行时用 -m "mark1 and mark2" 等布尔表达式筛选;未注册标记会触发警告,需在 pytest.ini 或 pyproject.toml 中声明以避免。 pytest.mark 能不能直接用在函数外面 不能。所有 pytest.mark 必须装饰在测试函数或类上,写在函数定义之外会报 S...
· Python · 144282

如何在Python中构建树状结构的递归生成器_使用yield from简化递归代码

yield from 在树遍历中省去了手动展开子生成器的繁琐与风险,自动处理委托调用、异常传播、StopIteration 捕获及协程方法转发,确保扁平化输出和行为一致性。 yield from 在树遍历中到底省了什么 直接说结论:yield from 不是语法糖,它把递归生成器的“委托调用”从手动循环 + yield 拆解成一条语句,避免了中间迭代器被提前耗尽、异常传播断裂、或 StopIter...
· Python · 224779

如何解决Python中的UnboundLocalError局部变量引用错误_使用global或nonlocal关键字声明

Python函数内同名变量报UnboundLocalError,因编译期将赋值变量标记为局部,读取在赋值前则出错;global用于模块级变量,nonlocal用于最近外层函数变量,二者不可混用且需提前声明。 为什么在函数里修改同名变量会报 UnboundLocalError Python 在编译函数时,只要看到某个变量在函数体内有赋值操作(哪怕只在 if 分支里),就会把它标记为局部变量。之后如果...
· Python · 124892

为什么Python脚本内存占用居高不下_使用objgraph与gc模块排查泄露

Python内存泄漏主因是对象被隐性持有而非未调gc.collect(),可用objgraph.show_growth()定位异常增长类型,再用gc.get_referrers()逆向追踪强引用源,并结合RSS监控与gc调试确认真实泄漏。 Python 脚本内存持续上涨,大概率不是“没调 gc.collect()”,而是对象根本没被识别为可回收——比如被全局容器悄悄持有、含 __del__ 的循环...
· Python · 195333

如何在Python Flask中集成Click命令行工具_使用app.cli.command

app.cli.command命令不出现的主因是Flask实例未完成初始化或注册时机过早;需确保在create_app()返回后注册,且装饰器顺序为@app.cli.command在上、@click.option等在下,同时避免顶层导入时执行注册。 为什么 app.cli.command 注册的命令不出现? 最常见原因是 Flask 应用实例未正确初始化 CLI 上下文,或者命令注册时机早于 ap...
· Python · 192723