异步任务的适用边界要明确

Tokio 适合等待网络、文件或定时器,不适合把大量计算伪装成异步任务。下面的 sleep 会让出执行权:
tokio::time::sleep(std::time::Duration::from_millis(20)).await;
反过来,长循环里的哈希计算会拖慢同一个运行时里的其他任务。我先用单线程可复现示例确认行为,再决定是否拆到专用线程池。任务数和超时值应来自实际限制,不该复制别人的常量。
先区分等待与计算
异步任务的优势来自等待期间把执行权交给其他工作。网络响应、磁盘完成通知和定时器都存在明显等待;编码、压缩、图像处理或大批量计算主要消耗处理器。后者写成 async fn 仍会占用执行它的 worker,除非代码主动到达真正的等待点。
判断时不要只看函数名。一个“读取文件”的函数可能在读完后立即解析大量内容,一个“发送请求”的函数也可能先做昂贵的签名计算。把各阶段分开测量,才能决定哪些留在异步运行时,哪些交给专用线程或独立服务。拆分不是为了让架构复杂,而是防止一种负载拖住完全不同的请求。
任务数量必须有上限
异步任务创建成本较低,不代表可以为每条输入无限创建。下游连接、内存、文件描述符和队列容量都有边界。若生产速度长期高于消费速度,任务只是换一种形式堆积,最终仍会耗尽资源。
入口应根据系统能力设置并发限制和队列策略。队列满时,是等待、拒绝还是丢弃旧任务,要由业务语义决定。批处理可以暂停接收,交互请求通常需要及时返回可理解错误。不能把所有压力推入无界通道,再用“异步不会阻塞”解释不断增长的内存。
取消要能传到实际工作
客户端断开或截止时间到达后,上层 future 被丢弃,底层任务未必随之停止。已经交给线程池的计算、数据库查询或外部请求,可能继续运行。设计接口时应明确哪些操作可取消,哪些只能等待结束,以及取消后部分结果如何处理。
循环较长的计算可以在合适位置检查取消信号,但检查过密也有成本。写入外部状态的任务还要处理“已提交但响应未送达”的情况,调用方不能把超时直接理解成未执行。任务标识和幂等规则比盲目重试更可靠。
不要持有不该跨越等待点的资源
锁守卫、可变借用和数据库事务跨越 .await 时,任务挂起期间仍可能占着资源。代码能编译不代表等待范围合理。把需要保护的状态缩小到同步片段,先提取操作所需数据,释放锁后再等待外部结果,通常更容易控制竞争。
事务是否能跨异步调用要看一致性要求。若外部服务变慢,长事务会增加锁等待;若先提交再调用,又需要考虑补偿。这里没有通用写法,应把失败顺序和恢复方式写进接口,而不是用一个大异步函数隐藏所有步骤。
超时与重试属于调用契约
超时值应来自调用方能等待多久、下游通常需要多久以及资源如何释放。复制框架示例里的常量,可能让短任务等太久,也可能让本可完成的任务反复被取消。重试前还要判断错误是否短暂、动作是否幂等,并加入总体截止时间,防止每层重试叠加。
测试可模拟下游变慢、连接中断、队列已满和计算任务占满 worker,观察其他请求是否仍能推进。记录运行时配置、输入规模与任务类型,结论才可复现。异步适合管理大量等待,但它不创造额外算力,也不会替系统决定容量、背压和失败语义。
5359



被折叠的 条评论
为什么被折叠?



