service manager和binder service的关系

最新推荐文章于 2025-04-30 09:52:29 发布
最新推荐文章于 2025-04-30 09:52:29 发布
阅读量869 收藏 1
点赞数
分类专栏： Binder service入门
本文解析了Android中Servicemanager的角色及其如何管理BinderService。Servicemanager虽不由它创建服务，但负责注册并管理所有BinderService，无论是由init进程还是system_server进程启动的服务。客户端通过Servicemanager获取服务代理进行交互。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

http://www.cloudchou.com/android/post-327.html


本文原创作者: Cloud Chou. 欢迎转载，请注明出处和 本文链接

service manager是所有binder service的管理者，但它并不是这些binder service的创建者。

这些binder service有些是init进程启动的服务创建的，有些是system_server进程创建的，但是service manager会管理所有binder service的信息，方便client查询以及调用。

service manager是由init进程直接启动的，在init.rc里有

1
2
3
4
5
6
7
8
9

service servicemanager /system/bin/servicemanager
    class core
    user system
    group system
    critical
    onrestart restart zygote
    onrestart restart media
    onrestart restart surfaceflinger
    onrestart restart drm

ActivityManagerService,PackageManagerService等由system_server进程启动的binder service实际上并没有单独的进程，它们只是system_server的一个子线程。init进程会启动surface flinger，media server, drmserver等服务，在这些服务里会创建binder service，并注册到service manager。

init.rc声明了surfaceflinger：

1
2
3
4
5

service surfaceflinger /system/bin/surfaceflinger
    class main
    user system
    group graphics drmrpc
		onrestart restart zygote

native binder service 和 java 层的binder service，都会交由service manager注册，然后由service manager管理。客户端使用binder service时需要向service manager查询得到binder service在当前进程的一个代理，通过代理与binder service的服务端交互。

binder线程

0 binder service manager,  binder service service manager,  binder机制,  IPC框架,  service manager android
上篇文章： Android FutureTask
下篇文章： Binder service入门–创建native binder service
id="uyan_ifr_3188747" scrolling="no" frameborder="0" src="http://api.v2.uyan.cc/v4/comment/?uid=1832578&frameid=3188747&du=&su=www.cloudchou.com%2F%3Fp%3D327&pic=http%3A%2F%2Fwww.cloudchou.com%2Fwp-content%2Fuploads%2F2014%2F04%2Fbinder%25E7%25BA%25BF%25E7%25A8%258B.png&url=http%3A%2F%2Fwww.cloudchou.com%2Fandroid%2Fpost-327.html&title=service%20manager%E5%92%8Cbinder%20service%E7%9A%84%E5%85%B3%E7%B3%BB%20-%20Cloud%20Chou%27s%20Tech%20Blog&t=1477381902181" style="height: 687px; width: 626px; display: block !important; border-width: 0px !important; border-style: none !important; overflow: hidden !important;">


pytorch训练与测试爆显存问题的解决
juluwangriyue的博客
11-27 5307
解决Pytorch 训练与测试时爆显存(out of memory)的问题 Pytorch 训练时有时候会因为加载的东西过多而爆显存，有些时候这种情况还可以使用cuda的清理技术进行修整，当然如果模型实在太大，那也没办法。 使用torch.cuda.empty_cache()删除一些不需要的变量代码示例如下： try: output = model(input) except RuntimeError as exception: if "out of memory" in str(excep
Pytorch训练模型时如何释放GPU显存 torch.cuda.empty_cache()内存释放以及cuda的显存机制探索
热门推荐
捡起一束光的博客
04-15 9万+
前言 训练模型时，一般我们会把模型model，数据data和标签label放到GPU显存中进行加速。 但有的时候GPU Memory会增加，有的时候会保持不变，以及我们要怎么清理掉一些用完的变量呢？ 下面让我们一起来探究下原理吧！ pytorch训练 只要你把任何东西（无论是多小的tensor）放到GPU显存中，那么你至少会栈1000MiB左右的显存（根据cuda版本，会略有不同）。这部分显存是cuda running时固有配件必须要占掉的显存，你先训练过程汇总也是无法释放的。 import torch
torch.cuda.empty_cache()使用场景
最新发布
qq_33931875的博客
04-30 1081
合理使用此方法可将GPU利用率提升15-30%（特别是在大模型训练中），但需要结合具体场景权衡性能与显存占用的平衡。的正确使用需要结合具体场景。• 过于频繁调用（如每个batch）会降低性能（约5-10%速度损失）• 使用梯度检查点 (Gradient Checkpointing)• 使用动态计算图或频繁创建/释放临时张量。• 测试最大可用batch size时。• 同一个脚本交替执行训练和评估。• 不同模型共享GPU资源。• 使用GPU加速数据增强。• 模型太大需要分段加载。• 动态生成训练数据。
Pytorch：torch.cuda.empty_cache()
weixin_42046845的博客
03-20 4107
torch.cuda.empty_cache() 是PyTorch中用来释放未被分配的缓存的内存的函数。在使用GPU进行计算时，CUDA会在内部维护一个内存缓存池，以便更快地分配和释放。但有时候，这些缓存的内存在不再需要的时候，它们不会被自动返回到操作系统。
Pytorch清空显存缓冲区(torch.cuda.empty_cache)
hxxjxw的博客
08-18 5万+
torch.cuda.empty_cache() 写代码的好习惯是在程序最后执行以下这句话
【pytorch】torch.cuda.empty_cache()==＞释放缓存分配器当前持有的且未占用的缓存显存
Drug discovery
06-14 3万+
Pytorch 训练时无用的临时变量可能会越来越多，导致out of memory，可以使用下面语句来清理这些不需要的变量。 torch.cuda.empty_cache() 官网上的解释为： Releases all unoccupied cached memory currently held by the caching allocator so that those can be used in other GPU application and visible invidia-sm...
torch.cuda.empty_cache()导致RuntimeError: CUDA error: out of memory.
weixin_43700556的博客
04-02 1110
后来才发现，在多卡训练的时候容易出现这个问题，单卡不会，因为torch.cuda.empty_cache()默认是给GPU0释放显存，而此时GPU0跑满了，无显存可以释放，就会导致显存溢出。之前的经验一般是batch_size设置太大了，显存不够，导致训练的时候爆显存，而这次是因为施放显存而爆显存？之前使用torch.cuda.empty_cache()都不会出现问题，当修改了使用的显卡号就出现问题了。在第一轮训练nvidia-smi看显存是够的，但是测试结束后开始第二轮训练就报错了。
显存优化 | Pytorch的显存机制torch.cuda.empty_cache及周边概念
欢迎光临啊噗不是阿婆主的酒馆
04-17 7382
注：文中涉及一些内部底层实现机制，可能和大家外界看到的不一样，这里略过不做介绍。借着笔记，分享平时碰到的技术点，不高端，不炫酷，对你有用更好了。 最近在做模型的优化工作，主要涉及精度，速度和显存优化，今天主要针对显存优化分享下关于Pytorch显存机制的笔记。 显存优化还涉及显存量查看，训练中显存使用分布查看，还有一些节省显存的tricks。我在这篇文章中没有体现，mentor看到文章“嫌弃”说“...
解决使用torch.cuda.empty_cache()仍然GPU显存无法释放的问题
人工智能
03-13 1990
使用pytorch设置多线程（threads）进行数据读取（DataLoader），其实是假的多线程，他是开了N个子进程（PID都连着）进行模拟多线程工作，所以你的程序跑完或者中途kill掉主进程的话，子进程的GPU显存并不会被释放，需要手动一个一个kill才行.在开发的过程中，程序已经关闭，但是GPU显存无法释放，在使用pytorch写程序的时候,　有时候会在控制台终止掉正在运行的程序，但是有时候程序已经结束了，nvidia-smi也看到没有程序了，但是GPU的内存并没有释放，这是怎么回事呢？
pytorch的torch.cuda.set_per_process_memory_fraction()函数介绍
weixin_42993916的博客
03-11 6676
函数功能： 在pytorch中设置显存使用比例，即能够完成显存的使用上限设置。 torch.cuda.set_per_process_memory_fraction(0.5, 0) 参数1：fraction 限制的上限比例，如0.5 就是总GPU显存的一半，可以是0~1的任意float大小； 参数2：device 设备号； 如0 表示GPU卡 0号； 功能解释如下： Set memory fraction for a process. The fraction is used to l
怎样Pytorch清空显存缓冲区(torch.cuda.empty_cache)步骤
09-26
在PyTorch中，`torch.cuda.empty_cache()`是一个函数，用于释放GPU上缓存的所有计算结果和张量。这可以帮助释放内存资源，尤其是在处理大量数据或者多次迭代训练模型后。以下是使用这个功能的基本步骤： 1. 首先，...
pytorch的显存机制torch.cuda.empty_cache()
qq_29007291的博客
05-22 4万+
转自：https://oldpan.me/archives/pytorch-gpu-memory-usage-track Pytorch已经可以自动回收我们不用的显存，类似于python的引用机制，当某一内存内的数据不再有任何变量引用时，这部分的内存便会被释放。但有一点需要注意，当我们有一部分显存不再使用的时候，这部分释放的显存通过Nvidia-smi命令是看不到的，举个例子： device =......
【Pytorch API笔记8】用torch.cuda.empty_cache()释放所有未使用的缓存内存
hjxu2016的博客
11-17 1215
python上，如何释放torch开辟的显存呢？
Torch.cuda.empty_cache() 性能非常非常慢
张伟的专栏
12-31 2409
当我在单个 GPU 上执行时，我遇到了的问题。这种缓慢的行为出现在被处理之后 - 也就是 GPU 已经快满了，需要回收它的内存来接受下一批的时候。在GPU 状态 - 性能（如预期）。我希望下面的代码 sn-p 和输出都能简明扼要地说明问题。（为了简洁，我已经从 sn-p 中删除了打印和时间测量）输出我是否遗漏了一些明显的东西，或者这是GPU 行为？我在进行复杂编码之前发布这个问题，在我的服务器上可用的几个 GPU 和 CPU 之间进行处理。提前致谢， 阿尔伯特。
pytorch的显存释放机制torch.cuda.empty_cache() Pytorch已经可以自动回收我们不用的显存，类似于python的引用机制，当某一内存内的数据不再有任何变量引用时
CSPhD-winston的博客
01-15 4342
pytorch的显存释放机制torch.cuda.empty_cache() Pytorch已经可以自动回收我们不用的显存，类似于python的引用机制，当某一内存内的数据不再有任何变量引用时，这部分的内存便会被释放。但有一点需要注意，当我们有一部分显存不再使用的时候，这部分释放的显存通过Nvidia-smi命令是看不到的，举个例子： device = torch.device('cuda:0')...
torch.cuda.empty_cache()；gc.collect()
weixin_44012667的博客
12-05 953
在分布式训练环境中，释放资源可能需要与进程同步，建议在释放资源后调用。通过这样的操作，可以有效释放资源并避免因内存不足导致后续代码运行失败。如果模型相关的变量较多，可以在。语句后同时删除它们。
torch.cuda.empty_cache()导致RuntimeError: CUDA error: out of memory
weixin_43890415的博客
02-25 297
显存碎片化：多次分配和释放显存可能导致碎片化，即使总剩余显存足够，也可能因连续内存块不足而报错。PyTorch 的显存管理采用内存池技术，即释放的显存不会立即归还给系统，而是保留在缓存池中以供复用。仅释放未使用的缓存，无法解决显存泄漏问题。若代码中存在未释放的张量（如未 del 或未清除计算图），调用。在多卡训练场景下，torch.cuda.empty_cache() 默认针对。显存已满（例如正在运行其他任务），调用此方法会因无法释放显存而直接报错。仍可能导致显存不足。
pytorch中torch.cuda.empty_cache()的作用
学无止境、积少成多、厚积薄发
10-20 2935
Pytorch已经可以自动回收我们不用的显存，类似于python的引用机制，当某一内存内的数据不再有任何变量引用时，这部分的内存便会被释放。 但有一点需要注意，当我们有一部分显存不再使用的时候，这部分释放的显存通过Nvidia-smi命令是看不到的 我的理解：释放显存 参考： https://oldpan.me/archives/pytorch-gpu-memory-usage-track https://blog.csdn.net/qq_29007291/article/details/90451890
torch.cuda.empty_cache()运行时主动清理GPU memory
weixin_43301333的博客
02-23 3822
这篇forum信息量很大，先马住： https://discuss.pytorch.org/t/how-can-we-release-gpu-memory-cache/14530
torch.cuda.empty_cache()只能清空一个gpu吗
02-26
<think>好的，用户现在问的是`torch.cuda.empty_cache()`是否只能清空一个GPU的缓存。我需要先回忆一下PyTorch中CUDA内存管理的机制。 首先，用户之前遇到了关于Scikit-learn的分类指标警告和PyTorch的NCCL支持问题，现在转向了CUDA内存管理。可能用户正在处理多GPU训练，或者在单GPU使用中遇到了显存问题。 `torch.cuda.empty_cache()`的作用是释放当前由缓存分配器持有的未使用内存。PyTorch默认情况下会缓存一部分内存以提高分配效率，这个函数可以释放那些未被使用的缓存内存。但用户的问题是，这个函数是否只影响当前的一个GPU。 根据PyTorch的文档，当使用多GPU时，每个GPU都有自己的缓存分配器。所以，如果用户有多个GPU，`torch.cuda.empty_cache()`只会释放当前设备（即通过`torch.cuda.current_device()`指定的那个）的缓存。要清空所有GPU的缓存，需要遍历每个设备，切换当前设备，然后分别调用该函数。 用户可能是在多GPU环境下运行代码，发现显存没有完全释放，或者遇到显存不足的问题。需要确认用户是否在使用多GPU，以及是否正确地切换了设备来清空每个GPU的缓存。 另外，用户可能对PyTorch的内存管理机制不太熟悉，所以需要解释清楚这个函数的行为，以及在不同情况下的正确使用方法。可能还需要提醒用户，即使调用了这个函数，显存的释放也依赖于是否有未使用的缓存，实际使用的张量不会被释放。 最后，给出示例代码，说明如何为所有GPU清空缓存，并强调正确使用设备切换的重要性。还要提醒用户，显存管理需要结合其他方法，如手动删除变量、运行垃圾回收等，才能有效管理显存使用。</think>--- 在 PyTorch 中，`torch.cuda.empty_cache()` 的作用是释放当前 CUDA 设备（即当前选中的 GPU）的**未使用缓存内存**。其行为取决于 **GPU 设备的选择**和 **多 GPU 环境**的配置。以下是详细说明： --- ### **1. 单 GPU 场景** - 如果你只有一个 GPU，或者代码中未显式指定 GPU 设备： `torch.cuda.empty_cache()` 会清空当前默认 GPU 的缓存内存。 例如： ```python import torch # 默认使用 GPU 0（仅单卡时） a = torch.randn(1000, 1000, device="cuda") # 占用显存 del a # 删除变量 torch.cuda.empty_cache() # 释放 GPU 0 的未使用缓存 ``` --- ### **2. 多 GPU 场景** - 如果你有多个 GPU，且代码中显式切换了设备： 需要**依次选中每个 GPU 并单独调用** `empty_cache()`，才能清空所有 GPU 的缓存。 例如： ```python import torch # 清空 GPU 0 的缓存 torch.cuda.set_device(0) torch.cuda.empty_cache() # 清空 GPU 1 的缓存 torch.cuda.set_device(1) torch.cuda.empty_cache() ``` --- ### **3. 关键注意事项** 1. **缓存释放的范围**： `empty_cache()` **仅释放由 PyTorch 缓存分配器管理的未占用内存**，不会释放正在被张量占用的显存。 - 已分配的张量必须手动删除（如 `del tensor`）或超出作用域后，其显存才会被缓存分配器回收。 - 调用 `empty_cache()` 后，这些回收的内存才会真正释放回系统。 2. **多进程与分布式训练**： 在分布式训练（如使用 `torch.distributed` 或 `DataParallel`）时，每个进程可能绑定到不同的 GPU。 - 每个进程需独立调用 `empty_cache()` 清理自己绑定的 GPU 缓存。 - 例如： ```python # 每个进程仅清理自己绑定的 GPU torch.cuda.empty_cache() ``` 3. **自动缓存管理**： PyTorch 默认会缓存部分显存以提高分配效率。频繁调用 `empty_cache()` 可能导致性能下降，建议仅在显存不足时手动调用。 --- ### **4. 验证显存释放** 可以使用 `torch.cuda.memory_summary()` 或以下代码查看显存状态： ```python import torch # 查看当前 GPU 的显存使用情况（单位：字节） print(torch.cuda.memory_allocated()) # 当前已分配的显存 print(torch.cuda.memory_reserved()) # 当前缓存分配器保留的显存（包括未使用的） ``` --- ### **总结** | 场景 | 行为 | |------------|----------------------------------------------------------------------| | **单 GPU** | 清空当前 GPU 的未使用缓存。 | | **多 GPU** | 需遍历所有 GPU，分别调用 `empty_cache()` 才能清空每个设备的缓存。 | --- ### **最佳实践** - 显存不足时手动调用 `empty_cache()`，但避免在循环中频繁使用。 - 结合显存监控工具（如 `nvidia-smi` 或 PyTorch 内置函数）诊断显存泄漏。 - 多 GPU 场景显式指定设备并分别清理： ```python for i in range(torch.cuda.device_count()): torch.cuda.set_device(i) torch.cuda.empty_cache() ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值