
一:背景
1. 讲故事
分析托管和非托管内存暴涨,很多人潜意识里都会想到抓dump上windbg分析,但我说可以用dottrace同样分析出来,是不是听起来有点让人惊讶,哈哈,其实很正常,它是另辟蹊径采用底层的ETW机制,即开启 windows 底层日志,所以 dottrace 可以做,官方血统的 perfview 就更可以了,话不多说,这篇就来开干吧。
二:托管和非托管内存分析
1. 托管内存暴涨
用 windbg 分析的话,基本上就是!eeheap -gc+!dumpheap -stat+!gcroot三板斧搞定,但dump的分析方式也不全是优点,它最大的缺点就是dump>20G时,windbg 基本上就分析不动了,这个很致命,而且 >20G 的dump在分发方面也很麻烦,费时费力,所以在这种情况下,可以借助摄像头dottrace来解决此类问题。
比如有这样的一个场景:我有一个程序平时都是好好的,最近修复了一个bug,上线之后不知道为什么就吃了4.4G+的内存,这明显是超出预期的,现在很惶恐,截图如下:
我用 vmmap 简单看了下发现主要是托管堆的泄露,截图如下:
由于dump是非常保密的,不适合分发给第三方,在生产上搭建windbg工作台也不是很方便,有没有轻量级的工具直接分析呢?哈哈,这时候就可以考虑下 dotrrace,它可以帮你找出托管内存分配都是从哪个方法出来的。
使用 dotrace 初始化跟踪或者附加进程一段时间后,采集到的跟踪文件如下:
从Filters面板中可以看到有一个.NET Memory Alocations项,上面记录着当前程序分配的内存总量,接下来就可以选中进行下钻分析,截图如下:
从卦中可以清晰的看到如下信息:
- 托管内存主要被 LOH 大对象堆给吃了
- 托管堆上最多的对象是System.Byte[]
看到这里心里就踏实多了,接下来选中System.Byte[],看下这些分配都藏在哪些方法里,接下来选择Hotspots中的Plain List选项,截图如下:
从卦中可以看到内存主要被LoadCustomerAttachments方法给吃掉了,接下来点击Show Code观察该方法源码,代码参考如下:
static void LoadCustomerAttachments() { Console.WriteLine($"[客户附件] 开始加载 (线程ID: {Thread.CurrentThread.ManagedThreadId})"); try { var attachments = new Dictionary<int, byte[]>(); for (int i = 0; i < 30; i++) { attachments[i] = new byte[100 * 1024 * 1024]; for (int j = 0; j < attachments[i].Length; j += 1024) { attachments[i][j] = (byte)(i + j); } // 每5个附件输出一次进度 if (i % 5 == 0) { Console.WriteLine($"[客户附件] 已加载 {i} 个附件 ({(i + 1) * 100}MB)"); } } Console.WriteLine($"[客户附件] 加载完成,共{attachments.Count}个附件"); } catch (OutOfMemoryException ex) { Console.WriteLine($"[客户附件] 内存不足错误: {ex.Message}"); } }
到这里基本就真相大白,是不是有点像 ust 效果。
2. 非托管内存暴涨
不管是 linux 还是 windows,分析非托管内存泄露都是一个很苟的活,如果非托管内存的泄露是在 ntheap 上,除了重量级的 dump 分析之后,还可以使用轻量级的 dottrace,你没听错,dottrace 是可以分析 ntheap 堆泄露,前提就是勾选上Collect only unreleased allcations,其实本质也是借助底层的 ETW 事件,截图如下:
为了方便演示,我用 C# 调用 C++ 来实现一个NTHEAP 的非托管内存泄露,然后借助 dottrace 快速分析,首先定义几个C 导出函数,代码如下:
extern "C" { _declspec(dllexport) void HeapMalloc1(int bytes); _declspec(dllexport) void HeapMalloc2(int bytes); _declspec(dllexport) void HeapMalloc3(int bytes); } #include "iostream" #include <Windows.h> using namespace std; void HeapMalloc1(int bytes) { int* ptr = (int*)malloc(bytes); printf("bytes=%d ,分配完毕\n", bytes); } void HeapMalloc2(int bytes) { int* ptr = (int*)malloc(bytes); printf("bytes=%d ,分配完毕\n", bytes); } void HeapMalloc3(int bytes) { int* ptr = (int*)malloc(bytes); printf("bytes=%d ,分配完毕\n", bytes); }
接下来通过C#不断的调用这几个函数,其中 HeapMalloc1 方法会泄露 2G 的内存,参考代码如下:
namespace MemoryLeakSimulator { internal class Program { [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)] extern static void HeapMalloc1(int bytes); [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)] extern static void HeapMalloc2(int bytes); [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)] extern static void HeapMalloc3(int bytes); static void Main(string[] args) { // Configure target leaks (in bytes) long targetLeak1 = 2L * 1024 * 1024 * 1024; // 2GB for HeapMalloc1 long targetLeak2 = new Random().Next(500, 1000) * 1024L * 1024; // 500MB-1GB for HeapMalloc2 long targetLeak3 = new Random().Next(500, 1000) * 1024L * 1024; // 500MB-1GB for HeapMalloc3 // Chunk size (e.g., 100MB per iteration) int chunkSize = 100 * 1024 * 1024; // Thread 1: Leak 2GB in chunks Thread thread1 = new Thread(() => { long leaked = 0; while (leaked < targetLeak1) { int allocate = (int)Math.Min(chunkSize, targetLeak1 - leaked); HeapMalloc1(allocate); leaked += allocate; Console.WriteLine($"HeapMalloc1: Leaked {leaked / (1024 * 1024)}MB / {targetLeak1 / (1024 * 1024)}MB"); Thread.Sleep(100); // Delay between allocations } }); // Thread 2: Leak 500MB-1GB in chunks Thread thread2 = new Thread(() => { long leaked = 0; while (leaked < targetLeak2) { int allocate = (int)Math.Min(chunkSize, targetLeak2 - leaked); HeapMalloc2(allocate); leaked += allocate; Console.WriteLine($"HeapMalloc2: Leaked {leaked / (1024 * 1024)}MB / {targetLeak2 / (1024 * 1024)}MB"); Thread.Sleep(100); } }); // Thread 3: Leak 500MB-1GB in chunks Thread thread3 = new Thread(() => { long leaked = 0; while (leaked < targetLeak3) { int allocate = (int)Math.Min(chunkSize, targetLeak3 - leaked); HeapMalloc3(allocate); leaked += allocate; Console.WriteLine($"HeapMalloc3: Leaked {leaked / (1024 * 1024)}MB / {targetLeak3 / (1024 * 1024)}MB"); Thread.Sleep(100); } }); // Start all threads thread1.Start(); thread2.Start(); thread3.Start(); // Wait for completion thread1.Join(); thread2.Join(); thread3.Join(); Console.WriteLine("All leaks completed!"); Console.ReadLine(); } } }
启动dottrace跟踪,跟踪完成之后,在 Filters 面板中有一个Native Allocations项,上面记录了当前程序已泄露3.5G内存,截图如下:
说实话有一点我想吐槽,dotTrace 为什么要将Native Memory和NtHeap做等价,Ntheap 只是Native Memory的子集,会让人觉得 Stack泄露,VirtualAlloc泄露都归到当前的Native Allocations中,这是一个很大的误解,所以更合适的名字叫NtHeap Allocations。
接下来选中Native Allocations项下钻,可以清楚的看到各个线程泄露的百分比以及对应的函数,截图如下:
到这里我们终于知道原来 HeapMalloc1泄露了2G内存,HeapMalloc2泄露了800M内存,HeapMalloc3泄露了 640M 内存,真相大白。
三:总结
是不是觉得非常的棒,大家以后在分析托管或非托管内存的时候,在必要的场景下记得用 dottrace 哦。
作为JetBrains社区内容合作者,如有购买jetbrains的产品,可以用我的折扣码 HUANGXINCHENG,有25%的内部优惠哦。