DotTrace系列:7. 诊断 托管和非托管 内存暴涨


一:背景

1. 讲故事

分析托管和非托管内存暴涨,很多人潜意识里都会想到抓dump上windbg分析,但我说可以用dottrace同样分析出来,是不是听起来有点让人惊讶,哈哈,其实很正常,它是另辟蹊径采用底层的ETW机制,即开启 windows 底层日志,所以 dottrace 可以做,官方血统的 perfview 就更可以了,话不多说,这篇就来开干吧。

二:托管和非托管内存分析

1. 托管内存暴涨

用 windbg 分析的话,基本上就是!eeheap -gc+!dumpheap -stat+!gcroot三板斧搞定,但dump的分析方式也不全是优点,它最大的缺点就是dump>20G时,windbg 基本上就分析不动了,这个很致命,而且 >20G 的dump在分发方面也很麻烦,费时费力,所以在这种情况下,可以借助摄像头dottrace来解决此类问题。

比如有这样的一个场景:我有一个程序平时都是好好的,最近修复了一个bug,上线之后不知道为什么就吃了4.4G+的内存,这明显是超出预期的,现在很惶恐,截图如下:

我用 vmmap 简单看了下发现主要是托管堆的泄露,截图如下:

由于dump是非常保密的,不适合分发给第三方,在生产上搭建windbg工作台也不是很方便,有没有轻量级的工具直接分析呢?哈哈,这时候就可以考虑下 dotrrace,它可以帮你找出托管内存分配都是从哪个方法出来的。

使用 dotrace 初始化跟踪或者附加进程一段时间后,采集到的跟踪文件如下:

从Filters面板中可以看到有一个.NET Memory Alocations项,上面记录着当前程序分配的内存总量,接下来就可以选中进行下钻分析,截图如下:

从卦中可以清晰的看到如下信息:

  • 托管内存主要被 LOH 大对象堆给吃了
  • 托管堆上最多的对象是System.Byte[]

看到这里心里就踏实多了,接下来选中System.Byte[],看下这些分配都藏在哪些方法里,接下来选择Hotspots中的Plain List选项,截图如下:

从卦中可以看到内存主要被LoadCustomerAttachments方法给吃掉了,接下来点击Show Code观察该方法源码,代码参考如下:

static void LoadCustomerAttachments()
        {
            Console.WriteLine($"[客户附件] 开始加载 (线程ID: {Thread.CurrentThread.ManagedThreadId})");

            try
            {
                var attachments = new Dictionary<int, byte[]>();
                for (int i = 0; i < 30; i++)
                {
                    attachments[i] = new byte[100 * 1024 * 1024];

                    for (int j = 0; j < attachments[i].Length; j += 1024)
                    {
                        attachments[i][j] = (byte)(i + j);
                    }

                    // 每5个附件输出一次进度
                    if (i % 5 == 0)
                    {
                        Console.WriteLine($"[客户附件] 已加载 {i} 个附件 ({(i + 1) * 100}MB)");
                    }
                }

                Console.WriteLine($"[客户附件] 加载完成,共{attachments.Count}个附件");
            }
            catch (OutOfMemoryException ex)
            {
                Console.WriteLine($"[客户附件] 内存不足错误: {ex.Message}");
            }
        }

到这里基本就真相大白,是不是有点像 ust 效果。

2. 非托管内存暴涨

不管是 linux 还是 windows,分析非托管内存泄露都是一个很苟的活,如果非托管内存的泄露是在 ntheap 上,除了重量级的 dump 分析之后,还可以使用轻量级的 dottrace,你没听错,dottrace 是可以分析 ntheap 堆泄露,前提就是勾选上Collect only unreleased allcations,其实本质也是借助底层的 ETW 事件,截图如下:

为了方便演示,我用 C# 调用 C++ 来实现一个NTHEAP 的非托管内存泄露,然后借助 dottrace 快速分析,首先定义几个C 导出函数,代码如下:

extern "C"
{
	_declspec(dllexport) void HeapMalloc1(int bytes);
	_declspec(dllexport) void HeapMalloc2(int bytes);
	_declspec(dllexport) void HeapMalloc3(int bytes);
}

#include "iostream"
#include <Windows.h>

using namespace std;


void HeapMalloc1(int bytes)
{
	int* ptr = (int*)malloc(bytes);
	printf("bytes=%d ,分配完毕\n", bytes);
}

void HeapMalloc2(int bytes)
{
	int* ptr = (int*)malloc(bytes);
	printf("bytes=%d ,分配完毕\n", bytes);

}

void HeapMalloc3(int bytes)
{
	int* ptr = (int*)malloc(bytes);
	printf("bytes=%d ,分配完毕\n", bytes);
}

接下来通过C#不断的调用这几个函数,其中 HeapMalloc1 方法会泄露 2G 的内存,参考代码如下:

namespace MemoryLeakSimulator
{
    internal class Program
    {
        [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)]
        extern static void HeapMalloc1(int bytes);

        [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)]
        extern static void HeapMalloc2(int bytes);

        [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)]
        extern static void HeapMalloc3(int bytes);

        static void Main(string[] args)
        {
            // Configure target leaks (in bytes)
            long targetLeak1 = 2L * 1024 * 1024 * 1024;  // 2GB for HeapMalloc1
            long targetLeak2 = new Random().Next(500, 1000) * 1024L * 1024;  // 500MB-1GB for HeapMalloc2
            long targetLeak3 = new Random().Next(500, 1000) * 1024L * 1024;  // 500MB-1GB for HeapMalloc3

            // Chunk size (e.g., 100MB per iteration)
            int chunkSize = 100 * 1024 * 1024;

            // Thread 1: Leak 2GB in chunks
            Thread thread1 = new Thread(() =>
            {
                long leaked = 0;
                while (leaked < targetLeak1)
                {
                    int allocate = (int)Math.Min(chunkSize, targetLeak1 - leaked);
                    HeapMalloc1(allocate);
                    leaked += allocate;
                    Console.WriteLine($"HeapMalloc1: Leaked {leaked / (1024 * 1024)}MB / {targetLeak1 / (1024 * 1024)}MB");
                    Thread.Sleep(100); // Delay between allocations
                }
            });

            // Thread 2: Leak 500MB-1GB in chunks
            Thread thread2 = new Thread(() =>
            {
                long leaked = 0;
                while (leaked < targetLeak2)
                {
                    int allocate = (int)Math.Min(chunkSize, targetLeak2 - leaked);
                    HeapMalloc2(allocate);
                    leaked += allocate;
                    Console.WriteLine($"HeapMalloc2: Leaked {leaked / (1024 * 1024)}MB / {targetLeak2 / (1024 * 1024)}MB");
                    Thread.Sleep(100);
                }
            });

            // Thread 3: Leak 500MB-1GB in chunks
            Thread thread3 = new Thread(() =>
            {
                long leaked = 0;
                while (leaked < targetLeak3)
                {
                    int allocate = (int)Math.Min(chunkSize, targetLeak3 - leaked);
                    HeapMalloc3(allocate);
                    leaked += allocate;
                    Console.WriteLine($"HeapMalloc3: Leaked {leaked / (1024 * 1024)}MB / {targetLeak3 / (1024 * 1024)}MB");
                    Thread.Sleep(100);
                }
            });

            // Start all threads
            thread1.Start();
            thread2.Start();
            thread3.Start();

            // Wait for completion
            thread1.Join();
            thread2.Join();
            thread3.Join();

            Console.WriteLine("All leaks completed!");
            Console.ReadLine();
        }
    }
}

启动dottrace跟踪,跟踪完成之后,在 Filters 面板中有一个Native Allocations项,上面记录了当前程序已泄露3.5G内存,截图如下:

说实话有一点我想吐槽,dotTrace 为什么要将Native Memory和NtHeap做等价,Ntheap 只是Native Memory的子集,会让人觉得 Stack泄露,VirtualAlloc泄露都归到当前的Native Allocations中,这是一个很大的误解,所以更合适的名字叫NtHeap Allocations。

接下来选中Native Allocations项下钻,可以清楚的看到各个线程泄露的百分比以及对应的函数,截图如下:

到这里我们终于知道原来 HeapMalloc1泄露了2G内存,HeapMalloc2泄露了800M内存,HeapMalloc3泄露了 640M 内存,真相大白。

三:总结

是不是觉得非常的棒,大家以后在分析托管或非托管内存的时候,在必要的场景下记得用 dottrace 哦。

作为JetBrains社区内容合作者,如有购买jetbrains的产品,可以用我的折扣码 HUANGXINCHENG,有25%的内部优惠哦。