全新分配库:tcmalloc和jemalloc,是10年前的技术,比林操默认的ptmalloc快.je在分配4~8kb时实际分配8kb,浪费.tc内部有80多个大小分类,折腾.同时为了支持大页如2m/1g分配.大型软件需要大页分配.目标是全自动.更小更稳定的申请/释放内存时间.ns级返回可用内存块,不调用sbrk()和brk(),而是用mmap()方式.最好16字节对齐,对sse更友好.
技术方案:位图+首适/下适,调用释放后,下次首适,可重新利用释放掉内存.再次分配相同内存时,用下适.取消链表,用向量(连续的).
位图,就是搜索连续的0,释放时自动合并,这样碎片小,合并数据块性能极高,连续多位搜索慢,用高速多位搜索(自己设计).ns检索.单位检索更快,192字节-->1位.
优化手段:预取内存,cpu多发射性,优化设计缓存行,将数据集中到缓存行中,尽量在L1中跑,尽量用短,优化读写缓存行,汇编优化(用sse加速处理),tlb(页表缓存),放弃优化numa.
分配实现:用mmem,1g~2m~4k
用户层:用线程局部thread_local用于分配<2M内存,这一层分配,均无锁.共16种类型,均位图.0~14为小内存.单次申请最大63b,分配16kb以下内存,主内存从15类型分配,每个子块512b,刚好一个缓存行.每种类型,同时拥有N块.15是N*4k,从4k到2m-32kb,使用查询跳表.位图支持自动复合利用.多线程中:tls,无锁队列/无锁释放,2m以下不需要锁.跨线程释放不需要锁.直接送达对方无锁队列.内部分配比操作系统分配快百倍.用静态链接,因为动态链接有巨大的额外开销(12ns).后台服务线程>16M开启,从操作系统申请2m,需要几百微秒,用后台,只需要ns时间,
清理无用缓存,后台线程判断不再复用内存,通知cpu清理垃圾.
内存页提前分配.如缺页再分配.都是先进行预处理,出现情况后,有对应处理方式.
import core.stdc.stdio : puts;
void main()
{
scope (exit) puts("Hello, World!");
throwError();
}
void throwError()
{
throw new Error("");
}
