使用内存映射文件MMF实现大数据量导出时的内存优化（Linux篇）

前言

    今天这篇博客是接我的上一篇博客 https://www.cnblogs.com/y-yp/p/12191258.html，继续介绍一下MMF在Linux上的用法

    ps:本来本地调试完case，想放到服务器上跑跑看，结果竟然报"PlatformNotSupportedException"，然后仔细一查，竟然发现MMF在Windows和Linux上的用法不一样。。。"mapName"参数仅作为Window平台的一个特性，在Linux平台上只能传"null"，于是就有了今天这篇博客

实现

     既然“mapName”不能使用，经过测试选定使用了FileStream的这个重载

 

     具体细节就不在介绍了，有疑问的话可以参考我的上一篇博客 https://www.cnblogs.com/y-yp/p/12191258.html，这里直接给实现

     先定义“行数据信息记录“，这个用来读取数据的时候用，一行数据只生成一条记录，所以在大数据量的情况下也不会占用很多内存

        public class RowInfo
        {
            /// <summary>
            /// 行数据体积（单位字节）
            /// </summary>
            public long Capacity { get; set; }

            /// <summary>
            /// 行单元格个数
            /// </summary>
            public int CellQuantity { get; set; }
        }

　　然后开始将数据写入MMF文件，并获取到”行数据信息记录“

            //准备数据
            var data = new List<string[]>();
            for (var i = 0; i < 100; i++)
            {
                var rowData = new string[100];
                for (var j = 0; j < 100; j++)
                {
                    rowData[j] = $"{i}-{j}";
                }
                data.Add(rowData);
            }

            //统计mmf文件体积，包含单元格数据的体积Encoding.UTF8.GetBytes(x).Length和默认单元格数据长度int类型占4字节
            var mmfCapacity = data.Sum(x => x.Sum(x => Encoding.UTF8.GetBytes(x).Length + 4));
            var path = Environment.CurrentDirectory + "\\" + "test.txt";
            using var writerFs = new FileStream(path, FileMode.Create, FileAccess.ReadWrite);
            using var writerMMF = MemoryMappedFile.CreateFromFile(writerFs, null, mmfCapacity, MemoryMappedFileAccess.ReadWrite, HandleInheritability.Inheritable, true);

            //记录行数据信息
            var rowInfos = new List<RowInfo>();
            var totalWriterOffset = 0;
            foreach (var rowData in data)
            {
                var rowBuffers = rowData.Select(x => Encoding.UTF8.GetBytes(x)).ToList();
                //计算行数据总体积
                var capacity = rowBuffers.Sum(x => x.Length + 4);
                //根据当前偏移和需要读取的长度创建accessor
                using var accessor = writerMMF.CreateViewAccessor(totalWriterOffset, capacity);
                //统计同行内单元格偏移
                var offset = 0L;
                foreach (var cellBuffer in rowBuffers)
                {
                    if (cellBuffer.Length > 0)
                    {
                        var dataSize = cellBuffer.Length;
                        accessor.Write(offset, dataSize);
                        accessor.WriteArray(offset + 4, cellBuffer, 0, dataSize);
                        offset += 4 + dataSize;
                    }
                    else
                    {
                        accessor.Write(offset, 0);
                        offset += 4;
                    }
                }

                //记录行数据信息
                var rowInfo = new RowInfo()
                {
                    Capacity = capacity,
                    CellQuantity = rowBuffers.Count()
                };
                rowInfos.Add(rowInfo);
                //总位移向前走一行数据的长度
                totalWriterOffset += capacity;
            }

            return rowInfos;

　　通过”行数据信息记录“还原数据，这里可以将读取出来的数据写入自己的excel或者是csv文件，不再赘述

            var result = new List<string[]>();

            var path = Environment.CurrentDirectory + "\\" + "test.txt";
            //从行数据信息记录统计mmf文件总体积
            var mmfCapacity = rowInfos.Sum(x => x.Capacity);
            var totalReaderOffset = 0;
            using var readerFs = new FileStream(path, FileMode.Open, FileAccess.ReadWrite);
            using var readerMMF = MemoryMappedFile.CreateFromFile(readerFs, null, mmfCapacity, MemoryMappedFileAccess.ReadWrite, HandleInheritability.Inheritable, true);
            foreach(var rowInfo in rowInfos)
            {
                var rowData = new string[rowInfo.CellQuantity];
                using var accessor = readerMMF.CreateViewAccessor(totalReaderOffset, rowInfo.Capacity);
                var position = 0;
                for (int cellIndex = 0; cellIndex < rowInfo.CellQuantity; cellIndex++)
                {

                    var cellSize = accessor.ReadInt32(position);
                    var buffer = new byte[cellSize];
                    accessor.ReadArray(position + 4, buffer, 0, cellSize);
                    rowData[cellIndex] = Encoding.UTF8.GetString(buffer);
                    position += 4 + cellSize;
                }
                result.Add(rowData);
            }

            if (File.Exists(path))
            {
                File.Delete(path);
            }

　　考虑使用内存映射文件的话，可以先本地测试一下性能，如果是SSD的话性能还是很不错的，综合跑下来跟直接写入内存速度相差不会超过一两倍(内存使用率较高的话会严重降低性能，甚至会OOM)，而且这其中还有很多的优化空间

       今天的文章只是提了个思路，细节还有很多要考虑，有疑问的话欢迎提问交流~~