C#如何快速高效地导出大量数据?

本文转载:http://www.cnblogs.com/herbert/archive/2010/07/28/1787095.html

 

在C#里面如果对应的把datagridview里面的每个cell的数据一个一个地对应的写入到excel,你会发现非常的慢,这个时候,你可以先把datagrid里面的数据放入到一个二维的string数组里面, 然后利用range对象的value赋值,那样会快很多。代码如下

public static void DataGridViewToExcel(DataGridView dgv)
        {

            #region   Validate the path and file properties

            SaveFileDialog dlg = new SaveFileDialog();
            dlg.DefaultExt = "xlsx ";
            dlg.Filter = "EXCEL文件(*.XLSX)|*.xlsx ";
            dlg.InitialDirectory = Environment.GetFolderPath(Environment.SpecialFolder.Desktop);

            // Open the save file dialog
            if (dlg.ShowDialog() == DialogResult.Cancel)
                return;

            // Get the filename
            string fileNameString = dlg.FileName;
            if (fileNameString.Trim() == " ")
                return; 

            // Define the rows count and columns count
            int rowscount = dgv.Rows.Count;
            int colscount = dgv.Columns.Count;

            if (rowscount <= 0)
            {
                MessageBox.Show("No data to save ", "Info", MessageBoxButtons.OK, MessageBoxIcon.Information);
                return;
            }

            if (colscount <= 0)
            {
                MessageBox.Show("No data to save ", "Info", MessageBoxButtons.OK, MessageBoxIcon.Information);
                return;
            }

            if (rowscount > 65536)
            {
                MessageBox.Show("Too much records(The number of the records exceeds 65536),CANNOT SAVE! ", "Info", MessageBoxButtons.OK, MessageBoxIcon.Information);
                return;
            }

            if (colscount > 255)
            {
                MessageBox.Show("Too much columns, CANNOT SAVE! ", "Info ", MessageBoxButtons.OK, MessageBoxIcon.Information);
                return;
            }

            // Check if the file exisits
            FileInfo file = new FileInfo(fileNameString);
            if (file.Exists)
            {
                try
                {
                    file.Delete();
                }
                catch (Exception error)
                {
                    MessageBox.Show(error.Message, "Cannot delete the file!", MessageBoxButtons.OK, MessageBoxIcon.Warning);
                    return;
                }
            }
            #endregion

            Microsoft.Office.Interop.Excel.Application objExcel = null;
            Microsoft.Office.Interop.Excel.Workbook objWorkbook = null;
            Microsoft.Office.Interop.Excel.Worksheet objsheet = null;
            object missing = System.Reflection.Missing.Value;

            try
            {
                objExcel = new Microsoft.Office.Interop.Excel.Application();
                objWorkbook = objExcel.Workbooks.Add(missing);
                objsheet = (Microsoft.Office.Interop.Excel.Worksheet)objWorkbook.ActiveSheet;

                objExcel.Visible = false;

                int rowCount = dgv.RowCount;
                int columnCount = dgv.ColumnCount;

                string[,] datas = new string[rowCount + 1, columnCount];

                for (int i = 0; i < columnCount; i++)
                {
                    if (dgv.Columns[i].Visible == true)
                    {
                        datas[0, i] = dgv.Columns[i].HeaderText.Trim();
                    }
                }

                for (int row = 0; row < rowCount; row++)
                {
                    for (int col = 0; col < columnCount; col++)
                    {
                        if (dgv.Columns[col].Visible == true)
                        {
                            try
                            {
                                datas[row + 1, col] = dgv.Rows[row].Cells[col].Value.ToString().Trim();
                            }
                            catch (Exception ex)
                            {
                                MessageBox.Show("An exception occured:" + ex.Message, "Information", MessageBoxButtons.OK, MessageBoxIcon.Information);
                            }

                        }
                    }
                }

                int exportRowCount = rowCount + 1;

                Range range = objsheet.get_Range("A1", "C" + exportRowCount);
                range.Value2 = datas;

                objsheet.Columns.EntireColumn.AutoFit(); // Automatically change the column width

                objWorkbook.SaveAs(fileNameString, missing, missing, missing, missing,
                        missing, Microsoft.Office.Interop.Excel.XlSaveAsAccessMode.xlShared, missing, missing, missing,
                        missing, missing);
            }
            catch (Exception error)
            {
                MessageBox.Show(error.Message, "Warning ", MessageBoxButtons.OK, MessageBoxIcon.Warning);
                return;
            }
            finally
            {

                if (objWorkbook != null) objWorkbook.Close(missing, missing, missing);
                if (objExcel.Workbooks != null) objExcel.Workbooks.Close();
                if (objExcel != null) objExcel.Quit();
                objsheet = null;
                objWorkbook = null;
                objExcel = null;
            }
            MessageBox.Show(fileNameString + "\n\n Export finished! ", "Info ", MessageBoxButtons.OK, MessageBoxIcon.Information);
        }

前面有一段代码是check 数据的,其实可以根据自己情况再制定。主要是导入的那几句话。这里要注意一个问题了,就是在visual studio里面

Worksheet.get_Range Method 

Range get_Range(
    Object Cell1,
    Object Cell2
)

这个要注意了,在visual studio 2010以前都可以这样用,但是visual studio 2010里面是下面的形式

Range get_Range(object Cell1, object Cell2 = Type.Missing);

所以这里选定一个范围的cell需要这样写

Range range = objsheet.get_Range("A1", "C" + exportRowCount);

参考文章地址:这里的这个示例给出的是一个可以导出大于60000行数据的代码,就是可以分成多个worksheet

http://www.cnblogs.com/Ihaveadream/archive/2009/01/04/1368525.html

          string saveFileName = "";

            bool fileSaved = false;

            SaveFileDialog saveDialog = new SaveFileDialog();

            saveDialog.DefaultExt = "xls";

            saveDialog.Filter = "Excel文件|*.xls";

            saveDialog.FileName = "Sheet1";

            saveDialog.ShowDialog();

            saveFileName = saveDialog.FileName;

            if (saveFileName.IndexOf(":") < 0) return; //被点了取消

            ExcelApp xlApp = new ExcelApp();

            if (xlApp == null)

            {

                strMessage = "无法创建Excel对象,可能您的计算机上未安装Excel软件。";

                MessageBox.Show("无法创建Excel对象,可能您的计算机上未安装Excel软件。");

                return;

            }

            Workbooks workbooks = xlApp.Workbooks;

            Workbook workbook = workbooks.Add(XlWBATemplate.xlWBATWorksheet);

            Worksheet worksheet = (Worksheet)workbook.Worksheets[1];//取得sheet1

            //写入字段

            for (int i = 0; i < gridview.Columns.View.VisibleColumns.Count; i++)

            {

               worksheet.Cells[1, i + 1] = gridview.GetVisibleColumn(i).Caption;

            }

            //写入数值

                        int r;

            for (r = 0; r < table.Rows.Count; r++ )

           {

               for (int i = 0; i < gridview.Columns.View.VisibleColumns.Count; i++)

               {

                   if (gridview.GetVisibleColumn(i).ColumnType == typeof(string) || gridview.GetVisibleColumn(i).ColumnType == typeof(Decimal) || gridview.GetVisibleColumn(i).ColumnType == typeof(DateTime))

                  {

                       worksheet.Cells[r + 2, i + 1] = gridview.GetRowCellDisplayText(r, gridview.GetVisibleColumn(i));//dt.Rows[r][i];

                       object obj = table.Rows[r][gridview.GetVisibleColumn(i).FieldName];

                       worksheet.Cells[r + 2, i + 1] = obj == null ? "": "'"+obj.ToString();

                  }

                }

                System.Windows.Forms.Application.DoEvents();

            }

 if (saveFileName != "")

            {

                try

                {

                    workbook.Saved = true;

                    workbook.SaveCopyAs(saveFileName);

                    fileSaved = true;

                }

                catch (Exception ex)

                {

                    strMessage = "导出文件时出错,文件可能正被打开";

                    fileSaved = false;

                    MessageBox.Show("导出文件时出错,文件可能正被打开!"n" + ex.Message);

                }

            }

            else

            {

                fileSaved = false;

            }

            xlApp.Quit();

            GC.Collect();//强行销毁

if (fileSaved && System.IO.File.Exists(saveFileName)) System.Diagnostics.Process.Start(saveFileName); //打开EXCEL

上导出的代码在网上铺天盖地了已经,它仅适合导出那些最多几百几千的数据量,当使用上述代码导出10万甚至20多万的海量数据时,至少几个小时甚至导出失败。。。。

经过几天的研究,本人发现上述导出的核心代码存在问题,导致速度缓慢,下边看看我修改后的程序:

string saveFileName = "";

            bool fileSaved = false;

            SaveFileDialog saveDialog = new SaveFileDialog();

            saveDialog.DefaultExt = "xls";

            saveDialog.Filter = "Excel文件|*.xls";

            saveDialog.FileName = "Sheet1";

            saveDialog.ShowDialog();

            saveFileName = saveDialog.FileName;

            if (saveFileName.IndexOf(":") < 0) return; //被点了取消

            ExcelApp xlApp = new ExcelApp();

            if (xlApp == null)

            {

                strMessage = "无法创建Excel对象,可能您的计算机上未安装Excel软件。";

                MessageBox.Show("无法创建Excel对象,可能您的计算机上未安装Excel软件。");

                return;

            }

            Workbooks workbooks = xlApp.Workbooks;

            Workbook workbook = workbooks.Add(XlWBATemplate.xlWBATWorksheet);

            Worksheet worksheet = (Worksheet)workbook.Worksheets[1];//取得sheet1

            long rows = table.Rows.Count;

            /*下边注释的两行代码当数据行数超过行时,出现异常:异常来自HRESULT:0x800A03EC。因为:Excel 2003每个sheet只支持最大行数据

            //Range fchR = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[table.Rows.Count+2, gridview.Columns.View.VisibleColumns.Count+1]);

            //fchR.Value2 = datas;*/

            if (rows > 65535)

            {

                long pageRows = 60000;//定义每页显示的行数,行数必须小于

                int scount = (int)(rows / pageRows);

                if (scount * pageRows < table.Rows.Count)//当总行数不被pageRows整除时,经过四舍五入可能页数不准

                {

                    scount = scount + 1;

                }

                for (int sc = 1; sc <= scount; sc++)

                {

                    if (sc > 1)

                    {

                        object missing = System.Reflection.Missing.Value;

                        worksheet = (Excel.Worksheet)workbook.Worksheets.Add(

                       missing, missing, missing, missing);//添加一个sheet

                    }

                    else

                    {

                        worksheet = (Worksheet)workbook.Worksheets[sc];//取得sheet1

                    }

                    string[,] datas = new string[pageRows + 1, gridview.Columns.View.VisibleColumns.Count + 1];

                    for (int i = 0; i < gridview.Columns.View.VisibleColumns.Count; i++) //写入字段

                    {

                        datas[0, i] = gridview.GetVisibleColumn(i).Caption;

                    }

                    Range range = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[1, gridview.Columns.View.VisibleColumns.Count]);

                    range.Interior.ColorIndex = 15;//15代表灰色

                    range.Font.Bold = true;

                    range.Font.Size = 9;

                    int init = int.Parse(((sc - 1) * pageRows).ToString());

                    int r = 0;

                    int index = 0;

                    int result;

                    if (pageRows * sc >= table.Rows.Count)

                    {

                        result = table.Rows.Count;

                    }

                    else

                    {

                        result = int.Parse((pageRows * sc).ToString());

                    }

                    for (r = init; r < result; r++)

                    {

                        index = index + 1;

                        for (int i = 0; i < gridview.Columns.View.VisibleColumns.Count; i++)

                        {

                            if (gridview.GetVisibleColumn(i).ColumnType == typeof(string) || gridview.GetVisibleColumn(i).ColumnType == typeof(Decimal) || gridview.GetVisibleColumn(i).ColumnType == typeof(DateTime))

                            {

                                object obj = table.Rows[r][gridview.GetVisibleColumn(i).FieldName];

                                datas[index, i] = obj == null ? "" : "'" + obj.ToString().Trim();//在obj.ToString()前加单引号是为了防止自动转化格式

                            }

                        }

                        System.Windows.Forms.Application.DoEvents();

                    }

                    Range fchR = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[index + 2, gridview.Columns.View.VisibleColumns.Count + 1]);

                    fchR.Value2 = datas;

                    worksheet.Columns.EntireColumn.AutoFit();//列宽自适应。

                    range = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[index + 1, gridview.Columns.View.VisibleColumns.Count]);

                    //15代表灰色

                    range.Font.Size = 9;

                    range.RowHeight = 14.25;

                    range.Borders.LineStyle = 1;

                    range.HorizontalAlignment = 1;

                }

            }

            else

            {

                string[,] datas = new string[table.Rows.Count + 2, gridview.Columns.View.VisibleColumns.Count + 1];

                for (int i = 0; i < gridview.Columns.View.VisibleColumns.Count; i++) //写入字段

                {

                    datas[0, i] = gridview.GetVisibleColumn(i).Caption;

                }

                Range range = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[1, gridview.Columns.View.VisibleColumns.Count]);

                range.Interior.ColorIndex = 15;//15代表灰色

                range.Font.Bold = true;

                range.Font.Size = 9;

                int r = 0;

                for (r = 0; r < table.Rows.Count; r++)

                {

                    for (int i = 0; i < gridview.Columns.View.VisibleColumns.Count; i++)

                    {

                        if (gridview.GetVisibleColumn(i).ColumnType == typeof(string) || gridview.GetVisibleColumn(i).ColumnType == typeof(Decimal) || gridview.GetVisibleColumn(i).ColumnType == typeof(DateTime))

                        {

                            object obj = table.Rows[r][gridview.GetVisibleColumn(i).FieldName];

                            datas[r + 1, i] = obj == null ? "" : "'" + obj.ToString().Trim();//在obj.ToString()前加单引号是为了防止自动转化格式

                        }

                    }

                    System.Windows.Forms.Application.DoEvents();

                }

                Range fchR = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[table.Rows.Count + 2, gridview.Columns.View.VisibleColumns.Count + 1]);

                fchR.Value2 = datas;

                worksheet.Columns.EntireColumn.AutoFit();//列宽自适应。

                range = worksheet.get_Range(worksheet.Cells[1, 1], worksheet.Cells[table.Rows.Count + 1, gridview.Columns.View.VisibleColumns.Count]);

                //15代表灰色

                range.Font.Size = 9;

                range.RowHeight = 14.25;

                range.Borders.LineStyle = 1;

                range.HorizontalAlignment = 1;

            }

            if (saveFileName != "")

            {

                try

                {

                    workbook.Saved = true;

                    workbook.SaveCopyAs(saveFileName);

                    fileSaved = true;

                }

                catch (Exception ex)

                {

                    strMessage = "导出文件时出错,文件可能正被打开";

                    fileSaved = false;

                    MessageBox.Show("导出文件时出错,文件可能正被打开!"n" + ex.Message);

                }

            }

            else

            {

                fileSaved = false;

            }

            xlApp.Quit();

            GC.Collect();//强行销毁

            if (fileSaved && System.IO.File.Exists(saveFileName)) System.Diagnostics.Process.Start(saveFileName); //打开EXCEL

着重看上边蓝色代码的部分,经过前后两种导出方式的对比,您会发现,导出的思想改变了:

原来的程序将数据一个表格一个表格地写入到EXCEL中;修改后的程序先将数据存入二维数组中,然后再将数组值赋予EXCEL应用程序对象的VALUE属性

正是导出思想的改变,使导出速度提高不少,请参考我的导出时间数据对照:

2万条:30分钟-->2分钟左右;3万条:大于60分钟-->3分钟;20万7000多条:导出失败--->15分钟左右

可以明显看出,效率提高了不少吧。

还有一个要提醒大家,EXCEL中SHEET最多存储65535条数据,如果数据过多就需要增加sheet继续存储数据,关于如何使用,上边我修改过的代码中已经有详细的使用,请大家自己去看,这里不再重复。

时间: 2024-07-30 22:10:26

C#如何快速高效地导出大量数据?的相关文章

asp.net-ASP.NET 如何快速从DataTable导出10w条以上数据到Excel?

问题描述 ASP.NET 如何快速从DataTable导出10w条以上数据到Excel? 有一个Excel模板,90多列,导出数据到模板的一个worksheet中,请问如何做? 解决方案 怎么样也快不了.你试试光是往有模板的页面中插入10w条数据要多久.没格式还可以用csv纯文本输出. 解决方案二: 有什么方法可以解决?不求快,先前我用openxml五万以下可以实现,以上就不行了. 解决方案三: 估计这实现不了,程序始终会崩溃的.worksheet的行数最多65536行.10万行早把那个shee

ASP.NET中使用开源组件NPOI快速导入导出Execl数据_实用技巧

相信很多童鞋都开发过Execl的导入导出功能,最近产品中无论是后台数据分析的需要,还是前端满足用户管理的方便,都有Execl导入导出的维护需求产生. 以前做这个功能,如果是web,利用HttpContext.Current.Response.ContentType ="application/ms-excel";就可以导出html数据表格到execl中,这种方法的问题就是编码格式的兼容性太差,用Mac OS之类的 office打开直接乱码给你看.或者是调用office的COM组件,或宏

C#实现大数据量TXT文本数据快速高效去重

原文 C#实现大数据量TXT文本数据快速高效去重 对几千万的TXT文本数据进行去重处理,查找其中重复的数据,并移除.尝试了各种方法,下属方法是目前尝试到最快的方法.以下代码将重复和不重复数据进行分文件存放,提升效率的关键是用到了HashSet. TextReader reader = File.OpenText(m_dataFilePath); string[] files = new string[2]; files[0] = ROOT_DIR + "不重复数据.txt"; file

系统管理员如何快速高效的部署SSL和TLS?

本文讲的是系统管理员如何快速高效的部署SSL和TLS?, SSL/TLS是一种简单易懂的技术,很容易部署,也很容易运行.不过存在主要的问题是加密不太容易部署,为了确保TLS提供必要的安全性,系统管理员和开发人员必须花费很大的精力来正确配置其服务器并开发相应的应用程序.所以,我们的目标就是帮助管理员和程序员减少在部署安全站点或Web应用程序上的巨大消耗. 1 私钥和证书 在TLS中,所有安全性都以服务器的加密身份开始,这就需要一个强大的私钥来防止攻击者进行模拟攻击.同样重要的是拥有一个有效和强大的

Oracle 使用TOAD实现导入导出Excel数据_oracle

在Oracle应用程序的开发过程中,访问数据库对象和编写SQL程序是一件乏味且耗费时间的工作,对数据库进行日常管理也是需要很多SQL脚本才能完成的.Quest Software为此提供了高效的Oracle应用开发工具-Toad.在Toad的新版本中,还加入了DBA模块,可以帮助DBA完成许多日常管理工作.它最大的特点就是简单易用,访问速度快.使用Toad,我们可以通过一个图形化的用户界面快速访问数据库,完成复杂的SQL和PL/SQL代码编辑和测试工作.Toad由Oracle开发专家专门为开发人员

UGC社区类运营:如何快速高效处理违规信息

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 景德镇是一个文明和谐的国度,而我们时刻要保持互联网环境的干净.但对于UGC社区类产品,内容是用户创造的,平台只能即时发现及时处理.倘若不干不净的信息被网警盯上了,可能不会向你打任何招呼,直接拔掉网线了. 所以,在景德镇干产品,你还得学会一件事:如何快速高效处理违规信息. UGC社区类产品系列1:违规内容的处理 按照内容传播环节,扼杀在摇篮里是

纳尼,mysqldump导出的数据居然少了40万?

0.导读 用mysqldump备份数据时,加上 -w 条件选项过滤部分数据,发现导出结果比实际少了40万,什么情况? 本文约1500字,阅读时间约5分钟. 1.问题 我的朋友小文前几天遇到一个怪事,他用mysqldump备份数据时,加上了 -w 选项过滤部分数据,发现导出的数据比实际上少了40万. 要进行备份表DDL见下: CREATE TABLE `oldbiao` (   `aaaid` int(11) NOT NULL,   `bbbid` int(11) NOT NULL,   `ccc

高效匹配-经纬度快速高效定位方法,与海量经纬度进行匹配

问题描述 经纬度快速高效定位方法,与海量经纬度进行匹配 输入一个经纬度值,和全国地图经纬度值进行匹配,从而快速高效的找出此经纬度值一定范围内(20m)的最近道路. 全国地图经纬度数据量非常庞大,如何设计可最大程度的提高匹配速度.希望有高人能指点一下小弟,提供一定思路,注册不多久,就1分,都拿出来了. 解决方案 地图Api支持 定位在经度 纬度 范围的关键字搜索,或者视野范围内搜索酒店.宾馆.至于道路搜索 我估计是同理吧.

导出大数据量excel,用POI

问题描述 导出大数据量excel,用POI 需要导出的数据量可能非常大(超过10W条),而且要照顾到没装07Excel的机器,不能用SXSSFworkbook.鉴于一个sheet页最多65000多条记录,那么大数据就需要多个sheet页.由于导出前要先查数据库,是应该一次查出所有数据然后导出还是分次查询?每次查询65000条数据? 解决方案 这么大的文件,excel 2003未必能打开.建议分页存入多个excel文件. 解决方案二: 看速度和效率了,分次是不是速度还快点