1w条的excel表格导入mysql数据中性能的问题

问题描述

1w条的excel表格导入mysql数据中性能的问题
业务规则:1w条的excel表格导入mysql数据中,同时要校验数据的完整性和合法行以及判断是否是第一次导入;excel中每行记录对应数据库中两个表;原来的方案是把excel直接导入到临时表中,然后通过存储过程再把临时表数据中满足条件的数据抽取到目标表中;现在发现一个问题导入到临时表话费了将近100秒,再通过存储过程抽取到目标表(占时还没有写存储过程转换)中又将花费好多时间这给用户带来的体验不是很好。
在这里请问各位有没有好的解决方案!!!!比如有好的技术解决方案或业务解决方案都可以

解决方案

http://blog.chinaunix.net/uid-25909722-id-4049167.html

解决方案二:
验证数据完整性后,进行批量操作

解决方案三:
先用脚本代码对文件进行完整性验证,这样对于数据库就只需要一次性导入了、把时间放到脚本代码,而不是由数据库来做,效率要高

时间: 2024-11-17 09:58:46

1w条的excel表格导入mysql数据中性能的问题的相关文章

excel表格导入word方法汇总

在完成一些工作上面的任务时,我们可能会需要将Excel中做好的表格导入到Word里面来,我在网上看到很多中方法,但是都是一些没用的,或者是简单的复制性,而复制过来的表格却和Excel中的表格完全不一样.那么我们如何复制表格才能将Excel中的表格正确的复制过来呢? 首先,直接从Excel表格中Ctrl+C,然后在Word文档中Ctrl+V,那只会是Word格式中本身的表格,并不能像Excel中一样可以用到一些高级表格功能. 方法很简答,这里我用Word2003来为大家做示范. 步骤一.先进入Ex

如何把Excel导入mysql数据表的方法详解

方法一 把Excel导入mysql数据表,首先新建数据表,新建字段,字段数量和excel的表格列数量保持一致.然后把Excel文件另存为csv或者txt文本文件放在桌面上面然后执行如下命令: 一:保存为csv导入方法 load data local infile 'C:\\Users\\xwidea\\Desktop\\areaid_v.csv' into table 数据表名称 fields terminated by ',' 二:保存为txt文本文件导入方法 load data local

把excel表格里的数据导入sql数据库的两种方法_MsSql

本来最近在研究微信公众平台的,老大临时交我个任务,把excel表格里的数据导入sql数据库,我想这so easy嘛. 没想都在上面消磨了两天... 把情况介绍下:在数据库中有如下这样结构的表(A表) 我只取关键的及列里面还有很多数据. 有一张id和name对照的excel文件(B表)和N张结构类似的excel表(C表)(没有id那一列)              我的任务在B表中找到C表中数据对应的id后,然后将id加到C表中,最后根据id是唯一的,用C表的数据去更新A表的数据.这里主要涉及了e

把excel表格里的数据导入sql数据库的两种方法

本来最近在研究微信公众平台的,老大临时交我个任务,把excel表格里的数据导入sql数据库,我想这so easy嘛. 没想都在上面消磨了两天... 把情况介绍下:在数据库中有如下这样结构的表(A表) 我只取关键的及列里面还有很多数据. 有一张id和name对照的excel文件(B表)和N张结构类似的excel表(C表)(没有id那一列) 我的任务在B表中找到C表中数据对应的id后,然后将id加到C表中,最后根据id是唯一的,用C表的数据去更新A表的数据.这里主要涉及了excel表格和数据库表间的

php通过PHPExcel导入Excel表格到MySQL数据库的简单实例_php实例

如下所示: <?php define('BASE_URL', realpath(dirname(__FILE__))); require_once BASE_URL . '/PHPExcel/PHPExcel.php';//引入PHPExcel类文件 //excel文件的地址 $excel_fiel_path = './phpexcel.xls'; $PHPExcel = new PHPExcel();// 实例化PHPExcel工具类 //分析文件获取后缀判断是2007版本还是2003 $ex

Excel表格导入txt记事本的方法

Excel表格导入txt记事本的方法    这样的数据,在记事本中修改或是更新数据的时候,会非常麻烦.可以借助Excel的导入外部数据功能,把记事本文件变成Excel中的数据. 首先新建一个Excel文档,按下图步骤操作. 在弹出的文本导入向导中,单击[下一步],在第二步中,按下图设置: 在第三步中,单击身份证号码所在列的列标,点击文本格式. 同样,如果有银行卡号这样比较长的数据,也要设置成文本格式,否则15位之后的要变成0了. 单击[完成]按钮,在[导入数据]对话框中,单击[属性],勾选[打开

表导入 j2ee 表-excel表格导入整数会在后面加了小数点

问题描述 excel表格导入整数会在后面加了小数点 项目 做 E表导入信息时,E表中的数字如果是整数导入系统中时会自己加小数点,比如E表中某项数据为(2006),导入系统中就成了(2006.0) 这是什么问题? j2ee 项目 E表导入用的是: InputStream in = new FileInputStream(file); XSSFWorkbook wb = new XSSFWorkbook(in); 这个包 import org.apache.poi.ss.usermodel.Cell

Excel表格多列数据合并动画教程

<Excel2003入门动画教程65.Excel表格多列数据合并>. 演示动画 操作步骤 有分列就有合并,如果需要将Excel表格中的多列数据显示到一列中,可以用合并函数来实现. 如果希望将B列数据和C列数据组合型显示到D列中(中间添加一个"-"符号),一个"&"就搞定了. 选中D1单元格,输入公式:=B1&"-"&C1,确认一下;然后用"填充柄"将其复制到D列下面的单元格中即可. 提示 如

如何把excel表格导入iphone 联系人?

  如何把 excel 表格导入 iphone 联系人? 一.导出 1.打开电脑的开始-程序-附件-通讯录,点击新建联系人 2.输入姓名.电话和电子邮件等信息 3.点击文件-导出-其他通讯录 4.选择文本文件(以逗号分隔),点击导出 5.点击浏览,保存到桌面上,点击下一步 6.选择需要导出的项目,点击完成即可结束导出的过程 二.导入 1.打开之前导出到桌面上的文件 2.可以看到类似excel表格的形式 3.把电脑里原有保存的excel文档里的对应项目粘贴到表格中,保存 4.选择文件-导入-其他通