问题描述
- oracle亿级大数据迁移问题
-
前辈,你好!
我们公司开发的新平台(影像平台),要替换旧平台,主要是迁移就平台的一张大表,叫影像表,用于存储图片信息等,数据量有3-4亿行。
新平台上也有影像表,但是字段不一样,需要查询后转化。从旧影像表中要提炼出另外三张表,流水表,批次表,流水批次关系表。两个数据库
都是在局域网内的不同机器,迁移的时候要通过一个另外一个中间数据库(因为不能直接操作源数据库),有没有什么比较好的方案?
解决方案
我自己某次频繁大数据转移的项目中采取的是文件方式导入的
解决方案二:
试试可以通过将sql文件切分 然后倒入文件这样的方式呢 读文件的速度应该比较快 当然切分的足够小的情况下也可以保证数据
解决方案三:
一般大数据就适合先导出数据库到文件,然后可以自己切割文件成多个小文件,然后再分批导入。
导出导入时自己设置表数据列的分隔符。
时间: 2025-01-02 15:30:50