数据库-oracle亿级大数据迁移问题

问题描述

oracle亿级大数据迁移问题

前辈,你好!
我们公司开发的新平台(影像平台),要替换旧平台,主要是迁移就平台的一张大表,叫影像表,用于存储图片信息等,数据量有3-4亿行。
新平台上也有影像表,但是字段不一样,需要查询后转化。从旧影像表中要提炼出另外三张表,流水表,批次表,流水批次关系表。两个数据库
都是在局域网内的不同机器,迁移的时候要通过一个另外一个中间数据库(因为不能直接操作源数据库),有没有什么比较好的方案?

解决方案

我自己某次频繁大数据转移的项目中采取的是文件方式导入的

解决方案二:

试试可以通过将sql文件切分 然后倒入文件这样的方式呢 读文件的速度应该比较快 当然切分的足够小的情况下也可以保证数据

解决方案三:

一般大数据就适合先导出数据库到文件,然后可以自己切割文件成多个小文件,然后再分批导入。
导出导入时自己设置表数据列的分隔符。

时间: 2025-01-02 15:30:50

数据库-oracle亿级大数据迁移问题的相关文章

小米架构师:亿级大数据实时分析与工具选型

本文根据欧阳辰老师在[2016 DAMS中国数据资产管理峰会]现场演讲内容整理而成.   讲师介绍 欧阳辰,超过15年的软件开发和设计经验,目前就职于小米公司,负责小米广告平台的架构研发. 曾为微软公司工作10年,担任高级软件开发主管,领导团队参与微软搜索索引和搜索广告平台的研发工作.曾在甲骨文公司从事数据库和应用服务器的研发工作.热爱架构设计和高可用性系统,特别对于大规模互联网软件的开发,具有丰富的理论知识和实践经验. 大家好,很高兴能跟大家分享一些关于实时数据分析的话题. 刚毕业时我有幸去了

河北将建千亿元级大数据产业集群 14朵行业云覆盖京津冀

2016年启动建设的阿里张北云联数据中心和数据港项目一期工程已经完工,1.3万台服务器投入运营,支撑完成了2016年"双11"每秒17.5万单交易订单创建及每秒12万笔支付订单生产保障工作.目前,河北五个大数据专项实验区已经初见成效.下一步,河北将建设京津冀国家级大数据综合试验区,打造千亿元级大数据产业集群.不久的将来,14朵行业云将覆盖京津冀上空. 五大区引领建设综合试验区 "大智移云"(即大数据.智能化.移动互联网.云计算)将作为下一步河北省网络信息技术产业发展

sqlserver-关于oracle向sql server数据迁移问题

问题描述 关于oracle向sql server数据迁移问题 请教各位大神怎么让这个接口程序出来呢 解决方案 在 SQL Server 服务器上要装 Oracle 的客户端,并且做好配置. 其实所有的数据库都需要有客户端才能访问,谁叫SQL Server是微软的呢,装系统的时候就偷偷地把客户端装上去了. 如果是一次性迁移,不如Oracle生成脚本,人工修改一下,到SQL Server中执行. 解决方案二: 可以参考一下这个链接 Microsoft OLE DB Provider for Orac

掘金万亿级大数据安全产业

随着数据发掘的不断深入和在各行业应用的不断推进,大数据安全的"脆弱性"逐渐凸显. 虽然国内外的大数据平台厂商.大数据服务提供商和大数据内容提供商,以及传统信息安全厂商相继投入大数据安全产业,但是大数据安全产品较少,服务模式单一,大数据安全产业仍处于起步阶段. 工业控制信息安全国家工程实验室专家委员.贵阳大数据安全产业园总顾问陆宝华表示,我们正在立足重点引进大数据安全产业龙头企业的基础上,加强行业和区域战略合作,充分利用国内外创新资源,推动产学研用结合,掘金万亿级大数据安全产业. 1 主

NewSQL登堂入室 数据库厂商掘金行业大数据

一提到大数据,很多人首先想到的是互联网公司,比如Google.百度.阿里巴巴等.互联网企业在大数据分析方面确实走在了业界前列,其光环也遮住了行业大数据的光芒.IDC以"4个V"来定义大数据:Volume代表更大容量,Variety代表数据种类多样化,Velocity代表更快的处理速度,Value意味着大数据能创造更多价值.天津南大通用数据技术有限公司(以下简称南大通用)首席技术官武新表示,如果按"4V"的标准来衡量,行业大数据与互联网大数据在数据量.数据种类和数据处

sqlite-使用android的SQLite数据库能存储多大数据

问题描述 使用android的SQLite数据库能存储多大数据 看到网上说SQLite数据库的大小是2TB,但是我觉得这个数据库不应该跟手机内存相联系吗?android上的SQLite数据库真的能容纳下2TB的数据吗??? 解决方案 很明显android上的SQLite数据库是放不下2TB的数据 解决方案二: 一个是sqlite数据库本身最大容量,但是sqlite数据库文件是放在手机上的,所以它也会受到手机存储空间大小限制的.对于android程序,你不能占有太多空间.可以把一些数据放服务器上.

codefirst-EF环境,CodeFirst模式开发,同项目多个数据库,如何设定自动数据迁移

问题描述 EF环境,CodeFirst模式开发,同项目多个数据库,如何设定自动数据迁移 如题,我的整个工程比较复杂,有多个数据库,统一放在名为DataBase的类库项目下,供其他项目调用. 我的应用项目也有好几个,我想对每个项目单独设置自动迁移数据,现在发现有困难. 因为每次启动一个数据迁移,都是在同一个Migrations文件夹下,这个没有给我自定义名字的地方.并且启动文件都是Configuration.cs这个类,也没有给我自定义名字的地方. 也就是说,我一次只能设定一个数据库进行自动迁移.

MPP数据库技术, 支撑行业大数据应用

MPP数据库技术, 支撑行业大数据应用 武新  博士,CTO/天津南大通用数据技术股份有限公司 --MPP 数据库技术 --GBase 8a MPP Cluster 特性 --GBase 8a MPP Cluster 电信.金融行业案例 --大数据处理-MPP不Hadoop的混搭架构趋势 MPP数据库技术, 支撑行业大数据应用

武新博士:新型MPP数据库将支撑起大数据时代

大数据这个领域过去5年发展很快.热度很高,但是总的来说目前还在起步阶段.本次研讨会我会先谈谈数据,以及大数据对数据处理技术的压力,然后为大家分享一下为什么这几年数据处理技术上的创新很多. 1. 数据价值的发现与使用 在大数据的4个V中,最显著的特征应该是Value(价值).不管数据多大,是什么结构,来源如何,能给使用者带来价值的数据是最重要的数据. 我跟数据打了20多年的交道,从来没感觉到搞数据的地位有今天这么高.整个社会对数据的认知变了,大数据最大的贡献至少是让社会各个层面开始认识到数据的重要