sed-shell 大文件字符串替换

问题描述

shell 大文件字符串替换
我想在shell中将一个文件中的字符串替换为另一个字符串,现在使用sed全局替换,但是速度特别慢,后来发现全文没有换行符,大概10m的文件就一行,sed处理字符串都是以行为单位读到内存,在内容少的时候处理还挺快,多了就慢的不行,请问有什么方法可以解决这个问题?

解决方案

我去,别这么用啊,你这用法是让shell去从aaa文件读取,然后通过管道输入到sedstdin,然后再重定向sed的输出到bbb

这显然有更高效的办法:

sed -s  ""/s/stra/strb/g"" aaa > bbb

如果你是想直接把aaa这个文件改掉,那更简单:

sed -i  ""/s/stra/strb/g"" aaa

解决方案二:
10M的文件不算大吧,你这里是行数还是文件大小?你的sed语句是什么样子的?能否提供?

解决方案三:
最好的办法是写一个程序让shell去调用。不知道你能否接受这样的方案。

解决方案四:
10M的文件不是很大。如果可以的话,使用分段的形式来替代。

解决方案五:
不要用sed,就只能自己写程序来做。效率上就需要测量,优化了

时间: 2024-10-29 12:23:04

sed-shell 大文件字符串替换的相关文章

Linux sed多个文件批量替换字符串

公司搬家了,几台server的ip也都变了,所以得把server里OTA应用相关的很多文件的ip替换成现在的ip,这时候就可以用sed命令了.在一个目录里批量查找替换的: sed 是一种在线编辑器,它一次处理一行内容.处理时,把当前处理的行存储在临时缓冲区中,称为"模式空间"(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕.接着处理下一行,这样不断重复,直到文件末尾.文件内容并没有 改变,除非你使用重定向存储输出.Sed主要用来自动

PHP/Shell大文件数据统计并且排序

诸多大互联网公司的面试都会有这么个问题,有个4G的文件,如何用只有1G内存的机器去计算文件中出现次数做多的数字(假设1行是1个数组,例如QQ号码).如果这个文件只有4B或者几十兆,那么最简单的办法就是直接读取这个文件后进行分析统计.但是这个是4G的文件,当然也可能是几十G甚至几百G的文件,这就不是直接读取能解决了的. 同样对于如此大的文件,单纯用PHP做是肯定行不通的,我的思路是不管多大文件,首先要切割为多个应用可以承受的小文件,然后批量或者依次分析统计小文件后再把总的结果汇总后统计出符合要求的

linux下perl,sed,shell批量替换文件内容

  方法1: 这两天在构建一个应用的使用用到了maven,由于project很大,足足有700多个 pom.xml文件,更郁闷的是在很多pom.xml文件里都单独指定了资源库的url,我需要把这些资源库的url统一指定到nexus本地中央库. 手 工一个个改文件配置有点不太实际,所以google了一下,找到批量替换文件内容的好方法,命令结构如下: find -name '要查找的文件名' | xargs perl -pi -e 's|被替换的字符串|替换后的字符串|g'下面这个例子就是将当前目录

linux下shell脚本切割大文件为多个小txt文件

解决方法: 1. 先使用split命令切割大文件,每个小文件保存100万行 split 参数: -b  :后面可接欲分割成的档案大小,可加单位,例如 b, k, m 等: -l  :以行数来进行分割: #按每个文件1000行来分割除 split -l 1000 httperr8007.log httperr   httpaa,httpab,httpac ........   #按照每个文件100K来分割 split -b 100k httperr8007.log http   httpaa,ht

内存映射-读取大文件时遇到的问题

问题描述 读取大文件时遇到的问题 用readfile()函数也好,用内存映射的方式也好,怎么读取的数据都只是文件第一行?其他的都读取不到?不知道错在哪里,谢谢您的回答! 解决方案 应该要遍历去读取吧?不知道你怎么在弄... 解决方案二: 你可能只指定了第一行,没有遍历去指定行.把代码贴出来看看 解决方案三: 你是不是用了strtok. 它会把原字符串的分隔符替换成/0

Linux下清空或删除大文件内容的5种方法

在 Linux 终端下处理文件时,有时我们想直接清空文件的内容但又不必使用任何 Linux 命令行编辑器 去打开这些文件.那怎样才能达到这个目的呢?在这篇文章中,我们将介绍几种借助一些实用的命令来清空文件内容的方法. 注意:在我们进一步深入了解这些方法之前,请记住: 由于在 Linux 中一切皆文件,你需要时刻注意,确保你将要清空的文件不是重要的用户文件或者系统文件.清空重要的系统文件或者配置文件可能会引发严重的应用失败或者系统错误. 前面已经说道,下面的这些方法都是从命令行中达到清空文件的目的

Linux 下清空或删除大文件内容的 5 种方法

在 Linux 终端下处理文件时,有时我们想直接清空文件的内容但又不必使用任何 Linux 命令行编辑器 去打开这些文件.那怎样才能达到这个目的呢?在这篇文章中,我们将介绍几种借助一些实用的命令来清空文件内容的方法. 注意:在我们进一步深入了解这些方法之前,请记住: 由于在 Linux 中一切皆文件,你需要时刻注意,确保你将要清空的文件不是重要的用户文件或者系统文件.清空重要的系统文件或者配置文件可能会引发严重的应用失败或者系统错误. 前面已经说道,下面的这些方法都是从命令行中达到清空文件的目的

shell去掉文件中空行(空白行)的方法详解_linux shell

本文详细介绍了使用shell去除文件中的空行的方法,学习下sed.awk.shell文件检测的方法,有需要的朋友可以作个参考. 本节内容:shell去掉文件中空行 1,shell 去掉文件中的空行 复制代码 代码如下: cat filename | sed -e '/^$/d' > filename 2,保留最新的9个文件,其它的文件删除的命令语句 复制代码 代码如下: ls -t | awk '{if(NR>9){print $0}}' |xargs rm -f 附,shell中的特殊变量

Linux 中清空或删除大文件内容的五种方法_Linux

在 Linux 终端下处理文件时,有时我们想直接清空文件的内容但又不必使用任何Linux命令行编辑器 去打开这些文件.那怎样才能达到这个目的呢?在这篇文章中,我们将介绍几种借助一些实用的命令来清空文件内容的方法. 注意: 由于再Linux中一切皆文件,你需要时刻注意,确保你将要清空的文件不是重要的用户文件或者系统文件.清空重要的系统文件或者配置文件可能会引发严重的应用失败或者系统错误. 提示:在下面的示例中,我们将使用名为 access.log 的文件来作为示例样本. 1. 通过重定向到 Nul