GZipStream实现压缩以及出现的问题

在抓取页面的过程中,在存储抓取到的页面内容的时候我需要先将页面压缩再存储, 为了使用上的方便,采用了2.0下的GZipStream来进行压缩。

引用如下:

using System.IO;
using System.IO.Compression;
......
public static byte[] Compress(byte[] data)
{
  MemoryStream stream = new MemoryStream();
  GZipStream gZipStream = new GZipStream(stream, CompressionMode.Compress);
  gZipStream.Write(data, 0, data.Length);
  //....暂时先在注释的位置卖点关子
  return stream.ToArray();
}
public static byte[] Decompress(byte[] data)
{
  MemoryStream stream = new MemoryStream();
  GZipStream gZipStream = new GZipStream(new MemoryStream(data), CompressionMode.Decompress);
  byte[] bytes = new byte[4096];
  int n;
  while ((n = gZipStream.Read(bytes, 0, bytes.Length)) != 0)
  {
    stream.Write(bytes, 0, n);
  }
  return stream.ToArray();
}

上面的代码使用起来似乎是没有什么问题的(如果你不仔细做测试的话), 但是当我对各种大小的页面进行测试后,发现如果压缩后byte[]长度<4K,那么问题出 来了:没法解压,解压函数中Read返回结果总是0。闻一多先生曾经在演讲中说“郁 闷啊,郁闷,这是某集团的郁闷,恰恰是微软的光荣(笔者注:我觉得应该属于微软bug )”。

我一度怀疑是不是Decompress函数中的bytes数组长度设置长了,后来把长度设置的很 小,但是解压后还是那样,返回0。真想去和盖茨理论理论。

不过幸运的是,我测试发现了这个4K下限制,所以Google了下“GZipStream  4K”,哈哈,在国外的一论坛 (http://www.dotnetmonster.com/Uwe/Forum.aspx/dotnet-framework/19787/Problem- with-the-GZipStream-class-and-small-streams)里面终于找到了答案:原来 GZipStream存取数据的时候是以4K为块进行存取的。所以在压缩的时候,在返回 stream.ToArray()前应该先gZipStream.Close()(也就是上面俺卖关子的那里),原因是 GZipStream是在Dispose的时候把数据完全写入。你说冤吗?我明明已经Write了,竟然还 要我再Close才可以。

时间: 2024-12-23 17:38:28

GZipStream实现压缩以及出现的问题的相关文章

C# DataSet对象序列化并压缩

今天做一个项目中用到把DataSet对象序列化成文件,并上传到服务器,不过生成的文件比较大,就想 着压缩一下,找了一下资料,用GZipStream来压缩了一下,效果还是非常理想的.现在把这部分代码整理 了一下: using System.Data; using System.IO; using System.IO.Compression; using System.Runtime.Serialization; using System.Runtime.Serialization.Formatte

如何压缩多个文件/文件夹(GZipStream and C#)

在.Net Framework 2.0 中添加了System.IO.Compression 类来实现对文件的压缩/解压(GZipStream方 法),下面我们来看一个简单的例子. Code1: 1 public static void Compress(string filePath, string zipPath) 2 { 3 FileStream sourceFile = File.OpenRead(filePath); 4 FileStream destinationFile = File

用.NET 2.0压缩/解压功能处理大型数据

数据|压缩 摘要 如果你的应用程序从未使用过压缩,那么你很幸运.而对于另一部分使用压缩的开发人员来说,好消息是,.NET 2.0如今提供了两个类来处理压缩和解压问题.本文正是想讨论何时以及如何使用这些有用的工具. 引言 .NET框架2.0中的一个新名称空间是System.IO.Compression.这个新名称空间提供了两个数据压缩类:DeflateStream和GZipStream.这两个压缩类都支持无损压缩和解压,其设计目的是为了处理流式数据的压缩和解压问题. 压缩是减少数据大小的有效办法.

c#2.0中新增的两个压缩类

压缩 .NET Framework 2.0 中新增的两个压缩类 System.IO.Compression 命名空间   注意:此命名空间在 .NET Framework 2.0 版中是新增的. System.IO.Compression 命名空间包含提供基本的流压缩和解压缩服务的类. (downmoon原作)  类                               说明  DeflateStream         提供用于使用 Deflate 算法压缩和解压缩流的方法和属性.  G

c#2.0中新增的两个压缩类(downmoon原创)

压缩|原创 .NET Framework 2.0 中新增的两个压缩类 System.IO.Compression 命名空间   注意:此命名空间在 .NET Framework 2.0 版中是新增的. System.IO.Compression 命名空间包含提供基本的流压缩和解压缩服务的类. (downmoon原作)  类                               说明  DeflateStream         提供用于使用 Deflate 算法压缩和解压缩流的方法和属性.

ASP.NET技巧:用GZip压缩和解压

asp.net|技巧|压缩 .Net支持两种压缩格式:GZip和Deflate.我试了一下,压缩率和速度没区别.其中,GZip可以被WinRAR打开. 使用起来很简单,下面的程序将字符串压缩入文件:                 using (DeflateStream gzip = new DeflateStream(fs, CompressionMode.Compress))                {                    byte[] buf = Encoding

在ASP.NET中使用HTTP压缩

通过GZIP或DEFLATE方式对所有页面进行压缩,会大大缩小页面传输的容量. 可以使用Fiddler2来观察使用压缩后页面大小的变化. 在项目中添加Global.asax,然添加如下代码: 1 protected void Application_BeginRequest(object sender, EventArgs e) 2 { 3 HttpApplication app = (HttpApplication)sender; 4 string acceptEncoding = app.R

网页优化系列三:使用压缩后置viewstate

Asp.net中的服务器控件都启用了viewstate,虽然方便了开发人员,但页面大小及性能上确实有所影响,对于无需viewstate的控 件及页面可以直接把控件或页面的viewstate禁用掉,但对于必须的viewstate我们可以采取另一种方式来处理--压缩.判断是否需要 viewstate压缩准则是,内网系统不必考虑压缩(网速够快还闲着没事消耗服务器CPU资源干啥啊...),对外系统根据viewstate长度选择 性进行压缩(当viewstate长度大于某个值时进行压缩,太短还压缩得不偿失

c# dataset结果集序列化后如何进行压缩

问题描述 1.从数据库中查出数据后填充DATASET2.序列化该dataset返回字符串3.将字符串传递给其他方法进行反序列化在进行其他操作我的问题是,dataset序列化后得到的字符串很大,我想将该字符串先进行压缩然后传递给其他方法在解压缩在反序列化压缩的步骤有谁做过?能否提供案例 解决方案 解决方案二:用giz压缩,其中压缩可以自己写也可以配置iis的gzip功能来自动压缩.解压代码可以自己写,如果是浏览器会自动解压的.代码参考http://msdn.microsoft.com/zh-cn/