最近在做一个WEB的数据统计的优化，但是由于数据量大，执行一次SQL统计要比较长的时间（一般700ms算是正常）。

正常的做法只要加个缓存就好了。

但是同时业务要求此数据最多1分钟就要更新，而且这一分种内数据可能会有较多变化（而且原系统不太易扩展）。

也就是说缓存1分钟就要失效重新统计，而且用户访问这页还很是频繁，如果使用一般缓存那么用户体验很差而且很容易造成超时。

承

看到以上需求，第一个进入我大脑的就是从前做游戏时接触到的DDraw的双缓冲显示方式。

在第一帧显示的同时，正在计算第二帧，这样读取和计算就可以分开了，也就避免了读取时计算，提高了用户体验。

我想当然我们也可以将这种方式用于缓存的策略中，但这样用空间换取时间的方式还是得权衡的，因为并不是所有时候都值得这么做，但这里我觉得这样做应该是最好的方式了。

注：为了可以好好演示，本篇中的缓存都以IEnumerable的形式来存储，当然这个文中原理也可以应用在WebCache中。

这里我使用以下数据结构做为存储单元：

namespace CHCache {
/// <summary>
/// 缓存介质
/// </summary>
public class Medium {
/// <summary>
/// 主要存储介质
/// </summary>
public object Primary { get; set; }
/// <summary>
/// 次要存储介质
/// </summary>
public object Secondary { get; set; }
/// <summary>
/// 是否正在使用主要存储
/// </summary>
public bool IsPrimary { get; set; }
/// <summary>
/// 是否正在更新
/// </summary>
public bool IsUpdating { get; set; }
/// <summary>
/// 是否更新完成
/// </summary>
public bool IsUpdated { get; set; }
}
}

   有了这个数据结构我们就可以将数据实现两份存储。再利用一些读写策略就可以实现上面我们讲的缓存方式。

转

整个的缓存我们使用如下缓存类来控制：

/*
* http://www.cnblogs.com/chsword/
* chsword
* Date: 2009-3-31
* Time: 17:00
*
*/
using System;
using System.Collections;
using System.Collections.Generic;
using System.Threading;
namespace CHCache {
/// <summary>
/// 双存储的类
/// </summary>
public class DictionaryCache : IEnumerable {
/// <summary>
/// 在此缓存构造时初始化字典对象
/// </summary>
public DictionaryCache()
{
Store = new Dictionary<string, Medium>();
}
public void Add(string key,Func<object> func)
{
if (Store.ContainsKey(key)) {//修改，如果已经存在，再次添加时则采用其它线程
var elem = Store[key];
if (elem.IsUpdating)return;  //正在写入未命中
var th = new ThreadHelper(elem, func);//ThreadHelper将在下文提及,是向其它线程传参用的
var td = new Thread(th.Doit);
td.Start();
}
else {//首次添加时可能也要读取，所以要本线程执行
Console.WriteLine("Begin first write");
Store.Add(key, new Medium {IsPrimary = true, Primary =  func()});
Console.WriteLine("End first write");
}
}
/// <summary>
/// 读取时所用的索引
/// </summary>
/// <param name="key"></param>
/// <returns></returns>
public object this[string key] {
get {
if (!Store.ContainsKey(key))return null;
var elem = Store[key];
if (elem.IsUpdated) {//如果其它线程更新完毕，则将主次转置
elem.IsUpdated = false;
elem.IsPrimary = !elem.IsPrimary;
}
var ret = elem.IsPrimary ? elem.Primary : elem.Secondary;
var b = elem.IsPrimary ? " from 1" : " form 2";
return ret + b;
}
}
Dictionary<string, Medium> Store { get; set; }
public IEnumerator GetEnumerator() {
return ((IEnumerable)Store).GetEnumerator();
}
}
}

这里我只实现了插入一个缓存，以及读取的方法。

我读取缓存单元的逻辑是这样的

从2个不同缓存读取当然是很容易了，但是比较复杂的就是向缓存写入的过程：

这里读取数据以及写入缓存时我使用了一个委托，在其它线程中仅在需要执行时才会执行。

这里除了首次写入缓存占用主线程时间（读取要等待）以外，其它时间都可以无延时的读取，实现了无缝的缓存。

但我们在委托中要操作缓存的元素Medium,所以要传递参数进其它线程，所以我这里使用了一个辅助类来传递参数进入其它线程：

using System;
namespace CHCache {
/// <summary>
/// 一个线程Helper，用于帮助多抛出线程时传递参数
/// </summary>
public class ThreadHelper {
Func<object> Fun { get; set; }
Medium Medium { get; set; }
/// <summary>
/// 通过构造函数来传递参数
/// </summary>
/// <param name="m">缓存单元</param>
/// <param name="fun">读取数据的委托</param>
public ThreadHelper(Medium m,Func<object> fun) {
Medium = m;
Fun = fun;
}
/// <summary>
/// 线程入口，ThreadStart委托所对应的方法
/// </summary>
public void Doit()
{
Medium.IsUpdating = true;
if (Medium.IsPrimary) {
Console.WriteLine("Begin write to 2.");
var ret = Fun.Invoke();
Medium.Secondary = ret;
Console.WriteLine("End write to 2.");
}
else {
Console.WriteLine("Begin write to 1.");
var ret = Fun.Invoke();
Medium.Primary = ret;
Console.WriteLine("End write to 1.");
}
Medium.IsUpdated = true;
Medium.IsUpdating = false;
}
}
}

这样我们就实现了在另个线程读取数据的过程，这样就在任何时候读取数据时都会无延时直接读取了。

结

最后我们写一个主函数来测试一下效果

/*
* http://www.cnblogs.com/chsword/
* chsword
* Date: 2009-3-31
* Time: 16:53
*/
using System;
using System.Threading;
namespace CHCache
{
class Program
{
public static void Main(string[] args)
{
var cache = new DictionaryCache();
Console.WriteLine("Init...4s，you can press the CTRL+C to close the console window.");
while (true)
{
cache.Add("1", GetValue);
Thread.Sleep(1000);
Console.WriteLine(cache["1"]);
}
}
/// <summary>
/// 获取数据的方法，假设是从数据库读取的，费时约4秒
/// </summary>
/// <returns></returns>
static object GetValue()
{
Thread.Sleep(4000);
return DateTime.Now;
}
}
}

得到如下数据：

这样就实现了平滑的读取缓存数据而没有任何等待时间

当然这里还有些问题，比如说传递不同参数时的解决方法，但是由于我仅是在一个统计时需要这种缓存提高性能，所以暂没有考虑通用的传参方式。

如果大家对这个话题感兴趣，欢迎讨论。

源码下载：点击下载