gocache学习1

初衷:
之前是java工程师,最近在转go,简单学习了go的相关语言知识,想通过看些简单的源代码来提升下。go-cache是一套go语言实现的单机本地缓存的package,可以方便的构建内存缓存,代码也比较简单。

基本的介绍:
下面这些都有一些详细的使用示例,可以去参考使用:
github代码地址:https://github.com/patrickmn/go-cache
godoc: https://godoc.org/github.com/patrickmn/go-cache

代码分析:
  构建缓存需要考虑几个基本点:
    1. 存储格式
    2. 替换策略
  3. 失效策略
  还有一些其他的考虑点,可以参考之前的文章,但是基本点就这些。
 一: 存储
  在gocache实现中,底层存储的key-value对类型做了基本限制,key要求是string,value内部封装了Item对象,结构如下,仅增加了当个value的实效时间

type Item struct {
    Object interface{}
    Expiration int64
}    


    核心的存储格式

type cache struct {
    defaultExpiration time.Duration //默认的通用key实效时长
    items map[string]Item //底层的map存储
    mu sync.RWMutex //由于map是非线程安全的,增加的全局锁
    onEvicted func(string, interface{})//失效key时,回触发,我自己命名为回收函数
    janitor *janitor //监视器,Goroutine,定时轮询用于失效key
}


    以上是cache的结构,set、get基本都是对items进行操作,写的时候用mu加锁,保证线程安全。
    这块有个很巧妙的设计,感觉很赞,解决相互引用的问题
    首先,janitor是用于cleanup的策略对象,基本结构如下:

type janitor struct {
    Interval time.Duration //定时器
    stop chan bool //goroutine的控制开关
}

    在构造cache的时候,如果有设置主动失效时间间隔,会在cache上绑定janitor线程,定时轮询items,对于失效的从items中剔除,如下:

//注意,janator会有cache的引用
func (j *janitor) Run(c *cache) {
    ticker := time.NewTicker(j.Interval)
    for {
        select {
             case <-ticker.C:
                   c.DeleteExpired() //剔除逻辑
             case <-j.stop:
                   ticker.Stop()
         return
    }
 }

    这个地方有个需要注意的事情,cache中绑定了janitor,而janitor run的流程中也有cache的引用,相当于循环引用了,go的垃圾回收策略是引用计数法,这种情况下,很容易造成内存泄漏。
    为了解决这个问题,引入了Cache对象(大写的),内嵌了*cache对象,对外暴露的是Cache,对cache进行一层包装。

func newCacheWithJanitor(de time.Duration, ci time.Duration, m 
       map[string]Item) *Cache {
       c := newCache(de, m)
       C := &Cache{c}
       if ci > 0 {
               runJanitor(c, ci)
               runtime.SetFinalizer(C, stopJanitor) //关键
       }
       return C
}

type Cache struct {
       *cache
}

 

  当外面的Cache对象指向发生变化时,Cache的引用数量为0,所以gc可以回收,但是对于cache而言,循环引用的问题依然存在,比较巧妙的是

    runtime.SetFinalizer(C, stopJanitor)
  在回收Cache时,stop了cleanup线程,断开了引用,是的cache也可以被正常回收,不会产生内存泄漏,感觉这种写法很好玩。

二:替换策略、失效策略
  gocache相对简单,用了map[string]Item来进行存储,没有限制大小,只要内存允许可以一直存,没有上限,这个在实际生产中需要注意。

  其他的说明:
  gocache很简单,但是也有不少问题没有做,简单列一些自己想到的,可以一起优化下:
    1. cache数量没有上限,这个在线上使用的时候还是容易出问题
    2. 调用get获取对象的时候,如果对象不存在,get方法会直接返回nil,交给上层处理,实际的业务逻辑中,通常都会去redis或者db等持久化数据的地方去查,参考guava cache,感觉可以写成loader的方式,if-not-exists时,直接回调loader方法
    3. 锁的粒度问题,为了保证线程安全,整个cache上锁,进行操作,会对性能有所影响,这块后续可以考虑用细粒度的锁,像concurrentHashMap或者guava cache那样,实现分段锁的机制
    4. 一些cache的命中指标没办法跟踪

总结下:
gocache是一种比较简单的机制,适用于那些缓存数据量不大的本地缓存构建,而且防止内存泄漏的方式值得借鉴

posted @ 2019-03-07 10:22  卡卡西sir  阅读(1135)  评论(0编辑  收藏  举报