最近在做一个分析日志的程序。
一开始是用MySQL做的,远程读取数据库,很慢。是这样的,爬虫程序没30分钟可以产生8个日志文件,每个日志文件10M,用mysql来处理的话,我处理一个日志文件需要43分钟。。太坑爹了。
然后想到了内存数据库Redis,正好一个月前读了《Redis实战》嘛。正好实战下。
过程是这样子的,我先把整个数据库读取到Redis里面。然后把查询mysql改成查询redis。这样子确实带来了性能的提升。从43分钟进步到了10分钟。
这里有个问题。
redis是内存数据库,我去远程查另一台电脑上面的redis队列的内容,为什么不在本地建几个HashMap呢?
这两个哪个性能更优一些呢?明天的时候有空试验下..
2016年1月9日00:42:03