1.NOSQL简介

nosql的产生并不是要彻底的代替关系型数据库,而是作为传统关系型数据库的一个补充。

Facebook和360使用Cassandra来存储海量社交数据

Twitter在其url抓取系统里综合运用了Cassandra、memcached

新浪微博使用Redis

淘宝使用hbase,并改进研制出自己品牌的nosql产品Oceanbase

mongodb被广泛用于存储非结构化数据

memcachedb是新浪网基于memcached开发的一个开源项目。给memcached分布式缓存服务器添加了Berkeley DB的持久化存储机制

和异步主辅复制机制,让memcached具备了事务恢复能力、持久化能力和分布式复制能力,非常适合于需要超高性能读写速度,

但是 不需要严格事务约束,能够被持久化保存的应用场景。例如,memcachedb被应用在新浪博客上。如果对memcached有持久化需求,

可以考虑使用memcachedb。

 

2.非关系型的特点

(1)数据模型比较简单

(2)对数据库性能要求较高

(3)不需要高度的数据一致性

(4)对于给定的key,比较容易映射复杂值的环境

2.Redis简介

Redis是一个开源的,使用C语言编写,面向“键/值”对类型数据的分布式NoSQL数据库系统,特点是高性能,持久存储,适应高并发的应用场景。Redis纯粹为应用而产生,它是一个高性能的key-value数据库,并且提供了多种语言的API性能测试结果表示SET操作每秒钟可达110000次,GET操作每秒81000次(当然不同的服务器配置性能不同)。

redis目前提供五种数据类型:string(字符串),list(链表), Hash(哈希),set(集合)及zset(sorted set)  (有序集合)

3.Redis与Memcached的比较

(1)Memcached是多线程,而Redis使用单线程.

(2)Memcached使用预分配的内存池的方式,Redis使用现场申请内存的方式来存储数据,并且可以配置虚拟内存。

(3)Redis可以实现持久化,主从复制,实现故障恢复。

(4)Memcached只是简单的key与value,但是Redis支持数据类型比较多。

(5)Redis的存储分为内存存储、磁盘存储 .从这一点,也说明了Redis与Memcached是有区别的。Redis 与Memcached一样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改 操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。

3.Redis存储方式

Redis是一个支持持久化的内存数据库,也就是说redis需要经常将内存中的数据同步到硬盘中来保证持久化。

Redis支持两种持久化方式.

   (1):snapshotting(快照) rdb 也是默认方式.(把数据做一个备份,将数据存储到文件)

   (2)Append-only file(缩写aof)的方式 

   快照是默认的持久化方式,这种方式是将内存中数据以快照的方式写到二进制文件中,默认的文件名称

   为dump.rdb.可以通过配置设置自动做快照持久化的方式。我们可以配置redis在n秒内如果超过m个key

   键修改就自动做快照.

   aof方式:由于快照方式是在一定间隔时间做一次的,所以如果redis意外down掉的话,就会丢失最后一次 

   快照后的所有修改。aof比快照方式有更好的持久化性,是由于在使用aof时,redis会将每一个收到的 

   写命令都通过write函数追加到文件中,当redis重启时会通过重新执行文件中保存的写命令来在内存中重建 

   整个数据库的内容。 

   当然由于os会在内核中缓存write做的修改,所以可能不是立即写到磁盘上。真阳aof方式的持久化   

    也还是有可能会丢失部分修改。可以通过配置文件告诉redis我们想要通过fsync函数强制os写入到磁盘   

    的时机。

4.redis的应用场景

1.redis最佳使用场景是全部数据加载到内存中使用

2.redis更多场景是作为memcached的替代品来使用

3.数据比较重要,对数据一致性有一定的要求的业务

4.当需要除key/value之外的更多数据类型支持时,使用redis更合适

5.需要提供主从同步以及负载均衡分布式应用的场景(redis主从同步)

比如:计数、缓存服务、展示最近、最热、点击率最高、活跃度最高等条件的top list、用户最近访问记录、相关列表、消息队列、

粉丝列表、商品分类。

redis在微博中的应用

应用场景:

计数器

  微博(评论、转发、阅读、赞等)

  用户(粉丝、关注、收藏、双向关注等)

好友关系

5.redis的生产经验教训

1.要进行主从同步配置,在出现服务故障时可以切换

2.在master禁用数据持久化,只需在slave上配置数据持久化。

3.物理内存+虚拟内存不足,这个时候dump一直死着,时间久了机器挂掉,这个情况就是灾难。最少64-128G内存,SSD硬盘。

4.当redis物理内存使用超过内存总容量的3/5就会开始比较危险了,就开始做swap,内存碎片大。

5.当达到最大内存时,会清空带有过期时间的key,即使key未到过期时间

6.redis和db同步写的问题,先写db,后写redis,因为写内存基本上没有问题。

redis 默认有16个库,从0开始,使用select 1 命令切换到第二个库

使用help命令查看帮助命令,help @string 查看所有string类型的,help set  查看set命令

6.redis安全

我们找到redis.conf中# requirepass foobared  设置密码requirepass 123456

使用auth 123456命令后可以进入

C:\Users\yuxl>redis-cli

127.0.0.1:6379> set key 1

(error) NOAUTH Authentication required.

127.0.0.1:6379> auth 123456

也可以使用这种方式

C:\Users\yuxl>redis-cli -a 123456

127.0.0.1:6379> set key1 1

OK

别的安全措施可以在redis.conf中将命令改名字或者禁用,找到# rename-command CONFIG "",比如rename-command get myget  将get命令改为myget

7.关于redis key的几条建议

1.太长的键值不是个好主意,例如1024字节的键值就不是个好主意,不仅因为消耗内存,而且在数据中查找这类键值的计算成本很高。

2.太短的键值通常也不是好主意,不易阅读,对内存消耗影响不是很大

坚持一种模式。如:“object-type:id:field”,“user:1000:password”,我喜欢对多单词的字段名中加上一个点,就像这样:comment:1234:reply.to,长度10-20,value建议string不必要超过2k,set sortedset不必要超过5000个元素

8.Redis安装

最新下载地址:https://github.com/ServiceStack/redis-windows

下载Redis:https://github.com/MicrosoftArchive/redis/releases

redis-server.exe:服务程序 

redis-check-dump.exe:本地数据库检查

 redis-check-aof.exe:更新日志检查

redis-benchmark.exe:性能测试,用以模拟同时由N个客户端发送M个 SETs/GETs 查询.

redis-cli.exe: 服务端开启后,我们的客户端就可以输入各种命令测试了 

 



打开一个cmd窗口,使用cd命令切换到指定目录(F:\Redis)



运行 redis-server.exe redis.conf 



 



重新打开一个cmd窗口,使用cd命令切换到指定目录(F:\Redis)运行 redis-cli.exe -h 127.0.0.1 -p 6379,其中 127.0.0.1是本地ip,6379是redis服务端的默认端口 (这样可以开启一个客户端程序进行特殊指令的测试).



可以将此服务设置为windows系统服务,下载Redis服务安装软件,安装即可。



 



C#调用



程序包管理器控制台



PM> Install-Package ServiceStack.Redis



 



9.Redis常用数据类型



Redis最为常用的数据类型主要有以下五种:



String、Hash、List、Set、SortedSet



String是最常用的一种数据类型,普通的key/value存储都可以归为此类 。一个Key对应一个Value,string类型是二进制安全的。Redis的string可以包含任何数据,比如jpg图片(生成二进制)或者序列化的对象



 



Hash是一个string 类型的field和value的映射表。hash特别适合存储对象。相对于将对象的每个字段存成单个string 类型。一个对象存储在hash类型中会占用更少的内存,并且可以更方便的存取整个对象。作为一个key value存在,很多开发者自然的使用set/get方式来使用Redis,实际上这并不是最优化的使用方法。尤其在未启用VM情况下,Redis全部数据需要放入内存,节约内存尤其重要.



 



list是一个链表结构,主要功能是push,pop,获取一个范围的所有的值等,操作中key理解为链表名字。 Redis的list类型其实就是一个每个子元素都是string类型的双向链表。我们可以通过push,pop操作从链表的头部或者尾部添加删除元素,这样list既可以作为栈,又可以作为队列。Redis list的实现为一个双向链表,即可以支持反向查找和遍历,更方便操作,不过带来了部分额外的内存开销,Redis内部的很多实现,包括发送缓冲队列等也都是用的这个数据结构



 



set是string类型的无序集合。set是通过hash table实现的,添加,删除和查找,对集合我们可以取并集,交集,差集.



 



sorted set 是set的一个升级版本,它在set的基础上增加了一个顺序的属性,这一属性在添加修改   .元素的时候可以指定,每次指定后,zset(表示有序集合)会自动重新按新的值调整顺序。可以理解为有列的表,一列存 value,一列存顺序。操作中key理解为zset的名字.



Redis sorted set的使用场景与set类似,区别是set不是自动有序的,而sorted set可以通过用户额外提供一个优先级(score)的参数来为成员排序,并且是插入有序的,即自动排序。当你需要一个有序的并且不重复的集合列表,那么可以选择sorted set数据结构 



 



事例代码:



class Program
    {
        static void Main(string[] args)
        {
            RedisClient redisClient = new RedisClient("127.0.0.1",6379);

            #region 存储字符串类型和自定义类型
            //redisClient.Set<string>("name", "yxl");
            //Console.WriteLine(redisClient.Get<string>("name"));

            //UserInfo userInfo = new UserInfo() { UserName = "zhangsan", UserPwd = "1111" };// (底层使用json序列化)
            //redisClient.Set<UserInfo>("userInfo", userInfo);
            //UserInfo user = redisClient.Get<UserInfo>("userInfo");
            //Console.WriteLine(user.UserName);

            //List<UserInfo> list = new List<UserInfo>() { new UserInfo() { UserName = "lisi", UserPwd = "111" }, new UserInfo() { UserName = "wangwu", UserPwd = "123" } };
            //redisClient.Set<List<UserInfo>>("list", list);
            //List<UserInfo> userInfoList = redisClient.Get<List<UserInfo>>("list");
            //foreach (UserInfo item in userInfoList)
            //{
            //    Console.WriteLine(item.UserName);
            //}

            #endregion

            #region Hash

           // redisClient.SetEntryInHash("userInfoId", "name", "yxlhashName");
           // redisClient.SetEntryInHash("userInfoId", "name2", "yxlhashName");
           // List<string> hashKeys =  redisClient.GetHashKeys("userInfoId");
           //List<string> hashValues =  redisClient.GetHashValues("userInfoId");
           //long hashCount =  redisClient.GetHashCount("userInfoId");
           // Console.WriteLine(hashCount);//2
           // foreach (string hashKey in hashKeys)
           // {
           //     Console.WriteLine(hashKey);//name,name2
           // }
           // foreach (string hashValue in hashValues)
           // {
           //     Console.WriteLine(hashValue);//yxlhashName,yxlhashName
           // }
            #endregion

            #region List类型
            #region 队列,先进先出

            //redisClient.EnqueueItemOnList("name1", "zhangsan");
            //redisClient.EnqueueItemOnList("name1", "lisi");
            //long length = redisClient.GetListCount("name1");
            //for (int i = 0; i < length; i++)
            //{
            //    Console.WriteLine(redisClient.DequeueItemFromList("name1"));
            //}
            #endregion

            #region 栈,先进后出
            //redisClient.PushItemToList("name1", "zhangsan");
            //redisClient.PushItemToList("name1", "lisi");
            //long length = redisClient.GetListCount("name1");
            //for (int i = 0; i < length; i++)
            //{
            //    Console.WriteLine(redisClient.PopItemFromList("name1"));
            //}
            #endregion
            #endregion

            #region Set类型,无序集合,集合我们可以取并集,交集,差集.
            #region 普通存储
            //redisClient.AddItemToSet("a3", "ddd");
            //redisClient.AddItemToSet("a3", "ccc");
            //redisClient.AddItemToSet("a3", "tttt");
            //redisClient.AddItemToSet("a3", "sssh");
            //redisClient.AddItemToSet("a3", "hhhh");
            //System.Collections.Generic.HashSet<string> hashset = redisClient.GetAllItemsFromSet("a3");
            //foreach (string str in hashset)
            //{
            //    Console.WriteLine(str);
            //}
            #endregion

            #region 取并集
            //redisClient.AddItemToSet("a3", "ddd");
            //redisClient.AddItemToSet("a3", "ccc");
            //redisClient.AddItemToSet("a3", "tttt");
            //redisClient.AddItemToSet("a3", "sssh");
            //redisClient.AddItemToSet("a3", "hhhh");
            //redisClient.AddItemToSet("a4", "hhhh");
            //redisClient.AddItemToSet("a4", "h777");

            //System.Collections.Generic.HashSet<string> hashset = redisClient.GetUnionFromSets(new string[] { "a3", "a4" });
            //foreach (string str in hashset)
            //{
            //    Console.WriteLine(str);
            //}
            #endregion

            #region 取交集
            //redisClient.AddItemToSet("a3", "ddd");
            //redisClient.AddItemToSet("a3", "ccc");
            //redisClient.AddItemToSet("a3", "tttt");
            //redisClient.AddItemToSet("a3", "sssh");
            //redisClient.AddItemToSet("a3", "hhhh");
            //redisClient.AddItemToSet("a4", "hhhh");
            //redisClient.AddItemToSet("a4", "h777");
            //System.Collections.Generic.HashSet<string> hashset = redisClient.GetIntersectFromSets(new string[] { "a3", "a4" });
            //foreach (string str in hashset)
            //{
            //    Console.WriteLine(str);
            //}
            #endregion
            
            #region 取差集
            //redisClient.AddItemToSet("a3", "ddd");
            //redisClient.AddItemToSet("a3", "ccc");
            //redisClient.AddItemToSet("a3", "tttt");
            //redisClient.AddItemToSet("a3", "sssh");
            //redisClient.AddItemToSet("a3", "hhhh");
            //redisClient.AddItemToSet("a4", "hhhh");
            //redisClient.AddItemToSet("a4", "h777");
            //System.Collections.Generic.HashSet<string> hashset = redisClient.GetDifferencesFromSet("a3",new string[] { "a4" });
            ////返回存在于第一个集合(a3),但是不存在于其他集合(a4)的数据
            //foreach (string str in hashset)
            //{
            //    Console.WriteLine(str);
            //}
            #endregion
            #endregion

            #region Sorted Set类型
             //redisClient.AddItemToSortedSet("a5", "ffff");
             //redisClient.AddItemToSortedSet("a5", "bbbb");
             //redisClient.AddItemToSortedSet("a5", "gggg");
             //redisClient.AddItemToSortedSet("a5", "cccc");
             //redisClient.AddItemToSortedSet("a5", "waaa");
             //System.Collections.Generic.List<string> list = redisClient.GetAllItemsFromSortedSet("a5");
             //foreach (string str in list)
             //{
             //    Console.WriteLine(str);
             //}

            #endregion


        }

        public class UserInfo
        {
            public string UserName { get; set; }
            public string UserPwd { get; set; }
        }
    }