NoSQL

什么是NoSQL 非关系型数据库就是NoSQL,关系型数据库代表MySQL 对于关系型数据库来说,是需要把数据存储到库、表、行、字段里,查询的时候根据条件一行一行地去匹配,当量非常大的时候就很耗费时间和资源,尤其是数据是需要从磁盘里去检索
NoSQL数据库存储原理非常简单(典型的数据类型为k-v),不存在繁杂的关系链,比如mysql查询的时候,需要找到对应的库、表(通常是多个表)以及字段。
NoSQL数据可以存储在内存里,查询速度非常快 NoSQL在性能表现上虽然能优于关系型数据库,但是它并不能完全替代关系型数据库 NoSQL因为没有复杂的数据结构,扩展非常容易,支持分布式

常见NoSQL数据库 k-v形式的:memcached、redis 适合储存用户信息,比如会话、配置文件、参数、购物车等等。这些信息一般都和ID(键)挂钩,这种情景下键值数据库是个很好的选择。 文档数据库:mongodb 将数据以文档的形式储存。每个文档都是一系列数据项的集合。每个数据项都有一个名称与对应的值,值既可以是简单的数据类型,如字符串、数字和日期等;也可以是复杂的类型,如有序列表和关联对象。数据存储的最小单位是文档,同一个表中存储的文档属性可以是不同的,数据可以使用XML、JSON或者JSONB等多种形式存储。 列存储 Hbase 图 Neo4J、Infinite Graph、OrientDB

Memcached介绍 Memcached是国外社区网站LiveJournal团队开发,目的是为了通过缓存数据库查询结果,减少数据库访问次数,从而提高动态web站点性能。 官方站点 http://www.memcached.org/ 数据结构简单(k-v),数据存放在内存里 多线程 基于c/s架构,协议简单 基于libevent的事件处理 自主内存存储处理(slab allowcation) 数据过期方式:Lazy Expiration 和 LRU

Memcached的数据流向

Slab allocation
Slab Allocation的原理 将分配的内存分割成各种尺寸的块(chunk), 并把尺寸相同的块分成组(chunk的集合),每个chunk集合被称为slab。 Memcached的内存分配以Page为单位,Page默认值为1M,可以在启动时通过-I参数来指定。 Slab是由多个Page组成的,Page按照指定大小切割成多个chunk

Growth factor Memcached在启动时通过-f选项可以指定 Growth Factor因子。该值控制chunk大小的差异。默认值为1.25。 通过memcached-tool命令查看指定Memcached实例的不同slab状态,可以看到各Item所占大小(chunk大小)差距为1.25 命令:# memcached-tool 127.0.0.1:11211 display

Memcached的数据过期方式 Lazy Expiration Memcached 内部不会监视记录是否过期,而是在get时查看记录的时间戳,检查记录是否过期。这种技术被称为lazy(惰性)expiration。因此,Memcached不会在过期监视上耗费CPU时间。 LRU Memcached会优先使用已超时的记录的空间,但即使如此,也会发生追加新记录时空间不足的情况,此时就要使用名为Least Recently Used(LRU)机制来分配空间。顾名思义,这是删除“最近最少使用”的记录的机制。因此,当内存空间不足时(无法从slab class获取到新的空间时),就从最近未被使用的记录中搜索,并将其空间分配给新的记录。从缓存的实用角度来看,该模型十分理想。

Memcached安装 进入到/usr/local/src yum install -y memcached libmemcached libevent 启动 systemctl start memcached 查看启动是否成功 [root@linletao-001 src]# ps aux|grep memcached memcach+ 1631 0.3 0.1 325564 1180 ? Ssl 22:28 0:00 /usr/bin/memcached -u memcached -p 11211 -m 64 -c 1024 root 1654 0.0 0.0 112676 984 pts/0 S+ 22:28 0:00 grep --color=auto memcached

我们也可以用命令行的形式去启动它,里面可以加一些参数,其中-m指定memcached分配内存 -c指定最大并发数 -u指定运行memcached服务的用户 -l监听端口 -d后台启动。 比如:/usr/bin/memcached -u memcached -p 11211 -m 64 -c 1024

vim /etc/sysconfig/memcached 可以配置参数 PORT="11211"(端口) USER="memcached"(用户) MAXCONN="1024"(最大连接数) CACHESIZE="64"(内存) OPTIONS="127.0.0.1"(监听的端口)

查看Memcached运行状态 memcached-tool 127.0.0.1:11211 stats [root@linletao-001 src]# memcached-tool 127.0.0.1:11211 stats #127.0.0.1:11211 Field Value accepting_conns 1 auth_cmds 0 auth_errors 0 bytes 0 bytes_read 7 bytes_written 0 cas_badval 0 cas_hits 0 cas_misses 0 cmd_flush 0 cmd_get 0 cmd_set 0 cmd_touch 0 conn_yields 0 connection_structures 11 curr_connections 10 curr_items 0 decr_hits 0 decr_misses 0 delete_hits 0 delete_misses 0 evicted_unfetched 0 evictions 0 expired_unfetched 0 get_hits 0 get_misses 0 hash_bytes 524288 hash_is_expanding 0 hash_power_level 16 incr_hits 0 incr_misses 0 libevent 2.0.21-stable limit_maxbytes 67108864 listen_disabled_num 0 pid 1879 pointer_size 64 reclaimed 0 reserved_fds 20 rusage_system 0.057735 rusage_user 0.003849 threads 4 time 1530631114 total_connections 11 total_items 0 touch_hits 0 touch_misses 0 uptime 107 version 1.4.15 在这里我们需要将常关注 get—hits和cmd_get, 其中cmd_get表示总的get次数,get_hits表示get的总命中次数,命中率 = get_hits/cmd_get。

我们还可以使用nc命令,首先yum安装 yum install -y nc 然后通过命令 echo stats |nc 127.0.0.1 11211来查看 nc命令必须和ip以及端口组合使用 STAT pid 1879 STAT uptime 540 STAT time 1530631547 STAT version 1.4.15 STAT libevent 2.0.21-stable STAT pointer_size 64 STAT rusage_user 0.017037 STAT rusage_system 0.057735 STAT curr_connections 10 STAT total_connections 12 STAT connection_structures 11 STAT reserved_fds 20 STAT cmd_get 0 STAT cmd_set 0 STAT cmd_flush 0 STAT cmd_touch 0 STAT get_hits 0 STAT get_misses 0 STAT delete_misses 0 STAT delete_hits 0 STAT incr_misses 0 STAT incr_hits 0 STAT decr_misses 0 STAT decr_hits 0 STAT cas_misses 0 STAT cas_hits 0 STAT cas_badval 0 STAT touch_hits 0 STAT touch_misses 0 STAT auth_cmds 0 STAT auth_errors 0 STAT bytes_read 13 STAT bytes_written 1024 STAT limit_maxbytes 67108864 STAT accepting_conns 1 STAT listen_disabled_num 0 STAT threads 4 STAT conn_yields 0 STAT hash_power_level 16 STAT hash_bytes 524288 STAT hash_is_expanding 0 STAT bytes 0 STAT curr_items 0 STAT total_items 0 STAT expired_unfetched 0 STAT evicted_unfetched 0 STAT evictions 0 STAT reclaimed 0 END

若安装libmemcached后,可以使用命令 memstat --servers=127.0.0.1:11211 查看memcached服务状态 Server: 127.0.0.1 (11211) pid: 1879 uptime: 755 time: 1530631762 version: 1.4.15 libevent: 2.0.21-stable pointer_size: 64 rusage_user: 0.020084 rusage_system: 0.060253 curr_connections: 10 total_connections: 13 connection_structures: 11 reserved_fds: 20 cmd_get: 0 cmd_set: 0 cmd_flush: 0 cmd_touch: 0 get_hits: 0 get_misses: 0 delete_misses: 0 delete_hits: 0 incr_misses: 0 incr_hits: 0 decr_misses: 0 decr_hits: 0 cas_misses: 0 cas_hits: 0 cas_badval: 0 touch_hits: 0 touch_misses: 0 auth_cmds: 0 auth_errors: 0 bytes_read: 30 bytes_written: 2068 limit_maxbytes: 67108864 accepting_conns: 1 listen_disabled_num: 0 threads: 4 conn_yields: 0 hash_power_level: 16 hash_bytes: 524288 hash_is_expanding: 0 bytes: 0 curr_items: 0 total_items: 0 expired_unfetched: 0 evicted_unfetched: 0 evictions: 0 reclaimed: 0