mysql分割字段为数组

转载

mob64ca13ffd0f1 2024-11-03 22:52:39

文章标签 mysql分割字段为数组 Python Mysql sql 数据 文章分类 MySQL 数据库

一：为什么要分表？

如果一个表的每条记录的内容很大，那么就需要更多的IO操作，如果字段值比较大，而使用频率相对比较低，可以将大字段移到另一张表中，当查询不查大字段的时候，这样就减少了I/O操作
如果一个表的数据量很少，那么查询就很快；如果表的数据量非常非常大，那么查询就变的比较慢；也就是表的数据量影响这查询的性能。
表中的数据本来就有独立性，例如分别记录各个地区的数据或者不同时期的数据，特别是有些数据常用，而另外一些数据不常用。

大表对DDL操作有一定的影响，如创建索引，添加字段
修改表结构需要长时间锁表，会造成长时间的主从延迟，影响正常的数据操作

二：分割方式

分表有两种分割方式，一种垂直分割另一种水平分割。

①：垂直分割

简单来说垂直拆分是指数据表列的拆分，把一张列比较多的表拆分为多张表。垂直分割一般用于拆分大字段和访问频率低的字段，分离冷热数据。

垂直分割适用于记录不是非常多的，但是字段却很多，这样占用空间比较大，检索时需要执行大量的I/O，严重降低了性能，这个时候需要把大的自读那拆分到另一个表中，并且该表与源表时一对一关系。

垂直分割比较常见：

例如博客系统中的文章表，比如文章tbl_articles(id, titile, summary, content, user_id, create_time)，因为文章中的内容content字段可能会比较长，如果放在tbl_articles中会严重影响文章表的查询速度，所以将内容放到tbl_articles_detail(article_id, content)，像文章列表只需要查询tbl_articles中的字段即可，如果想要查询文章的具体内容就关联tbl_articles_detail，
像我们经常看到的tbl_order表有对应的tbl_order_detail, 就是减少order字段的数量，将一些使用频率相对较低的放在detail详情表中
垂直拆分的优点：可以使得行数据变小，在查询时减少读取的Block数，减少I/O次数。此外，垂直分区可以简化表的结构，易于维护。
垂直拆分的缺点：主键会出现冗余，需要管理冗余列，并会引起Join操作，可以通过在应用层进行Join来解决。此外，垂直分区会让事务变得更加复杂。

②：水平分割

水平拆分是指数据表行的拆分，表的行数超过500万行或者单表容量超过10GB时，查询就会变慢，这时可以把一张的表的数据拆成多张表来存放。水平分表尽可能使每张表的数据量相当，比较均匀。举个例子：我们可以将用户信息表拆分成多个用户信息表，这样就可以避免单一表数据量过大对性能造成影响。

水品拆分可以支持非常大的数据量。需要注意的一点是:分表仅仅是解决了单一表数据过大的问题，但由于表的数据还是在同一台机器上，其实对于提升MySQL并发能力没有什么意义，所以水品拆分最好分库。

水平拆分能够支持非常大的数据量存储，应用端改造也少，但分片事务难以解决，跨界点Join性能较差，逻辑复杂。

水平拆分会给应用增加复杂度，它通常在查询是需要多个表名，查询所有数据需要union操作。在许多数据库应用中，这种复杂性会超过它带来的优点，因为只要索引关键字不大，则在索引用于查询时，表中增加2-3倍数据量，查询时也就增加读一个索引层的磁盘次数，所以水平拆分要考虑数据量的增长速度，根据实际情况决定是否需要对表进行水平拆分。
例如：电话账单就可以分成多个表：最近3个月的账单数据存在一个表，3个月前的历史账单存放到另一种表，超过一年的历史账单可以存储到单独的存储介质上，这种拆分是最常用的水平拆分方法。

水平分割标准
水平分割最重要的是找到分割的标准，不同的表应根据业务找出不同的标准

用户表可以根据用户的手机号段进行分割如user183、user150、user153、user189等，每个号段就是一张表
用户表也可以根据用户的id进行分割，加入分3张表user0,user1,user2，如果用户的id%3=0就查询user0表，如果用户的id%3=1就查询user1表
对于订单表可以按照订单的时间进行分表
——————————————————————————————————————
——————————————————————————————————————
好，既然我们已经看完了概念，就开始执行分表操作吧！

import pymysql
import dateutil.parser
sql_db = 'xx'  # 指定mysql数据库名

#### 连接mysql
conn = pymysql.connect(host='xxx', user='xxx',
                       password='xxxx', port=3306, charset='utf8')
cursor = conn.cursor()
cursor.execute("USE {}".format(sql_db))  # 连接数据库

#### 读取数据：
table_list = ['table1','table2','table3','table4','table5','table6']
for table in table_list:
    sql = """
    SELECT start_date from dy_dw.`{}` GROUP BY start_date
    """.format(table)
    cursor.execute(sql)
    results_sql = cursor.fetchall()
    table_date_list = []
    for i in results_sql:
        start_date = i[0].strftime("%Y%m%d")
        table_date_list.append(start_date)
    while True:
        if len(table_date_list) > 8:
            start_date_8 = table_date_list[:8]
            create_tab = '{}_8_{}'.format(table, start_date_8[0])
            create_table_sql = """
            create table `{}` like `{}`
            """.format(create_tab,table)
            cursor.execute(create_table_sql)
            conn.commit()
            for s_date in start_date_8:
                format_date = dateutil.parser.parse(s_date)  # 系统日期参数转换成日期格式
                date_dash = str(format_date.date())  # 日期参数转为带-的日期格式
                update_sql = """
                INSERT INTO {} SELECT * FROM {} where start_date = '{}';
                """.format(create_tab, table, date_dash)
                cursor.execute(update_sql)
                conn.commit()

                delete_sql = """
                delete from `{}` where start_date = '{}'
                 """.format(table, date_dash)
                cursor.execute(delete_sql)
                conn.commit()

            del table_date_list[:8]
            continue
        if len(table_date_list) < 8:
            print('pass')
            break