df.to_sql()from sqlalchemy import create_engineimport sqlalchemyengine = create_engine('mysql+pymysql://user:p
原创
2023-05-18 17:11:47
111阅读
YL运维开发工程师，负责游戏系统配置管理平台的设计和开发，目前专注于新 CMDB 系统的开发，平时也关注运维自动化，DevOps，Python 开发等技术。背景CMDB 为了使用事务来存储机器的数据，启用了 mongodb4.0 版本，在平均 1.5k qps 并发写的情况下(这只是机器层面的数据，机器的里面有很多子资源的更新，每个子资源的更新会对应一个 mongodb 操作)，mongodb 一
转载
2023-08-01 12:00:13
187阅读
Spring.xml配置文件中
<mongo:options
connections-per-host="8"
threads-allowed-to-block-for-connection-multiplier="4"
connect-timeout="1000"
max-wait-time="1500"
auto
转载
2023-06-18 11:47:49
210阅读
四个方面进行 cpu/io 方面的优化处理： 1.集群架构上进行读写分离。所有查询优先考虑在从库上读取，写操作在主库上执行。避免主库混合读写压力过大，也减少主库上读写记录的锁冲突。connection string中readPreference 设置成secondarypreferred，C++ 驱动版本升级为3.1.3 mongo-cxx-driver（驱动升级，读写分离才生效） 。2.热表m
转载
2023-08-20 13:58:16
292阅读
1、批量插入与逐条插入的性能差异实测本地MongoDB插入10万条数据，逐条插入需要40秒，批量插入仅需2.3秒。单本地批量插入数据的性能就远远超过逐条插入数据的性能。如果使用远程数据库，那么这个I/O导致的时间消耗会比这个差异许多倍。那么，我们怎么正确的批量插入数据呢？ 下面推荐两个案例：使用Redis批量插入一次性数据import redis
import json
import pymong
转载
2023-08-17 02:00:22
280阅读
对于write操作而言，首先写入journal日志，然后将数据在内存中修改（mmap），此后后台线程间歇性的将内存中变更的数据flush到底层的data files中，时间间隔为60秒（参见配置项“syncPeriodSecs”）；write操作在journal文件中是有序的，为了提升性能，write将会首先写入journal日志的内存buffer中，当buffer数据达到100M或者每隔100毫
转载
2023-08-01 20:18:57
189阅读
Pandas 把数据写入csv
原创
2021-06-04 17:57:33
309阅读
# MongoDB 写入教程
在这篇文章中，我们将介绍如何在 MongoDB 中进行数据写入操作。对于刚入行的小白开发者来说，整个流程可能会显得有些复杂，但只要理解每一步的作用和相应的代码，就能够轻松上手。
## 整体流程
下面是MongoDB写入数据的基本步骤：
| 步骤 | 描述
welcome to my blog.to_csv()中指定mode参数为’a’即可向文件中追加写入内容df.to_csv(file_name, mode='a')
原创
2023-01-18 01:11:25
533阅读
需要批量操作时候，节省网络连接交互次数，可以使用 bulk_write。方法一：批量插入insert_manyarr = [] # 初始化一个空列表
for line in mmap_lines(file_path):
arr.append(DbPushPortraitObject(uid=uid, hash_key=hash_key, tag_ids=tag_ids, dt=dt))
转载
2023-06-09 11:05:25
360阅读
读取mongodb同样需要安装驱动，先安装pymongo。import pandas as pdimport pymongocliectionNamedata = pd.DataFrame(li...
原创
2022-07-18 17:52:37
392阅读
import pandas as pdwrite_clo = ['第一列','第二列','第三列','第四列']df = pd.DataFrame(columns=(write_clo))df.to_csv(fileName,line_terminator="\n",index=False,mode='a',encoding='utf8')当然，爬虫时一行行的写入时，‘第一行’，‘第二行’等等这些
转载
2023-06-27 16:20:01
950阅读
MongoDB Write Concern，简称MongoDB写入安全机制，是一种客户端设置，用于控制写入安全的级别。Write Concern 描述了MongoDB写入到mongod单实例，副本集，以及分片集群时何时应答给客户端。默认情况下，mongoDB文档增删改都会一直等待数据库响应(确认写入是否成功)，然后才会继续执行。本文讲述了MongoDB 应答机制及相关参数。一、MongoDB应答机
转载
2024-02-23 11:17:04
61阅读
mongodb 版本3.4 所以有些pymongo的api是老的：代码如下：代码来自：://github/zshameel/MySQL2MongoDB1，代码不支持多线程，修改代码支持了多线程。2，代码是高版本pymongo，如果使用mongodb3.4，已改成低版本的API。3，代码不支持流式传输，下面有流式传输的版本。
import sys
转载
2024-04-24 17:12:18
39阅读
在进行MongoDB大数据量写入的情况下，Mongo同步出现过很多问题。简单记录一下：同步数据过慢：可参考https://yq.aliyun.com/articles/47336同步数据异常导致占用连接池资源：sharded connection to xxx not being returned to the pool SHARDING [conn32380] could not autospl
转载
2023-07-05 10:58:14
537阅读
mongodb想速成吗，这个系列教程你可以看看（2）1、mongodb简介MongoDB 是由C++语言编写的，是一个基于分布式文件存储的开源数据库系统。在高负载的情况下，添加更多的节点，可以保证服务器性能。MongoDB 旨在为WEB应用提供可扩展的高性能数据存储解决方案。MongoDB 将数据存储为一个文档，数据结构由键值(key=>value)对组成。MongoDB 文档类似于 JSO
转载
2024-07-02 20:33:17
41阅读
pandas 选取数据 iloc和 loc的用法不太一样，iloc是根据索引， loc是根据行的数值>>> import pandas as pd
>>> import os
>>> os.chdir("D:\\")
>>> d =&nb
原创
2017-01-13 15:58:17
3156阅读
代码如下：import pandas as pddef write_csv_line_by_line(): d = [[str(i) for i in range(10)] for j in range(10)] df = pd.DataFrame(d) # df.to_csv('res.csv', header=False) # 不加表头 df.columns = ['
原创
2021-12-23 15:50:01
3505阅读
import pandas as pddef open_files(): numbers = 1 df = pd.DataFr
原创
2022-12-12 16:38:11
124阅读
翻译自 MongoDB 官方博客：6 Rules of Thumb for MongoDB Schema Design: Part 16 Rules of Thumb for MongoDB Schema Design: Part 26 Rules of Thumb for MongoDB Schema Design: Part 3时间仓促，水平有限，难免有遗漏和不足，还请不吝指正。“我有很多 S
转载
2024-02-24 11:41:34
59阅读
