前言在Ubuntu系统，创建一个docker，然后搭建conda深度学习环境，这样可以用conda或pip安装相关的依赖库了。一、创建一个docker为了方便开发，在Docker Hub官方中选择一个合适的conda docker镜像，然后下载到本地。我选择了“docker-anaconda”，地址是：Docker Hub下载命令如下： docker pull continuumio/a
转载
2023-08-18 14:16:01
168阅读
docker部署mysql数据库1.从阿里云加速网站上拉取mysql5.7.22的镜像docker pull mysql:5.7.22注意：当前版本mysql已经更新到8以上，新特性取消了MyISAM引擎（不支持事务），提升InnoDB引擎（支持事务）的速度，速度是5.6的2倍以上，而5.6不支持nosql，所以不要安装5.6的版本。2.创建并运行docker容器，很明显要通过docker run
转载
2023-08-18 13:20:18
57阅读
大数据（big data），指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。数据库（Database）是按照数据结构来组织、存储和管理数据的仓库，它产生于距今六十多年前，随着信息技术和市场的发展，特别是二十世纪九十年代以后，数据管理不再仅仅是存储和管理数据，而转变成用户所需
转载
2024-09-17 11:51:33
60阅读
数据库知识作为面试必考题，在面试的过程中占比很好，尤其是后端开发，一定要精通，尤其是索引和事务，每个专业的面试官都会问，一定不能只停留在增删查改上。1、数据库三范式第一范式：要求每列都是最小的数据单元，不可分割。比如学生表（学号、姓名、性别、出生年月），出生年月还可以分为（出生年、出生月、出生日），那么它就不符合第一范式了。第二范式：在第一范式的基础上，要求每列都和主键相关。比如学生表（学号、姓名
转载
2024-06-17 15:33:21
71阅读
一.使用Docker-compose实现Tomcat+Nginx负载均衡文件目录编写default.conf编写docker-compose.ymlversion: "3.8"
services:
nginx:
image: nginx
container_name: cngx
ports:
- 80:2341
volumes:
- ./default.conf:/etc/nginx/conf.d
转载
2024-04-07 17:22:19
60阅读
大数据和高并发没有必然的关系大数据 分库分表分表，纵向分，例如织梦，把关键的分一个表，大数据的一个表横向分 把数据，分到两个表内，可以按权，按余数等等方法高并发 流量级别前推，扩充数据处理能力（分散，多库）分库：多端口配置文件mysqld_
原创
2021-11-30 16:27:40
184阅读
在大数据处理当中，数据库无疑是提供关键性支持的技术之一，面对不断新增的海量数据，更加需要数据库提供稳定的底层支持，才能支持数据处理其他环节的工作。今天我们来做一个简单的大数据与数据库技术介绍。 谈到大数据，可能很多人首先想到的就是Hadoop，不得不承认，Hadoop在大数据处理的诸多技术框架当中，占据着非常重要的地位，堪称大数据技术领域的“老大哥”。而数据库技术，似乎不常被提起，但是同样不该被忽
转载
2024-03-26 15:38:56
100阅读
如何能够做到数据的实时同步呢？我们想到了MySQL主从复制时使用的binlog日志，它记录了所有的 DDL 和 DML 语句（除了数据查询语句select、show等），以事件形式记录，还包含语句所执行的消耗时间下面来看一下MySQL主从复制的原理，主要有以下几个步骤：master（主库）在每次准备提交事务完成数据更新前，将改变记录到二进制日志(binary log)中slave（从库）发起连接，
转载
2024-01-15 17:05:16
111阅读
1.关系型数据库的特点基于关系代数理论：缺点：表结构不直观，实现复杂，速度慢优点：健壮性高、社区庞大，在一些情况下人们发现健壮性，并不是要求那么高，因而产生了十分流行的非关系型数据库，如Redis，Memcached等。 2.数据库表关系下面以Product表和Category进行举例，Category表的主键为Product的外键，Category被称为主键表，Product被成为外键
目录1、关系数据库和非关系数据库之间的区别？2、三范式是啥？3、Linux是啥？常用的Linux命令？4、外部表 内部表区别5、Hive的文件存储格式区别6、Mapreduce是什么 1、关系数据库和非关系数据库之间的区别？关系型数据库通俗来讲，关系型数据库类似Excel，以二维表为数据结构，表和字段类型的关系需要明确定义，以SQL语句为操作指令，又称SQL数据库；非关系型数据库非关系型数据库类
转载
2024-03-18 20:53:00
105阅读
大数据数据仓库是基于HIVE构建的数据仓库，分布文件系统为HDFS，资源管理为Yarn，计算引擎主要包括MapReduce/Tez/Spark等，分层架构如下：1、数据来源层：日志或者关系型数据库，并通过Flume、Sqoop、Kettle等etl工具导入到HDFS，并映射到HIVE的数据仓库表中。2、事实表是数据仓库结构中的中央表，它包含联系事实与维度表的数字度量值和键。事实数据表包含描述业务（
转载
2023-07-07 15:15:33
157阅读
说起大数据生态，不得不提大数据生态系统图，而大数据行业却不断的发生着巨变，目前的这张图应该还算比较新了。
创业者们蜂拥至这个行业，这个行业正变得越来越拥挤。Hadoop似乎已经奠定了其作为整个大数据生态系统的关键部分，Spark是另一个基于内存计算的开源分布式计算框架，它试图填补Hadoop的弱项，提供更快的数据分析和良好的编程接口。 分析工具领域变得异常活
转载
2023-07-22 14:08:41
116阅读
通常数据库分为关系型数据库和非关系型数据库，关系型数据库的优势到现在也是无可替代的，比如MySQL、Oracle、SQL Server、DB2、SyBase、Informix、PostgreSQL以及比较小型的Access等等数据库，这些数据库支持复杂的SQL操作和事务机制，适合小量数据读写场景；但是到了大数据时代，人们更多的数据和物联网加入的数据已经超出了关系数据库的承载范围。大数据时代初期，随
转载
2024-06-07 17:54:29
56阅读
文章目录Hbase数据库介绍特点表结构逻辑视图RowKey列簇时间戳cellHbase集群架构 Hbase数据库介绍HBase 是基于 Apache Hadoop 的面向列的 NoSQL 数据库，是 Google 的 BigTable 的开源实现。HBase 是一个针对半结构化数据的开源的、多版本的、可伸缩的、高可靠的、高性能的、分布式的和面向列的动态模式数据库。HBase 和传统关系数据库不同
转载
2023-08-16 17:24:22
71阅读
什么是大数据?多大的数据量可以称为大数据?不同的年代有不同的答案。20世纪80年代早期，大数据指的是数据量大到需要存储在数千万个磁带中的数据;20世纪90年代，大数据指的是数据量超过单个台式机存储能力的数据;如今，大数据指的是那些关系型数据库难以存储、单机数据分析统计工具无法处理的数据，这些数据需要存放在拥有数千万台机器的大规模并行系统上。大数据出现在日常生活和科学研究的各个领域，数据的持续增长使
转载
2024-08-26 00:05:49
0阅读
1、Faiss简介 Faiss是Facebook AI团队开源的针对聚类和相似性搜索库，为稠密向量提供高效相似度搜索和聚类，支持十亿级别向量的搜索，是目前最为成熟的近似近邻搜索库。它包含多种搜索任意大小向量集（备注：向量集大小由RAM内存决定）的算法，以及用于算法评估和参数调整的支持代码。Faiss用C++编写，并提供与Numpy完美衔接的Python接口。除此以外，对一些核心算法提
转载
2024-08-07 09:37:51
190阅读
中大型数据库指的是数据库比较大，数据变化量比较大。对应中大型数据库来说，一般都不允许数据出现丢失情况，那么我们应该把数据库的恢复模式设置成完整。比如我们有一个数据库周一大小为200GB，周二大小变为230GB，周三大小变为250GB，周四大小270GB，周五大小变为290GB，如果我们制定数据库的备份策略是每天进行完整备份，那么一个星期我们的磁盘使用量就要达到了上千G，此外每次备份这样大的文件使用
转载
2024-01-06 11:38:41
87阅读
一、什么是大数据，4V？大数据的定义。大数据，又称巨量资料，指的是所涉及的数据资料量规模巨大到无法通过人脑甚至主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。 二、数据 结构+
转载
2024-07-16 12:51:05
48阅读
2. 第一个演示程序2.1 常用DOS命令（应用）在接触集成开发环境之前，我们需要使用命令行窗口对java程序进行编译和运行，所以需要知道一些常用DOS命令。1、打开命令行窗口的方式：win + r打开运行窗口，输入cmd，回车。2、常用命令及其作用操作说明盘符名称:盘符切换。E:回车，表示切换到E盘。dir查看当前路径下的内容。cd 目录进入单级目录。cd itheimacd …回退到上一级目录
简介概述解决方案初始化网路架构设计新建网络查看网络信息实现容器互联创建容器测试网络互通总结（summary）重难点分析FAQ分析Bug分析简介============================================================概述Docker 中存在多个容器时，容器与容器之间经常需要进行通讯，例如nacos访问mysql，redis集群中各个节点之间的通讯。解决
转载
2024-10-24 08:06:06
22阅读
