今天听了一场报告会，是清华计算机系60周年系列讲座之一，主讲人是哈工大软院院长李建中教授，主题《计算和数据资源受限的大数据计算的复杂性理论与高效算法研究》，李老师介绍的大数据计算理论体系很...
原创
2022-04-29 22:22:20
2134阅读
这里我们点击Modify Run Configuration然后指定参数。 在这里进行一个指定，输入-i 然后指定输入图像路径一定要精确到图片，比如123.jpg。然后空格-t 模板的图片。这里有不懂的可以私信问我。-i C:\Users\jzdx\Desktop\OpenCV\xinyongka\template-matching-ocr\images\credit_card_01.png
转载
2024-07-12 17:15:28
44阅读
在存储方面，2000 年左右谷歌等提出的文件系统(GFS)、以及随后的 Hadoop 的分布式文件系统 H
原创
2023-04-19 10:37:22
82阅读
大数据交易，大数据商品化，必然会涉及到一系列法律问题，如大数据所有权、隐私权、版权等，其中所有权问题最为模糊，至今无明确法律法规予以清晰规定。交易的所谓大数据的所有权究竟归谁？随着大数据产业的快速发展，北京、贵州、上海、武汉等地积极布局大数据交易平台，数据交易日趋活跃。贵阳大数据交易所、上海数据交易中心、东湖大数据交易所交易平台、长江大数据交易所、徐州大数据交易、河北京津冀数据交易中心等纷纷成立，
转载
2024-03-06 09:27:37
33阅读
1 什么是大数据1、Big data is an all-encompassing term for any collection of data sets so large and complex that it becomes difficult to process using traditional data processing apllications. -http://en.wik
转载
2023-09-11 17:22:37
76阅读
大数据系统计算技术展望王海涛1,2,毛睿1,2,明仲1,2深圳大学计算机与软件学院，广东深圳518060大数据系统计算技术国家工程实验室，广东深圳518060摘要：针对大数据系统计算技术现状与问题，系统地介绍了大数据系统计算技术国家工程实验室的大数据系统计算技术创新平台。创新平台以研制自主可控、通用性强的大数据计算平台为核心目标，解决高性能大数据计算中的共性问题，开展大数据示范性应用研发。创新平台
原创
2021-04-09 12:52:58
409阅读
作者简介：本文来自诸葛io创始人孔淼的技术分享。诸葛io是业内领先的智能数据决策平台，也是国内早期的数据分析践行者。本文将从诸葛io平台设计实例，分享大数据平台的技术演化之路。如今，数据分析能力正逐渐成为企业发展的标配，企业通过数据分析的过程将数据中的信息提取出来，进行处理、识别、加工、呈现，最后成为指导企业业务发展的知识和智慧。而处理、识别、加工、呈现的过程从本质上来讲，就是实现对数据的采集、清
Elasticsearch索引的精髓：一切设计都是为了提高搜索的性能 以空间换时间。1，esES是基于Lucene分布式搜索服务，可以存储整个对象或文档。主要用于大量数据的索引查询。1）优点高性能 搜索和分析很快，涵盖了多种查询语句和数据结构。支持横向扩展： 通过增加结点数量扩展搜索和分析能力。 可以扩展到上百台服务器，处理PB级结构化或非结构化数据。实时（ NRT，near real time）
转载
2024-04-23 11:49:33
109阅读
用spark，你仅仅只是调用spark的API肯定是很low的。今天来讲讲spark的原理，并且会针对部分源码进行讲解，如有不同意见请联系本人交流探讨。目前大数据生态主要部分是Hadoop软件框架和Spark内存级计算引擎。Hadoop包含四个项目：Hadoop common，HDFS，YARN和MapReduce。 Spark并不是要成为一个大数据领域的“独裁者” ， 一个人霸占大数据领域所有的
转载
2023-09-14 08:03:50
125阅读
iPhone程序和传统的桌面程序的最大不同在于内存有限， 管理内存成了iPhone开发中时时刻刻需要谨记的事情。类似的功能在桌面程序上无非是将down下来的数据缓存于内存中，需要的时候画出来即可。 此法在iPhone上切不可行，虽然UITableViewCell可与reuse重复使用以节约内存使用量， 但是数据还是需要host在array或者dictionary中，必然导致程序实用大量内存儿崩溃退
转载
2024-01-06 07:32:30
50阅读
文章大纲一、什么是云计算二、什么是大数据三、云计算与大数据、人工智能关系四、参考文章一、什么是云计算云计算（Cloud Computing），是一种基于互联网的计算方式，通过这种方式，共享的软硬件资源和信息可以按需提供给计算机和其他设备。典型的云计算提供商往往提供通用的网络业务应用，可以通过浏览器等软件或者其他Web服务来访问，而软件和数据都存储在服务器上。云计算服务通常提供通用的通过浏览器访问的
转载
2023-09-11 17:18:14
72阅读
# Python大数据计算
## 1. 简介
随着大数据技术的不断发展，处理和分析大量数据成为了现代科技领域的重要需求。Python作为一种强大的编程语言，凭借其易学易用、丰富的数据处理库和强大的计算能力，成为了处理大数据的热门选择。本文将介绍如何使用Python进行大数据计算，包括数据获取、数据处理和数据分析等方面。
## 2. 数据获取
大数据计算的第一步是获取数据。Python提供了
原创
2023-08-27 07:59:34
75阅读
4. Python大数据编程入门4.1 Python操作MySQL4.2 Spark与PySpark4.2.1 PySpark基础4.2.2 数据输入4.2.2.1 Python数据容器转换为RDD对象4.2.2.2 读取文本文件得到RDD对象4.2.3 数据计算4.2.3.1 map算子4.2.3.2 flatMap算子4.2.3.3 reduceByKey算子4.2.3.4 案例：单词计数4
转载
2023-09-18 16:20:31
122阅读
# Python大数据计算
## 简介
随着互联网的不断发展，数据量不断增长，企业和组织对大数据的需求也越来越高。Python作为一种简洁、高效、易学的编程语言，被广泛应用于大数据计算领域。本文将介绍如何使用Python进行大数据计算，并提供一些代码示例来帮助读者更好地理解。
## 数据处理
在大数据计算中，数据处理是一个重要的环节。Python提供了一系列强大的库，如`Pandas`和`Nu
原创
2023-07-28 11:05:56
64阅读
事件委托 在JavaScript里，通常要做的一件事是绑定事件，比如用户在页面的点击、滚动等，然后执行注册的回调函数，这样就响应了用户的某种行为。简单的例子如下：$('button').on('click', function() {
alert('hello');
});
$('button').on('click', function() {
alert('hello');
转载
2024-09-16 01:14:42
40阅读
一、总体架构设计原则企业级大数据应用框架需要满足业务的需求，一是要求能够满足基于数据容量大，数据类型多，数据流通快的大数据基本处理需求，能够支持大数据的采集，存储，处理和分析，二是要能够满足企业级应用在可用性，可靠性，可扩展性，容错性，安全性和隐私性等方面的基本准则，三是要能够满足用原始技术和格式来实现数据分析的基本要求满足大数据的V3要求 大数据容量的加载、处理和分析 - 要求大数据
转载
2023-07-13 10:59:42
286阅读
目录一、大数据二、云计算三、物联网四、区块链五、人工智能总结一、大数据概述：大数据是指海量、多样性、实时性的数据集合，通过高效处理和分析这些数据可以发现潜在的价值和规律。应用：互联网、金融、医疗、物流等领域均有大数据的广泛应用。例如，通过分析互联网用户行为数据，企业可以制定更精准的营销策略；金融机构可以利用大数据技术进行风险管理和信贷评估；在医疗领域，大数据可以帮助实现精准医疗、疫情预警等。&nb
转载
2023-07-09 14:34:47
42阅读
SparkSpark是基于内存的计算引擎，主要用于进行高速的计算，可以满足用户对于计算时间的需求。Spark轻快灵巧。Spark分为以下几个组件1.SparkCore：Spark的处理核心，用于执行所有的相关计算2.SparkSQL：将用户下发的SQL指令转译为SparkCore可以识别的命令进行计算，所以SparkSQL引擎其实可以理解为是翻译器3.Structur
转载
2023-12-04 19:18:00
97阅读
一、大数据的发展史2004年Google前后发表三篇论文，也就是传说中的“三驾马车”分页式文件系统GFS大数据分布式计算框架MapReduceNoSQL数据库系统BigTable2006年Doug Cutting启动了一个赫赫有名的项目Hadoop，主要包括Hadoop分布式文件系统HDFS和大数据计算引擎MapReduce，分别实现了GFS和MapReduce其中两篇论文2007年HBase诞生
转载
2023-07-12 12:43:37
323阅读
目录1 大数据体系架构图2 数据采集层3 数据计算层4 数据服务层5 数据应用层 1 大数据体系架构图2 数据采集层阿里的的日志采集包括两大体系： Aplus.JS是Web端的日志采集技术方案，UserTrack是APP端的日志采集技术方案；在采集技术基础上，阿里用面向各个场景的埋点规范，来满足通用浏览、点击、特殊交互、APP事件、H5及APP里的H5和Native日志数据打通等多种业务场景；同
转载
2023-09-26 12:11:26
98阅读
