化学材料科研不可缺少的环节:数据处理以及做图我印象中我大多数处理数据的时间是在不同数据格式的转换,复制粘贴等。因为不同仪器软件导出来的数据格式不具有通用性和可移植性,常见的有xls、txt,还有很多不常见的bin、csv、opj这些,有时候希望能够通过数据分析软件直接达到图表展示目的。但是因为互相不兼容的问题,程序之间的衔接和数据传递都做不到,另外在不同的工具之间切换也实在令人不爽。当我认识pyt            
                
         
            
            
            
            1.LDA主题模型困惑度 这部分参照:LDA主题模型评估方法–Perplexity,不过后面发现这篇文章Perplexity(困惑度)感觉写的更好一点,两篇都是翻译的维基百科。 perplexity是一种信息理论的测量方法,b的perplexity值定义为基于b的熵的能量(b可以是一个概率分布,或者概率模型),通常用于概率模型的比较 wiki上列举了三种perplex            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-28 11:11:10
                            
                                143阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1.1 配置ldap认证  官网地址:https://pypi.org/project/django-auth-ldap/1.3.0/  1、django使用ldap认证需要安装下面两个模块(这里是在linux下测试的)      1.安装Python-LDAP(python_ldap-2.4.25-cp27-none-win_amd64.whl)pip install python_ldap-2            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-29 14:48:10
                            
                                67阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            这次,我们来学习一种经典的降维方法:线性判别分析(Linear Discriminant Analysis, 以下简称LDA). 在前面博客中(点我)我们讲解了PCA降维算法。PCA追求的是在降维之后能够最大化保持数据的内在信息,并通过衡量在投影方向上的数据方差的大小来衡量该方向的重要性。PCA优缺点: 优点:1.最小误差 2.提取了主要信息 缺点:PCA将所有的样本(特征向量集合)作为一个整体对            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-15 14:40:58
                            
                                240阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            三,hashlib模块算法介绍Python的hashlib提供了常见的摘要算法,如MD5,SHA1等等。什么是摘要算法呢?摘要算法又称哈希算法、散列算法。它通过一个函数,把任意长度的数据转换为一个长度固定的数据串(通常用16进制的字符串表示)。摘要算法就是通过摘要函数f()对任意长度的数据data计算出固定长度的摘要digest,目的是为了发现原始数据是否被人篡改过。摘要算法之所以能指出数据是否被            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-12 15:22:09
                            
                                53阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            os模块是与操作系统交互的一个接口注意:os.stat('path/filename') 获取文件/目录信息 的结构说明 sys模块sys模块是与python解释器交互的一个接口 hashlib模块算法介绍 Python的hashlib提供了常见的摘要算法,如MD5,SHA1等等。什么是摘要算法呢?摘要算法又称哈希算法、散列算法。它通过一个函数,把任意长度的数据转换为            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-08 13:44:26
                            
                                14阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            hashlib加密模块Python的hashlib提供了常见的摘要算法,如MD5,SHA1等等。什么是摘要算法呢?摘要算法又称哈希算法。它通过一个函数,把任意长度的数据转换为一个长度固定的数据串。#具体使用
import hashlib  
md = hashlib.md5()  # 生成一个具有加密功能的对象
md.update('hello'.encode('utf-8'))  # 往对象里传            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-30 10:52:02
                            
                                4阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            LDA(Latent Dirichlet Allocation):潜在狄利克雷分布,是一种非监督机器学习技术。它认为一篇文档是有多个主题的,而每个主题又对应着不同的词。一篇文档的构造过程,首先是以一定的概率选择某个主题,然后再在这个主题下以一定的概率选出某一个词,这样就生成了这篇文档的第一个词。不断重复这个过程,就生成了整篇文章(当然这里假定词与词之间是没有顺序的,即所有词无序的堆放在一个大袋子中            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-01 14:49:51
                            
                                104阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            实验原理LDA(Linear Discriminant Analysis)线性判别分析是一种监督学习的线性分类算法,它可以将一个样本映射到一条直线上,从而实现对样本的分类。LDA的目标是找到一个投影轴,使得经过投影后的两类样本之间的距离最大,而同一类样本之间的距离最小。LDA的过程可以分为以下几步:1.计算每个类别的均值向量。2.计算类内散度矩阵(Within-class scatter matr            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-06-18 14:56:52
                            
                                171阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            ##################################################################################3两类的线性判别问题可以看作是把所有样本都投影到一个方向上,然后在这个一维空间中确定一个分类的阈值。过这个阈值点且与投影方向垂直的超平面就是两类的分类面。Fisher线性判别的思想就是:选择投影方向,使投影后两类相隔尽可能远,而同时每一            
                
         
            
            
            
            主题建模是一种用于找出文档集合中抽象“主题”的统计模型。LDA(Latent Dirichlet Allocation)是主题模型的一个示例,用于将文档中的文本分类为特定的主题。LDA算法为每一个文档构建出一个主题,再为每一个主题添加一些单词,该算法按照Dirichlet分布来建模。那便开始吧!数据在这里将使用到的数据集是15年内发布的100多万条新闻标题的列表,可以从Kaggle下            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-08 06:56:55
                            
                                134阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Python的hashlib提供了常见的摘要算法,如MD5,SHA1等等。什么是摘要算法呢?摘要算法又称哈希算法、散列算法。它通过一个函数,把任意长度的数据转换为一个长度固定的数据串(通常用16进制的字符串表示)。举个例子,你写了一篇文章,内容是一个字符串'how to use python hashlib - by Michael',并附上这篇文章的摘要是'2d73d4f15c0db7f5ecb            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-14 03:38:38
                            
                                19阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            摘要算法简介Python的hashlib提供了常见的摘要算法,如MD5,SHA1等等。什么是摘要算法呢?摘要算法又称哈希算法、散列算法。它通过一个函数,把任意长度的数据转换为一个长度固定的数据串(通常用16进制的字符串表示)。举个例子,你写了一篇文章,内容是一个字符串‘how to use python hashlib - by Michael’,并附上这篇文章的摘要是‘2d73d4f15c0db            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-30 21:46:47
                            
                                59阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            文章目录1 前言1.1 线性判别模型的介绍1.2 线性判别模型的应用2 demo数据演示2.1 导入函数2.2 训练模型2.3 预测模型3 LDA手写数字数据演示3.1 导入函数3.2 导入数据3.3 输出图像3.4 建立模型3.5 预测模型4 讨论 1 前言1.1 线性判别模型的介绍线性判别模型(Linear Discriminant Analysis,LDA)是一种经典的监督学习算法,它旨在            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-03 19:17:13
                            
                                116阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            LDA是自然语言处理中非常常用的一个主题模型,全称是隐含狄利克雷分布(Latent Dirichlet Allocation),简称LDA。作用是将文档集中每篇文档的主题以概率分布的形式给出,然后通过分析分到同一主题下的文档抽取其实际的主题(模型运行结果就是一个索引编号,通过分析,将这种编号赋予实际的意义,通常的分析方法就是通过分析每个topic下最重要的term来进行总结归纳),根据主题分布进行            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-21 17:23:46
                            
                                1348阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            LDAP概述目录系统是关于某些类别的对象(例如人)的信息列表。目录可以用于查找特定对象的信息,也可以反方向查找满足特定需求的对象。 企业中的员工通讯录就是一个目录系统。目录访问协议(directory access protocol)就是用来访问目录中数据的标准化方式。最广泛使用的是 轻量级目录访问协议(lightweight directory access protocol,LDAP            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-16 11:28:02
                            
                                72阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            text.pytitle = '智能金融起锚:文因、数库、通联瞄准的kensho革命'
text = '''2015年9月13日,39岁的鲍捷乘上从硅谷至北京的飞机,开启了他心中的金融梦想。
鲍捷,人工智能博士后,如今他是文因互联公司创始人兼CEO。和鲍捷一样,越来越多的硅谷以及华尔街的金融和科技人才已经踏上了归国创业征程。
在硅谷和华尔街,已涌现出Alphasense、Kensho等智能金融            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-21 07:05:25
                            
                                27阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            TextRank 文本摘要算法Python 实现(TextRank for Text Summarization)import math
import numpy as np"""功能:文本摘要算法实现(TextRank for Text Summarization)TextRank 从PageRank 发展而来,PageRank 是计算网站重要性的算法,这里将用一个通俗的比喻来解释它的含义: 极            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-02-29 10:46:35
                            
                                18阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # Python摘要实现指南
## 1. 引言
在实际开发中,我们常常会遇到需要从一篇文章或大段文字中提取关键信息的需求。这时,使用Python来生成摘要就成为了一种高效的解决方案。本指南将向你介绍如何使用Python实现摘要功能,以及涉及到的步骤和代码。
## 2. 摘要生成流程
下表展示了生成摘要的整个流程,包括了几个关键的步骤。
| 步骤 | 描述 |
| ------ | -----            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2023-09-12 18:33:47
                            
                                77阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            一、摘要算法——hashlib模块1、算法介绍  Python的hashlib提供了常见的摘要算法,如MD5,SHA1等等。  什么是摘要算法呢?摘要算法又称哈希算法、散列算法。它通过一个函数,把任意长度的数据转换为一个长度固定的数据串(通常用16进制的字符串表示)。摘要算法就是通过摘要函数f()对任意长度的数据data计算出固定长度的摘要digest,目的是为了发现原始数据是否被人篡改过。摘要算            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-04 22:36:55
                            
                                48阅读