我想知道是否有直接的方法将CSV文件的内容导入记录数组,就像R的read.table(),read.delim()和read.csv()系列将数据导入R的数据框一样?

或者是使用csv.reader()然后应用numpy.core.records.fromrecords()之类的东西的最佳方法?

可能重复的如何使用Python读取和写入CSV文件?

您可以使用Numpy的genfromtxt()方法,通过将delimiter kwarg设置为逗号。

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

有关该功能的更多信息,请参见其相应的文档。

如果你想要不同类型的东西怎么办?像字符串和整数?

@CGTheLegend np.genfromtxt('myfile.csv',delimiter =',',dtype = None)

numpy.loadtxt也适合我

我试过这个,但我只得到nan值,为什么?还有loadtxt,我得到UnicodeDecodeError: 'ascii' codec can't decode byte 0xc3 in position 155: ordinal not in range(128)。我有输入数据中的变音符号等。

@hhh尝试添加encoding="utf8"参数。 Python是少数几个经常导致文本编码问题的现代软件之一,它们感觉像过去一样。

@kolen它工作了,谢谢!

我建议pandas库中的read_csv函数:

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
[ 4. ,  5.5,  6. ]])

这给了一个pandas DataFrame - 允许许多有用的数据操作函数,这些函数不能直接用于numpy记录数组。

DataFrame is a 2-dimensional labeled data structure with columns of
potentially different types. You can think of it like a spreadsheet or
SQL table...

我还建议genfromtxt。但是,由于问题要求记录数组,而不是普通数组,因此需要将dtype=None参数添加到genfromtxt调用中:

给定一个输入文件,myfile.csv:

1.0, 2, 3
4, 5.5, 6
import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

给出一个数组:

array([[ 1. ,  2. ,  3. ],
[ 4. ,  5.5,  6. ]])

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

给出一个记录数组:

array([(1.0, 2.0, 3), (4.0, 5.5, 6)],
dtype=[('f0', '

这样做的好处是可以轻松导入具有多种数据类型(包括字符串)的文件。

read_csv在引号内使用逗号。通过genfromtxt推荐这个

如果您的文件具有1行标题,请使用header = 0跳过值中的第一行

pands.values是一个numpy.ndarray ...作品很完美

您也可以尝试recfromcsv(),它可以猜测数据类型并返回格式正确的记录数组。

如果要在CSV中维护排序/列名称,可以使用以下调用:numpy.recfromcsv(fname, delimiter=',', filling_values=numpy.nan, case_sensitive=True, deletechars='', replace_space=' ')关键参数是最后三个。

我定时了

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = ())

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
data_iter = csv.reader(dest_f,
delimiter = delimiter,
quotechar = '"')
data = [data for data in data_iter]
data_array = np.asarray(data, dtype = )

在460万行,大约70列,发现NumPy路径需要2分16秒,而csv-list理解方法需要13秒。

我建议使用csv-list理解方法,因为它很可能依赖于预编译的库而不是NumPy那样的解释器。我怀疑pandas方法会有类似的解释器开销。

我使用包含260万行和8列的csv文件测试了与此类似的代码。 numpy.recfromcsv()花了大约45秒,np.asarray(list(csv.reader()))花了大约7秒钟,而pandas.read_csv()花了大约2秒钟(!)。 (该文件最近在所有情况下都已从磁盘中读取,因此它已经存在于操作系统的文件缓存中。)我想我会选择使用pandas。

我刚刚注意到在wesmckinney.com/blog/上有一些关于pandas快速csv解析器设计的注释。作者非常重视速度和内存要求。也可以使用as_recarray = True将结果直接作为Python记录数组而不是pandas数据帧。

当我尝试使用NumPy和Pandas两种方式时,使用pandas有很多优点:

快点

减少CPU使用率

与NumPy genfromtxt相比,使用1/3 RAM

这是我的测试代码:

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps
23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps
test_numpy_csv.py
from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')
test_pandas.py
from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

数据文件:

du -h ~/me/notebook/train.csv
59M    /home/hvn/me/notebook/train.csv

在版本中使用NumPy和pandas:

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

您可以使用此代码将CSV文件数据发送到数组中:

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

这是最简单的方法:

import csv
with open('testfile.csv', newline='') as csvfile:
data = list(csv.reader(csvfile))

现在,数据中的每个条目都是一个记录,表示为数组。所以你有一个2D数组。它为我节省了很多时间。

我试过这个:

import pandas as p
import numpy as n
closingValue = p.read_csv("", usecols=[4], dtype=float)
print(closingValue)

使用numpy.loadtxt

一个非常简单的方法。但它需要所有元素都是float(int等)

import numpy as np
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)

我建议使用表格(pip3 install tables)。您可以使用pandas()将.csv文件保存到.h5,

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

然后,您可以轻松地,即使是大量数据,也可以在NumPy阵列中加载数据。

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()
# Data in NumPy format
data = data.values

这项工作作为魅力......

import csv
with open("data.csv", 'r') as f:
data = list(csv.reader(f, delimiter=";"))
import numpy as np
data = np.array(data, dtype=np.float)

代码需要在其代码markdown布局中正确缩进。