Numpy数据存取与函数 北理工嵩天老师python数据分析与展示 单元2随堂笔记

本文主要是介绍Numpy数据存取与函数 北理工嵩天老师python数据分析与展示 单元2随堂笔记,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Numpy数据存取与函数 北理工嵩天老师python数据分析与展示 单元2随堂笔记

数据的csv文件存取

csv文件

CSV文件(Comma-Separated Value,逗号分隔值)
CSV是一种常见的文件格式,用来存储批量数据。

将文件写入CSV文件:
np.savetxt(frame,array,fmt="%.18e",delimiter=None)

参数:
frame:文件(如:a.csv)、字符串或产生器,可以是.gz或.bz2的压缩文件。
array:存入文件的数组。
fmt:写入文件的格式,例如:%d %.2f %.18e(科学计数法保留18位小数).a.csv
delimiter:分割字符串,默认是空格。

import numpy as np
a = np.arange(100).reshape(5,20)
a
array([[ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14, 15,16, 17, 18, 19],[20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35,36, 37, 38, 39],[40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55,56, 57, 58, 59],[60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75,76, 77, 78, 79],[80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 94, 95,96, 97, 98, 99]])
np.savetxt('a.csv',a,fmt='%d',delimiter=',')   #以整数存储

文件打开后如下所示:
0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18,19
20,21,22,23,24,25,26,27,28,29,30,31,32,33,34,35,36,37,38,39
40,41,42,43,44,45,46,47,48,49,50,51,52,53,54,55,56,57,58,59
60,61,62,63,64,65,66,67,68,69,70,71,72,73,74,75,76,77,78,79
80,81,82,83,84,85,86,87,88,89,90,91,92,93,94,95,96,97,98,99

np.savetxt('a.csv',a,fmt='%.1f',delimiter=',')  #以浮点数存储

文件打开后如下所示:
0.0,1.0,2.0,3.0,4.0,5.0,6.0,7.0,8.0,9.0,10.0,11.0,12.0,13.0,14.0,15.0,16.0,17.0,18.0,19.0
20.0,21.0,22.0,23.0,24.0,25.0,26.0,27.0,28.0,29.0,30.0,31.0,32.0,33.0,34.0,35.0,36.0,37.0,38.0,39.0
40.0,41.0,42.0,43.0,44.0,45.0,46.0,47.0,48.0,49.0,50.0,51.0,52.0,53.0,54.0,55.0,56.0,57.0,58.0,59.0
60.0,61.0,62.0,63.0,64.0,65.0,66.0,67.0,68.0,69.0,70.0,71.0,72.0,73.0,74.0,75.0,76.0,77.0,78.0,79.0
80.0,81.0,82.0,83.0,84.0,85.0,86.0,87.0,88.0,89.0,90.0,91.0,92.0,93.0,94.0,95.0,96.0,97.0,98.0,99.0

读入csv文件
np.loadtxt(frame,dtype=np.float,delimiter=None,unpack=False)

参数:
frame:文件、字符串或产生器,可以是.gz或.bz2的压缩文件。
dtype:数据类型,可选。
delimiter:分割字符串,默认是任何空格。
unpack:如果True,读入属性将分别写入不同变量。

b = np.loadtxt('a.csv',delimiter=',')  #导入数据
b
array([[ 0.,  1.,  2.,  3.,  4.,  5.,  6.,  7.,  8.,  9., 10., 11., 12.,13., 14., 15., 16., 17., 18., 19.],[20., 21., 22., 23., 24., 25., 26., 27., 28., 29., 30., 31., 32.,33., 34., 35., 36., 37., 38., 39.],[40., 41., 42., 43., 44., 45., 46., 47., 48., 49., 50., 51., 52.,53., 54., 55., 56., 57., 58., 59.],[60., 61., 62., 63., 64., 65., 66., 67., 68., 69., 70., 71., 72.,73., 74., 75., 76., 77., 78., 79.],[80., 81., 82., 83., 84., 85., 86., 87., 88., 89., 90., 91., 92.,93., 94., 95., 96., 97., 98., 99.]])
b = np.loadtxt('a.csv',dtype=np.int,delimiter=',')  #以整数导入数据
b
array([[ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14, 15,16, 17, 18, 19],[20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35,36, 37, 38, 39],[40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55,56, 57, 58, 59],[60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75,76, 77, 78, 79],[80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 94, 95,96, 97, 98, 99]])
CSV文件的局限性

CSV文件只能有效存储一维和二维数组
np.savetxt() np.loadtxt()只能有效存取一维和二维数组

任意维度数据的存取

存储

利用ndarray中的tofile()方法
a.tofile(frame,sep=’’,format=’%s’)
参数:
frame:文件、字符串。
sep:数据分割字符串,如果是空串,写入文件为二进制。
format:写入数据的格式。

a = np.arange(100).reshape(5,10,2)
a.tofile('b.bat',sep=",",format="%d")

文件打开如下,没有维度信息,只是将数组中的元素逐一地列出并输出到该文件中,是个文本文件。
0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18,19,20,21,22,23,24,25,26,27,28,29,30,31,32,33,34,35,36,37,38,39,40,41,42,43,44,45,46,47,48,49,50,51,52,53,54,55,56,57,58,59,60,61,62,63,64,65,66,67,68,69,70,71,72,73,74,75,76,77,78,79,80,81,82,83,84,85,86,87,88,89,90,91,92,93,94,95,96,97,98,99

a = np.arange(100).reshape(5,10,2)
a.tofile('b.bat',format="%d")   #假设不指定分隔符

生成的文件是一个二进制文件,我们无法用文本编辑器看懂。事实上二进制文件比文本文件占用更小的空间。

读取

  np.fromfile(frame, dtype=float,count=-1,sep='')

参数:
frame:文件、字符串。
dtype:读取的数据类型。
count:读入元素的个数,-1表示读入整个文件。
sep:数据分割字符串,如果是空串,写入文件为二进制。

c = np.fromfile("b.bat",dtype=np.int,sep='').reshape(5,10,2) #利用reshape方法得到想要的数组维度
c
array([[[ 0,  1],[ 2,  3],[ 4,  5],[ 6,  7],[ 8,  9],[10, 11],[12, 13],[14, 15],[16, 17],[18, 19]],[[20, 21],[22, 23],[24, 25],[26, 27],[28, 29],[30, 31],[32, 33],[34, 35],[36, 37],[38, 39]],[[40, 41],[42, 43],[44, 45],[46, 47],[48, 49],[50, 51],[52, 53],[54, 55],[56, 57],[58, 59]],[[60, 61],[62, 63],[64, 65],[66, 67],[68, 69],[70, 71],[72, 73],[74, 75],[76, 77],[78, 79]],[[80, 81],[82, 83],[84, 85],[86, 87],[88, 89],[90, 91],[92, 93],[94, 95],[96, 97],[98, 99]]])

注意:

该方法需要读取时知道存入文件时数组的维度和元素类型
a.tofile()和np.fromfile()需要配合使用
为了解决上述问题,我们可以通过再写一个文件,将要存储的数组的每个元素的类型及数组的维度作为元信息存储起来,读入数组时通过元文件获取该数组的信息。
这样的方法显然有一些复杂和麻烦,但是对于一些大规模数据存储时这样的方法还是有效的。

Numpy的便捷文件存取

下面这个方法可以很好地解决多维数组的存取问题
这种方法文件的读取和写入是基于numpy自定义的文件格式,如果你不想用这种文件格式,就用上一种方法,如果无所谓,就使用这种方法。
np.save(fname,array)或np.savez(fname,array)
frame:文件名称,以.npy为扩展名,压缩扩展名为.npz 。这种文件是numpy自定义的文件类型
array:数组变量
np.load(fname)
frame:文件名,以.npy为扩展名,压缩扩展名为.npz

numpy的随机数函数子库

调用 : np.random.*

函数 说明
rand(d0,d1,…dn) 根据d0-dn创建随机数数组,浮点数,[0,1),均匀分布
randn(d0,d1,…dn) 根据d0-dn创建随机数数组,标准正态分布
randint(low[,high,shape]) 根据shape创建随机整数或整数数组,范围是[low,high)
seed(s) 随机数种子,s是给定的种子值

shuffle(a) 根据数组a的第一轴(最外层维度)进行随机排列,改变数组x
permutation(a) 根据数组a的第一轴产生一个新的乱序数组,不改变x
choice(a[,size,replace,p]) 从一维数组a中以概率p抽取元素,形成size形状新数组replace表示是否可以重 用元素,默认为False

uniform(low,high,size) 产生具有均匀分布的数组,low 起始值,high结束值,size形状
normal(loc,scale,size) 产生具有正态分布的数组,loc均值,scale标准差,size形状
poisson(lam,size) 产生具有泊松分布的数组,lam随机事件发生率,size形状

b=np.random.randint(100,200,(8,))
np.random.choice(b,(3,2),p=b/np.sum(b))  #元素值越大被抽到的的概率也越大。
array([[152, 103],[152, 152],[149, 138]])

numpy的统计函数

统计函数即可以对数组进行统计计算的函数
numpy提供了库一级别的统计类函数
调用 : np.*
函数 说明
sum(a,axis=None) 根据给定轴axis计算数组a相关元素之和,axis整数或元组
mean(a,axis=None) 根据给定轴axis计算数组a相关元素的期望,axis整数或元组
average(a,axis=None,weights=None) 根据给定轴axis计算数组a相关元素的加权平均值
std(a,axis=None) 根据给定轴axis计算数组a相关元素的标准差
var(a,axis=None) 根据给定轴axis计算数组a相关元素的方差
min(a) max(a) 计算数组a中元素的最小值、最大值
argmin(a) argmax(a) 计算数组a中元素的最小值、最大值的降成一维数组后下标
unravel_index(index,shape) 根据shape将一维下表index转换成多维下标
ptp(a) 计算数组a中元素的最大值和最小值的差
median(a) 计算数组a中元素的中位数(中值)
说明:axis=None 是统计函数的标配参数,表示对数组中所有元素进行统计计算。

numpy中的梯度函数

 函数                      说明np.gradient(f)           计算数组f中元素的梯度,当f为多维时,返回每个维度的梯度

梯度:连续值之间的变化率,即斜率。 梯度有助于我们发现图像的边缘。
XY坐标轴连续三个X坐标对应的Y轴值:a,b,c, 其中,b的梯度是:(c-a)/2

a=np.random.randint(0,20,(5))
a
array([10,  3, 13, 15,  0])
np.gradient(a)  #各元素梯度
array([ -7. ,   1.5,   6. ,  -6.5, -15. ])

计算元素的梯度值时,如果该元素两侧都有值,则梯度为:(后侧-前侧)/2
如果只有一侧值,则梯度为:(后则-该元素值)/1 或 (该元素值-前侧值)/1

多维函数类似

c=np.random.randint(0,50,(3,5))
c
array([[44,  8, 45, 48,  1],[48, 48, 38, 38,  1],[17, 26, 27, 12, 26]])
np.gradient(c)
[array([[  4. ,  40. ,  -7. , -10. ,   0. ],[-13.5,   9. ,  -9. , -18. ,  12.5],[-31. , -22. , -11. , -26. ,  25. ]]),array([[-36. ,   0.5,  20. , -22. , -47. ],[  0. ,  -5. ,  -5. , -18.5, -37. ],[  9. ,   5. ,  -7. ,  -0.5,  14. ]])]

根据结果可知,第一个矩阵是最外层维度的梯度,第二个矩阵是第二层维度的梯度。

这篇关于Numpy数据存取与函数 北理工嵩天老师python数据分析与展示 单元2随堂笔记的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/749758

相关文章

Java中注解与元数据示例详解

《Java中注解与元数据示例详解》Java注解和元数据是编程中重要的概念,用于描述程序元素的属性和用途,:本文主要介绍Java中注解与元数据的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参... 目录一、引言二、元数据的概念2.1 定义2.2 作用三、Java 注解的基础3.1 注解的定义3.2 内

将sqlserver数据迁移到mysql的详细步骤记录

《将sqlserver数据迁移到mysql的详细步骤记录》:本文主要介绍将SQLServer数据迁移到MySQL的步骤,包括导出数据、转换数据格式和导入数据,通过示例和工具说明,帮助大家顺利完成... 目录前言一、导出SQL Server 数据二、转换数据格式为mysql兼容格式三、导入数据到MySQL数据

C++中使用vector存储并遍历数据的基本步骤

《C++中使用vector存储并遍历数据的基本步骤》C++标准模板库(STL)提供了多种容器类型,包括顺序容器、关联容器、无序关联容器和容器适配器,每种容器都有其特定的用途和特性,:本文主要介绍C... 目录(1)容器及简要描述‌php顺序容器‌‌关联容器‌‌无序关联容器‌(基于哈希表):‌容器适配器‌:(

Python判断for循环最后一次的6种方法

《Python判断for循环最后一次的6种方法》在Python中,通常我们不会直接判断for循环是否正在执行最后一次迭代,因为Python的for循环是基于可迭代对象的,它不知道也不关心迭代的内部状态... 目录1.使用enuhttp://www.chinasem.cnmerate()和len()来判断for

C#提取PDF表单数据的实现流程

《C#提取PDF表单数据的实现流程》PDF表单是一种常见的数据收集工具,广泛应用于调查问卷、业务合同等场景,凭借出色的跨平台兼容性和标准化特点,PDF表单在各行各业中得到了广泛应用,本文将探讨如何使用... 目录引言使用工具C# 提取多个PDF表单域的数据C# 提取特定PDF表单域的数据引言PDF表单是一

使用Python实现高效的端口扫描器

《使用Python实现高效的端口扫描器》在网络安全领域,端口扫描是一项基本而重要的技能,通过端口扫描,可以发现目标主机上开放的服务和端口,这对于安全评估、渗透测试等有着不可忽视的作用,本文将介绍如何使... 目录1. 端口扫描的基本原理2. 使用python实现端口扫描2.1 安装必要的库2.2 编写端口扫

使用Python实现操作mongodb详解

《使用Python实现操作mongodb详解》这篇文章主要为大家详细介绍了使用Python实现操作mongodb的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、示例二、常用指令三、遇到的问题一、示例from pymongo import MongoClientf

使用Python合并 Excel单元格指定行列或单元格范围

《使用Python合并Excel单元格指定行列或单元格范围》合并Excel单元格是Excel数据处理和表格设计中的一项常用操作,本文将介绍如何通过Python合并Excel中的指定行列或单... 目录python Excel库安装Python合并Excel 中的指定行Python合并Excel 中的指定列P

一文详解Python中数据清洗与处理的常用方法

《一文详解Python中数据清洗与处理的常用方法》在数据处理与分析过程中,缺失值、重复值、异常值等问题是常见的挑战,本文总结了多种数据清洗与处理方法,文中的示例代码简洁易懂,有需要的小伙伴可以参考下... 目录缺失值处理重复值处理异常值处理数据类型转换文本清洗数据分组统计数据分箱数据标准化在数据处理与分析过

大数据小内存排序问题如何巧妙解决

《大数据小内存排序问题如何巧妙解决》文章介绍了大数据小内存排序的三种方法:数据库排序、分治法和位图法,数据库排序简单但速度慢,对设备要求高;分治法高效但实现复杂;位图法可读性差,但存储空间受限... 目录三种方法:方法概要数据库排序(http://www.chinasem.cn对数据库设备要求较高)分治法(常