pandas ---- pd.DataFrame基本用法

2024-06-14 18:12

本文主要是介绍pandas ---- pd.DataFrame基本用法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 前言
    • 1 loc和iloc注意事项。(后面这些都会在笔记中提到)
    • 2 DataFrame的维度
  • 一、 DataFrame的创建 --- pd.DataFrame(data,index=None,columns=None)
    • 1 字典创建DataFrame(字典转Dataframe很常用)
    • 2 用numpy数组或者嵌套list创建DataFrame
  • 二、DataFrame的访问、索引、切片、布尔索引、修改等操作
    • 1 行切片访问 df[ : ] ---- 不能用单个数字索引,只能用切片索引(后面会用loc和iloc替代这个很呆的功能)
    • 2 按列选择
      • df['column_name']:选择单列,返回 Series。
      • df[['column_name']] :选择单列,返回 DataFrame。
      • df[['col1', 'col2']]:选择多列,返回 DataFrame。
    • 3 按布尔条件选择
      • df[df['column_name'] > value]:选择满足条件的行。
      • df[(df['Age'] > 25) & (df['Score'] > 85)] :and 注意里面布尔条件都要分别用小括号括起来,不然会报错
      • df[(df['Age'] > 25) | (df['Score'] > 85)] : or
    • 4 loc[ ] 与 iloc[ ]进行操作
      • (1)loc[ ]
        • 基于行标签的选择 --- df.loc['Alice'] ,df.loc[['Alice']]
          • df.loc['Alice'] --- 返回 Series
          • df.loc[['Alice']] --- 返回 DataFrame
          • df.loc[['Bob', 'David']] --- 返回 DataFrame ,这种数组的索引方式都可以用
        • 基于行和列标签的选择 --- df.loc['Alice', 'Age'] , df.loc['Alice', ['Age', 'City']], df.loc[['Alice'], ['Age', 'City']]
          • df.loc['Alice', ['Age', 'City']] --- 返回Series
          • df.loc[['Alice'], ['Age', 'City']] --- 返回Dataframe
        • 基于行和列范围的选择(切片) --- df.loc['Alice':'Charlie', 'Age':'City']
        • 基于布尔条件的选择 ---- df.loc[df['Age'] > 25] , df.loc[df['Age'] > 25, ['City']]
        • 更新操作
      • (2)iloc[ ] 的使用方法
        • 基于行位置的选择
          • df.iloc[0]
          • df.iloc[[0]]
          • df.iloc[[0,2]]
        • 基于行和列位置的选择
          • df.iloc[0,1] ---- 返回一个标量
          • df.iloc[0,[0,1]] --- 返回series
          • df.iloc[[0],[0,1]] ---- 返回一个dataframe
        • 基于行和列位置范围的选择(切片)
          • df.iloc[0:2, 0:2]
        • 基于布尔条件的选择
          • df.iloc[df['Age'].values > 25] ---- 布尔索引不能直接用于 iloc,但可以通过 DataFrame 的 values 属性获取布尔条件
        • 更新操作
      • 综合示例(各种筛选是可以混合应用的所有要灵活应用,不能死板)
  • 三、DataFrame的常用属性和方法
    • 1 常用属性
      • df.index ---- 返回行索引对象,可以遍历;可以用 .to_list(), .to_numpy()方法转成list和numpy数组
        • .to_list() ---- 将对象转换成列表
        • .to_numpy() ---- 将对象转换成numpy数组
      • df.columns --- 返回列索引对象,可以遍历;可以用 .to_list(), .to_numpy()方法转成list和numpy数组
        • .to_list() ---- 将对象转换成列表
        • .to_numpy() ---- 将对象转换成numpy数组
      • df.values --- 返回values 的numpy数组(注意是一个二维的numpy数组)
      • df.shape --- 返回形状数组,dataframe一定是二维
      • df.ndim --- 返回维度,dataframe一定是 2
      • df.dtypes --- 这里加了复数,表明返回的是每一列都会返回一个 数据类型(一个series)
      • df.size --- 返回values数组里面元素个数
    • 2 基本信息查看方法
      • df.head(n):查看前 n 行(默认 5 行)。
      • df.tail(n):查看后 n 行(默认 5 行)。
      • df.info():查看 DataFrame 概览信息,包括数据类型和非空值计数。
      • df.describe():查看数值型数据的统计信息。
    • 3 DataFrame与Series互转(特别常用)
      • .squeeze() ---- DataFrame转Series
      • .to_frame(name='col_name') --- 将 Series 转换为 DataFrame。name='col_name'指定列名;如果是dataframe筛选出来的Series,index和列名信息都有,我们都不用指定name='col_name'
    • 4 DataFrame常用数据操作方法(新增修改列、改列名、删除及各种常用方法)
      • (1)新增和修改列
        • df['new_column'] = values:添加新列或修改现有列。
        • df.insert(1, 'NewColumn', new_column):在dataframe指定位置添加一列(机器学习训练集哪里会用到)
      • (2)给列重命名 ---- df.rename(columns={'Name': 'Full Name'})
      • (3)设置和重置索引
        • df.set_index('column_name'):将某表设置为索引。
        • df.reset_index(): 重置索引为整数索引,方法用于重置 DataFrame 的索引,将其转换为默认的整数索引.
      • (4)删除行或列
        • df.drop(columns=['col1', 'col2']):删除指定列。
        • df.drop(index=[0, 1]):删除指定行。
      • (5)排序操作
        • df.sort_values(by=['column1','column2'], ascending=[True,False]):按列排序。
        • df.sort_index():按索引排序。
      • (6)数据清洗
        • 处理缺失值
          • df.dropna():删除含有缺失值的行。
          • df.fillna(value):用指定值填充缺失值。
        • df.drop_duplicates():删除重复行。
      • (7)数据类型转换处理
        • 数据类型转换
          • ---- df['column'].astype(new_type):转换列的数据类型。
        • 字符串操作
          • ---- df['column'].str.method():对字符串列进行操作。
        • 日期时间处理
          • ---- pd.to_datetime(df['column']):将列转换为日期时间类型。
          • ---- df['column'].dt.method:对日期时间列进行操作。
      • (8)数据统计
        • 基本统计
          • .max()和.min()
          • .sum() --- 求和
          • df['column'].mean():计算平均值。
          • df['column'].median():计算中位数。
          • df['column'].std():计算标准差。
          • .var() --- 方差
          • .quantile([0,0.25,0.5,0.75,1.0]) --- 查看四分位数
          • df.cov() --- 直接这样用就可以看到各列变量直接的 (协方差矩阵了)
        • 分组聚合(*) df.groupby('column').agg_func() ---- 返回的是一个可能有多级索引的series
          • ---- df.groupby('City')['Age'].mean()
        • 数据透视表(*)
          • ---- df.pivot_table(values='value', index='index', columns='column', aggfunc='mean')
      • (8)其他一些常用操作
        • 索引和列交换
          • df.T:转置 DataFrame。
        • 应用函数
          • .apply(func):对 DataFrame 应用函数。
  • 四、DataFrame的拼接(常用 -- 力扣上还有这样的题)
    • 1 pd.concat([df1,df2,.....],axis = 0) ----- 函数用于沿指定轴拼接多个 DataFrame 或 Series 对象。
    • 2 pd.merge(left, right, how='inner', on=None, left_on=None, right_on=None) 表连接的使用----有点复杂(最近在做一个项目在进行time对齐用到了这个)
      • (1)左,右连接
        • 左连接:pd.merge(left, right, how='left')
        • 右连接:pd.merge(left, right, how='right')
      • (2)外连接和内连接
        • 内连接(理解成交集):pd.merge(left, right, how='inner')
        • 外连接(理解成并集):pd.merge(left, right, how='outer')
      • (3)以两个表的index为连接的on怎么处理
        • pd.merge(df1, df2, left_index=True, right_index=True, how='inner')
  • 五、pandas的导入和导出
      • df.to_csv('file.csv'):导出为 CSV 文件。
      • pd.read_csv('file.csv'):从 CSV 文件导入 DataFrame。
  • 六、DatetimeIndex 时间索引index对象
  • 总结


前言

本部分主要介绍一些注意事项。另外,series是基础,好多用法都是series扩展一下,很类似的。

1 loc和iloc注意事项。(后面这些都会在笔记中提到)

(1)返回的是Series还是dataframe取决于你有没有加中括号
【注】:如果你对数组索引单个也加上中括号,那么返回的将是 DataFrame 而不是 Series这个规则是普遍适用的,下面也有,这个规则要记住
【注】:单个的一般大家都习惯不加中括号,大不了最后用 .squeeze() ---- DataFrame转Series或者 .to_frame()转一下
(2)loc可以直接布尔索引,iloc布尔索引后还有.values一下转成numpy数组才能布尔索引

2 DataFrame的维度

一、 DataFrame的创建 — pd.DataFrame(data,index=None,columns=None)

— data:可以是字典、列表、NumPy 数组、Pandas Series 或 DataFrame 等。
— index:指定行索引,可以是列表、NumPy 数组或 Pandas Index 对象。
— columns:指定列名,可以是列表、NumPy 数组或 Pandas Index 对象。
没有指定就生成默认的位置索引。

1 字典创建DataFrame(字典转Dataframe很常用)

## 利用字典创建DataFrame
dict = {'数学':[93,89,80,77],'英语':[90,80,70,75],'语文':[87,79,67,92]}
df1 = pd.DataFrame(dict)
print(df1)                          #      数学  英语  语文#   0   93   90    87#   1   89   80    79#   2   80   70    67#   3   77   75    92df2 =pd.DataFrame(dict,index=['张三','李四','王五','赵六'])
print(df2)                          #      数学  英语  语文# 张三   93   90    87# 李四   89   80    79# 王五   80   70    67# 赵六   77   75    92

2 用numpy数组或者嵌套list创建DataFrame

# 从列表创建
data = [['Alice', 25], ['Bob', 30], ['Charlie', 35]]
df1 = pd.DataFrame(data,index=['a','b','c'] ,columns=['Name', 'Age'])
print(df1)                  #       Name  Age# a    Alice   25# b      Bob   30# c  Charlie   35# 从 NumPy 数组创建
data = np.array([[1, 2], [3, 4], [5, 6]])
df2 = pd.DataFrame(data, index=['a','b','c'], columns=['A', 'B'])      
print(df2)                  #    A  B# a  1  2# b  3  4# c  5  6

二、DataFrame的访问、索引、切片、布尔索引、修改等操作

1 行切片访问 df[ : ] ---- 不能用单个数字索引,只能用切片索引(后面会用loc和iloc替代这个很呆的功能)

【注1】:这里切片就是真要切片了,不支持 df[0] , df[1]这种
【注2】:所以就很呆,所以我们后面都会用loc和iloc来替代这个垃圾功能
【注3】:切片无论是有没有设置自定义index都可以用默认位置索引(左闭右开),用自定义(符号)index也可以,但是是(左闭右闭)

# 创建一个示例 DataFrame
data = {'Name': ['Alice', 'Bob', 'Charlie', 'David', 'Eve'],'Age': [24, 27, 22, 32, 29],'Score': [85.5, 88.0, 95.0, 70.5, 80.0]
}
df = pd.DataFrame(data)        #      Name  Age  Score
print(df)                      # 0    Alice   24   85.5# 1      Bob   27   88.0# 2  Charlie   22   95.0# 3    David   32   70.5# 4      Eve   29   80.0print(df[0:3])                 #      Name  Age  Score# 0    Alice   24   85.5# 1      Bob   27   88.0# 2  Charlie   22   95.0    df2 = pd.DataFrame(data, index=['a', 'b', 'c', 'd', 'e'])      # 自定义一下索引
print(df2)                     #       Name  Age  Score# a    Alice   24   85.5# b      Bob   27   88.0# c  Charlie   22   95.0# d    David   32   70.5# e      Eve   29   80.0print(df2[0:3])                #       Name  Age  Score# a    Alice   24   85.5# b      Bob   27   88.0# c  Charlie   22   95.0print(df2['a':'c'])            #       Name  Age  Score# a    Alice   24   85.5# b      Bob   27   88.0# c  Charlie   22   95.0print(df2[0])              # KeyError: 0 不能用数字索引,只能用切片索引

2 按列选择

df[‘column_name’]:选择单列,返回 Series。

df[[‘column_name’]] :选择单列,返回 DataFrame。

【注】:如果你对数组索引单个也加上中括号,那么返回的将是 DataFrame 而不是 Series这个规则是普遍适用的,下面也有,这个规则要记住
【注】:单个的一般大家都习惯不加中括号,大不了最后用 .squeeze() ---- DataFrame转Series或者 .to_frame()转一下

# 创建示例 DataFrame
data = {'Name': ['Alice', 'Bob', 'Charlie', 'David'],'Age': [24, 27, 22, 32],'City': ['New York', 'Los Angeles', 'Chicago', 'Houston']}
df = pd.DataFrame(data)
print(df)               #     Name  Age         City# 0    Alice   24     New York# 1      Bob   27  Los Angeles# 2  Charlie   22      Chicago# 3    David   32      Houstonprint(df['Name'])       # 0      Alice# 1        Bob# 2    Charlie# 3      David# Name: Name, dtype: object           Seriesprint(df[['Name']])     #      Name# 0    Alice# 1      Bob# 2  Charlie# 3    David# DataFrame                         两个中括号返回的是 DataFrame

df[[‘col1’, ‘col2’]]:选择多列,返回 DataFrame。

3 按布尔条件选择

df[df[‘column_name’] > value]:选择满足条件的行。

df[(df[‘Age’] > 25) & (df[‘Score’] > 85)] :and 注意里面布尔条件都要分别用小括号括起来,不然会报错

df[(df[‘Age’] > 25) | (df[‘Score’] > 85)] : or

# 创建一个示例 DataFrame
data = {'Name': ['Alice', 'Bob', 'Charlie', 'David', 'Eve'],'Age': [24, 27, 22, 32, 29],'Score': [85.5, 88.0, 95.0, 70.5, 80.0]
}
df = pd.DataFrame(data)        #      Name  Age  Score
print(df)                      # 0    Alice   24   85.5# 1      Bob   27   88.0# 2  Charlie   22   95.0# 3    David   32   70.5# 4      Eve   29   80.0print(df[(df['Age'] > 25) & (df['Score'] > 85)])        #    Name  Age  Score# 1   Bob   27   88.0 

4 loc[ ] 与 iloc[ ]进行操作

  • [注]:关于你筛选出来的数据是DataFrame还是Series关键在于你整数数组访问单个时有没有加中括号,没有加就有可能是Series,有就是DataFrame,看下面例子就懂了
  • [注]:其实这个用法记住各种筛选条件可以混合用就是了

(1)loc[ ]

loc:基于标签(名称)的索引,用于按行和列的标签来访问数据。适合于按行/列标签精确选择数据。
初始要筛选的DataFrame

# 创建示例 DataFrame
data = {'Name': ['Alice', 'Bob', 'Charlie', 'David'],'Age': [24, 27, 22, 32],'City': ['New York', 'Los Angeles', 'Chicago', 'Houston']}
df = pd.DataFrame(data)
df.set_index('Name', inplace=True)
print(df)                            #        Age         City# Name                      # Alice     24     New York# Bob       27  Los Angeles# Charlie   22     Chicago# David     32     Houston
基于行标签的选择 — df.loc[‘Alice’] ,df.loc[[‘Alice’]]
df.loc[‘Alice’] — 返回 Series
df.loc[[‘Alice’]] — 返回 DataFrame
df.loc[[‘Bob’, ‘David’]] — 返回 DataFrame ,这种数组的索引方式都可以用

如果你对数组索引单个也加上中括号,那么返回的将是 DataFrame 而不是 Series这个规则是普遍适用的,下面也有

# 按行标签选择
row = df.loc['Alice']               
print(row)                           # Age            24# City    New York# Name: Alice, dtype: object                # 单行返回 Seriesrow2 = df.loc[['Alice']]                # 加上中括号,返回的是 DataFrame了·
print(row2)                         #        Age      City# Name                   # Alice     24  New Yorkdf2 = df.loc[['Bob', 'David']]
print(df2)                           #        Age         City# Name                      # Bob       27  Los Angeles# David     32     Houston
  • 选择标签为 ‘Alice’ 的行。
基于行和列标签的选择 — df.loc[‘Alice’, ‘Age’] , df.loc[‘Alice’, [‘Age’, ‘City’]], df.loc[[‘Alice’], [‘Age’, ‘City’]]
df.loc[‘Alice’, [‘Age’, ‘City’]] — 返回Series
df.loc[[‘Alice’], [‘Age’, ‘City’]] — 返回Dataframe

如果你对数组索引单个也加上中括号,那么返回的将是 DataFrame 而不是 Series这个规则是普遍适用的,下面也有

  • 选择标签为 ‘Alice’ 的行和 ‘Age’ 列对应的单元格数据。

  • 选择标签为 ‘Alice’ 的行以及 ‘Age’ 和 ‘City’ 列。

# 选择特定行和列
value = df.loc['Alice', 'Age']       
print(value)                         # 24                                    # 如果只选择一行一列,返回的是标量# 选择特定行的多列  --- 返回 Series
subset = df.loc['Alice', ['Age', 'City']] 
print(subset)                        # Age          24# City    New York# Name: Alice, dtype: object              # 注意:返回的是 Series# 选择特定行的多列  --- 返回 DataFrame
subset2 = df.loc[['Alice'], ['Age', 'City']] 
print(subset2)                       #        Age      City# Name                  # Alice     24  New York                      
# 如果你对数组索引单个也加上中括号,那么返回的将是 DataFrame 而不是 Series
基于行和列范围的选择(切片) — df.loc[‘Alice’:‘Charlie’, ‘Age’:‘City’]
# 选择行标签在一定范围内的多行和多列
subset = df.loc['Alice':'Charlie', 'Age':'City']
print(subset)                        #          Age         City# Name                      # Alice     24     New York# Bob       27  Los Angeles# Charlie   22     Chicago
  • 选择行标签从 ‘Alice’ 到 ‘Charlie’(包括)的行,以及从 ‘Age’ 到 ‘City’ 的列。
基于布尔条件的选择 ---- df.loc[df[‘Age’] > 25] , df.loc[df[‘Age’] > 25, [‘City’]]
  • 选择 ‘Age’ 列大于 25 的所有行。
  • 选择 ‘Age’ 列大于 25 的行,并只保留 ‘City’ 列。
subset = df.loc[df['Age'] > 25]
print(subset)                        #        Age         City# Name                      # Bob       27  Los Angeles# David     32     Houstonsubset2 

这篇关于pandas ---- pd.DataFrame基本用法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1061142

相关文章

Python Faker库基本用法详解

《PythonFaker库基本用法详解》Faker是一个非常强大的库,适用于生成各种类型的伪随机数据,可以帮助开发者在测试、数据生成、或其他需要随机数据的场景中提高效率,本文给大家介绍PythonF... 目录安装基本用法主要功能示例代码语言和地区生成多条假数据自定义字段小结Faker 是一个 python

前端高级CSS用法示例详解

《前端高级CSS用法示例详解》在前端开发中,CSS(层叠样式表)不仅是用来控制网页的外观和布局,更是实现复杂交互和动态效果的关键技术之一,随着前端技术的不断发展,CSS的用法也日益丰富和高级,本文将深... 前端高级css用法在前端开发中,CSS(层叠样式表)不仅是用来控制网页的外观和布局,更是实现复杂交

揭秘Python Socket网络编程的7种硬核用法

《揭秘PythonSocket网络编程的7种硬核用法》Socket不仅能做聊天室,还能干一大堆硬核操作,这篇文章就带大家看看Python网络编程的7种超实用玩法,感兴趣的小伙伴可以跟随小编一起... 目录1.端口扫描器:探测开放端口2.简易 HTTP 服务器:10 秒搭个网页3.局域网游戏:多人联机对战4.

用js控制视频播放进度基本示例代码

《用js控制视频播放进度基本示例代码》写前端的时候,很多的时候是需要支持要网页视频播放的功能,下面这篇文章主要给大家介绍了关于用js控制视频播放进度的相关资料,文中通过代码介绍的非常详细,需要的朋友可... 目录前言html部分:JavaScript部分:注意:总结前言在javascript中控制视频播放

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Pandas使用SQLite3实战

《Pandas使用SQLite3实战》本文主要介绍了Pandas使用SQLite3实战,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录1 环境准备2 从 SQLite3VlfrWQzgt 读取数据到 DataFrame基础用法:读

java之Objects.nonNull用法代码解读

《java之Objects.nonNull用法代码解读》:本文主要介绍java之Objects.nonNull用法代码,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录Java之Objects.nonwww.chinasem.cnNull用法代码Objects.nonN

Python下载Pandas包的步骤

《Python下载Pandas包的步骤》:本文主要介绍Python下载Pandas包的步骤,在python中安装pandas库,我采取的方法是用PIP的方法在Python目标位置进行安装,本文给大... 目录安装步骤1、首先找到我们安装python的目录2、使用命令行到Python安装目录下3、我们回到Py

JavaScript Array.from及其相关用法详解(示例演示)

《JavaScriptArray.from及其相关用法详解(示例演示)》Array.from方法是ES6引入的一个静态方法,用于从类数组对象或可迭代对象创建一个新的数组实例,本文将详细介绍Array... 目录一、Array.from 方法概述1. 方法介绍2. 示例演示二、结合实际场景的使用1. 初始化二

一文带你了解SpringBoot中启动参数的各种用法

《一文带你了解SpringBoot中启动参数的各种用法》在使用SpringBoot开发应用时,我们通常需要根据不同的环境或特定需求调整启动参数,那么,SpringBoot提供了哪些方式来配置这些启动参... 目录一、启动参数的常见传递方式二、通过命令行参数传递启动参数三、使用 application.pro