跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI算法

详解 Python 数据处理库 Pandas 使用方法

Python 数据处理库 pandas 的核心用法。内容涵盖环境安装与导入、多源数据(CSV/Excel/SQL)的读写、数据概览与筛选方法、常见数据清洗技巧(去空/缺失值/重复值)、分组聚合操作以及数据合并与透视表技术。通过具体代码示例展示了如何利用 pandas 高效完成数据预处理与分析任务,适合初学者快速掌握数据处理流程。

赛博行者发布于 2025/2/6更新于 2026/10/2699 浏览
详解 Python 数据处理库 Pandas 使用方法

pandas 是 Python 中最受欢迎的数据处理和分析库之一,它提供了高效的数据结构(如 Series 和 DataFrame)和数据操作工具。本文将详细介绍 pandas 库的使用方法,包括数据导入与导出、数据查看和筛选、数据处理和分组操作等。通过代码示例和详细解释,帮助你全面了解和应用 pandas 库进行数据处理和分析。

一、安装和导入 pandas 库

在使用 pandas 之前,首先需要安装 pandas 库。可以使用 pip 命令进行安装:

pip install pandas

安装完成后,我们可以使用 import 语句导入 pandas 库,通常约定使用别名 pd:

import pandas as pd

通过导入 pandas 库,并使用约定的别名 pd,我们可以使用 pandas 库提供的丰富功能。

二、数据导入与导出

1. 导入数据

pandas 库提供了多种方法来导入数据,包括从 CSV 文件、Excel 文件、数据库等导入数据。

import pandas as pd
import sqlite3

# 从 CSV 文件导入数据
df_csv = pd.read_csv('data.csv')

# 从 Excel 文件导入数据
df_excel = pd.read_excel('data.xlsx')

# 从数据库导入数据
conn = sqlite3.connect('database.db')
query = 'SELECT * FROM table_name'
df_db = pd.read_sql(query, conn)

在上面的例子中,我们分别从 CSV 文件、Excel 文件和数据库中导入了数据。通过 pandas 提供的相应函数,我们可以方便地从不同数据源导入数据,并将其转换为 pandas 的数据结构。

2. 导出数据

pandas 库同样提供了多种方法来导出数据,将数据保存为 CSV 文件、Excel 文件等格式。

import pandas as pd
import sqlite3

# 将数据保存为 CSV 文件
df.to_csv('data.csv', index=False)

# 将数据保存为 Excel 文件
df.to_excel('data.xlsx', index=False)

# 将数据保存到数据库
conn = sqlite3.connect('database.db')
df.to_sql('table_name', conn, if_exists='replace', index=False)

在上面的例子中,我们分别将数据保存为 CSV 文件、Excel 文件和数据库。通过 pandas 提供的相应函数,我们可以方便地将数据导出到不同的目标。

三、数据查看和筛选

1. 查看数据

pandas 库提供了多种方法来查看数据,包括查看数据头部、尾部、摘要统计信息等。

import pandas as pd

# 查看数据头部(默认前 5 行)
print(df.head())

# 查看数据尾部(默认后 5 行)
print(df.tail())

# 查看摘要统计信息(数值列的统计描述)
print(df.describe())

# 查看数据结构信息(非数值列的信息)
print(df.info())

在上面的例子中,我们分别使用了 head()、tail()、describe() 和 info() 函数来查看数据的头部、尾部、摘要统计信息和结构信息。

2. 筛选数据

pandas 库提供了强大的功能来筛选数据,可以根据条件、索引等进行数据的筛选和提取。

import pandas as pd

# 根据条件筛选数据(布尔索引)
filtered_df = df[df['column_name'] > 10]

# 根据标签索引筛选数据
filtered_df = df.loc[1:5]

# 根据位置索引筛选数据
filtered_df = df.iloc[1:5]

# 根据列名筛选数据
selected_columns = ['column1', 'column2']
filtered_df = df[selected_columns]

在上面的例子中,我们分别根据条件、标签索引、位置索引和列名对数据进行了筛选。通过 pandas 提供的功能,我们可以方便地根据不同的需求进行数据的筛选和提取。

四、数据处理和分组操作

1. 数据处理

pandas 库提供了丰富的数据处理功能,包括数据清洗、缺失值处理、重复值处理等。

import pandas as pd

# 数据清洗(去除字符串空白字符)
df['column_name'] = df['column_name'].str.strip()

# 缺失值处理(删除包含缺失值的行)
df.dropna(inplace=True)

# 重复值处理(删除重复行)
df.drop_duplicates(inplace=True)

# 填充缺失值
df.fillna(0, inplace=True)

在上面的例子中,我们分别对数据进行了清洗、缺失值处理和重复值处理。通过 pandas 提供的功能,我们可以方便地对数据进行各种处理,使数据更加干净和规范。

2. 分组操作

pandas 库支持数据的分组操作,可以根据某些列进行分组,并进行聚合计算。

import pandas as pd

# 按列进行分组并计算平均值
grouped_df = df.groupby('column_name').mean()

# 多列分组并计算总和
grouped_df = df.groupby(['column1', 'column2']).sum()

# 多重聚合计算
grouped_df = df.groupby('category')['value'].agg(['mean', 'sum', 'count'])

在上面的例子中,我们分别按列进行了分组,并计算了平均值;另外,我们还进行了多列分组,并计算了总和。pandas 的分组操作提供了强大的功能,可以方便地进行数据聚合和分析。

五、数据合并与重塑

除了基础操作外,pandas 还支持数据合并与透视表操作,这对于复杂数据分析至关重要。

1. 数据合并

可以使用 merge 或 concat 函数合并多个 DataFrame。

import pandas as pd

# 基于键合并(类似 SQL JOIN)
merged_df = pd.merge(df1, df2, on='key_column', how='inner')

# 纵向堆叠
df_concat = pd.concat([df1, df2], axis=0)
2. 透视表

pivot_table 函数可以将长格式数据转换为宽格式,便于分析。

# 创建透视表
pivot_df = pd.pivot_table(df, values='sales', index='region', columns='product', aggfunc='sum')

六、总结

本文详细介绍了 Python 第三方库 pandas 的使用方法。通过安装和导入 pandas 库、数据导入与导出、数据查看和筛选、数据处理和分组操作、以及数据合并与重塑等示例,我们全面了解了 pandas 库在数据处理和分析中的强大功能。pandas 提供了高效的数据结构和数据操作工具,使得数据处理和分析变得更加便捷和灵活。希望本文能够帮助你理解和应用 pandas 库,提升数据处理和分析的能力。

目录

  1. 一、安装和导入 pandas 库
  2. 二、数据导入与导出
  3. 1. 导入数据
  4. 从 CSV 文件导入数据
  5. 从 Excel 文件导入数据
  6. 从数据库导入数据
  7. 2. 导出数据
  8. 将数据保存为 CSV 文件
  9. 将数据保存为 Excel 文件
  10. 将数据保存到数据库
  11. 三、数据查看和筛选
  12. 1. 查看数据
  13. 查看数据头部(默认前 5 行)
  14. 查看数据尾部(默认后 5 行)
  15. 查看摘要统计信息(数值列的统计描述)
  16. 查看数据结构信息(非数值列的信息)
  17. 2. 筛选数据
  18. 根据条件筛选数据(布尔索引)
  19. 根据标签索引筛选数据
  20. 根据位置索引筛选数据
  21. 根据列名筛选数据
  22. 四、数据处理和分组操作
  23. 1. 数据处理
  24. 数据清洗(去除字符串空白字符)
  25. 缺失值处理(删除包含缺失值的行)
  26. 重复值处理(删除重复行)
  27. 填充缺失值
  28. 2. 分组操作
  29. 按列进行分组并计算平均值
  30. 多列分组并计算总和
  31. 多重聚合计算
  32. 五、数据合并与重塑
  33. 1. 数据合并
  34. 基于键合并(类似 SQL JOIN)
  35. 纵向堆叠
  36. 2. 透视表
  37. 创建透视表
  38. 六、总结

更多推荐文章

查看全部
  • Android 开发常见知识点与最佳实践整理
  • 芭堤雅中文离线地图 App 发布,支持离线导航与酒店查询
  • AI 无人机智慧巡检平台:20+ 场景识别与全流程调度方案
  • OpenClaw 安装部署全流程 - 搭建自托管 AI 助手
  • 初试 LlamaIndex Workflows:用事件驱动替代链式流水线
  • Flutter for OpenHarmony 实战:使用 Injectable 实现自动化依赖注入
  • 使用 Claude Code 与 GLM4.7 调试前端 Bug 的实战复盘与反思
  • RISC-V 处理器实战:Verilog RTL 设计与 FPGA 原型验证
  • Flutter eth_sig_util 鸿蒙适配:以太坊加密签名核心实现
  • 如何使用 Kiro 进行 Python 开发
  • DeepSeek-R1-Distill-Llama-8B 数学解题实战与效果分析
  • Midjourney 注册、订阅及基础使用指南
  • PyCharm 基础操作指南:快速入门
  • AI 辅助安卓逆向:JADX-AI-MCP 插件配置与实战
  • 网络安全行业职业发展路径与技能要求详解
  • OpenClaw 实战部署:从零搭建你的 AI 远程员工
  • 算法精讲:环形链表、数组交集与随机链表复制
  • 10 个高效 AI 提示词工程技巧指南
  • 9 款 AI 论文写作工具横向测评与选择指南
  • CleanShot X Mac 截图录屏及 GIF 录制完整指南

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online