📑 查看全课大纲(第 11 / 52 节)
- 1.量化分析基本概念:从咖啡馆到华尔街
- 2.量化交易员学习路线:从零基础到策略开发
- 3.量化策略生命周期:数据分析的五大流程
- 4.量化数据类型:数值型与类别型数据
- 5.量化沙盒搭建(1):Python与Anaconda安装
- 6.量化沙盒搭建(2):Jupyter Notebook与库配置
- 7.本地多源数据:量化历史回测的基石
- 8.TXT数据流操作:处理金融交易日志
- 9.JSON数据流操作:解析股票行情API响应
- 10.CSV行情文件操作:读取与存储历史K线
- 11.Excel报表操作:清洗财报与财务指标
- 12.量化数据库:SQL常用查询语法
- 13.量化数据库:Python连接与写入
- 14.量化多表连接:关联股票信息与行情
- 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
- 16.量化数据采集:爬虫工作原理与合规
- 17.量化爬虫核心:URL管理与去重策略
- 18.量化网页下载:防反爬与请求头伪装
- 19.网页解析(1):使用XPath定位财经新闻
- 20.网页解析(2):使用CSS选择器与ItemLoader
- 21.Scrapy框架:构建工业级量化爬虫
- 22.Scrapy实战(1):新建项目与数据模型定义
- 23.Scrapy实战(2):编写财经爬虫逻辑
- 24.Scrapy实战(3):启用数据管道清洗行情
- 25.Scrapy实战(4):防反爬中间件配置
- 26.实战:构建每日热门个股行情自动采集系统
- 27.NumPy与SciPy:加速量化矩阵计算
- 28.NumPy数组:构建股票价格矩阵
- 29.数组切片:提取特定股票与交易日数据
- 30.NumPy常用方法:计算均值与波动率
- 31.向量化计算:摆脱缓慢的For循环
- 32.通用函数ufunc:计算对数收益率与累计收益
- 33.实战:股票组合资产收益率与协方差矩阵计算
- 34.Pandas Series:管理单只股票收盘价
- 35.Pandas DataFrame:构建多只股票行情面板
- 36.Pandas Index:时间序列索引与对齐
- 37.Series索引操作:按位置与标签访问行情数据
- 38.DataFrame索引操作:loc与iloc定位行情
- 39.索引总结:量化多字段筛选与定位
- 40.运算与对齐:合并不同交易日的数据
- 41.Pandas map:对股票代码与状态做映射
- 42.Pandas apply:滚动计算技术指标
- 43.文件读写操作:CSV行情数据导入导出
- 44.排序操作:按市盈率与收益率对股票排名
- 45.数据清洗:填充与剔除停牌股票缺失值
- 46.数据清洗:剔除重复报价与异常交易数据
- 47.数据清洗:替换异常报价数据
- 48.常用统计:量化最大回撤与分位数风险评估
- 49.常用统计:sum/mean/median/count聚合指标
- 50.极值定位:寻找历史最高价与最低价的发生日
- 51.风险与累计收益:计算年化波动率与累计回报
- 52.实战:小象咖啡店营业数据与热门个股时间序列清洗分析
Excel报表操作:清洗财报与财务指标
Excel报表操作:清洗财报与财务指标
小象量化极客小册 · 华尔街量化分析先锋系列
在量化交易中,历史回测数据往往以多种异构本地文件(TXT、CSV、JSON、Excel)和关系数据库形式存在。本节你将编写数据接口,读取小象咖啡的门店营收数据并解析股票行情API响应,打通量化回测的数据通道!
小象量化极客小册 · 华尔街量化分析先锋系列 在量化交易中,历史回测数据往往以多种异构本地文件(TXT、CSV、JSON、Excel)和关系数据库形式存在。本节你将编写数据接口,读取小象咖啡的门店营收数据并解析股票行情API响应,打通量化回测的数据通道!
💡 核心导读
本节将系统讲解如何使用Python处理Excel文件,涵盖主流库的对比选型、数据读写操作技巧以及典型问题解决方案。通过本节学习,您将掌握:1) 使用pandas进行Excel数据高效读写 2) 处理多Sheet和格式转换 3) 解决中文编码等常见问题。配套的代码示例可直接应用于实际工作中的数据采集场景。
工具选型与基础操作
主流库对比
| 工具库 | 读写速度 | 功能完整性 | 内存占用 | 适用场景 |
|---|---|---|---|---|
| pandas | ★★★★ | ★★★★ | ★★★ | 常规数据分析 |
| openpyxl | ★★ | ★★★★★ | ★★ | 复杂格式处理 |
| xlrd/xlwt | ★★★ | ★★ | ★★★★ | 旧版xls文件处理 |
基础读写示例
import pandas as pd
df = pd.read_excel('sales_data.xlsx', engine='openpyxl')
print("原始数据结构:")
print(df.head(2).to_markdown()) # 使用markdown格式输出
df.to_excel('processed_data.xlsx', sheet_name='2023', index=True)💡 概念小测:Excel工作表定位
用 Pandas 加载含有多张工作表(如 BalanceSheet, IncomeStatement)的财报 Excel 文件时,如何读取指定的工作表?
- 必须将 Excel 文件拆分为多个 CSV 文件才能分别读取。
- 使用
sheet_name参数指定要读取的工作表名称或索引。 - Pandas 会默认合并所有的 Sheet,无需进行任何指定。
- 使用
usecols参数来过滤工作表。
📝 选择题
💡 概念小测:Excel工作表定位 用 Pandas 加载含有多张工作表(如 BalanceSheet, IncomeStatement)的财报 Excel 文件时,如何读取指定的工作表?
- A. 必须将 Excel 文件拆分为多个 CSV 文件才能分别读取。
- B. 使用
sheet_name参数指定要读取的工作表名称或索引。 - C. Pandas 会默认合并所有的 Sheet,无需进行任何指定。
- D. 使用
usecols参数来过滤工作表。
答案:B(使用
sheet_name参数指定要读取的工作表名称或索引。)
高级操作技巧
多Sheet处理
all_sheets = pd.read_excel('multi_sheet.xlsx', sheet_name=None)
merged_data = pd.concat([
all_sheets['Q1'],
all_sheets['Q2']
], ignore_index=True)
print("\n合并前Sheet数量:", len(all_sheets))
print("合并后数据量:", len(merged_data))数据类型转换
df['金额'] = df['金额'].str.replace('¥','').astype(float)
df['订单日期'] = pd.to_datetime(df['订单日期'], format='%Y年%m月%d日')
print("\n数据类型转换结果:")
print(df.dtypes.to_markdown())常见问题解决方案
中文编码处理
with open('中文文件名.xlsx', 'rb') as f:
df = pd.read_excel(f, engine='openpyxl')
df.to_excel('输出文件.xlsx', encoding='utf-8-sig')大文件分块处理
chunk_size = 10000
chunks = pd.read_excel('large_file.xlsx', chunksize=chunk_size)
for i, chunk in enumerate(chunks):
print(f"正在处理第 {i+1} 个数据块...")
# 在此处添加处理逻辑💡 代码填空:读取财务报表
补全代码,读取 Excel 财报文件 report.xlsx 中名为 IncomeStatement 的工作表:
import pandas as pd
df = pd.read_excel('report.xlsx', {blank}='IncomeStatement')
print(df.shape)- sheet
- sheet_name
- index_col
✏️ 填空题
💡 代码填空:读取财务报表 补全代码,读取 Excel 财报文件 report.xlsx 中名为 IncomeStatement 的工作表:
import pandas as pd
df = pd.read_excel('report.xlsx', ___='IncomeStatement')
print(df.shape)答案:sheet_name
本章小结
行动清单
- 使用pandas读取本地Excel文件,尝试用
to_markdown()方法输出前5行数据 - 创建一个包含多个Sheet的Excel文件,编写代码合并所有Sheet数据
- 处理包含中文日期格式(如”2023年12月31日”)的列,转换为标准datetime类型
「小象量化教研组」建议在实际操作时注意:1) 始终指定engine参数避免版本问题 2) 处理大型文件时使用chunksize参数 3) 重要操作前先创建数据备份。
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问