← 返回《量化交易 Python 入门:从咖啡馆到华尔街》
📑 查看全课大纲(第 15 / 52 节)
  1. 1.量化分析基本概念:从咖啡馆到华尔街
  2. 2.量化交易员学习路线:从零基础到策略开发
  3. 3.量化策略生命周期:数据分析的五大流程
  4. 4.量化数据类型:数值型与类别型数据
  5. 5.量化沙盒搭建(1):Python与Anaconda安装
  6. 6.量化沙盒搭建(2):Jupyter Notebook与库配置
  7. 7.本地多源数据:量化历史回测的基石
  8. 8.TXT数据流操作:处理金融交易日志
  9. 9.JSON数据流操作:解析股票行情API响应
  10. 10.CSV行情文件操作:读取与存储历史K线
  11. 11.Excel报表操作:清洗财报与财务指标
  12. 12.量化数据库:SQL常用查询语法
  13. 13.量化数据库:Python连接与写入
  14. 14.量化多表连接:关联股票信息与行情
  15. 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
  16. 16.量化数据采集:爬虫工作原理与合规
  17. 17.量化爬虫核心:URL管理与去重策略
  18. 18.量化网页下载:防反爬与请求头伪装
  19. 19.网页解析(1):使用XPath定位财经新闻
  20. 20.网页解析(2):使用CSS选择器与ItemLoader
  21. 21.Scrapy框架:构建工业级量化爬虫
  22. 22.Scrapy实战(1):新建项目与数据模型定义
  23. 23.Scrapy实战(2):编写财经爬虫逻辑
  24. 24.Scrapy实战(3):启用数据管道清洗行情
  25. 25.Scrapy实战(4):防反爬中间件配置
  26. 26.实战:构建每日热门个股行情自动采集系统
  27. 27.NumPy与SciPy:加速量化矩阵计算
  28. 28.NumPy数组:构建股票价格矩阵
  29. 29.数组切片:提取特定股票与交易日数据
  30. 30.NumPy常用方法:计算均值与波动率
  31. 31.向量化计算:摆脱缓慢的For循环
  32. 32.通用函数ufunc:计算对数收益率与累计收益
  33. 33.实战:股票组合资产收益率与协方差矩阵计算
  34. 34.Pandas Series:管理单只股票收盘价
  35. 35.Pandas DataFrame:构建多只股票行情面板
  36. 36.Pandas Index:时间序列索引与对齐
  37. 37.Series索引操作:按位置与标签访问行情数据
  38. 38.DataFrame索引操作:loc与iloc定位行情
  39. 39.索引总结:量化多字段筛选与定位
  40. 40.运算与对齐:合并不同交易日的数据
  41. 41.Pandas map:对股票代码与状态做映射
  42. 42.Pandas apply:滚动计算技术指标
  43. 43.文件读写操作:CSV行情数据导入导出
  44. 44.排序操作:按市盈率与收益率对股票排名
  45. 45.数据清洗:填充与剔除停牌股票缺失值
  46. 46.数据清洗:剔除重复报价与异常交易数据
  47. 47.数据清洗:替换异常报价数据
  48. 48.常用统计:量化最大回撤与分位数风险评估
  49. 49.常用统计:sum/mean/median/count聚合指标
  50. 50.极值定位:寻找历史最高价与最低价的发生日
  51. 51.风险与累计收益:计算年化波动率与累计回报
  52. 52.实战:小象咖啡店营业数据与热门个股时间序列清洗分析

实战:小象咖啡店营业数据与个股财务指标的多源数据分析

实战:小象咖啡店营业数据与个股财务指标的多源数据分析

小象量化极客小册 · 华尔街量化分析先锋系列

在量化交易中,历史回测数据往往以多种异构本地文件(TXT、CSV、JSON、Excel)和关系数据库形式存在。本节你将编写数据接口,读取小象咖啡的门店营收数据并解析股票行情API响应,打通量化回测的数据通道!

小象量化极客小册 · 华尔街量化分析先锋系列 在量化交易中,历史回测数据往往以多种异构本地文件(TXT、CSV、JSON、Excel)和关系数据库形式存在。本节你将编写数据接口,读取小象咖啡的门店营收数据并解析股票行情API响应,打通量化回测的数据通道!

💡 核心导读

本节将带领读者完成欧洲职业足球数据的采集、清洗与分析全流程。通过Python数据科学工具链操作本地存储的SQLite数据库与CSV文件,掌握多源数据合并、特征工程与可视化分析技巧。核心技能包括:1) 使用Pandas进行多表关联查询 2) 构建比赛结果预测特征 3) 制作热力图展示球队表现矩阵。


数据准备与环境配置

数据库连接与探查

import sqlite3
import pandas as pd
from pathlib import Path

db_path = Path('european_football.db')
conn = sqlite3.connect(str(db_path))

tables = pd.read_sql("SELECT name FROM sqlite_master WHERE type='table';", conn)
print(tables)

"""
输出示例:
               name
0            Player  
1           Match    
2           League  
3          Country 
4           Team    
"""

多源数据加载

matches = pd.read_sql("SELECT * FROM Match WHERE season='2015/2016'", conn)

ratings = pd.read_csv('player_ratings.csv', encoding='latin1')

print("比赛数据字段示例:")
print(matches[['home_team', 'away_team', 'home_team_goal']].head(2))

"""
比赛数据字段示例:
      home_team     away_team  home_team_goal
0  Real Madrid    Barcelona              2
1  Bayern Munich  Dortmund              3
"""

💡 概念小测:实战分析多源数据

在本次实战中,我们把咖啡店每日营收的 CSV 文件与存储在 SQLite 数据库中的 A 股股票行情进行对齐,计算两者的相关系数。以下关于对齐数据时的操作,哪一个是正确的?

  • 直接用 index 对齐,即使两者的日期序列不一致也不用做日期处理。
  • 必须先将两者的日期字段转换为标准的 Datetime 格式,并通过 merge 对齐日期后再做相关性分析。
  • 抛弃所有有缺失值的日期,仅保留有股票报价的周一到周五数据,周六周日的咖啡馆营收只能直接删除,不能进行填充。
  • 相关性计算必须用 NumPy 的 np.dot 矩阵乘法完成,Pandas 不支持相关系数计算。

📝 选择题

💡 概念小测:实战分析多源数据 在本次实战中,我们把咖啡店每日营收的 CSV 文件与存储在 SQLite 数据库中的 A 股股票行情进行对齐,计算两者的相关系数。以下关于对齐数据时的操作,哪一个是正确的?

  • A. 直接用 index 对齐,即使两者的日期序列不一致也不用做日期处理。
  • B. 必须先将两者的日期字段转换为标准的 Datetime 格式,并通过 merge 对齐日期后再做相关性分析。
  • C. 抛弃所有有缺失值的日期,仅保留有股票报价的周一到周五数据,周六周日的咖啡馆营收只能直接删除,不能进行填充。
  • D. 相关性计算必须用 NumPy 的 np.dot 矩阵乘法完成,Pandas 不支持相关系数计算。

答案:B(必须先将两者的日期字段转换为标准的 Datetime 格式,并通过 merge 对齐日期后再做相关性分析。)


核心分析流程

数据关联与特征工程

teams = pd.read_sql("SELECT * FROM Team", conn)
enhanced_matches = matches.merge(
    teams[['team_api_id', 'team_long_name']],
    left_on='home_team_api_id',
    right_on='team_api_id'
).rename(columns={'team_long_name': 'home_team_name'})

enhanced_matches['result'] = enhanced_matches.apply(
    lambda row: 'home_win' if row['home_team_goal'] > row['away_team_goal'] else 
               ('draw' if row['home_team_goal'] == row['away_team_goal'] else 'away_win'),
    axis=1
)

features = enhanced_matches[[
    'home_team_name', 
    'B365H',  # 主队获胜赔率
    'B365D',  # 平局赔率
    'B365A'   # 客队获胜赔率
]].dropna()

可视化分析

import matplotlib.pyplot as plt
import seaborn as sns

plt.figure(figsize=(12,6))
sns.boxplot(
    x='league_id',
    y='home_team_goal',
    data=matches.assign(total_goals=matches.home_team_goal + matches.away_team_goal)
)
plt.title('2015/2016赛季各联赛进球数分布')
plt.xticks(rotation=45);


高级分析技巧

球队对战热力图

team_pairs = matches.groupby([
    'home_team_name', 
    'away_team_name'
])['home_team_goal'].mean().unstack()

plt.figure(figsize=(15,10))
sns.heatmap(
    team_pairs.fillna(0),
    cmap='YlOrRd',
    annot=True,
    fmt='.1f',
    linewidths=.5
)
plt.title('主队场均进球对阵表现');

比赛结果预测

from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import train_test_split

X = features[['B365H', 'B365D', 'B365A']]
y = enhanced_matches['result']

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)
print(f"模型准确率:{model.score(X_test, y_test):.2%}")

💡 代码填空:关联多源数据

在实战代码中,我们需要将咖啡销量 DataFrame (cafe_df) 和股票行情 DataFrame (stock_df) 按照 ‘date’ 字段进行内连接。请补全 merge 对应的参数:

import pandas as pd

aligned_df = pd.merge(cafe_df, stock_df, {blank}='date', how='inner')
print(aligned_df.corr())
  • left_on
  • on
  • how

✏️ 填空题

💡 代码填空:关联多源数据 在实战代码中,我们需要将咖啡销量 DataFrame (cafe_df) 和股票行情 DataFrame (stock_df) 按照 ‘date’ 字段进行内连接。请补全 merge 对应的参数:

import pandas as pd
# 对齐两个多源数据集
aligned_df = pd.merge(cafe_df, stock_df, ___='date', how='inner')
print(aligned_df.corr())

答案:on


本章小结

行动清单

  • 在本地SQLite数据库中执行跨表查询,合并Match表与Team表的主客场球队名称
  • 使用Seaborn绘制两支特定球队的历史对战进球数折线图
  • 修改预测模型,加入球队近期比赛结果作为时序特征

「小象量化教研组」

🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问