📑 查看全课大纲(第 33 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.D绘图 -- mplot3d
- 82.D曲线可视化
- 83.D散点图可视化
- 84.D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
实战:2016美国大选分析
约 17 分钟
第4章综合实战:2016 美国大选民调数据统计与月度趋势分析
小象实战讲义 · Python数据分析实战
在系统掌握了 NumPy 的 ndarray 多维数组创建、切片索引、布尔掩码筛选、axis 轴向统计聚合、向量化加速以及通用函数(ufunc)之后,本节我们将迎来第 4 章的压轴综合大实战——《2016 美国大选民调数据统计与月度走势多维分析》。我们将使用真实公开的 2016 年美国大选民意调查数据集(包含全美各大民调机构在 2015 年 11 月至 2016 年 11 月期间的大规模抽样调研记录),综合运用 NumPy 的多维切片、字符串日期规整、布尔条件过滤与分组聚合算法,完整走通从数据加载、时间序列清洗到月度支持率统计全流程。
💡 核心导读
- 实战业务目标:从海量民调样本中清洗提取关键候选人支持率,统计全美大选前 12 个月的月度民意变化趋势。
- 数据处理三大核心工程步骤:
- 步骤 1:指定列数据提取与结构化对齐(民调截止日期、样本量、候选人得票率);
- 步骤 2:时间序列字符串规整(将各类日期格式转换为标准的
yyyy-mm年月字符串); - 步骤 3:基于 NumPy 向量化与分组聚合(利用
np.unique与布尔掩码按月统计平均支持率并进行对比)。
- 纯 Python + NumPy 高性能端到端代码实操。
1. 实战业务背景与数据集结构解密
美国总统大选民意调查数据记录了全美各大民调机构(如 CNN、Fox News、ABC 等)在选举周期的实时抽样调查结果。数据集的核心结构如下:
┌─────────────────────────────────────────────────────────────┐
│ 2016 美国大选民调数据核心字段 │
├─────────────────────────────────────────────────────────────┤
│ 1. end_date : 民调截止日期 (如 "2016-10-25" 或 "10/25/16")│
│ 2. pollster : 民调机构名称 (如 "CNN/ORC", "Quinnipiac") │
│ 3. sample_sub : 抽样群体类型 (如 "Likely Voters", "Adults")│
│ 4. rawpoll_c1 : 候选人 A (希拉里) 支持率百分比 │
│ 5. rawpoll_c2 : 候选人 B (特朗普) 支持率百分比 │
└─────────────────────────────────────────────────────────────┘2. Python 代码实战:构建民调数据集并执行月度趋势统计
为了便于每位学员在本地环境零依赖运行,我们首先在代码中构建包含代表性时间跨度的民意调查模拟数据集,随后完整运用 NumPy 进行分析:
# 示例 1:构建民调样本数据集与日期规整函数
import numpy as np
import datetime
import csv
import os
# 1. 模拟生成 2015-11 至 2016-11 期间的民意调查样本数据 (CSV 格式)
mock_poll_csv = "us_election_polls_2016.csv"
headers = ["poll_id", "pollster", "end_date", "sample_size", "clinton_pct", "trump_pct"]
sample_records = [
# 2015 年底民调样本
[1, "CNN/ORC", "2015-11-15", 1020, 48.5, 42.0],
[2, "Fox News", "2015-11-28", 980, 46.0, 44.5],
[3, "ABC News", "2015-12-10", 1150, 47.0, 43.0],
[4, "Quinnipiac", "2015-12-22", 1050, 49.0, 41.5],
# 2016 年初党内初选阶段
[5, "NBC/WSJ", "2016-03-12", 1200, 46.5, 43.5],
[6, "CNN/ORC", "2016-03-25", 1000, 48.0, 45.0],
[7, "Pew Research", "2016-06-14", 1300, 45.0, 44.0],
[8, "Fox News", "2016-06-29", 1100, 44.0, 45.5],
# 2016 年秋季决选冲刺阶段
[9, "ABC News", "2016-09-08", 1250, 47.5, 44.5],
[10, "CNN/ORC", "2016-09-22", 1400, 48.0, 43.0],
[11, "Quinnipiac", "2016-10-15", 1500, 49.5, 42.5],
[12, "Fox News", "2016-10-28", 1350, 46.0, 45.0],
[13, "NBC/WSJ", "2016-11-04", 1600, 47.8, 44.2]
]
with open(mock_poll_csv, "w", newline="", encoding="utf-8") as f:
writer = csv.writer(f)
writer.writerow(headers)
writer.writerows(sample_records)
print(f"✅ 成功生成 2016 大选民调测试数据集: {mock_poll_csv}")接下来,我们使用纯 NumPy 数组操作,提取日期与候选人支持率,将日期规整为 yyyy-mm,并计算各月份两位主要候选人的平均支持率与领先优势:
# 示例 2:使用 NumPy 执行数据加载、日期转换与月度聚合分析
# 1. 读取 CSV 数据集中的关键列
# 加载 end_date (字符串第 2 列) 以及两位候选人支持率 (浮点数第 4、5 列)
raw_data = []
with open(mock_poll_csv, "r", encoding="utf-8") as f:
reader = csv.reader(f)
next(reader) # 跳过表头
for row in reader:
raw_data.append([row[2], float(row[4]), float(row[5])])
# 转换为结构化 NumPy 数组
dates_list = np.array([r[0] for r in raw_data])
clinton_scores = np.array([r[1] for r in raw_data], dtype=np.float64)
trump_scores = np.array([r[2] for r in raw_data], dtype=np.float64)
print("\n=== 1. NumPy 数组载入概况 ===")
print("• 样本总数:", len(dates_list))
print("• 希拉里全周期平均支持率:", np.round(np.mean(clinton_scores), 2), "%")
print("• 特朗普全周期平均支持率:", np.round(np.mean(trump_scores), 2), "%")
# 2. 字符串日期规整:转换为 'yyyy-mm' 格式
# 例如 "2015-11-15" -> "2015-11"
months_list = np.array([d[:7] for d in dates_list])
unique_months = np.unique(months_list)
print("\n• 包含的统计月份:", unique_months)
# 3. 基于布尔掩码进行月度分组统计与民调走势汇总
print("\n=== 2. 2016 美国大选月度民调支持率分析报表 ===")
print(f"{'月份 (yyyy-mm)':<12} | {'希拉里均值(%)':<12} | {'特朗普均值(%)':<12} | {'领先优势(%)':<10}")
print("-" * 55)
for m in unique_months:
# 构建当前月份的布尔掩码
month_mask = (months_list == m)
# 提取当前月份两位候选人的民调子集并求均值
c_mean = np.mean(clinton_scores[month_mask])
t_mean = np.mean(trump_scores[month_mask])
lead = c_mean - t_mean
lead_str = f"希拉里 +{lead:.1f}%" if lead > 0 else f"特朗普 +{-lead:.1f}%"
print(f"{m:<14} | {c_mean:<14.2f} | {t_mean:<14.2f} | {lead_str}")
# 清理临时文件
if os.path.exists(mock_poll_csv):
os.remove(mock_poll_csv)📝 动手练一练
业务分析题:在实际的大选民调分析中,不同民调机构的样本量(如有的调查了 500 人,有的调查了 3000 人)相差很大。如果直接使用
np.mean()可能会忽略大样本的权重。如何利用 NumPy 的哪个函数来实现以样本量为权重的加权平均支持率计算?👉 点击查看参考答案
参考答案: 使用
np.average(a, weights=sample_sizes)函数。 通过weights参数传入各次民调的样本量数组,NumPy 会自动执行加权求和并归一化:编程练习:假设有两位候选人在 5 个摇摆州的得票率数组
c = np.array([48.2, 45.1, 51.0, 49.3, 46.5])与t = np.array([47.0, 46.5, 48.0, 48.9, 47.8])。请使用布尔掩码和np.sum()统计候选人 C 在几个州处于领先状态。👉 点击查看参考答案
参考答案:
import numpy as np c = np.array([48.2, 45.1, 51.0, 49.3, 46.5]) t = np.array([47.0, 46.5, 48.0, 48.9, 47.8]) lead_states_count = np.sum(c > t) # True 会被当做 1 进行求和 print("候选人 C 领先的州数量:", lead_states_count)
本章小结
在本节中,我们圆满完成了第 4 章《NumPy 科学计算》的压轴综合大实战:
- 完整应用了
ndarray结构、切片索引与数据类型规整; - 熟练运用
np.unique与布尔掩码实现了高效的分组聚合统计; - 深刻体会了向量化运算在真实社会调研与多维时间序列分析中的强大威力。
📋 行动清单
- 复习第 4 章全部 7 节内容,熟练掌握 NumPy 科学计算全套 API。
- 做好准备,进入第 5 章《数据分析工具 Pandas 基础》,开启表格数据分析新篇章!
—— 小象教研组
- 本节课件:实战:2016美国大选分析(PDF · 212KB)下载
- 全套课件打包(第1-5章)(ZIP · 12.8MB)下载
- 全套课件打包(第6-8章)(ZIP · 15MB)下载
- 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)下载
- 实战数据集:女性服装电商分析(ZIP · 2.8MB)下载
- Python 数据分析环境搭建指南(PDF · 2MB)下载
- Scrapy 安装教程(PDF · 12.7MB)下载
- 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)下载
- 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)下载
- 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)下载
- 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)下载
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问