📑 查看全课大纲(第 62 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.D绘图 -- mplot3d
- 82.D曲线可视化
- 83.D散点图可视化
- 84.D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
实战:互联网电影资料库分析
约 24 分钟
第6章综合实战:互联网电影资料库多维票房与评分深度探索分析
小象实战讲义 · Python数据分析实战
在系统掌握了 Pandas 高阶数据规整体系——包括 MultiIndex 分层索引、Split-Apply-Combine 分组聚合与变换(agg、transform、filter)、多维数据透视表(pivot_table)、表连接与堆叠(merge、concat、stack)之后,本节我们将迎来第 6 章的压轴综合大实战——《互联网电影资料库(IMDb / Douban Movie)多维商业数据深度探索分析》。我们将使用经典的电影工业数据集(涵盖电影名称、上映年份、导演、主演、类型标签、用户评分、投票人数与全球票房等核心维度),综合运用全套 Pandas 高阶技能,完成从数据清洗、多类型拆分、导演/类型交叉分析到年度商业票房洞察的端到端项目实战。
💡 核心导读
- 实战业务目标:深度剖析全球电影工业在不同类型、年代、导演维度的口碑评分与票房回报规律。
- 数据工程四大核心步骤:
- 数据加载与多字段清洗(处理包含多类型的字符串分割与展开);
- 导演与类型维度的
groupby().agg()多重汇总(计算作品数、均分与总票房);
- 导演与类型维度的
- 构建年代与类型的二维
pivot_table动态透视矩阵;
- 构建年代与类型的二维
- 使用
transform()衍生电影在同类型内部的相对评分排名。
- 使用
- 高内聚可直接执行的端到端代码实战。
1. 电影数据集构建与类型字段规整
为了保证代码零环境依赖可复现,我们在内存中构建包含代表性电影工业样本的数据集:
┌─────────────────────────────────────────────────────────────┐
│ 电影数据库核心分析维度 │
├─────────────────────────────────────────────────────────────┤
│ 1. title : 电影名称 (如 "星际穿越", "盗梦空间") │
│ 2. release_year: 上映年份 (2010 ~ 2023) │
│ 3. director : 导演姓名 (如 "诺兰", "卡梅隆") │
│ 4. genres : 题材标签 (如 "科幻|冒险", "剧情|犯罪") │
│ 5. rating : 观众评分 (0 ~ 10 分) │
│ 6. box_office : 全球票房 (百万美元) │
└─────────────────────────────────────────────────────────────┘import pandas as pd
import numpy as np
# 1. 构建电影工业样本数据集
raw_movies = {
"title": ["星际穿越", "盗梦空间", "阿凡达", "泰坦尼克号", "流浪地球", "流浪地球2", "楚门的世界", "肖申克的救赎", "教父", "奥本海默"],
"release_year": [2014, 2010, 2009, 1997, 2019, 2023, 1998, 1994, 1972, 2023],
"director": ["诺兰", "诺兰", "卡梅隆", "卡梅隆", "郭帆", "郭帆", "彼得·威尔", "弗兰克", "科波拉", "诺兰"],
"main_genre": ["科幻", "科幻", "科幻", "爱情", "科幻", "科幻", "剧情", "剧情", "犯罪", "传记"],
"rating": [9.4, 9.3, 8.8, 9.5, 7.9, 8.3, 9.3, 9.7, 9.3, 8.8],
"box_office": [730.0, 836.0, 2923.0, 2257.0, 700.0, 600.0, 264.0, 58.0, 250.0, 957.0]
}
df_movies = pd.DataFrame(raw_movies)
print("=== 1. 原始电影数据集概览 ===")
print(df_movies)
print("\n数据信息摘要:")
df_movies.info()2. 多维分组聚合、透视分析与组内特征衍生
我们综合运用 groupby、agg、pivot_table 与 transform 对导演实力与题材票房进行全景探索。
# 1. 导演多维战力分析:作品数、平均评分、总票房 (agg)
director_stats = df_movies.groupby("director").agg(
movie_count=("title", "count"),
avg_rating=("rating", "mean"),
total_box_office=("box_office", "sum")
).sort_values(by="total_box_office", ascending=False)
print("=== 2. 顶级导演票房与口碑排行榜 (agg) ===")
print(director_stats.round(2))
# 2. 构建 (主类型 x 导演) 票房透视表 (pivot_table)
pivot_genre_dir = pd.pivot_table(
df_movies,
values="box_office",
index="main_genre",
columns="director",
aggfunc="sum",
fill_value=0,
margins=True,
margins_name="品类总票房"
)
print("\n=== 3. 题材与导演票房交叉透视表 (百万美元) ===")
print(pivot_genre_dir)
# 3. 使用 transform 计算每部电影相对于同题材平均分的溢价得分
df_movies["genre_avg_rating"] = df_movies.groupby("main_genre")["rating"].transform("mean")
df_movies["rating_premium"] = df_movies["rating"] - df_movies["genre_avg_rating"]
print("\n=== 4. 组内相对口碑溢价评分 (transform) ===")
print(df_movies[["title", "main_genre", "rating", "genre_avg_rating", "rating_premium"]].round(2))📝 动手练一练
业务思考题:在电影数据分析中,很多电影同时拥有多个类型标签(如 ‘科幻|悬疑|冒险’)。如果想要统计每个单独标签的电影总数与平均分,应该使用 Pandas 的哪个字符串方法将该列拆分展开成多行?
👉 点击查看参考答案
参考答案: 使用
df.assign(genres=df['genres'].str.split('|')).explode('genres')。str.split('|')将字符串拆分为列表,接着调用explode()可以将列表中的每一个元素炸开重塑为独立的一行。综合编程练习:请在
df_movies中筛选出票房大于 5 亿美元且评分大于 9.0 分的“双十佳超级大片”清单。👉 点击查看参考答案
参考答案:
blockbusters = df_movies[(df_movies['box_office'] > 500) & (df_movies['rating'] > 9.0)] print(blockbusters[['title', 'director', 'rating', 'box_office']])
本章小结
- 综合贯通了 MultiIndex、GroupBy、
agg与pivot_table在真实行业项目中的协同运用; - 熟练掌握了利用
transform()开展同品类基准对标与溢价度量的高阶技巧; - 具备了处理复杂高维商业数据清洗、多表连接与多维建模的成熟分析能力。
📋 行动清单
- 在本地执行示例代码,观察控制台输出并记录关键指标。
- 复习第 6 章全部 10 节内容,准备进入第 7 章《数据可视化》,开启图表呈现新篇章!
—— 小象教研组
- 全套课件打包(第1-5章)(ZIP · 12.8MB)下载
- 全套课件打包(第6-8章)(ZIP · 15MB)下载
- 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)下载
- 实战数据集:女性服装电商分析(ZIP · 2.8MB)下载
- Python 数据分析环境搭建指南(PDF · 2MB)下载
- Scrapy 安装教程(PDF · 12.7MB)下载
- 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)下载
- 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)下载
- 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)下载
- 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)下载
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问