← 返回《Python 数据分析实战》
📑 查看全课大纲(第 62 / 101 节)
  1. 1.数据分析基本概念
  2. 2.学习数据分析的一般路线
  3. 3.数据分析的流程
  4. 4.数据类型
  5. 5.环境部署(1)
  6. 6.环境部署(2)
  7. 7.课程介绍
  8. 8.TXT文件操作
  9. 9.JSON文件操作
  10. 10.CSV文件操作
  11. 11.Excel文件操作
  12. 12.数据库及SQL常用语法
  13. 13.数据库基本操作
  14. 14.数据库多表连接
  15. 15.实战:欧洲职业足球数据库分析
  16. 16.爬虫简介
  17. 17.URL管理模块
  18. 18.网页下载模块
  19. 19.网页解析模块(1)
  20. 20.网页解析模块(2)
  21. 21.Scrapy简介
  22. 22.Scrapy使用步骤(1)
  23. 23.Scrapy使用步骤(2)
  24. 24.Scrapy使用步骤(3)
  25. 25.Scrapy使用步骤(4)
  26. 26.实战:获取国内城市空气质量指数数据
  27. 27.NumPy和SciPy介绍
  28. 28.多维数组
  29. 29.多维数组操作
  30. 30.NumPy的常用方法
  31. 31.向量化介绍
  32. 32.向量化及通用函数
  33. 33.实战:2016美国大选分析
  34. 34.数据结构-Series
  35. 35.数据结构-DataFrame
  36. 36.数据结构-Index
  37. 37.Series的索引操作
  38. 38.DataFrame的索引操作
  39. 39.索引操作总结
  40. 40.运算与对齐
  41. 41.函数应用操作(1) -- map
  42. 42.函数应用操作 (2) -- apply applymap
  43. 43.文件读写操作
  44. 44.排序操作
  45. 45.数据清洗--处理缺失数据
  46. 46.数据清洗--处理重复数据
  47. 47.数据清洗--替换数据
  48. 48.常用统计方法(1) -- describe quantile
  49. 49.常用统计方法(2) -- sum mean median count
  50. 50.常用统计方法(3) -- max min idxmax idxmin
  51. 51.常用统计方法(4) -- mad var std cumsum
  52. 52.实战:全球食品数据分析
  53. 53.层级索引
  54. 54.分组与聚合介绍
  55. 55.分组操作(1) -- GroupBy对象及常用聚合操作
  56. 56.分组操作(2) -- 自定义分组及聚合操作
  57. 57.透视表介绍
  58. 58.透视表操作
  59. 59.数据规整(1) -- 数据合并concat
  60. 60.数据规整(2) -- 数据连接merge
  61. 61.数据重构(3) -- 数据重构stack unstack
  62. 62.实战:互联网电影资料库分析
  63. 63.探索性数据分析EDA介绍
  64. 64.EDA的目的
  65. 65.EDA常用工具
  66. 66.Matplotlib绘图基本介绍
  67. 67.Matplotlib画布
  68. 68.散点图和柱状图的绘制
  69. 69.直方图的绘制
  70. 70.矩阵绘图
  71. 71.子图的使用
  72. 72.Matplotlib颜色、标记、线型
  73. 73.Matplotlib坐标刻度、标签、图例、标题
  74. 74.Seaborn介绍
  75. 75.数据集分布可视化(1) -- 单变量分布、双变量分布
  76. 76.数据集分布可视化(2) -- 变量关系可视化
  77. 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
  78. 78.交互式数据可视化工具Bokeh介绍
  79. 79.Bokeh绘制散点图、柱状图、盒子图、弦图
  80. 80.Bokeh绘制常用图形元素
  81. 81.D绘图 -- mplot3d
  82. 82.D曲线可视化
  83. 83.D散点图可视化
  84. 84.D柱状图可视化
  85. 85.Pandas绘图
  86. 86.实战:Lending Club借贷数据探索性分析及可视化
  87. 87.机器学习介绍及应用场景
  88. 88.机器学习建模介绍 (1) -- 分类
  89. 89.机器学习建模介绍 (2) -- 回归
  90. 90.机器学习建模介绍 (3) -- 聚类
  91. 91.机器学习分类
  92. 92.机器学习工具scikit-learn
  93. 93.使用scikit-learn的流程
  94. 94.数据集准备及划分
  95. 95.模型选择
  96. 96.数据预处理及特征工程
  97. 97.过拟合与欠拟合
  98. 98.模型调参介绍
  99. 99.模型调参方法
  100. 100.模型测试及评价
  101. 101.实战:通过移动设备行为数据预测性别和年龄

实战:互联网电影资料库分析

约 24 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

第6章综合实战:互联网电影资料库多维票房与评分深度探索分析

小象实战讲义 · Python数据分析实战

在系统掌握了 Pandas 高阶数据规整体系——包括 MultiIndex 分层索引、Split-Apply-Combine 分组聚合与变换(aggtransformfilter)、多维数据透视表(pivot_table)、表连接与堆叠(mergeconcatstack)之后,本节我们将迎来第 6 章的压轴综合大实战——《互联网电影资料库(IMDb / Douban Movie)多维商业数据深度探索分析》。我们将使用经典的电影工业数据集(涵盖电影名称、上映年份、导演、主演、类型标签、用户评分、投票人数与全球票房等核心维度),综合运用全套 Pandas 高阶技能,完成从数据清洗、多类型拆分、导演/类型交叉分析到年度商业票房洞察的端到端项目实战。

💡 核心导读

  • 实战业务目标:深度剖析全球电影工业在不同类型、年代、导演维度的口碑评分与票房回报规律。
  • 数据工程四大核心步骤
      1. 数据加载与多字段清洗(处理包含多类型的字符串分割与展开);
      1. 导演与类型维度的 groupby().agg() 多重汇总(计算作品数、均分与总票房);
      1. 构建年代与类型的二维 pivot_table 动态透视矩阵;
      1. 使用 transform() 衍生电影在同类型内部的相对评分排名。
  • 高内聚可直接执行的端到端代码实战

1. 电影数据集构建与类型字段规整

为了保证代码零环境依赖可复现,我们在内存中构建包含代表性电影工业样本的数据集:

┌─────────────────────────────────────────────────────────────┐
│                 电影数据库核心分析维度                      │
├─────────────────────────────────────────────────────────────┤
│ 1. title       : 电影名称 (如 "星际穿越", "盗梦空间")       │
│ 2. release_year: 上映年份 (2010 ~ 2023)                     │
│ 3. director    : 导演姓名 (如 "诺兰", "卡梅隆")             │
│ 4. genres      : 题材标签 (如 "科幻|冒险", "剧情|犯罪")     │
│ 5. rating      : 观众评分 (0 ~ 10 分)                       │
│ 6. box_office  : 全球票房 (百万美元)                        │
└─────────────────────────────────────────────────────────────┘
import pandas as pd
import numpy as np

# 1. 构建电影工业样本数据集
raw_movies = {
    "title": ["星际穿越", "盗梦空间", "阿凡达", "泰坦尼克号", "流浪地球", "流浪地球2", "楚门的世界", "肖申克的救赎", "教父", "奥本海默"],
    "release_year": [2014, 2010, 2009, 1997, 2019, 2023, 1998, 1994, 1972, 2023],
    "director": ["诺兰", "诺兰", "卡梅隆", "卡梅隆", "郭帆", "郭帆", "彼得·威尔", "弗兰克", "科波拉", "诺兰"],
    "main_genre": ["科幻", "科幻", "科幻", "爱情", "科幻", "科幻", "剧情", "剧情", "犯罪", "传记"],
    "rating": [9.4, 9.3, 8.8, 9.5, 7.9, 8.3, 9.3, 9.7, 9.3, 8.8],
    "box_office": [730.0, 836.0, 2923.0, 2257.0, 700.0, 600.0, 264.0, 58.0, 250.0, 957.0]
}

df_movies = pd.DataFrame(raw_movies)
print("=== 1. 原始电影数据集概览 ===")
print(df_movies)
print("\n数据信息摘要:")
df_movies.info()

2. 多维分组聚合、透视分析与组内特征衍生

我们综合运用 groupbyaggpivot_tabletransform 对导演实力与题材票房进行全景探索。

# 1. 导演多维战力分析:作品数、平均评分、总票房 (agg)
director_stats = df_movies.groupby("director").agg(
    movie_count=("title", "count"),
    avg_rating=("rating", "mean"),
    total_box_office=("box_office", "sum")
).sort_values(by="total_box_office", ascending=False)

print("=== 2. 顶级导演票房与口碑排行榜 (agg) ===")
print(director_stats.round(2))

# 2. 构建 (主类型 x 导演) 票房透视表 (pivot_table)
pivot_genre_dir = pd.pivot_table(
    df_movies,
    values="box_office",
    index="main_genre",
    columns="director",
    aggfunc="sum",
    fill_value=0,
    margins=True,
    margins_name="品类总票房"
)

print("\n=== 3. 题材与导演票房交叉透视表 (百万美元) ===")
print(pivot_genre_dir)

# 3. 使用 transform 计算每部电影相对于同题材平均分的溢价得分
df_movies["genre_avg_rating"] = df_movies.groupby("main_genre")["rating"].transform("mean")
df_movies["rating_premium"] = df_movies["rating"] - df_movies["genre_avg_rating"]

print("\n=== 4. 组内相对口碑溢价评分 (transform) ===")
print(df_movies[["title", "main_genre", "rating", "genre_avg_rating", "rating_premium"]].round(2))

📝 动手练一练

  1. 业务思考题:在电影数据分析中,很多电影同时拥有多个类型标签(如 ‘科幻|悬疑|冒险’)。如果想要统计每个单独标签的电影总数与平均分,应该使用 Pandas 的哪个字符串方法将该列拆分展开成多行?

    👉 点击查看参考答案

    参考答案: 使用 df.assign(genres=df['genres'].str.split('|')).explode('genres')str.split('|') 将字符串拆分为列表,接着调用 explode() 可以将列表中的每一个元素炸开重塑为独立的一行。

  2. 综合编程练习:请在 df_movies 中筛选出票房大于 5 亿美元且评分大于 9.0 分的“双十佳超级大片”清单。

    👉 点击查看参考答案

    参考答案

    blockbusters = df_movies[(df_movies['box_office'] > 500) & (df_movies['rating'] > 9.0)]
    print(blockbusters[['title', 'director', 'rating', 'box_office']])

本章小结

  • 综合贯通了 MultiIndex、GroupBy、aggpivot_table 在真实行业项目中的协同运用;
  • 熟练掌握了利用 transform() 开展同品类基准对标与溢价度量的高阶技巧;
  • 具备了处理复杂高维商业数据清洗、多表连接与多维建模的成熟分析能力。

📋 行动清单

  • 在本地执行示例代码,观察控制台输出并记录关键指标。
  • 复习第 6 章全部 10 节内容,准备进入第 7 章《数据可视化》,开启图表呈现新篇章!

—— 小象教研组

配套学习资源与课件
  • 全套课件打包(第1-5章)(ZIP · 12.8MB)
    下载
  • 全套课件打包(第6-8章)(ZIP · 15MB)
    下载
  • 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)
    下载
  • 实战数据集:女性服装电商分析(ZIP · 2.8MB)
    下载
  • Python 数据分析环境搭建指南(PDF · 2MB)
    下载
  • Scrapy 安装教程(PDF · 12.7MB)
    下载
  • 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问