📑 查看全课大纲(第 27 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.D绘图 -- mplot3d
- 82.D曲线可视化
- 83.D散点图可视化
- 84.D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
NumPy和SciPy介绍
约 9 分钟
科学计算基石:NumPy 与 SciPy 全景架构与 ndarray 核心属性精讲
小象实战讲义 · Python数据分析实战
在 Python 数据科学与人工智能技术栈中,NumPy(Numerical Python) 与 SciPy(Scientific Python) 占据着不可动摇的基石地位。几乎所有上层的高级数据分析与机器学习库(如 Pandas、Scikit-learn、Matplotlib、PyTorch、TensorFlow)都深度依赖 NumPy 的底层多维数组容器与高速数值计算内核。如果直接使用 Python 原生的 list 列表进行大规模数学运算,不仅会受到动态类型指针开销和解释器循环的严重拖累,内存占用也会呈倍数膨胀。本节我们将深入剖析 NumPy 与 SciPy 的定位、底层连续内存布局原理,以及核心数据结构 ndarray 的关键属性。
💡 核心导读
- 科学计算双子星定位对比:
- NumPy:提供底层 $N$ 维数组对象(
ndarray)、广播机制、矢量运算与线性代数基础; - SciPy:在 NumPy 基础上扩展了数值积分、常微分方程求解、优化算法、信号处理与统计检验等工程级算法包。
- NumPy:提供底层 $N$ 维数组对象(
ndarray多维数组核心特性:同质数据类型(Homogeneous)、连续内存存储(C-contiguous / Fortran-contiguous)与矢量化并行加速。- 三大核心元数据属性深度解构:
ndim:数组的维度轴数(如 1 维向量、2 维表格矩阵、3 维图像张量);shape:元组形式描述的各个轴向长度尺寸;dtype:底层元素的数据类型(int32、int64、float32、float64、bool等)。
1. 为什么需要 NumPy:原生 List 与 ndarray 内存对比
Python 原生列表(List)本质上是一个存放“对象指针”的动态数组。列表中的每个元素都可以是不同类型(整数、浮点、字符串),但这种灵活性带来了极高的内存开销与寻址延迟:
┌─────────────────────────────────────────────────────────────┐
│ 1. Python 原生 List 内存布局 (分散指针引用,缓存不命中) │
│ [ List 指针数组 ] ──► [ PyObject: 1 ] [ PyObject: 2 ] ... │
├─────────────────────────────────────────────────────────────┤
│ 2. NumPy ndarray 内存布局 (连续紧凑同质内存块,CPU 缓存友好) │
│ [ 连续内存缓冲区: | 0x01 | 0x02 | 0x03 | 0x04 | ... ] │
└─────────────────────────────────────────────────────────────┘NumPy 的 ndarray 在底层分配一块连续的内存缓冲区,所有元素必须拥有完全一致的数据类型(同质性),从而实现:
- 内存占用极致紧凑:无需存储额外的对象头信息,比原生 List 节省 70%~80% 内存;
- 硬件级缓存命中与 SIMD 指令加速:CPU 可以通过缓存行批量预读连续内存,利用向量化指令集一次并行计算多个数值。
2. Python 代码实战:ndarray 结构探索与核心属性读取
下面我们通过代码实操导入 NumPy,创建多维数组并深入剖析其内部结构属性:
# 示例 1:创建一维向量与二维矩阵并读取核心属性
import numpy as np
# 1. 常见别名导入规范
print(f"NumPy 版本: {np.__version__}")
# 2. 创建 1 维数组 (向量)
vec_1d = np.array([10, 20, 30, 40, 50], dtype=np.int32)
print("\n=== 1. 一维数组结构 ===")
print("数据内容:", vec_1d)
print("• 维度个数 (ndim):", vec_1d.ndim)
print("• 数组形状 (shape):", vec_1d.shape)
print("• 数据类型 (dtype):", vec_1d.dtype)
print("• 元素总数 (size):", vec_1d.size)
print("• 单元素字节数 (itemsize):", vec_1d.itemsize, "字节")
# 3. 创建 2 维数组 (矩阵: 2 行 3 列)
mat_2d = np.array([
[1.5, 2.5, 3.5],
[4.0, 5.0, 6.0]
], dtype=np.float64)
print("\n=== 2. 二维矩阵结构 ===")
print("矩阵内容:\n", mat_2d)
print("• 维度个数 (ndim):", mat_2d.ndim)
print("• 矩阵形状 (shape):", mat_2d.shape)
print("• 元素数据类型 (dtype):", mat_2d.dtype)
print("• 占用总字节数 (nbytes):", mat_2d.nbytes, "字节")接下来,我们对比 Python 原生列表与 NumPy 数组在 100 万次元素累加计算中的性能表现:
# 示例 2:性能基准压测对比 (原生 List vs NumPy ndarray)
import time
size = 1_000_000
# 1. 原生 Python List 循环求和
py_list = list(range(size))
t0 = time.time()
py_sum = sum(py_list)
t1 = time.time()
py_time = (t1 - t0) * 1000
# 2. NumPy ndarray 向量化求和
np_arr = np.arange(size)
t2 = time.time()
np_sum = np.sum(np_arr)
t3 = time.time()
np_time = (t3 - t2) * 1000
print("\n=== 3. 100 万数据量求和性能测试 ===")
print(f"• 原生 Python sum() 耗时: {py_time:.2f} ms | 结果: {py_sum}")
print(f"• NumPy np.sum() 耗时: {np_time:.2f} ms | 结果: {np_sum}")
print(f"🚀 NumPy 运算速度相比原生 Python 提升约: {py_time / max(np_time, 0.001):.1f} 倍!")📝 动手练一练
概念思考题:如果将包含整数与浮点数的混合列表
[1, 2, 3.14]传入np.array()创建数组,最终生成的ndarray的dtype会是什么?为什么?👉 点击查看参考答案
参考答案: 会转换为
float64(浮点型)。因为ndarray要求底层内存中所有元素同质存储,当输入数据包含不同类型时,NumPy 会自动向上进行隐式类型提升(Upcasting),将整数全部安全转换为精度更高的浮点数。编程练习:创建一个形状为
(2, 2, 3)的三维三阶张量(即包含 2 个二维矩阵,每个矩阵 2 行 3 列),打印其ndim、shape、size与所有元素。👉 点击查看参考答案
参考答案:
import numpy as np tensor_3d = np.array([ [[1, 2, 3], [4, 5, 6]], [[7, 8, 9], [10, 11, 12]] ]) print("张量内容:\n", tensor_3d) print("维度 (ndim):", tensor_3d.ndim) print("形状 (shape):", tensor_3d.shape) print("元素总数 (size):", tensor_3d.size)
本章小结
在本节中,我们建立了科学计算与多维数值分析的基础认知:
- 深刻理解了 NumPy 与 SciPy 的生态分工与协作定位;
- 剖析了
ndarray连续内存存储与高性能矢量运算的底层原理; - 掌握了
ndim、shape、dtype、size等关键核心属性的读取与含义。
📋 行动清单
- 在本地运行性能基准测试代码,直观感受矢量化计算的加速效果。
- 做好准备,进入下一小节学习《多维数组的创建与数据类型转换》!
—— 小象教研组
- 本节课件:NumPy和SciPy介绍(PDF · 399KB)下载
- 第4章配套代码包:NumPy 示例与美国大选实战数据(ZIP · 0.5MB)下载
- 全套课件打包(第1-5章)(ZIP · 12.8MB)下载
- 全套课件打包(第6-8章)(ZIP · 15MB)下载
- 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)下载
- 实战数据集:女性服装电商分析(ZIP · 2.8MB)下载
- Python 数据分析环境搭建指南(PDF · 2MB)下载
- Scrapy 安装教程(PDF · 12.7MB)下载
- 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)下载
- 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)下载
- 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)下载
- 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)下载
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问