От одного числа к последовательности чисел, затем к таблице — когда размерность продолжает увеличиваться, мы получаем тензор. Это самый универсальный контейнер для описания данных в мире ИИ.
1. Интуитивное введение: что именно такое тензор?
Давайте сначала не будем смотреть на формулы; посмотрим на фото. Небольшое цветное изображение размером 3×3 пикселя, у каждого пикселя есть три значения яркости: R, G, B. Чтобы полностью описать это изображение, нужны координаты в трёх направлениях:Какая строка, какой столбец и какой цветовой канал。
Это «тензор третьего порядка» — это не загадочное новое понятие, а просто идея «таблицы», расширенной ещё на один слой вдоль третьего направления. Его можно понимать как «несколько матриц, сложенных вместе».
2. Математическое определение
2.1 Единое представление от скаляра к тензору
По сути, это одно и то же: объект, значения которого индексируются несколькими координатами, различается только число индексов.
| Name | Rank | Сколько координат нужно, чтобы указать элемент | Обозначение |
|---|---|---|---|
| Скаляр | 0 | 0 | $s$ |
| Вектор | 1 | 1: $i$-й | $v_i$ |
| Matrix | 2 | 2: $i$-я строка и $j$-й столбец | $M_{ij}$ |
| Тензор | $n$ | $n$ координат | $T_{i_1 i_2 \dots i_n}$ |
2.2 Форма
«Форма» тензора описывает, сколько элементов он содержит в каждом направлении. Для RGB-изображения 3×3 из этой лекции:
$$ \text{форма}(T) = (3,\ 3,\ 3) \quad \text{соответствует } (\text{строка}, \text{столбец}, \text{канал}) $$
Общее количество элементов в тензоре — это произведение всех чисел в его форме:
$$ \text{общее количество элементов} = \prod_{k=1}^{n} d_k $$
Здесь $d_k$ — размер $k$-го измерения. В приведённом выше примере общее количество элементов равно $3 \times 3 \times 3 = 27$.
2.3 Сложение двух тензоров
Для тензоров с одинаковой формой сложение выполняется путём сложения элементов, стоящих в соответствующих позициях. Это правило единообразно работает от векторов и матриц до тензоров более высокого порядка:
$$ (A + B)_{i_1 i_2 \dots i_n} = A_{i_1 i_2 \dots i_n} + B_{i_1 i_2 \dots i_n} $$
3. Python на практике
Используйте NumPy, чтобы разобрать приведённый выше пример RGB-изображения 3×3 и получить интуитивное представление о двух понятиях — «ранг» и «форма».
3.1 Создание тензора третьего порядка
import numpy as np
# 模拟一张 3x3 像素的彩色小图,最后一维是 RGB 三个通道
image_tensor = np.random.randint(0, 256, size=(3, 3, 3))
print("阶数 (ndim):", image_tensor.ndim)
print("形状 (shape):", image_tensor.shape)
print("元素总数 (size):", image_tensor.size)
3.2 Доступ к значениям по координатам
# 取第 0 行、第 1 列、G 通道(索引 1)的像素值
pixel_g = image_tensor[0, 1, 1]
print("该位置 G 通道值:", pixel_g)
# 取第 0 行、第 1 列的完整 RGB 三个值(一个 1 阶张量,即向量)
pixel_rgb = image_tensor[0, 1, :]
print("该位置 RGB 向量:", pixel_rgb)
[0, 1, :]Результат, полученный из тензора третьего порядка, является тензором первого порядка (вектором). Это показывает, что «фиксация нескольких координат в тензоре более высокого порядка даёт тензор более низкого порядка» — это правило будет неоднократно использоваться позже при обсуждении пакетной обработки данных в нейронных сетях.4. 3D-визуализация: «увидеть» тензор
Ниже мы используем Plotly, чтобы изобразить этот тензор 3×3×3 как 27 точек в пространстве: три координатные оси соответствуют «строке, столбцу, каналу» соответственно, а интенсивность цвета каждой точки представляет величину значения в этой позиции. Перетаскивайте мышь, чтобы вращать вид.
Обратите внимание: зафиксируйте слой «канал», и вы увидите плоскость 3×3 — это в точности тензор второго порядка (матрица). Именно поэтому мы говорим, что «матрица — это частный случай тензора».
5. Связь с ИИ
Причина, по которой тензоры являются основной структурой данных в фреймворках глубокого обучения (PyTorch, TensorFlow), заключается в том, что почти все данные ИИ можно естественно представить в виде тензоров:
| Тип данных | Типичная форма | Смысл каждого измерения |
|---|---|---|
| Векторы слов фрагмента текста | (длина последовательности, размерность вектора слова) | Какое слово и какая размерность вектора слова |
| Цветное изображение | (высота, ширина, каналы) | строка, столбец, RGB-каналы |
| Батч цветных изображений | (размер батча, высота, ширина, каналы) | Какое изображение, плюс три измерения самого изображения |
| Видеоклип | (количество кадров, высота, ширина, каналы) | Какой кадр, плюс три измерения однокадрового изображения |
Видно, что «размер батча» — параметр, который чаще всего настраивают во время обучения, — по сути добавляет тензору дополнительное измерение. Как только вы поймёте ранг и форму тензора, когда увидитеshape mismatchошибку, вы сразу сможете определить, какое измерение не совпадает.
Больше материалов:https://www.example.com/ai-math/ai-math-tutorial.html