От одного числа к последовательности чисел, затем к таблице — когда размерность продолжает увеличиваться, мы получаем тензор. Это самый универсальный контейнер для описания данных в мире ИИ.

Ранг 0
СкалярОдно число
Ранг 1
ВекторПоследовательность чисел
Ранг 2
МатрицаТаблица
Ранг 3+
ТензорТаблица, сложенная ещё на один слой
1. Интуитивное введение

1. Интуитивное введение: что именно такое тензор?

Давайте сначала не будем смотреть на формулы; посмотрим на фото. Небольшое цветное изображение размером 3×3 пикселя, у каждого пикселя есть три значения яркости: R, G, B. Чтобы полностью описать это изображение, нужны координаты в трёх направлениях:Какая строка, какой столбец и какой цветовой канал。

Это «тензор третьего порядка» — это не загадочное новое понятие, а просто идея «таблицы», расширенной ещё на один слой вдоль третьего направления. Его можно понимать как «несколько матриц, сложенных вместе».

Одно предложение для понимания:Скаляр — это точка, вектор — это ряд точек, матрица — это плоскость, а тензор — это «плоскость», сложенная вдоль большего числа направлений. Ранг — это «сколько координат нужно, чтобы указать элемент».
2. Математическое определение

2. Математическое определение

2.1 Единое представление от скаляра к тензору

По сути, это одно и то же: объект, значения которого индексируются несколькими координатами, различается только число индексов.

NameRankСколько координат нужно, чтобы указать элементОбозначение
Скаляр00$s$
Вектор11: $i$-й$v_i$
Matrix22: $i$-я строка и $j$-й столбец$M_{ij}$
Тензор$n$$n$ координат$T_{i_1 i_2 \dots i_n}$

2.2 Форма

«Форма» тензора описывает, сколько элементов он содержит в каждом направлении. Для RGB-изображения 3×3 из этой лекции:

$$ \text{форма}(T) = (3,\ 3,\ 3) \quad \text{соответствует } (\text{строка}, \text{столбец}, \text{канал}) $$

Общее количество элементов в тензоре — это произведение всех чисел в его форме:

$$ \text{общее количество элементов} = \prod_{k=1}^{n} d_k $$

Здесь $d_k$ — размер $k$-го измерения. В приведённом выше примере общее количество элементов равно $3 \times 3 \times 3 = 27$.

2.3 Сложение двух тензоров

Для тензоров с одинаковой формой сложение выполняется путём сложения элементов, стоящих в соответствующих позициях. Это правило единообразно работает от векторов и матриц до тензоров более высокого порядка:

$$ (A + B)_{i_1 i_2 \dots i_n} = A_{i_1 i_2 \dots i_n} + B_{i_1 i_2 \dots i_n} $$

3. Python на практике

3. Python на практике

Используйте NumPy, чтобы разобрать приведённый выше пример RGB-изображения 3×3 и получить интуитивное представление о двух понятиях — «ранг» и «форма».

3.1 Создание тензора третьего порядка

import numpy as np

# 模拟一张 3x3 像素的彩色小图,最后一维是 RGB 三个通道
image_tensor = np.random.randint(0, 256, size=(3, 3, 3))

print("阶数 (ndim):", image_tensor.ndim)
print("形状 (shape):", image_tensor.shape)
print("元素总数 (size):", image_tensor.size)
Ранг (ndim): 3 Форма: (3, 3, 3) Общее количество элементов (size): 27

3.2 Доступ к значениям по координатам

# 取第 0 行、第 1 列、G 通道(索引 1)的像素值
pixel_g = image_tensor[0, 1, 1]
print("该位置 G 通道值:", pixel_g)

# 取第 0 行、第 1 列的完整 RGB 三个值(一个 1 阶张量,即向量)
pixel_rgb = image_tensor[0, 1, :]
print("该位置 RGB 向量:", pixel_rgb)
Значение канала G в этой позиции: 143 Вектор RGB в этой позиции: [ 87 143 22]
Наблюдение:Использование срезов[0, 1, :]Результат, полученный из тензора третьего порядка, является тензором первого порядка (вектором). Это показывает, что «фиксация нескольких координат в тензоре более высокого порядка даёт тензор более низкого порядка» — это правило будет неоднократно использоваться позже при обсуждении пакетной обработки данных в нейронных сетях.
4. 3D-визуализация

4. 3D-визуализация: «увидеть» тензор

Ниже мы используем Plotly, чтобы изобразить этот тензор 3×3×3 как 27 точек в пространстве: три координатные оси соответствуют «строке, столбцу, каналу» соответственно, а интенсивность цвета каждой точки представляет величину значения в этой позиции. Перетаскивайте мышь, чтобы вращать вид.

Пространственное распределение тензора 3×3×3 · Более яркий цвет означает большее значение

Обратите внимание: зафиксируйте слой «канал», и вы увидите плоскость 3×3 — это в точности тензор второго порядка (матрица). Именно поэтому мы говорим, что «матрица — это частный случай тензора».

5. Связь с ИИ

5. Связь с ИИ

Причина, по которой тензоры являются основной структурой данных в фреймворках глубокого обучения (PyTorch, TensorFlow), заключается в том, что почти все данные ИИ можно естественно представить в виде тензоров:

Тип данныхТипичная формаСмысл каждого измерения
Векторы слов фрагмента текста(длина последовательности, размерность вектора слова)Какое слово и какая размерность вектора слова
Цветное изображение(высота, ширина, каналы)строка, столбец, RGB-каналы
Батч цветных изображений(размер батча, высота, ширина, каналы)Какое изображение, плюс три измерения самого изображения
Видеоклип(количество кадров, высота, ширина, каналы)Какой кадр, плюс три измерения однокадрового изображения

Видно, что «размер батча» — параметр, который чаще всего настраивают во время обучения, — по сути добавляет тензору дополнительное измерение. Как только вы поймёте ранг и форму тензора, когда увидитеshape mismatchошибку, вы сразу сможете определить, какое измерение не совпадает.

Больше материалов:https://www.example.com/ai-math/ai-math-tutorial.html