Сложение векторов и умножение на скаляр -- геометрическая перспектива
Сложение векторов: соединение двух смещений
Вектор можно понимать как стрелку, исходящую из начала координат, — он имеет длину и направление.
Сложение двух векторов означает соединение двух смещений вместе.
Правило треугольника
Соедините начало второго вектора b с концом первого вектора a.
Отрезок от начала a до конца b — это a + b.
Интуиция: «Сначала пройди вдоль a, затем вдоль b»
Правило параллелограмма
Используя a и b как две смежные стороны, нарисуйте параллелограмм.
Диагональ, выходящая из начальной точки, равна a + b.
Интуиция: оба правила дают в точности один и тот же результат
Умножение вектора на скаляр: растяжение или сжатие вектора
Умножение вектора на скаляр (обычное число) приводит кизменению длины вектора при сохранении направления его линии неизменным。
|c| > 1
Растяжение
например, 2v: длина ×2
0 < |c| < 1
Сжатие
например, 0.5v: длина ÷2
c < 0
Смена направления на противоположное
например, -v: противоположное направление
c = 0
Сжатие в точку
например, 0v = нулевой вектор
Скалярное умножение меняет только "длину" вектора, но не направление прямой, на которой он лежит (отрицательные числа меняют направление на противоположное, но он остаётся на той же прямой).
Это свойство называетсяколлинеарностью— два вектора до и после скалярного умножения всегда лежат на одной прямой.
Повседневные примеры
Сложение векторов: маршруты из нескольких отрезков в навигации
Начиная от дома, сначала пройдите 300 m на восток (вектор a = (300, 0)), затем 400 m на север (вектор b = (0, 400)).
В итоге вы оказываетесь в 500 m к северо-востоку от дома — это a + b = (300, 400).
Скалярное умножение: скорость воспроизведения видео
При обычной скорости, чтобы пройти 5 шагов, требуется 5 секунд. При скорости 2× — то же направление, то же количество шагов — требуется всего 2.5 секунды.
Вектор перемещения не изменил направление, но "размер за шаг" удвоился — это эффект от 2v.
Обратный ход: возвращение тем же путём, которым вы пришли
Вы идёте 100 m на восток (v = (100, 0)), затем хотите вернуться в начальную точку—вам нужно пройти 100 m на запад (-v = (-100, 0)).
Знак минус — это команда «развернуться» для направления вектора.
Математические определения
Сложение векторов
Чтобы сложить два вектора одинаковой размерности, сложите соответствующие элементы.
\[ \mathbf{a} + \mathbf{b} = \begin{bmatrix} a_1 \\ a_2 \\ \vdots \\ a_n \end{bmatrix} + \begin{bmatrix} b_1 \\ b_2 \\ \vdots \\ b_n \end{bmatrix} = \begin{bmatrix} a_1 + b_1 \\ a_2 + b_2 \\ \vdots \\ a_n + b_n \end{bmatrix} \]Предварительное условие: два вектора должны иметь одинаковую размерность, иначе сложение не имеет смысла.
Вычитание векторов
Вычитание векторов = сложение с противоположным вектором: \( \mathbf{a} - \mathbf{b} = \mathbf{a} + (-\mathbf{b}) \)
Умножение вектора на скаляр
Умножение скаляра c на вектор означает умножение каждого элемента вектора на c:
\[ c \cdot \mathbf{v} = c \cdot \begin{bmatrix} v_1 \\ v_2 \\ \vdots \\ v_n \end{bmatrix} = \begin{bmatrix} c \cdot v_1 \\ c \cdot v_2 \\ \vdots \\ c \cdot v_n \end{bmatrix} \]Краткая справка по свойствам операций
| Свойство | Формула | Интуиция |
|---|---|---|
| Коммутативный закон | \( \mathbf{a} + \mathbf{b} = \mathbf{b} + \mathbf{a} \) | Какой бы отрезок вы ни прошли первым, результат один и тот же |
| Ассоциативный закон | \( (\mathbf{a}+\mathbf{b})+\mathbf{c} = \mathbf{a}+(\mathbf{b}+\mathbf{c}) \) | Как бы вы ни группировали перемещения, результат один и тот же |
| Распределительный закон | \( c(\mathbf{a}+\mathbf{b}) = c\mathbf{a} + c\mathbf{b} \) | Сначала сложить, потом растянуть = сначала растянуть, потом сложить |
Практика на Python
Пример
# Создайте два вектора
a_example = np.array([3, 1]) # a = (3, 1)
b_example = np.array([1, 2]) # b = (1, 2)
# Сложение векторов: сложите соответствующие позиции
add_result = a_example + b_example
print("a + b =", add_result) # [4, 3]
# Вычитание векторов
sub_result = a_example - b_example
print("a - b =", sub_result) # [2, -1]
# Умножение на скаляр: умножение каждого элемента на скаляр
c = 2.5
scale_result = c * a_example
print(f"{c} * a =", scale_result) # [7.5, 2.5]
# Отрицательный вектор: полностью противоположное направление
neg = -a_example
print("-a =", neg) # [-3, -1]
# Broadcasting в NumPy: скаляр применяется непосредственно к каждому элементу вектора
print("a + 10 =", a_example + 10) # Добавить 10 к каждому элементу
print("a * 3 =", a_example * 3) # Умножить каждый элемент на 3
a + b = [4 3] a - b = [2 -1] 2.5 * a = [7.5 2.5] -a = [-3 -1] a + 10 = [13 11] a * 3 = [9 3]
Пример
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['Arial Unicode MS', 'SimHei', 'DejaVu Sans']
plt.rcParams['axes.unicode_minus'] = False
example_a = np.array([3, 1])
example_b = np.array([1, 2])
example_sum = example_a + example_b
fig, axes = plt.subplots(1, 2, figsize=(12, 5))
# Левый рисунок: правило треугольника
for ax, title in zip(axes, ['Правило треугольника', 'Правило параллелограмма']):
ax.set_xlim(-1, 6); ax.set_ylim(-1, 5)
ax.axhline(y=0, color='gray', lw=0.5); ax.axvline(x=0, color='gray', lw=0.5)
ax.set_aspect('equal'); ax.grid(True, alpha=0.3); ax.set_title(title)
# Нарисовать правило треугольника
ax = axes[0]
ax.arrow(0, 0, example_a[0], example_a[1], head_width=0.2, head_length=0.2,
fc='#e74c3c', ec='#e74c3c', lw=2, label='a')
ax.arrow(example_a[0], example_a[1], example_b[0], example_b[1],
head_width=0.2, head_length=0.2, fc='#3498db', ec='#3498db', lw=2, label='b')
ax.arrow(0, 0, example_sum[0], example_sum[1], head_width=0.2, head_length=0.2,
fc='#2E7DCC', ec='#2E7DCC', lw=2, ls='dashed', label='a+b')
ax.legend()
# Нарисуйте правило параллелограмма
ax = axes[1]
ax.arrow(0, 0, example_a[0], example_a[1], head_width=0.2, head_length=0.2,
fc='#e74c3c', ec='#e74c3c', lw=2, label='a')
ax.arrow(0, 0, example_b[0], example_b[1], head_width=0.2, head_length=0.2,
fc='#3498db', ec='#3498db', lw=2, label='b')
ax.arrow(example_a[0], example_a[1], example_b[0], example_b[1],
head_width=0.2, head_length=0.2, fc='#3498db', ec='#3498db', lw=1.5, ls='dotted', alpha=0.6)
ax.arrow(example_b[0], example_b[1], example_a[0], example_a[1],
head_width=0.2, head_length=0.2, fc='#e74c3c', ec='#e74c3c', lw=1.5, ls='dotted', альфа=0.6)
ax.arrow(0, 0, example_sum[0], example_sum[1], head_width=0.2, head_length=0.2,
fc='#2E7DCC', ec='#2E7DCC', lw=2, ls='dashed', label='a+b')
ax.legend()
plt.tight_layout(); plt.show()
Интерактивная демонстрация сложения векторов
Перетаскивайте расположенные ниже конечные точки красного вектора a и синего вектора b и наблюдайте, как зелёный результирующий вектор a+b изменяется в реальном времени. Изучите правило треугольника и правило параллелограмма:
Сценарии применения в ИИ
Семантические операции над векторами слов
Самое известное открытие моделей векторных представлений слов, таких как Word2Vec и GloVe: сложение и вычитание векторов имеют семантический смысл.
\[ \text{vec}(\text{king}) - \text{vec}(\text{man}) + \text{vec}(\text{woman}) \approx \text{vec}(\text{queen}) \]Вычитание удаляет компоненту признака «мужской», а сложение добавляет компоненту признака «женский». Полученный вектор ближе всего к «queen» в пространстве вложений.
Подобная семантическая операция не ограничивается полом — «Paris - France + Italy ≈ Rome» работает по тому же принципу. Сложение и вычитание векторов здесь действуют как «редактирование признаков».
Смещение в нейронных сетях
В вычислении каждого нейрона \( y = Wx + b \), +b — это сложение векторов; смещение сдвигает результат wx целиком.
Без смещения b выход модели при x=0 обязательно был бы равен 0, что сильно ограничивает выразительную способность модели. Смещение эквивалентно заданию каждому нейрону «значения активации по умолчанию».
Обновление градиента
Обновление параметров во время обучения \( \theta_{new} = \theta_{old} - \eta \nabla J \) представляет собой комбинацию скалярного умножения (скорость обучения × градиент) и вычитания векторов.
Скалярное умножение управляет размером каждого обновления (чем больше скорость обучения, тем больше шаг), а вычитание перемещает параметры в направлении уменьшения потерь.
Предобработка данных: центрирование по среднему
Перед обучением нейронной сети к данным часто применяется операция "вычитание среднего": \( x_{norm} = x - \mu \). Это вычитание векторов — перенос центра данных в начало координат, что помогает градиентному спуску сходиться быстрее.
Другие расширения