Espaços Vetoriais

basico machine-learning, computacao-grafica, computacao-cientifica algebra-linear

Espaços Vetoriais

Vetor não é "uma seta" nem "uma lista de números" — essas são representações. Um espaço vetorial é qualquer conjunto em que faça sentido somar elementos e multiplicá-los por escalares, respeitando as regras usuais.

Essa abstração é o que faz a álgebra linear render tanto: o mesmo teorema vale para vetores geométricos, polinômios, funções, sinais e imagens.

Definição

Um espaço vetorial sobre um corpo $\mathbb{F}$ (em geral $\mathbb{R}$ ou $\mathbb{C}$) é um conjunto $V$ com duas operações satisfazendo oito axiomas: associatividade e comutatividade da soma, existência de vetor nulo e de opostos, e compatibilidade da multiplicação escalar com a distributividade.

Exemplos que valem ter em mente:

EspaçoElementos
$\mathbb{R}^n$$n$-uplas de reais
$\mathbb{R}^{m \times n}$Matrizes
$P_n$Polinômios de grau $\le n$
$C[a,b]$Funções contínuas num intervalo
$\mathbb{F}_2^n$Vetores de bits, com soma XOR

O último é particularmente relevante em computação: códigos corretores de erro e criptografia operam em espaços vetoriais sobre corpos finitos, onde a soma é o ou-exclusivo.

Combinação linear e geração

Uma combinação linear de $v_1, \dots, v_k$ é

$$c_1 v_1 + c_2 v_2 + \cdots + c_k v_k$$

O espaço gerado $\operatorname{span}{v_1,\dots,v_k}$ é o conjunto de todas essas combinações. Ele é sempre um subespaço.

Independência linear

Os vetores $v_1,\dots,v_k$ são linearmente independentes quando

$$c_1v_1 + \cdots + c_kv_k = 0 \implies c_1 = \cdots = c_k = 0$$

Ou seja: nenhum deles é combinação dos demais. Dependência significa redundância — informação repetida.

Essa é a leitura prática mais útil. Numa matriz de dados em que colunas são atributos, colunas linearmente dependentes significam atributos redundantes; é o que causa multicolinearidade em regressão e o que torna a matriz normal singular.

Base e dimensão

Uma base é um conjunto linearmente independente que gera o espaço. Todo espaço vetorial de dimensão finita tem base, e todas as bases têm o mesmo número de elementos — esse número é a dimensão.

Numa base ${b_1,\dots,b_n}$, todo vetor se escreve de forma única como combinação dos $b_i$. Os coeficientes são as coordenadas.

A base canônica de $\mathbb{R}^3$ é ${(1,0,0), (0,1,0), (0,0,1)}$, mas ela não tem nada de especial matematicamente. Escolher outra base é justamente o que fazem PCA (base que alinha com as direções de maior variância), a transformada de Fourier (base de frequências) e wavelets (base localizada em tempo e escala). Comprimir dados é, em geral, escolher a base em que poucos coeficientes concentram a informação.

Subespaços fundamentais

Para uma matriz $A \in \mathbb{R}^{m\times n}$:

SubespaçoDefiniçãoDimensão
Espaço coluna${Ax}$$r$ (posto)
Espaço nulo${x : Ax = 0}$$n - r$
Espaço linhaGerado pelas linhas$r$
Espaço nulo à esquerda${y : A^Ty = 0}$$m - r$

O teorema do posto-nulidade amarra tudo:

$$\dim(\text{espaço coluna}) + \dim(\text{espaço nulo}) = n$$

Em termos de sistemas: o posto conta as equações realmente independentes, e a nulidade conta os graus de liberdade da solução. Se $Ax = b$ tem solução e a nulidade é $k$, o conjunto de soluções é um deslocamento de um subespaço de dimensão $k$ — ou seja, há infinitas soluções parametrizadas por $k$ variáveis livres.

Exemplo trabalhado

Os vetores $(1,2)$, $(2,4)$ e $(1,0)$ em $\mathbb{R}^2$ são independentes?

Não: $(2,4) = 2(1,2)$. Além disso, três vetores em $\mathbb{R}^2$ nunca podem ser independentes — em dimensão $n$, qualquer conjunto com mais de $n$ vetores é dependente.

Já ${(1,2), (1,0)}$ é independente e tem dois elementos em espaço de dimensão dois, logo é base.

Aplicações em computação

Aprendizado de máquina. O espaço de atributos é um espaço vetorial; embeddings representam palavras e imagens como vetores em que proximidade significa similaridade semântica. Redução de dimensionalidade é projeção em subespaço.

Computação gráfica. Posições, normais e cores são vetores. Interpolação entre vértices é combinação linear com pesos baricêntricos.

Códigos corretores. Um código linear é um subespaço de $\mathbb{F}_q^n$. A distância mínima do código determina quantos erros ele corrige.

Compressão. JPEG projeta blocos numa base de cossenos e descarta coeficientes pequenos; a qualidade da compressão depende inteiramente da escolha da base.

Sistemas de recomendação. Fatoração de matrizes representa usuários e itens em um mesmo espaço vetorial de baixa dimensão.

Erros comuns

  • Confundir dimensão com número de vetores. Cinco vetores em $\mathbb{R}^3$ podem gerar o espaço, mas não formam base.
  • Achar que espaço vetorial precisa ser $\mathbb{R}^n$. Funções e polinômios formam espaços vetoriais legítimos.
  • Esquecer que o vetor nulo pertence a todo subespaço. Um conjunto que não o contém não é subespaço.
  • Ignorar dependência quase linear. Numericamente, vetores quase dependentes causam instabilidade mesmo sem serem exatamente dependentes.

Leituras recomendadas

  • Strang, Introduction to Linear Algebra — a apresentação mais intuitiva; as aulas do MIT 18.06 seguem esse livro e estão disponíveis gratuitamente.
  • Axler, Linear Algebra Done Right — trata autovalores sem determinantes, com foco em estrutura; excelente segunda leitura.
  • Halmos, Finite-Dimensional Vector Spaces — o clássico rigoroso e conciso.
  • Série "Essence of Linear Algebra" do 3Blue1Brown — construção da intuição geométrica em vídeo.

Gilbert Strang (2016). Introduction to Linear Algebra. Wellesley-Cambridge Press. ISBN 9780980232776. Sheldon Axler (2015). Linear Algebra Done Right. Springer. DOI: 10.1007/978-3-319-11080-6. Paul R. Halmos (1974). Finite-Dimensional Vector Spaces. Springer. DOI: 10.1007/978-1-4612-6387-6.

Referências

  1. Gilbert Strang (2016). Introduction to Linear Algebra. Wellesley-Cambridge Press.
  2. Sheldon Axler (2015). Linear Algebra Done Right. Springer.
  3. Paul R. Halmos (1958). Finite-Dimensional Vector Spaces. Van Nostrand.