∑
Projeto Axioma
llms.newortho.com.br

Apostila completa

As quarenta e oito seções da trilha, do alfabeto grego à interpretabilidade, com narração em voz humana em cada uma.

Tudo em um arquivo markdownCorpus em JSON
M0

Alfabetização simbólica

Antes de calcular, ler.
  1. Por que a trilha começa aqui
  2. O alfabeto grego e o que cada letra faz em aprendizado de máquina
  3. As letras latinas convencionais
  4. Operadores, índices e estruturas
  5. Protocolo de leitura em voz alta
  6. Primeira fórmula real: atenção
M1

Fundamentos operacionais

Logaritmo é a moeda corrente dos modelos.
  1. Potências, raízes e a notação que economiza espaço
  2. A exponencial e o número e
  3. Logaritmo: a pergunta invertida
  4. Funções, domínio e imagem
  5. Ordem de operações em fórmulas compostas
M2

Álgebra linear

Significado é geometria.
  1. Vetor: uma lista e uma seta
  2. Norma: o comprimento do vetor
  3. Produto escalar: a medida de concordância
  4. Similaridade do cosseno e o espaço de embeddings
  5. Matrizes e multiplicação
  6. Shapes: a álgebra das dimensões
  7. Transformação linear: o que a matriz faz com o espaço
M3

Cálculo essencial

A derivada é uma bússola, não uma conta.
  1. Derivada como taxa de variação
  2. As regras que você realmente vai usar
  3. Gradiente: a derivada em muitas dimensões
  4. Regra da cadeia: a ideia inteira do backpropagation
  5. Descida do gradiente e o papel de alfa
M4

Probabilidade e informação

Temperatura não é criatividade, é achatamento.
  1. Distribuição de probabilidade
  2. Probabilidade condicional e o que um LLM realmente modela
  3. Softmax: de logits para probabilidades
  4. Temperatura: dividir antes de exponenciar
  5. Top-k e top-p: cortar antes de sortear
  6. Entropia, cross-entropy e perplexidade
M5

A matemática do Transformer

Toda a arquitetura cabe em três multiplicações e um softmax.
  1. Tokenização e o problema dos números fatiados
  2. Embeddings e posição
  3. Consultas, chaves e valores
  4. Atenção escalada: a fórmula inteira, agora entendida
  5. Múltiplas cabeças
  6. MLP: onde a informação é processada
  7. Normalização de camada e conexões residuais
  8. Logits e a cabeça de saída
M6

Fluxo de treino e inferência

Treinar e usar são dois algoritmos diferentes.
  1. A função de perda, na prática
  2. Backpropagation ponta a ponta
  3. Otimizador, lote e época
  4. Inferência: o laço autorregressivo
  5. O papel do acaso
M7

Como os LLMs calculam de verdade

O que o modelo faz e o que o modelo diz que faz são coisas diferentes.
  1. O que é interpretabilidade e por que ela é necessária
  2. Caminhos paralelos na aritmética
  3. A racionalização depois do fato
  4. Planejamento antecipado e espaço conceitual compartilhado
  5. Por que modelos erram contas, em quatro razões concretas
  6. Síntese: o fluxograma completo