Dados
Escolha o padrão que a rede deve aprender a separar.
Rede
2 camadas ocultas
Saída
Perda de teste–
Perda de treino–
−1+1
Uma rede feedforward aprendendo ao vivo, no seu navegador.
Escolha o padrão que a rede deve aprender a separar.
Uma sequência curta que mostra, na prática, de onde vem a não linearidade. Cada um configura a rede e começa a treinar.
Cada ponto tem duas coordenadas, X₁ e X₂. A coluna da esquerda mostra atributos calculados a partir delas, como X₁² ou sen(X₁). Clique em um atributo para ligá-lo ou desligá-lo.
Cada neurônio calcula a = f(w₁·x₁ + w₂·x₂ + … + b): multiplica cada entrada por um peso w, soma um viés b e aplica a função de ativação f. Nas conexões, a espessura é o tamanho do peso; azul é positivo e laranja é negativo. O quadradinho no canto do neurônio é o viés. Clique em qualquer um deles para editar o valor à mão.
Sem ativação, empilhar camadas só produz outra soma ponderada, e a fronteira continua sendo uma reta. Funções como tanh e ReLU dobram o espaço. Cada mini mapa mostra o que um neurônio “enxerga”: as camadas seguintes combinam essas dobras em formas cada vez mais complexas, como o círculo e a espiral.
A cada lote de pontos, a rede compara sua saída com o rótulo (−1 laranja, +1 azul), calcula o erro e usa retropropagação para descobrir em que direção mexer cada peso. A taxa de aprendizado define o tamanho do passo. Se a perda de teste sobe enquanto a de treino cai, a rede está decorando os dados; a regularização ajuda a conter isso.