Do perceptron à rede multicamadas

Em 1969, Marvin Minsky e Seymour Papert publicam um livro que congela a pesquisa sobre redes neurais por quinze anos. O argumento deles cabe em uma página: o perceptron, o único modelo neural conhecido na época, é incapaz de aprender a função OU exclusivo. Quatro pontos, duas classes e um modelo que fracassa. O financiamento desaba, os laboratórios fecham.

O que torna esse episódio interessante não é o fracasso, e sim o fato de que a solução já era conhecida. Empilhar dois perceptrons resolve o XOR sem dificuldade; sabia-se até escrever os pesos à mão. O que faltava era uma forma de treinar essa pilha, e seria preciso esperar a popularização da retropropagação (backpropagation) em meados dos anos 1980 para obtê-la.

Entender com precisão por que um perceptron fracassa e por que uma camada oculta basta não é arqueologia. É o único caminho que tira o mistério da pergunta "quantas camadas, quantas unidades". Uma camada oculta não acrescenta poder de cálculo: ela muda a forma geométrica das fronteiras que o modelo consegue traçar. Quando se sabe qual é essa forma, deixa-se de escolher arquiteturas ao acaso.