Introdução ao aprendizado profundo

Durante quarenta anos, fazer uma máquina reconhecer um dígito manuscrito significava descrever o dígito à mão. Escrevia-se código para contar os laços fechados, medir a proporção altura/largura, detectar as interseções entre traços. Essas medidas se chamavam características (features), e eram o verdadeiro trabalho: o classificador colocado depois delas — uma regressão logística, um SVM — era apenas uma formalidade. Mudar de problema significava recomeçar do zero. Um engenheiro que sabia descrever dígitos não sabia nada sobre como descrever rostos.

O aprendizado profundo inverte essa relação. Não descrevemos mais as características: descrevemos uma arquitetura capaz de inventá-las e a deixamos descobri-las a partir dos exemplos. As primeiras camadas de uma rede treinada com imagens acabam detectando contornos e manchas de cor; as seguintes, texturas; as últimas, partes de objetos. Ninguém escreveu "detecte um contorno". Isso surgiu da otimização.

Essa mudança tem um preço, e este curso não vai escondê-lo. Uma rede profunda precisa de muitos exemplos, de muito poder de cálculo, e falha de maneiras desconcertantes: não aprende nada mesmo com o código correto, memoriza em vez de generalizar, ou desce para uma região em que os gradientes se anulam e congelam. A diferença entre quem empilha camadas e quem sabe construir um modelo está inteiramente na capacidade de diagnosticar essas falhas.