Overfitting e regularização

Uma rede que atinge uma perda de $0{,}0001$ nos dados de treinamento pode ser totalmente inútil. Isso não é um paradoxo: é o caso mais frequente quando faltam dados. O modelo memorizou. Ele conhece de cor as 500 imagens que lhe foram mostradas, associa cada uma ao seu rótulo e não aprendeu nada transferível. Apresente-lhe uma 501ª imagem e ele responde ao acaso.

A palavra "overfitting" (sobreajuste) é, na verdade, enganosa, pois sugere um excesso de zelo. O que acontece é mais preciso: o modelo explora regularidades que existem na amostra, mas não na população. Um grão de ruído em uma imagem, uma correlação fortuita entre dois pixels, um artefato do sensor que fotografou apenas uma das classes. Esses padrões são reais nos dados de treinamento. O modelo tem razão em usá-los para minimizar sua perda; foi o nosso objetivo que foi mal definido.

A consequência metodológica é a que estrutura todo o ofício: a perda de treinamento não informa sobre a qualidade de um modelo. Ela mede tanto a memorização quanto o aprendizado, e nada permite separar os dois olhando apenas para ela. É preciso um segundo conjunto de dados, nunca usado para atualizar os pesos, e é nele — e somente nele — que se avalia o modelo.