A conexão entre regressão linear e aprendizado de máquina é profunda, mas precisa ser apresentada corretamente.
Uma regressão linear pode ser interpretada como um modelo parametrizado. O algoritmo recebe dados e procura os valores dos parâmetros que minimizam uma função de custo.
\[ J(m,b)= \frac{1}{N} \sum_{i=1}^{N} \left[ y_i-(mx_i+b) \right]^2 \]
Essa função é essencialmente o erro quadrático médio.
Em métodos clássicos de regressão, podemos encontrar os parâmetros diretamente por métodos analíticos. Em aprendizado de máquina, especialmente em modelos mais complexos, é comum utilizar algoritmos de otimização, como o gradiente descendente.
\[ \theta_{novo} = \theta_{antigo} - \eta \nabla J(\theta) \]
Aqui, \(\theta\) representa o conjunto de parâmetros e \(\eta\) é a taxa de aprendizado.
O estudante que compreende regressão linear, função de custo e minimização de erros já possui uma base conceitual importante para compreender modelos muito mais sofisticados.
Entretanto, é importante lembrar: regressão linear não é uma rede neural profunda. Ela é um modelo estatístico simples que pode servir como uma excelente porta de entrada para o aprendizado de máquina.