Cinco algoritmos para entender el aprendizaje supervisado
En aprendizaje supervisado se dispone de observaciones x y resultados conocidos y. Entrenar significa ajustar una regla que generalice a ejemplos nuevos. Predecir un número es regresión; elegir una categoría es clasificación. El tipo de salida y la estructura de los datos orientan la selección del modelo.
1. Regresión lineal: estimar una cantidad
Para estimar el tiempo de entrega a partir de la distancia, un modelo simple usa ŷ = w·x + b. Los mínimos cuadrados ajustan parámetros para reducir la suma de errores al cuadrado. Con varios atributos se emplea un vector de coeficientes. Es una buena referencia inicial cuando la relación es aproximadamente lineal, pero una recta no captura por sí sola congestión, umbrales o cambios de régimen.
2. Regresión logística: estimar una probabilidad de clase
A pesar de su nombre, se utiliza para clasificación. En el caso binario transforma una combinación lineal mediante la sigmoide: p = 1/(1 + e^(−z)), con z = w·x + b. Puede estimar la probabilidad de abandono de un usuario. Un umbral convierte esa salida en decisión; elegir 0,5 no es obligatorio y debe responder al costo de falsos positivos y falsos negativos.
3. Árboles: dividir con preguntas
Un árbol divide el espacio mediante condiciones sobre atributos hasta llegar a una hoja. Una aplicación musical puede preguntar si el usuario escucha hip-hop, si prefiere canciones enérgicas y si es de noche, hasta recomendar una lista concreta. Las divisiones se eligen reduciendo impureza o error según el problema. Son interpretables en tamaños pequeños y modelan relaciones no lineales, pero un árbol muy profundo puede memorizar el entrenamiento. Profundidad, tamaño mínimo de hoja y poda controlan su complejidad.
4. SVM: separar con margen
Para separar dos especies de flores mediante largo y ancho de pétalos, una máquina de vectores de soporte busca una frontera con amplio margen entre clases, permitiendo cierto error según la regularización. Los ejemplos más próximos a la frontera influyen de forma especial en ella. Un kernel permite separaciones no lineales sin construir explícitamente todos los atributos transformados. Escalar variables y ajustar hiperparámetros resulta decisivo; SVM también tiene variantes para regresión.
5. k-NN: consultar ejemplos cercanos
k-NN conserva ejemplos y busca los k vecinos de una observación nueva según una distancia. Para clasificar una película, por ejemplo, puede consultar las cinco más cercanas en el espacio de características: si la mayoría son ciencia ficción, asigna esa categoría. En clasificación combina etiquetas mediante voto, a veces ponderado; en regresión puede promediar resultados. Elegir k demasiado pequeño vuelve la predicción sensible al ruido; demasiado grande suaviza diferencias locales. La escala de los atributos y el costo de búsqueda importan, especialmente con muchas dimensiones.
Comparar sin engañarse
Debe separarse entrenamiento, validación y prueba. Cualquier normalización aprendida se ajusta solo con entrenamiento y se aplica después a los otros conjuntos. Para regresión pueden usarse MAE o RMSE; en clasificación conviene evaluar precisión, exhaustividad y métricas acordes con el balance de clases. Ninguno de los cinco algoritmos es siempre el mejor: se compara generalización, costo e interpretabilidad para la tarea concreta.