La regresión es una técnica de aprendizaje supervisado.
Utilizada para predecir valores continuos o numéricos.
Basados en variables independientes.
Su objetivo principal es modelar y entender la relación.
Entre una variable dependiente salida.
Una o más variables independientes entradas.
Ejemplo típico:
Predecir el precio de una casa basado en características.
Tamaño, ubicación y número de habitaciones.
Principios Fundamentales de la Regresión
Variable dependiente
Es la variable que se desea predecir.
El precio de una casa.
Variables independientes
Son las características o factores que influyen en la variable dependiente.
Tamaño y ubicación.
Función objetivo
La regresión intenta minimizar una función de pérdida.
El error cuadrático medio (MSE)
Encontrar la mejor relación entre las variables.
Técnicas de Regresión (Regression Techniques)
Existen múltiples enfoques y algoritmos para implementar la regresión.
Regresión Lineal (Linear Regression)
Descripción
Busca una relación lineal entre las variables independientes.
La dependiente modelada por una línea recta
Aplicaciones
Predicción de ingresos basados en años de experiencia.
Modelado de tendencias en ventas.
Ventajas
Sencilla de interpretar.
Rápida y eficiente para datasets pequeños.
Limitaciones
No captura relaciones no lineales entre variables.
Regresión Polinómica (Polynomial Regression)
Descripción
Extiende la regresión lineal.
Captura relaciones no lineales entre las variables.
Aplicaciones
Modelado de trayectorias en física.
Predicción de valores en datos con curvaturas.
Ventajas
Capacidad para ajustar datos no lineales.
Limitaciones
Puede sobreajustar si el grado del polinomio es muy alto.
Regresión Logística (Logistic Regression)
Descripción
Es más utilizada para clasificación binaria (1/0, sí/no).
Modela la probabilidad de un evento usando una función sigmoide.
Aplicaciones
Diagnóstico médico presencia o ausencia de una enfermedad.
Análisis de fraudes financieros.
Ventajas
Interpretable y eficiente.
Limitaciones
Inadecuada para problemas no lineales.
Sin transformación de características.
Regresión Ridge y Lasso (Regularización)
Descripción
Extensiones de la regresión lineal.
Introducen penalizaciones para evitar el sobreajuste.
Ridge Regression
Penaliza los coeficientes grandes.
Añadiendo una restricción de suma de cuadrados.
Lasso Regression
Penaliza la suma de los valores absolutos de los coeficientes.
Puede reducir algunos coeficientes a cero.
Promoviendo la selección de características.
Aplicaciones
Modelos con alta dimensionalidad de datos.
Selección de características relevantes.
Ventajas
Reduce el riesgo de sobreajuste.
Maneja datasets con muchas variables independientes.
Regresión con Máquinas de Soporte Vectorial (SVR – Support Vector Regression)
Descripción
Generaliza el algoritmo SVM.
Trabaja con problemas de predicción continua.
Encuentra un hiperplano que minimiza errores.
Dentro de un margen tolerado (ϵ).
Aplicaciones
Predicción de precios de acciones.
Estimación de demanda.
Ventajas
Flexible y potente para datos no lineales.
Robusta a outliers.
Limitaciones
Alta complejidad computacional en datasets grandes.
Árboles de Decisión y Bosques Aleatorios (Decision Trees y Random Forests)
Descripción
Árboles de decisión generan un modelo basado en reglas simples.
Los bosques aleatorios combinan múltiples árboles.
Mejora la precisión y reducir el sobreajuste.
Aplicaciones
Predicción de ventas en marketing.
Análisis de rendimiento en educación.
Ventajas
Fácil de interpretar (árboles).
Alta precisión bosques aleatorios.
Limitaciones
Sensibles al ruido árboles individuales.
Requieren más recursos computacionales bosques.
Redes Neuronales (Neural Networks)
Descripción
Usadas para modelar relaciones complejas no lineales.
Entre entradas y salidas.
Las capas ocultas aprenden representaciones intermedias.
Aplicaciones
Reconocimiento de voz y texto.
Predicción de series temporales.
Ventajas
Capacidad de capturar relaciones complejas y no lineales.
Limitaciones
Requiere grandes cantidades de datos y potencia computacional.
Métricas de Evaluación en Regresión
Error Cuadrático Medio (MSE)
Penaliza errores grandes, útil para captuar precisión general.
Error Absoluto Medio (MAE)
Promedio del valor absoluto de los errores.
Coeficiente de Determinación (R2R^2)
Evalúa qué tan bien se ajusta el modelo a los datos.
Error Relativo Cuadrático Medio (RMSE)
Raíz cuadrada del MSE
Interpretada en las mismas unidades que la variable dependiente.
La regresión y sus técnicas son herramientas fundamentales en inteligencia artificial.
Para resolver problemas de predicción y análisis.
Desde métodos básicos como la regresión lineal.
Hasta modelos avanzados como las redes neuronales.
Y los bosques aleatorios.
Elegir la técnica adecuada depende del problema.
Los datos disponibles y las necesidades específicas.
Del negocio o investigación.
Te puede interesar;
