Matrices: Definición, Notación y Tipos

¿Qué es una matriz?

• Una matriz es un arreglo rectangular de números, símbolos o expresiones, organizados en filas y columnas.
• Por ejemplo, $A = \begin{bmatrix} 1 & 2 & 3 \ 4 & 5 & 6 \end{bmatrix}$ es una matriz con 2 filas y 3 columnas.

Notación de matrices

• $A$: Denota la matriz.
• $a_{ij}$: Denota el elemento en la fila $i$ y la columna $j$.
• $m \times n$: Denota la dimensión de la matriz (número de filas x número de columnas).

Tipos especiales de matrices

• Matriz cuadrada: El número de filas es igual al número de columnas ($m = n$).
• Matriz nula: Todos los elementos son cero.
• Matriz identidad (unidad): Matriz cuadrada con unos en la diagonal principal y ceros en el resto. Se denota como $I$. Por ejemplo: $I = \begin{bmatrix} 1 & 0 & 0 \ 0 & 1 & 0 \ 0 & 0 & 1 \end{bmatrix}$
• Matriz diagonal: Matriz cuadrada donde todos los elementos fuera de la diagonal principal son cero.
• Matriz triangular:
  • Matriz triangular superior: Todos los elementos debajo de la diagonal principal son cero.
  • Matriz triangular inferior: Todos los elementos arriba de la diagonal principal son cero.
• Matriz simétrica: $A^T = A$ (donde $A^T$ es la transpuesta de $A$).
• Matriz antisimétrica: $A^T = -A$.

Operaciones con matrices

• Suma: $C = A + B$, donde $c_{ij} = a_{ij} + b_{ij}$. Las matrices deben tener la misma dimensión.
• Resta: $C = A - B$, donde $c_{ij} = a_{ij} - b_{ij}$. Las matrices deben tener la misma dimensión.
• Multiplicación escalar: $B = kA$, donde $b_{ij} = ka_{ij}$.
• Multiplicación de matrices: $C = AB$, donde $c_{ij} = \sum_{k=1}^{n} a_{ik}b_{kj}$. El número de columnas en $A$ debe ser igual al número de filas en $B$.
• Transposición: $A^T$, donde $(a^T){ij} = a{ji}$. Las filas se convierten en columnas y viceversa.
• Inversa: $A^{-1}$, tal que $AA^{-1} = A^{-1}A = I$. Solo existe para matrices cuadradas con determinante $\neq 0$.

Propiedades importantes de las matrices

• La suma de matrices es conmutativa: $A + B = B + A$.
• La suma de matrices es asociativa: $(A + B) + C = A + (B + C)$.
• La multiplicación de matrices es asociativa: $(AB)C = A(BC)$.
• La multiplicación de matrices es distributiva: $A(B + C) = AB + AC$ y $(A + B)C = AC + BC$.
• La multiplicación de matrices generalmente no es conmutativa: $AB \neq BA$.
• $(A^T)^T = A$
• $(A + B)^T = A^T + B^T$
• $(AB)^T = B^T A^T$
• $(kA)^T = kA^T$
• $(A^{-1})^{-1} = A$
• $(AB)^{-1} = B^{-1} A^{-1}$
• $(A^T)^{-1} = (A^{-1})^T$

Determinante de una matriz

• Es una función que calcula un número a partir de una matriz cuadrada.
• Se denota como $\det(A)$ o $|A|$.
• Se utiliza para determinar si una matriz es invertible.
• Ejemplo (matriz 2x2): Si $A = \begin{bmatrix} a & b \ c & d \end{bmatrix}$, entonces $\det(A) = ad - bc$.

Sistemas de ecuaciones lineales

• Las matrices pueden usarse para representar y resolver sistemas de ecuaciones lineales.
• Ejemplo: El sistema $\begin{cases} 2x + 3y = 8 \ x - y = 1 \end{cases}$ puede escribirse como $\begin{bmatrix} 2 & 3 \ 1 & -1 \end{bmatrix} \begin{bmatrix} x \ y \end{bmatrix} = \begin{bmatrix} 8 \ 1 \end{bmatrix}$, o $Ax = b$ donde $A$ es la matriz de coeficientes, $x$ es el vector de variables y $b$ es el vector de constantes.

Diseño de Sistemas de Aprendizaje Automático (Machine Learning)

• Las características y los algoritmos de aprendizaje automático son importantes.
• Son solo una pequeña parte de un sistema de aprendizaje automático.
• Se debe estar familiarizado con los pasos para construir un sistema complejo de aprendizaje automático.

Proceso de Diseño de Sistemas de Aprendizaje Automático

• Paso 1: Definición del problema:
  • ¿Cuál es el problema que intentas resolver?
  • ¿Cuáles son las entradas y salidas?
  • ¿Qué tipo de datos tienes?
  • ¿Cómo evaluarías tu algoritmo?
• Paso 2: Recolección de datos:
  • ¿Tienes suficientes datos?
  • ¿Necesitas etiquetar más datos?
  • ¿Cómo obtener más datos?
• Paso 3: Ingeniería de características:
  • ¿Qué características son útiles para predecir tu salida?
  • ¿Cómo limpiar tus características?
  • ¿Cómo combinar características?
• Paso 4: Selección del modelo:
  • Elige tu modelo basándote en el problema y los datos que tienes.
  • Considera el equilibrio entre precisión y complejidad.
• Paso 5: Entrenamiento:
  • Entrena tu modelo con los datos de entrenamiento.
  • Ajusta los hiperparámetros utilizando validación cruzada.
• Paso 6: Evaluación:
  • Evalúa el modelo con los datos de prueba.
  • Verifica si hay sobreajuste (overfitting) o subajuste (underfitting).
  • Si el rendimiento no es satisfactorio, regresa a los pasos 1, 3, 4 o 5.
• Paso 7: Despliegue:
  • Despliega tu modelo en producción.
  • Monitorea el rendimiento de tu modelo.
  • Re-entrena tu modelo regularmente.

Estudio de caso: Clasificador de Correos Electrónicos No Deseados (Spam)

• Paso 1: Definición del problema:
  • Predecir si un correo electrónico es spam o no.
  • Entrada: Contenido del correo electrónico.
  • Salida: Spam o no spam.
  • Datos: Una colección de correos electrónicos etiquetados como spam o no spam.
  • Evaluación: Precisión y Exhaustividad (Recall).
• Paso 2: Recolección de datos:
  • Recolecta tantos datos como sea posible.
  • Si no tienes suficientes datos, puedes comprar datos a terceros o recolectarlos por ti mismo.
• Paso 3: Ingeniería de características:
  • Características basadas en texto:
    • Frecuencia de palabras: ¿Con qué frecuencia aparece una palabra en el correo electrónico?
    • N-gramas: ¿Con qué frecuencia aparece una secuencia de n palabras en el correo electrónico?
  • Características del encabezado del correo electrónico: Remitente, receptor, tema, etc.
  • Otras características:
    • ¿El correo electrónico contiene enlaces?
    • ¿El correo electrónico contiene imágenes?
• Paso 4: Selección del modelo:
  • Regresión Logística
  • Naive Bayes
  • Máquina de Vectores de Soporte (SVM)
  • Árbol de Decisión
• Paso 5: Entrenamiento:
  • Entrena tu modelo con los datos de entrenamiento.
  • Ajusta los hiperparámetros utilizando validación cruzada.
• Paso 6: Evaluación:
  • Evalúa el modelo con los datos de prueba.
  • Verifica si hay sobreajuste (overfitting) o subajuste (underfitting).
  • Si el rendimiento no es satisfactorio, regresa a los pasos 1, 3, 4 o 5.
• Paso 7: Despliegue:
  • Despliega tu modelo en producción.
  • Monitorea el rendimiento de tu modelo.
  • Re-entrena tu modelo regularmente.

Fuentes de error: Intercambio entre sesgo y varianza

• Sesgo (Bias): Error debido a suposiciones inexactas/simplificaciones hechas por el modelo. Los modelos con alto sesgo subajustan (underfit) los datos.
• Varianza (Variance): Error debido a la sensibilidad del modelo a pequeñas fluctuaciones en los datos de entrenamiento. Los modelos con alta varianza sobreajustan (overfit) los datos.
• Sesgo vs Varianza:
  • Modelo demasiado simple $\Rightarrow$ Alto sesgo (subajuste).
  • Modelo demasiado complejo $\Rightarrow$ Alta varianza (sobreajuste).

Soluciones para alto sesgo y alta varianza

• Alto Sesgo:
  • Aumentar la complejidad del modelo:
    • Añadir más características.
    • Usar un modelo más complejo (por ejemplo, un modelo no lineal).
  • Disminuir la regularización: La regularización evita que el modelo se ajuste demasiado bien a los datos de entrenamiento.
• Alta Varianza:
  • Disminuir la complejidad del modelo:
    • Reducir el número de características.
    • Usar un modelo más simple (por ejemplo, un modelo lineal).
  • Aumentar la regularización.
  • Aumentar los datos de entrenamiento.

Análisis de Error

• Análisis de Error:
  • Examinar manualmente los errores cometidos por el modelo.
  • Intentar comprender la fuente de los errores.
  • Enfocarse en los errores más comunes.
• Ejemplo:
  • Estás construyendo un detector de gatos.
  • Tu modelo tiene una precisión del 90%.
  • Quieres mejorar la precisión.
  • Un amigo sugiere recolectar más datos de entrenamiento.
  • ¿Deberías pasar los próximos 6 meses recolectando más imágenes de gatos?
• Análisis de Error (Tabla de ejemplo):

• Análisis de Error (Conclusión):
  • Dedica tiempo a los errores más comunes.
  • Recolectar más imágenes borrosas probablemente mejorará la precisión.
  • Recolectar más imágenes de perros probablemente no mejorará la precisión.

Curvas de Aprendizaje

• Curvas de Aprendizaje:
  • Graficar el error de entrenamiento y el error de validación en función del número de ejemplos de entrenamiento.
  • Puede ayudar a diagnosticar problemas de sesgo y varianza.
• Alto Sesgo:
  • Tanto el error de entrenamiento como el de validación convergen a una tasa de error alta a medida que aumenta el tamaño del conjunto de entrenamiento.
• Alta Varianza:
  • El error de entrenamiento permanece bajo a medida que aumenta el tamaño del conjunto de entrenamiento, mientras que el error de validación permanece alto. Hay una gran brecha entre el error de entrenamiento y el de validación.

Conclusión

• El diseño de sistemas de aprendizaje automático es una habilidad importante para los ingenieros de aprendizaje automático.
• Involucra muchos pasos, desde la definición del problema hasta el despliegue.
• El análisis de errores y las curvas de aprendizaje pueden ayudarte a diagnosticar problemas de sesgo y varianza.