\documentclass[serif]{beamer}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
\usepackage[spanish]{babel}
\usepackage{utopia}
\newcommand{\por}{\cdot}
\title{Análisis de Datos 1}
\author{TEMA 1: ANÁLISIS DE COMPONENTES PRINCIPALES}
\begin{document}
\begin{frame}{}
\maketitle
\end{frame}
\begin{frame}{Introducción}
  \begin{itemize}
  \item La información de partida en el análisis multivariante es una
    tabla de datos correspondiente a $p$ variables medidas en los $n$
    elementos (individuos) de un conjunto.
  % \item Denotemos por $\vec x_i$ el vector aleatorio del individuo
  %   $i$ sobre las $p$ características del estudio;
  %   $\vec x_i\in\mathbb{R}^p$.  La componente $j$ representa el
  %   valor de la variable $X_j$ en el individuo $i$.
  \item Por tanto, la matriz de datos tiene dimensión $n\times p$
    $$
    \mathbf{X}=
    \begin{pmatrix}
      x_{11} & x_{12} & \dots & x_{1p}\\
      x_{21} & x_{22} & \dots & x_{2p}\\
      \vdots & \vdots & \ddots & \vdots\\
      x_{n1} & x_{n2} & \dots & x_{np}
    \end{pmatrix}
    =
    \begin{pmatrix}
      \vec x_{1} & \vec x_{2} & \dots & \vec x_{p}
    \end{pmatrix}
    $$
    donde $\vec x_i=(x_{1i},\dots,x_{ni})'$ es una muestra de tamaño $n$
    de la variable $X_i$.
  \end{itemize}
\end{frame}
\begin{frame}{Covarianzas}
  \begin{itemize}
  \item La {\bf media} de una muestra $\vec x$ = $(x_1,\dots,x_n)$ es
    $$\bar x=\frac1n\sum_{i=1}^nx_i$$
  \item La {\bf covarianza} entre las muestras $\vec x$ y $\vec y$
    de las variables $X$ y $Y$ respectivamente viene dada por
    $$ S_{XY} = \frac1n\sum_{i=1}^n(x_i-\bar x)(y_i-\bar y) $$
  \item Matriz de varianzas-covarianzas $p\times p$ de los datos $\mathbf X$
    $$\mathbf{S}={\rm Var}(\mathbf{X})=[S_{X_jX_k}]_{jk}$$
    La diagonal contiene las varianzas
    $$S^2_{X_j}={\rm Var}(\vec x_j)=\frac1n\sum_{i=1}^n(x_i-\bar x)^2$$
  \end{itemize}
\end{frame}

\begin{frame}{Correlaciones}
  \begin{itemize}
  \item El {\bf coeficiente de correlación}
    lineal de Pearson viene dado por
    $$ r_{XY} = \frac{S_{XY}}{S_X S_Y} \in [-1,+1] $$
  \item Matriz de correlaciones $p\times p$
    $$\mathbf{R}=[r_{X_jX_k}]_{jk}$$
    La diagonal contiene unos: $r_{X_jX_j}=1$
  \end{itemize}
\end{frame}
\begin{frame}{Combinación lineal}
  \begin{itemize}
  \item Sea $\vec a$ un vector de $p$ coeficientes.
  \item Considerar los datos trasformados linealmente $\vec a'\por\mathbf x$.
  \item Su varianza es
    $$
    {\rm Var}(\vec a'\por\mathbf X)=
    \vec a'\por{\rm Var}(\mathbf X)\por\vec a=
    \vec a'\por\mathbf{S}\por\vec a
    $$
  \end{itemize}
\end{frame}

\begin{frame}{Obtención de componentes principales}
  \begin{itemize}
  \item Buscar la combinación lineal que haga la varianza máxima, con la condición $\|\vec a\|=1$:
    $${\rm max}\left\{{\rm Var}(\vec a'\por\mathbf X)\mid\|\vec a\|=1\right\}=
   {\rm max}\left\{\vec a'\mathbf S\vec a\mid\|\vec a\|=1\right\}$$
 \item Por el teorema de la descomposición espectral, existen
   \begin{itemize}
   \item autovalores en orden decreciente
     $\lambda_1\geqslant\lambda_2\geqslant\dots\geq\lambda_p$
     $${\boldsymbol\Lambda}=
     \begin{pmatrix}
       \lambda_1&&&\\
       &\lambda_2&&\\
       &&\ddots&\\
       &&&\lambda_p
     \end{pmatrix}$$     
   \item autovectores ortonormales respectivos $\vec u_1$, $\dots$, $\vec u_p$
     $$\mathbf U=
     \begin{pmatrix}
       \vec u_1&\dots&\vec u_p
     \end{pmatrix}
     $$
   \end{itemize}
   tales que $$\mathbf S=\mathbf U\boldsymbol\Lambda\mathbf U'$$
  \end{itemize}
\end{frame}

\begin{frame}{Obtención de componentes principales}
  \begin{itemize}
    \item $
      \|\mathbf U'\vec a\| = \vec a'\mathbf U\mathbf U'\vec a
      = \vec a'\vec a=\|\vec a\|$
  \item Buscar la combinación lineal que haga la varianza máxima, con la condición $\|\vec a\|=1$:
    \begin{eqnarray*}
      {\rm max}\left\{\vec a'\mathbf S\vec a\mid\|\vec a\|=1\right\}
      &=& {\rm max}\left\{\vec a'\mathbf U\boldsymbol\Lambda\mathbf U'\vec a
          \mid\|\vec a\|=1\right\}\\
      &=&{\rm max}\left\{\vec b'\boldsymbol\Lambda\vec b
          \;\middle|\;\|\vec b\|=\|\mathbf U'\vec a\|=1\right\}\\
      &=&{\rm max}\left\{\sum_{i=1}^p\lambda_ib_i^2
          \;\middle|\;\|\vec b\|=1\right\}\\
      &=&\lambda_1
    \end{eqnarray*}
    con $b_1=1$ y $b_2=\dots=b_p=0$, luego $\vec a=\vec u_1$
  \end{itemize}
\end{frame}

\begin{frame}{Obtención de componentes principales}
  \begin{itemize}
  \item Buscar la combinación lineal que haga la varianza máxima, con la condición $\|\vec a\|=1$.
  \item Solución:\\ El vector propio de $\mathbf S$ asociado a su mayor valor propio.
  \item Se buscan nuevas combinaciones, linealmente independientes de
    la primera y que tengan varianza máxima. Se obtienen los vectores
    propios asociados a los valores propios.
  \item Variabilidad explicada por $k$ componentes:
    $$ \frac{\lambda_1 + \dots + \lambda_k}{\lambda_1 + \dots + \lambda_p} $$
  \item Elección del número de componentes:
    \begin{enumerate}
    \item Se alcance un porcentaje fijado de la variabilidad global. Por ejemplo el $70\%$.
    \item Si hay dos componentes con varianzas muy similares se deben elegir las dos o ninguna.
    \end{enumerate}
  \end{itemize}
\end{frame}

\begin{frame}
  {Interpretación del significado de componentes}
  \begin{itemize}
  \item En cada componente se analiza el perfil de los individuos que
    tienen puntuaciones extremas.
  \item El signo en sí no se interpreta porque cada valor propio tiene
    como vectores propios dos con signo distinto.
  \item Cuanto más próximo a $0$ sea el valor absoluto de los
    coeficientes de las variables, menos importantes son.
  \end{itemize}
\end{frame}
\end{document}
