Sistemas Markov absorbentes
Un
estado asorbente en un sistema de Markov es un estado desde el cual existe cero probabilidad de salir. Un
sistema absorbente de Markov es un sistema de Markov que contiene al menos un estado asorbente, tal que es posible llegar a un estado absorbente después de algun número de etapas comenzando en caulquier estado no absorbente.
En el análisis de los sistemas absorbentes, enumeramos los estados en tal manera que los estados absorbentes son los últimos. La matriz de transición $P$ de un sistema absorbente entonces se ve como sigue:
$P = {}$ %3
Aquí:
- $S$ es la matriz $m \times m$ que representa el movimiento entre los estados no absorbentes ($m ={}$ número de estados no absorbentes).
- $I$ es la matriz identidad $n \times n$ que representa el único movimiento posible en los estados absorbentes ($n ={}$ número de estados nabsorbentes).
- $T$ es la matriz $m \times n$ que representa el movimiento desde estados no absorbentes a estados absorbentes.
- $0$ es la matriz cero $n \times m$ que representa la falta de movimiento desde estados absorbentes a estados no absorbentes.
]
#[The
fundamental matrix of such an asborbing system is the $n \times n$ matrix given by][La matriz fundamental de tal sistema absorbente es la matriz $n \times n$ que se da por]#
$Q = (I-S)^{-1}$.
#[Interpretation of $Q$ and $QT$][Interpretación de $Q$ y $QT$]#
- #[The $ij$ entry of $Q$ is the number of times, starting in state $i$, you expect to visit state $j$ before absorption. (If $i = j$ it is the number of times you expect to revisit state $i$ before absorption.)][La entrada $ij$ de $Q$ es el número de veces que, comenzando en el estado $i$, esperas visitar el estado $j$ antes de la absorción. (Si $i = j$ es el número de veces que esperas volver al estado $i$ antes de la absorción.)]#
- #[If you are currently in State $i$, the sum of the entries in the $i$th row of $Q$ is your "time to absorption": the number of time-steps it will take you to end up in an absorbing state.][Si actualmente te encuentras en el estado $i$, la suma de las entradas en la $i$ésima fila de $Q$ es tu "tiempo hasta la absorción": la cantidad de pasos de tiempo que le tomará terminar en un estado absorbente.]#
- #[The product $QT$ gives the probabilities of winding up in the different absorbing states depending on your current state. It the $i$th row of $QT$ is $[p_1\ \ p_2\ ... \ p_n]$, then starting in state $i$, there is a probability $p_1$ of winding up in the first absorbing state, a probability $p_2$ of winding up in the second absorbing state, and so on.][El producto $QT$ da las probabilidades de terminar en los diferentes estados absorbentes dependiendo de tu estado actual. Si la fila $i$ de $QT$ es $[p_1\ \ p_2\ ... \ p_n]$, entonces, comenzando en el estado $i$, hay una probabilidad $p_1$ de terminar en el primer estado absorbente, una probabilidad $p_2$ de terminar en el segundo estado absorbente, y así sucesivamente.]#