Módulos



El módulo 4 corresponde a los impactos a nivel de los hogares beneficiarios en donde los PAT buscan seguridad y certeza jurídica de la tenencia de la Tierra. la seguridad jurídica y certeza sobre la tenencia de la tierra.

Módulo 4: Medios de Vida de los Hogares

Los diferentes diseños para la evaluación

La evaluación de impacto necesita la elección de un diseño adecuado para obtener, analizar e interpretar la información, la misma que servirá para la toma de decisiones posteriores a la evaluación. El diseño determina la posibilidad de detectar y comprender los procesos y el impacto de un programa en un contexto de multiplicidad de factores que influencian su operación y resultados1. Existen muchas propuestas de diseños utilizables en el ámbito de la Evaluación de Programas. Esta herramienta, propone dos tipos diseño, uno cuantitativo y otro cualitativo.

Diseños cuantitativos

Para asegurar rigor metodológico, una evaluación del impacto debe tomar en cuenta el escenario contrafactual o simulado alternativo; es decir, lo que habría ocurrido sin ninguna intervención del proyecto. Para esto, el reto principal es identificar a un grupo que no se ha beneficiado de la intervención pero que tiene características aproximadas o similares al grupo de tratamiento, este grupo, llamado grupo de comparación, debe ser igual al grupo de tratamiento en al menos tres aspectos3:

  1. Ambos grupos deben tener características similares en ausencia del programa.
  2. Las características promedio de los grupos deben ser las mismas, aunque no es necesario que cada unidad del grupo de tratamiento sea idéntica a cada unidad del grupo de comparación.
  3. Ambos grupos no deben estar expuestos, o no de manera diferente, a otras intervenciones durante el período de la evaluación.

Al tomar en consideración estos dos grupos, la evaluación de impacto permite saber si el proyecto ha tenido impactos, cuál ha sido la magnitud de estos y quién se ha beneficiado. De esta manera la evaluación de impacto puede proveer las bases para una sólida corrección y formulación de políticas posteriores.
Determinar el escenario contrafactual, es esencial para seleccionar a posteriori las diversas técnicas para la evaluación. Estas técnicas se agrupan en dos categorías: diseños experimentales (aleatorios) y diseños cuasi experimentales (no aleatorios)4. Cabe recalcar, que a pesar de la elección de la técnica, es complejo separar el efecto del programa de las condiciones hipotéticas que pueden verse afectadas por la historia, el sesgo de selección y/o la contaminación de muestra.


Diseños de control experimental o aleatorio

El diseño de control experimental o aleatorio es considerado el diseño de evaluación técnicamente más robusto, el cual consiste en la selección aleatoria de los beneficiarios dentro de un universo totalmente definido de individuos5. El proceso de asignación aleatoria de las intervenciones o servicios del programa crea dos grupos estadísticamente idénticos entre sí, uno que participa en el programa (grupo de tratamiento, Tr = 1) y otro que, cumpliendo todas las condiciones para participar, está fuera de él (grupo de control, Co = 0). La aleatorización, es un proceso en el que la selección de los grupos de tratamiento y de control es aleatoria dentro de un universo bien definido de personas. En este caso, no debería haber diferencia (en el valor esperado) entre los dos grupos.

La medición de impacto consiste entonces en cuantificar, una vez transcurrido el tiempo pertinente de intervención del programa, la(s) variable(s) de impacto, tanto para el grupo de tratamiento como para el grupo de control – en ambos simultáneamente y para el mismo período de tiempo – para luego analizar las diferencias que existen entre ambos. En términos operativos, esta medición se debe hacer sobre muestras estadísticamente representativas de ambos grupos y calcular el impacto promedio del programa sobre una variable resultado.

Cabe recalcar que el modelo tiene una desventaja de orden práctico, el hecho de que las políticas públicas partan de diagnósticos de focalización e identificación de los beneficiarios y la aleatorización se refiere a la viabilidad política de excluir de la cobertura de un programa, aleatoriamente, a un grupo de beneficiarios elegibles y, que como tales, necesiten los servicios del programa. Por lo tanto es totalmente cuestionable la asignación aleatoria si se tienen en cuenta los fines de las políticas sectorizadas y/o focalizadas.


Diseños cuasi experimentales

Los diseños cuasi experimentales tienen como diferencia esencial con los experimentales puros, el hecho que la participación de los individuos en el programa no es una selección aleatoria de beneficiarios. En su lugar la participación en el programa se da:

  1. porque son los propios individuos los que eligen participar
  2. porque un agente oficial toma esa decisión
  3. por las dos situaciones agrupadas

En los diseños cuasi-experimentales, el contrafactual se define a partir de los individuos que no participan en el programa y que constituirán el grupo de comparación6. Cabe recalcar que este diseño presente un problema de validez, que se refiere a la imposibilidad de generalizar los resultados de la evaluación para la población objetivo en su conjunto. Esto puede ocurrir, por ejemplo, cuando las muestras no son representativas, o cuando los programas no son representativos, ya sea por un efecto de escala o porque el tratamiento difiere de la implementación planificada.

Dentro de este diseño existen métodos de pareo o controles construidos, en los cuales se intenta obtener una comparación ideal que corresponda al grupo de tratamiento en una población amplia. De igual forma, el tipo de correspondencia de uso más generalizado es la puntuación de la propensión (propensity score matching en ingles), en la cual el grupo de comparación se compara con el grupo de tratamiento sobre la base de un conjunto de características observadas o usando la “puntuación de la propensión” (probabilidad proyectada de participar dadas las características observadas). Mientras más precisa sea la puntuación de la propensión, mejor será la correspondencia. Un buen grupo de comparación proviene del mismo entorno económico y se le ha aplicado el mismo cuestionario por parte de entrevistadores similarmente capacitados que el grupo de tratamiento (ver Ficha diseño de cuestionarios).

Para el tratamiento de la información de este diseño, existen varios procesos:

1 . Método de doble diferencia o diferencia en las diferencias
Este compara un grupo de tratamiento y uno de comparación en situación ex ante (primera diferencia) y después de un programa o ex post (segunda diferencia). Se deben eliminar los comparadores cuando se utilizan puntuaciones de la propensión y si tienen puntuaciones fuera del margen observado para el grupo de tratamiento. En este caso, este método corresponde al tipo cuasi experimental debido a que la selección de grupos se realiza por medio de criterios de elegibilidad y focalización que establecen diferencias tanto observables como no observables7.

2 . Métodos de variables instrumentales o control estadístico
Este usa una o más variables que influyen en la participación, pero no en los resultados dados la participación. A través de este método, se identifica la variación exógena en los resultados atribuibles al programa, reconociendo que su establecimiento no es aleatorio sino intencional. Las “variables instrumentales” se usan primero para predecir la participación en el programa y luego se observa cómo varía el indicador de resultados con los valores proyectados8.

3 . Método de Comparaciones reflexivas
Para este método se realiza una encuesta básica o de referencia de los participantes antes de la intervención y luego se realiza una encuesta de seguimiento. La encuesta básica proporciona el grupo de comparación y el efecto se mide mediante el cambio en los indicadores de resultado antes y después de la intervención.

Diseños cualitativos

Las herramientas cualitativas son en su mayoría utilizadas para entender y evaluar los procesos sociales que rodean la implementación de un programa (conflictos suscitados en torno al programa, razones por las cuales los beneficiarios no usan los servicios ofrecidos) o comportamientos organizacionales (cultura, clima organizacional)9. Una evaluación de impacto puede utilizar métodos cualitativos para determinar el efecto de las políticas donde no existe un escenario contrafactual para realizar una inferencia causal10. En su lugar, se trata de comprender los procesos, comportamientos, condiciones y la forma en que los individuos o grupos estudiados perciben los resultados11. En sentido general, una investigación cualitativa tendrá un alto nivel de “validez” en la medida en que sus resultados “reflejen” la imagen más completa posible, clara y representativa de la realidad o situación estudiada12.
Este diseño incluye métodos cualitativos como la observación de participante, las entrevistas, los talleres con grupos focales. Los diseños cualitativos en general pueden conjugar varios modelos y técnicas y se pueden conjugar con un diseño cuantitativo, debido a que estas técnicas proporcionan información decisiva sobre las perspectivas de los beneficiarios, el valor que los programas revisten para éstos, los procesos que pueden haber afectado los resultados y una interpretación más profunda de los resultados observados en el análisis cuantitativo (ver fichas guía para talleres con grupos focales, Analisis del Costo y tiempo de los tramites registrales, Diseño y procesamiento de las encuentas a nivel hogar,  seguimiento de los conflictos relacionados con la tenencia de la Tierra).

Notas

1 De la Orden, A. (1990).
2 Gertler, P. & al. (2011); Blasco, J. & Casado, D. (2009); Bedi, T. & al. (2006).  Baker, J. (2000).
3 Blasco, J. & Casado, D. (2009).
4 Baker, J. (2000).
5 Gertler, P. & al. (2011).
6 Blasco, J. & Casado, D. (2009).
7 Para más información ver: Ministerio de Hacienda Gobierno de Chile (2009).
8 Para mas información ver: Gertler, & al. (2011) y  Sartori (2002).
9 Blasco, J., & Casado, D. (2009).
10 Baker, J. (2000).
11 Cohen, E. & Martínez, R. (2004); Baker, J. L. (2000).