Indicadores de Evaluación (PDF)

HACIA LA ELABORACION DE INDICADORES DE EVALUACIÓN XINIA PICADO G.1 INTRODUCCION En la actualidad, la utilización de indicadores sociales es un imperativo en la formulación de políticas y en la toma de decisiones en los ni...

HACIA LA ELABORACION DE INDICADORES DE EVALUACIÓN XINIA PICADO G.1 INTRODUCCION En la actualidad, la utilización de indicadores sociales es un imperativo en la formulación de políticas y en la toma de decisiones en los niveles gubernamentales. Se hace necesario también el empleo de indicadores para evaluar las acciones cristalizadas en programas y proyectos de desarrollo. El objetivo de este trabajo es brindar al evaluador y al investigador, al trabajador social, al administrador y ejecutor de políticas, un aporte en la elaboración de indicadores de evaluación. Solicito al lector considere esta exposición como una búsqueda y un esfuerzo exploratorio y en ningún momento, un trabajo acabado. I.- DEFINICION DE INDICADOR Investigadores y metodólogos han establecido diferentes denominaciones del término indicador. Para Babbie1el indicador demuestra la presencia o ausencia del concepto que se está investigando y agregaríamos aquí, el indicador puede demostrar también el grado o intensidad con que se presenta el concepto o dimensión estudiada. Se ha señalado también que el indicador es una visión de la realidad que se pretende transformar con el proyecto, constituyendo el criterio para evaluar el comportamiento de las variables,(...) siendo los indicadores los que permiten evaluar las estrategias, procesos y logros de la acción institucional.2 Asimismo, se ha definido indicador " como una estadística o serie estadística o toda otra forma de evidencia que permita reconocer dónde se está y hacia dónde se va en la persecución de objetivos y valores que permitan evaluar diversos programas y en especial su impacto social. (...) cabe aplicar el término indicador en un sentido más estricto, a aquellas características observadas que son susceptibles de expresión 1 Profesora Escuela de Trabajo Social, Universidad de Costa Rida, documento elaborado en 1997. La autora agradece a José A. Camacho, Warren Crowther, Laura Guzmán e Eiliana Montero sus observaciones a este trabajo. www.ts.ucr.ac.cr 1 numérica.3 Cabe señalar que al existir definiciones conceptuales tan diversas, esta misma disparidad se refleja en el momento de establecer indicadores. En este trabajo se entenderá por indicador de evaluación, la definición conceptual y operativa expresada como evidencia de los resultados del programa o proyecto.4 Los indicadores son medidas objetivamente verificables de hechos y acontecimientos económicos y sociales, el indicador constituye entonces la medición del resultado generado en la intervención social atribuible al programa o proyecto. Es muy poco lo que se ha escrito para establecer una clara diferenciación entre "indicador social" e indicador de evaluación. En este sentido y partiendo de la definición del párrafo anterior, el indicador de evaluación busca facilitar la búsqueda de respuestas a las interrogantes y objetivos de la evaluación. Examinemos ahora algunas características de los indicadores sociales. II.- INDICADORES SOCIALES El indicador social refleja el estado y la tendencia de las condiciones sociales que se busca transformar. Los indicadores sociales orientan a la sociedad en los procesos de dirección y planificación en distintos niveles: a- ofrecen información periódica sobre las tendencias sociales y económicas de un país y sus distintas regiones. b- brindan información sobre aspectos críticos de problemáticas sociales específicas de grupos poblacionales prioritarios. Los indicadores sociales tienen como característica común, el reflejar situaciones del nivel macro social y se publican generalmente como series estadísticas. En los últimos años, diversos organismos nacionales e internacionales han dedicado recursos a la investigación de indicadores que reflejen la calidad de vida de las poblaciones en distintos países. El tema de la elaboración y construcción de indicadores sociales, ha sido tratado por diversos autores que en mayor medida lo han abordado desde la perspectiva macroeconómica. Para el caso de Centroamérica, cabe citar el trabajo realizado por la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y por la UNESCO, editado por Rojas Aravena en l983, y por el proyecto “Estado de la Nación” del PNUD en l996. Con fines de exposición, se presentan en el cuadro No.1 indicadores sociales de la clasificación de Naciones Unidas sobre el Indice de Desarrollo Humano. El cuadro No. 2 agrupa Indicadores de Integración de Estadísticas Sociales de esa misma organización. El Cuadro No. 3 del Programa de Empleo para América Latina y el Caribe, 5 sugiere una www.ts.ucr.ac.cr 2 lista de indicadores que permitan un diagnóstico rápido de la situación del empleo, ingresos y perspectivas económicas. Al referirse a la generación de indicadores sociales, algunos autores han señalado que éstos se construyen partiendo de un concepto de realidad básicamente estático y fragmentario. El indicador arroja un dato sobre la situación en un momento dado, y el proceso de cambio se intenta registrar construyendo series de valores sucesivos 6 que reflejen su evolución en el mediano y largo plazo. El indicador tiene la restricción de representar apenas una parte de la realidad, reflejando una condición en tiempo y espacio, que inevitablemente se rigidiza al no poder captar integralmente la complejidad de la dinámica social. III.- INDICADORES DE EVALUACION La evaluación es una disciplina que contribuye a mejorar -mediante el análisis crítico, sistemático y la consulta a las partes interesadas-, las acciones de un programa o proyecto social. La evaluación apoya el proceso de planificación para el discernimiento de acciones futuras, permitiendo así derivar las lecciones aprendidas en la ejecución. Como ya se señaló, el indicador es la evidencia que facilita la medición de los resultados, o de lo que se espera alcanzar, en un programa o proyecto social. Estos resultados están referidos a los "cambios logrados" por la intervención y pueden considerarse los "productos" generados por el programa o proyecto. Dependiendo del alcance de la evaluación, se utilizarán distintos tipos de indicadores: así pueden emplearse indicadores sociales para el análisis macro social, en la evaluación de un plan, de una política o un programa de cobertura nacional, los indicadores sociales son muy útiles para identificar las tendencias observadas a nivel global y para orientar la toma de decisiones y distribución de recursos. En el nivel de programa o proyecto, se elaboran indicadores de evaluación para identificar los cambios logrados y su impacto. Así se habla de Indicadores de Producto e Indicadores de Impacto, por citar algunos. La generación de indicadores en evaluación, es siempre una tarea altamente compleja porque requiere imaginación y rigurosidad ya que el indicador debe “evidenciar” los resultados alcanzados atribuibles al programa o proyecto y esa demostración, el aporte de esa prueba no es siempre una tarea fácil. Un problema común al examinar programas públicos de carácter social, es la escasa presencia de indicadores que faciliten la evaluación y la identificación de resultados. Esta difícil aprehensión de resultados tiene relación en algunos casos con condicionantes globales. www.ts.ucr.ac.cr 3  Un estudio realizado por el Banco Mundial en países asiáticos, para examinar la acción pública, identificó como elementos restrictivos para la obtención de indicadores : 1) el escaso apoyo político y administrativo para la planificación global; 2) la poca efectividad en métodos y técnicas de planeamiento macroeconómico y 3)las carencias en los procedimientos y estructura administrativa.7 Se consideró que estos factores afectaban la capacidad para controlar y evaluar los resultados de la acción gubernamental. Aunque estos elementos pudieran parecer obvios, cabe tenerlos en cuenta a la hora de formular indicadores para proyectos de desarrollo que requieran una intervenciones y evaluaciones sistemáticas e integrales. En el caso costarricense, el empleo de indicadores de evaluación es incipiente debido principalmente a que la tarea de evaluar no ha sido consustancial al quehacer público. Durante muchas décadas, el esfuerzo en la formulación de los programas sociales se centró en el establecimiento de propósitos, objetivos 8 y metas, pero no siempre se definieron mecanismos que verificaran su realización o el grado de eficiencia en la utilización de los recursos , y procedimientos para evaluar el impacto en la población beneficiaria. Este proceso se ha iniciado en forma global con los esfuerzos del Sistema Nacional de Evaluación (SINE) del Ministerio de Planificación y Política Económica y los sistemas de seguimiento de la acción pública impulsados por la Contraloría General de la República en los últimos años. IV. LOS REQUISITOS DEL INDICADOR a)LA CONSTRUCCION DEL INDICADOR : Como ya se señaló el indicador es la evidencia de la obtención del resultado, del cambio, del logro que se busca alcanzar con un programa o un proyecto. El indicador es un criterio que permite evaluar ese cambio. Un indicador debe tener como principales requisitos: 1) ser confiable y 2) ser válido. La CONFIABILIDAD se refiere a la precisión o consistencia en la medición. Un indicador será confiable en la medida en que aplicado en las mismas condiciones produzca los mismo resultados. LA VALIDEZ se refiere a la capacidad en que la medida seleccionada empíricamente refleje en forma adecuada el significado real de lo que se busca medir. Por ejemplo podríamos tener criterios muy diferentes sobre cómo medir válidamente un cambio actitudinal. Esto ha llevado a diversos autores a plantear 9 tres tipos de validez : la validez de criterio : b) la validez de contenido y la validez del constructo. LA VALIDEZ DE CRITERIO se refiere a la capacidad predictiva del resultado dada la combinación de un número determinado de variables, ej. el aprobar un examen de www.ts.ucr.ac.cr 4 aptitud académica con determinado puntaje en donde se asignarían distintas valoraciones según el resultado obtenido. Lo que se valida aquí es que la pauta o criterio escogido t enga la idoneidad suficiente para predecir ese resultado. LA VALIDEZ DE CONTENIDO se refiere a la capacidad de una medida para abarcar el rango de significados que puede incluír un concepto, por ejemplo en el caso de una prueba de conocimientos las interrogantes del examen debe medir claramente los contenidos impartidos en el curso. LA VALIDEZ DEL CONSTRUCTO. En este trabajo se entenderá por Constructo una abstracción utilizada para representar una construcción mental. Se deriva de una teoría o tiene fundamentación teórica. El constructo es una herramienta para analizar aspectos que no son directamente observables. Así la Validez del Constructo se refiere a la manera en que una medida se relaciona con otras variables dentro de un sistema de relaciones teoréticas. Por ejemplo, el concepto de autoestima en mujeres agredidas, no podría ser únicamente medido por los cambios actitudinales verbalmente expresados por las integrantes del grupo terapéutico, sino que la evaluación actitudinal debería de seleccionar otro tipo de mediciones que abarquen de manera comprensiva el concepto de autoestima. b) COMPONENTES CONCEPTUALES Y OPERATIVOS DEL INDICADOR En forma resumida y teniendo en cuenta lo anteriormente señalado, un indicador se expresa en dos vías : la expresión conceptual y la expresión operativa. La expresión conceptual abarca la dimensión cuantitativa numérica y la dimensión cualitativa. La dimensión cuantitativa podría expresarse por ejemplo en unidades monetarias, habitantes, acciones, etc. La dimensión cualitativa se refiere a elementos que en primera instancia no son factibles de medir numéricamente y que tienen que ver con atributos de la variable que se intenta medir, ejemplo : participación, autoestima, pertenencia y que requieren la elaboración de un costructo. En el punto VIII de este trabajo, se destacan algunas de estas dimensiones cualitativas. La expresión operativa está referida a la forma de captar operativamente la expresión conceptual, en donde se indicaría tanto el medio como la fuente para esta forma de aprehensión. Más que dar fórmulas para el establecimiento de indicadores lo que se busca en este trabajo es explorar en forma comprensiva los diferentes elementos que deben tenerse en cuenta en la elaboración de indicadores. Con ese propósito, se examinan a continuación algunos de las características que de acuerdo a otros autores10 deben seguirse para la elaboración de indicadores de evaluación. www.ts.ucr.ac.cr 5  Un indicador debe tener ciertas características: 1) ser razonable; 2) objetivamente verificable y 3) contener metas"11. 1) LOS INDICADORES DEBEN SER RAZONABLES, es decir estar en concordancia con lo que se está planteando. Por ejemplo: Indicador Edificio seguro Agradable a la vista (no es indicador porque no es medida de seguridad) en cambio, éstas sí podrían ser evidencias de seguridad): - estructuralmente sólido - salidas de emergencia - instalación eléctrica sellada Los conceptos expresados aquí para calificar el indicador de “razonable” son similares al concepto de Validez desarrollado anteriormente; que señala que la “medida” seleccionada debe reflejar el significado real de lo que se busca medir: edificio seguro : estructuralmente sólido, instalación eléctrica sellada, etc. 2) LOS INDICADORES DEBEN SER OBJETIVAMENTE VERIFICABLES es decir deben estar enunciados de tal manera, que los resultados puedan ser comprobados mediante evidencias y no en base únicamente a juicios de valor. Este requerimiento de verificabilidad es similar al proceso de captación operativa al que se hace referencia en el punto b, anterior y lo que cabe destacar aquí es la función de búsqueda de evidencia que debe contener el indicador. Viviendas bien construidas estructuras habitacionales con Edificio seguro paredes de block y con viga antisísmica. 3) LOS INDICADORES DEBEN TENER METAS www.ts.ucr.ac.cr 6  Al elaborar un indicador se debe precisar el nivel de logro que se quiere alcanzar en relación a CANTIDAD, CALIDAD y TIEMPO. Primer paso IDENTIFICAR INDICADOR Graduados de Maestría de Evaluación Social. Segundo paso CUANTIFICAR LOGRO 200 graduados de Maestría. Tercer paso ESTABLECER CRITERIOS DE CALIDAD 200 graduados de Maestría de Evaluación Social empleados en posiciones claves de evaluación en el sector público y privado. Cuarto paso ESPECIFICAR TIEMPO 200 graduados de Maestría de Evaluación Social en posiciones claves de evaluación para febrero del año 2000. Los indicadores son las medidas específicas y objetivamente verificables de los resultados. Deben por lo tanto ser válidos, confiables y deben ser económicos en el sentido de que su comprobación no sobrepase el presupuesto planeado. Se examinan a continuación algunos aspectos relacionados con la elaboración de indicadores de evaluación. V. ELEMENTOS GENERALES EN TORNO A LA ELABORACION DE INDICADORES www.ts.ucr.ac.cr 7  La teoría y la investigación social se vinculan utilizando dos métodos lógicos: el deductivo en el cual las hipótesis se derivan de las teorías (de lo general a lo particular) y el inductivo que mediante las observaciones específicas deriva las generalizaciones (de lo particular a lo general). La ciencia es un proceso que alterna la deducción y la inducción.12 Se relaciona la lógica deductiva con el positivismo y los diseños cuantitativos en los que se aplica el proceso de investigación causal, prueba de hipótesis, diseños experimentales y cuasi-experimentales y un arsenal de herramientas estadísticas. La lógica inductiva se relaciona con los procesos de investigación cualitativa. El empleo de datos cualitativos resulta de mucha utilidad para la evaluación. Estos datos cualitativos se abstraen conceptualmente y se incorporan en presentaciones en forma de palabras, oraciones, párrafos más que en números y cifras. Posteriormente, estos datos cualitativos pueden trasladarse a expresiones numéricas o de índole cuantitativo, expresadas como indicadores. Cabe anotar que en este trabajo, se apela a ambas lógicas la deductiva y la inductiva para la búsqueda de los indicadores de evaluación. Desde la perspectiva de este trabajo, la obtención de indicadores de evaluación en cualquiera de ambas lógicas, requiere primero que todo, de un esfuerzo de clarificación conceptual que asimismo incluya la identificación de la evidencia (o indicador) que demuestre el cambio logrado con el programa o el proyecto. En el proceso de investigación se establecen hipótesis que formulan una explicación del problema observado. "Las hipótesis pueden definirse como explicaciones iniciales del fenómeno investigado, (..) la hipótesis es una explicación porque no estamos seguros que sea cierta y está formulada como proposición (propone o afirma algo)(..)las hipótesis son explicaciones tentativas acerca de las relaciones entre dos o más variables y se apoyan en conocimientos organizados y sistematizados.13 En el campo de la evaluación, la comprobación de la hipótesis quedará sujeta a las observaciones, resultados y análisis que se deriven del proceso evaluativo. En la evaluación de programas y proyectos sociales, no siempre existe el tiempo y los recursos para plantear hipótesis a un grado máximo de depuración. Las presiones institucionales por obtener el producto de la evaluación, no siempre facilitan las condiciones necesarias. Sin embargo, es conveniente que el evaluador ensaye el planteamiento de hipótesis para: 1) FACILITAR EL ANALISIS DEL PROBLEMA A EVALUAR tómese por ejemplo una cooperativa donde el problema tiene que ver con la poca participación de los asociados. Esta escasa participación. podría ser atribuida a muchas causas que el evaluador no puede enunciar a la ligera. Se debe a la escasa información que reciben los asociados ? a que no les ofrece programas atractivos ? a la falta de políticas estratégicas por parte de los niveles de dirección para fortalecer su sentimiento de pertenencia? www.ts.ucr.ac.cr 8 2) DISMINUIR LA POSIBILIDAD DE IMPROVISACIONES Y PRACTICAS POCO RIGUROSAS. Si el evaluador no analiza a fondo el problema, si no lo estudia, si no toma aunque sea un tiempo limitado al planteamiento de una o dos hipótesis centrales para la comprensión del problema, podría tener una mayor posibilidad de formular un diseño evaluativo en base a supuestos sesgados, poco fundamentados, o podría tomar por así decir el punto de vista de únicamente los niveles gerenciales u otro grupo que le haya contratado para realizar la evaluación. La formulación de hipótesis le ayudará a explicitar los supuestos que de todas maneras, - quiéralo o no -, condicionarán el análisis del problema de evaluación, ya que toda propuesta metodológica, toda acción que se planea se basa en supuestos, o hipótesis que no siempre se explicitan, pero que determinan su orientación. 3) CONTRIBUIR A LA VIABILIDAD CIENTIFICA DE LA EVALUACION. En la medida en que el evaluador mayormente demuestre rigurosidad en el planteamiento del problema, de los supuestos (o hipótesis) y de las interrogantes a las que responde la evaluación, en esa medida estará fundamentando adecuadamente su trabajo y por ende contribuyendo al fortalecimiento científico de la evaluación. 4) IDENTIFICAR SUS PROPIOS PREJUICIOS Y SESGOS EN TORNO AL PROBLEMA EVALUADO. El procedimiento idóneo en el planteamiento de hipótesis puede ser consultado en diversos tratados de investigación de los cuales se citan aquí algunas referencias14. Con la elaboración de las hipótesis y con la formulación de las interrogantes de evaluación, se facilita la identificación de los principales aspectos o componentes del problema a evaluar. Estos aspectos se desagregan en variables. Las variables son las características cualitativas y cuantitativas observables, que pueden expresar distintos valores.15 De estas variables se procede a derivar indicadores o evidencias que permitan medir y calificar los aspectos evaluados. Si la hipótesis como ya se señaló es una proposición enunciada para responder tentativamente a un problema, es importante definirla operativamente - esto es, hacerla observable y medible de manera que su enunciado sea fidedigno. No es el propósito de este artículo entrar a detallar la construcción de hipótesis. Este aspecto- como ya se señaló-, puede ser consultado en distintos tratados de investigación, sin embargo es necesario señalar algunos de los criterios para evaluar la formulación de hipótesis: www.ts.ucr.ac.cr 9 1)Relevancia: la hipótesis debe ofrecer una explicación factible de la problemática real del objeto de evaluación. 2) Practicabilidad: estar sujeta a verificación, ser observable y comprobable. 3) Rigurosidad: No expresar confusión entre causa y efecto, diferenciado claramente las variables independientes, dependientes e intervinientes. 4) Las hipótesis deben tener cierta capacidad de generalización para darles mayor validez.16. En otras palabras, que su formulación permita relacionar el caso en estudio con los conocimientos científicos acumulados(..) la generalización de la hipótesis permite asegurar que los resultados del estudio van a beneficiar otros análisis posteriores. Seguidamente se señalan algunas pautas para la elaboración de indicadores. VI. PASOS PARA LA ELABORACION DE INDICADORES DE EVALUACION Al realizar una evaluación se estudia una problemática social, institucional u organizacional y se identifica y define el problema que se va a evaluar. Se procede entonces a generar interrogantes que cuestionan la causalidad del problema observado, sus consecuencias y efectos. Al plantear las interrogantes generales se procura: ENSAYAR LA RELACION DE: PROBLEMA HIPOTESIS PREGUNTA INDICADOR Primer Paso: Se define el problema. En evaluación el problema se define como la situación no deseable que el programa o proyecto busca cambiar.17 En algunos casos resulta conveniente formular el problema a manera de hipótesis, generar las interrogantes, y derivar los indicadores. En otros casos, dependiendo de la naturaleza del problema, resulta más conveniente plantear la hipótesis después de haber depurado las interrogantes y reformulado el problema. En el siguiente ejemplo la situación se plantea únicamente como problema. PROBLEMA: “En la Cooperativa San Marcos no hay integración entre los asociados, se observan problemas en el proceso de toma de decisiones y no hay participación en este www.ts.ucr.ac.cr 10 nivel.” En este caso, distinguimos en el problema tres aspectos principales: a) integración; b) toma de decisiones y c)participación. Por razones de tiempo y espacio nos referiremos al componente "toma de decisiones". DEL PROBLEMA A LAS PREGUNTAS: Segundo Paso: Se plantean las interrogantes sobre el problema planteandose primero una o varias interrogantes generales, según el caso analizado. INTERROGANTE GENERAL Cómo se toman las decisiones en la cooperativa? INTERROGANTES ESPECIFICAS -En qué medida se facilita a los asociados su participación en las decisiones financieras y de inversión de la cooperativa ? -Qué nivel de información y con qué antelación se brinda a los asociados información para que participen en las decisiones financieras y de inversión de la cooperativa ? Si el caso analizado así lo requiere, se continúan desagregando las interrogantes específicas previamente definidas y finalmente se seleccionan aquellos que tienen mayor relación con el problema, incorporándolos al diseño evaluativo. Tercer Paso : Se procede a la identificación de indicadores: Para efectos demostrativos en este ejemplo esta operación se ha dividido en dos fases : a-) la identificación del indicador y b-) los medios para detenerlo a.1) Tipo y cantidad de información sobre decisiones que se toman en: -el Consejo Directivo; -la Gerencia; -la Asamblea de la Cooperativa. a.2) Grado de satisfacción en la modalidad de toma de decisiones expresada por integrantes del Consejo Directivo versus miembros de la Asamblea de la cooperativa. www.ts.ucr.ac.cr 11 b.) Se identifican los medios de verificacion por medio de los cuales se obtendrá la comprobación empírica de los indicadores Los medios de verificación tienen como función principal contribuir a seleccionar indicadores realistas facilitando la viabilidad de la evaluación al tener que asegurar cómo se van a comprobar los resultados y las respectivas fuentes de información. MEDIOS DE VERIFICACION Y FUENTE: - estudios de actas del Consejo Directivo y la Asamblea de la cooperativa - entrevistas focalizadas Consejo Directivo - entrevistas focalizadas miembros Asamblea - entrevistas a profundidad a representantes claves de la cooperativa. - cuestionario pre-codificado a muestra representativa de miembros de Asamblea. Para el ejemplo anteriormente expuesto se establecerían dimensiones valorativas en base a una escala Likert que facilite la captación del grado de satisfacción. VII. ALGUNAS OBSERVACIONES EN TORNO AL PROCESO "PROBLEMAS- PREGUNTAS-INDICADORES" En el ejemplo utilizado anteriormente se plantearon únicamente indicadores para uno de los aspectos principales del problema. Sin embargo, como ya se señaló, el esfuerzo deberá centrarse en diseñar indicadores que cubran integralmente la problemática estudiada tomando en cuenta consideraciones de tiempo y economía de recursos. Es conveniente tener claro también que lo que aquí se propone es plantear la relación "problema-pregunta-indicador" vía ensayo. Al señalar esto lo que se quiere destacar es que la elaboración de indicadores y el proceso "problemas-preguntas- indicadores" es un ejercicio dinámico sin respuestas "correctas". En otras palabras, NO EXISTEN FORMULAS ESTABLECIDAS PARA EL PLANTEAMIENTO DE INDICADORES, sin embargo si está claro que el indicador debe definirse tanto en términos conceptuales como operativos. En otras palabras, si el indicador es un criterio, debe haber una definición del significado, de la dimensión conceptual que se está abarcando con ese criterio. Asimismo, es necesario para completar la elaboración del indicador que éste se formule operativamente, es decir que se precisen los medios por medio de los cuales se verificará www.ts.ucr.ac.cr 12 la existencia del indicador. La elaboración de indicadores es un ejercicio de precisión en donde el esfuerzo se dirige a plantear y obtener evidencias de los resultados que se busca alcanzar en el programa o proyecto. La perspectiva entonces, es la de obtener cada vez mayor especificidad sin descuidar el realismo y la viabilidad del indicador propuesto. En el momento de definir indicadores es entonces aconsejable asegurarse que se está focalizando el problema correctamente. La focalización del problema está relacionada con las interrogantes principales de la evaluación. En otras palabras, qué queremos saber, investigar o identificar sobre el problema? cuáles son los aspectos en los que interesa invertir recursos de evaluación?. Algunas veces las interrogantes del problema responden a necesidades específicas de los niveles gerenciales de la organización. Interesa también conocer la opinión de los beneficiarios de un programa orientado a la disminución de un determinado problema. De esta manera, los indicadores deben diseñarse de manera que sean pertinentes al problema evaluado. La consulta con expertos en el área y con beneficiarios del programa o proyecto es un paso necesario para mantener esta coherencia. Se examinan a continuación algunos aspectos relacionados con la captación de las dimensiones cualitativas del indicador de evaluación. VIII.- LA APREHENSION DE LAS DIMENSIONES CUALITATIVAS El propósito de los datos cualitativos es comprender los puntos de vista, actitudes y perspectivas de los investigados. "Los datos cualitativos se concentran en los signos y símbolos que descifran la realidad tal como la ve la población 18 que forma parte de la situación evaluada". Estos aspectos cualitativos no se identifican por medio de procedimientos estadísticos, pero interesan al investigador por cuanto revelan elementos importantes del objeto de estudio, tales como rasgos actitudinales, comportamientos ya sean de un individuo, un grupo, una institución o una comunidad o resultados generados por el programa, que como ya se señaló no pueden registrarse en términos cuantitativos. Estos aspectos brindan información que puede resultar muy rica para la comprensión del objeto de evaluación. Por ejemplo, en la evaluación de una institución aprendemos de la cultura organizacional que incide en los resultados que se busca alcanzar en un determinado programa. Se podrán comprender mejor las reacciones de un individuo, de un grupo, y el comportamiento humano ante determinadas situaciones y www.ts.ucr.ac.cr 13 el impacto generado. Las dimensiones cualitativas pueden ser utilizadas para: "1) clarificar e ilustrar hallazgos cuantitativos, 2) construir instrumentos de investigación, 3) evaluar programas, 4) proveer información para fines comerciales y científicos"19. Se realizan a continuación algunas observaciones en relación a los aspectos cualitativos en la evaluación. En el proceso de aprehensión de los aspectos cualitativos que interesa evaluar es conveniente analizarlos con un poco de detenimiento ya que en su planteamiento podrían identificarse elementos que contengan conceptos que pueden ser ambiguos y prestarse a distintas formas de interpretación. El evaluador puede emplear distintas vías para clarificar estos aspectos cualitativos complejos. A continuación se propone un procedimiento para clarificar estos aspectos. Si la identificación de los componentes cualitativos se torna difícil o muy compleja, se puede proceder de la siguiente manera: 1. Se procede a elaborar el “constructo” de la dimensión cualitativa bajo estudio (punto IV de este trabajo.. “Validez del constructo”. 2. Se define el aspecto principal presentándolo como problema o como hipótesis, tal como se realizó en los ejemplos anteriores. Se puede proceder a plantear una o varias interrogantes generales que permitan una mejor aprehensión de la situación o problema estudiado. La formulación de la hipótesis contribuye a facilitar su análisis. 3. Se aplica la técnica "Lluvia de ideas" sobre los elementos generales y específicos relevantes, relacionados con la interrogante principal de evaluación. 4. Se definen y seleccionan los aspectos cualitativos que interesa analizar y que tienen mayor relación con el problema que se va a evaluar. 5. Se enlistan estos aspectos por orden de relevancia y por su generalidad o especificidad en torno al problema. www.ts.ucr.ac.cr 14 6. Se identifican los aspectos que se repiten o son similares y pueden condensarse en uno solo. 7. Se reagrupan estos aspectos, eliminando los que sobran. 8. Se procede a elaborar indicadores derivándolos de los aspectos identificados. Ejemplo 1: Hipótesis: En una cooperativa de vivienda el sentimiento de pertenencia del asociado incide en su participación. Nota: en algunos casos resulta útil hacer una definición del componente cualitativo principal del problema estudiado ej. el término "pertenencia" (en el ejemplo aquí anotado este paso no se consideró necesario). LLUVIA DE IDEAS: A) ELEMENTOS GENERALES Y ESPECÍFICOS RELACIONADOS CON EL TÉRMINO “ PERTENENCIA”: *1. Posición, funciones y responsabilidad del asociado entrevistado en la cooperativa. 2. Seguridad y buen manejo de la cooperativa. 3. Actitud del asociado de su pertenencia a la cooperativa. 4. Grado de conocimiento por parte del asociado del modelo cooperativo. *5. Motivación del asociado al ingresar a la cooperativa y motivación actual *6. Satisfacción y seguridad que la cooperativa le brinda como asociado. 7. Conocimiento por parte del asociado de las últimas acciones que ha venido realizando la cooperativa. 8. Factores que indujeron al asociado a involucrarse en la cooperativa? www.ts.ucr.ac.cr 15 9. Grado de liderazgo del asociado entrevistado. 10. Participación proporcional del asociado entrevistado en la cooperativa. *11. Seguridad habitacional que la cooperativa le brinda al asociado. *12. Nivel de ingreso por asociado. *13. La cooperativa cumple con las necesidades del asociado? *14. Cuenta el asociado con asistencia técnica por parte de la cooperativa? *15. Cuál es el grado de participación del asociado en la definición de políticas de la cooperativa? *16. En qué ambiente económico y social se desenvuelve el asociado, cuáles son las condiciones económicas y sociales que lo rodean? *17. Son iguales estas condiciones para todos los asociados? ¿pueden identificarse claramente grupos con muy distintos niveles de ingreso? *18. Participa el asociado en los proyectos a desarrollar? en la definición de políticas? *19. En qué forma participa el asociado en la toma de decisiones de la cooperativa? B) IDENTIFICAR LOS ELEMENTOS QUE SON RELEVANTES: Los aspectos marcados con un asterisco (*) fueron considerados relevantes para el término "pertenencia". C) IDENTIFICAR LOS ASPECTOS QUE SON SIMILARES: (3) actitud del asociado de su pertenencia a la cooperativa (5) motivación del asociado al ingresar a la cooperativa y motivación actual(**). (6) satisfacción y seguridad que la cooperativa le brinda como asociado(**) (8) factores que indujeron al asociado a involucrarse en la cooperativa (13) la cooperativa cumple con las necesidades del asociado?(**). Se procede a identificar el elemento que mejor refleje el aspecto cualitativo del problema que se quiere analizar y se desechan los que son repetitivos. Se elaboran indicadores desagregándolos del o de los elementos seleccionados. Se establecen los medios de verificación (encuestas, cuestionarios, entrevistas estructuradas, no www.ts.ucr.ac.cr 16 estructuradas) y la fuente de información para la comprobación de los indicadores. Se pueden agregar otros aspectos del factor cualitativo que se va a analizar, definiéndolas previamente con el equipo evaluador e incorporando los criterios relevantes de la población meta. Se pueden definir escalas de calidad o cantidad para el nivel de logro de acuerdo a los intereses de la evaluación. INDICADOR -Nivel de satisfacción y seguridad que la cooperativa le brinda como asociado. Ej. Muy satisfactorio Satisfactorio Medianamente satisf. Insatisf 10-9 8 7-6 5-4 Finalmente, se incorporan todos los indicadores elaborados al diseño de la evaluación. IX.- PROBLEMAS COMUNES EN LA ELABORACION DE INDICADORES: En la definición de indicadores cualitativos se enfrentan la dificultad de no precisar de manera suficiente lo que se desea alcanzar. Veamos un ejemplo: En un curso de capacitación uno de los objetivos era: "Que los participantes del curso obtuvieran una visión más clara de la realidad". Observación: Amén de que este es un objetivo impreciso porque el término "visión más clara de la realidad" puede tener distintos significados para cada persona, no se precisan resultados que puedan evidenciarse. Como se señalaba anteriormente, elaborar indicadores es producto de una reflexión sistemática y del esfuerzo por definir lo que se desea alcanzar a nivel cualitativo y cuantitativo del programa o proyecto. Otro ejemplo: Se enlistan a continuación algunos indicadores elaborados para evaluar proyectos de desarrollo rural desglosándolos por áreas de evaluación: IMPACTO DE PROYECTO - Nivel de logro de los objetivos generales. - Nivel de no logro de los objetivos generales. www.ts.ucr.ac.cr 17 Examinemos algunos aspectos. En relación al indicador "Nivel de logro de los objetivos generales" el evaluador tendrá la dificultad de definir que va a entender por logro y cuál será su expresión cuantitativa y cualitativa. Es conveniente entonces que al elaborar el indicador lo defina en relación a estos aspectos y no lo deje para una fase posterior, porque necesariamente la misión del indicador es precisar el cambio que se espera generar con el programa o proyecto. www.ts.ucr.ac.cr 18  CONCLUSIONES Este trabajo es un esfuerzo por avanzar en un campo metodológico delicado. Los aspectos que aquí se proponen son producto de experiencias recogidas en el ejercicio de la evaluación y tienen carácter de ensayo. Se espera en el futuro avanzar en la investigación metodológica integrando bloques interdisciplinarios que permitan una mayor profundización del tema. Bienvenidos los futuros aportes. www.ts.ucr.ac.cr 19 CUADRO No.2 ONU - PROPUESTA DE INTEGRACION DE ESTADISTICAS SOCIALES DE PAISES EN DESARROLLO: POBLACION - tamaño, estructura y cambios de la población, flujo de la población, número y tasas por 1000 personas. Distribución geográfica y cambios en la distribución de la población. ENSEÑANZA Y SERVICIOS EDUCACIONALES: - atención educativa y logros educacionales de la población; - uso y distribución de los servicios educacionales; - insumos, productos y perfil de los servicios educacionales,según diferentes clasificaciones DISTRIBUCION DEL INGRESO, EL CONSUMO Y LA ACUMULACION - Nivel y crecimiento del ingreso y acumulación;nivel y crecimiento del consumo; y la desigualdad y la redistribución del ingreso y el consumo. SALUD, SERVICIOS DE SALUD Y NUTRICION - estado de la salud y la nutrición; disponibilidad, uso y previsiones de los servicios de salud. VIVIENDA Y SU MEDIO AMBIENTE: - características de las viviendas y número; disponibilidad de servicios básicos, etc. Fuente: Rojas Aravena op.cit.l983 www.ts.ucr.ac.cr 20 ¡Error! Marcador no definido. CUADRO No.3 PROGRAMA REGIONAL DE EMPLEO PARA AMERICA LATINA Y EL CARIBE INDICADORES PARA ESTUDIOS DE CORTO PLAZO SOBRE LA SITUACION Y PERSPECTIVAS DE EMPLEO.(*) DEL EMPLEO: Tasas de desempleo, subempleo y desempleo equivalente, evolución de la segmentación, de la sectorialización y regionalización y urbanización de la ocupación por nivel educativo, sexo, edad y de horas trabajadas. DE LOS INGRESOS: Salarios mínimos; ingreso medio de perceptores de ingresos según años de instrucción; coeficientes de Gini y de Theil y estimaciones de la evolución del ingreso disponible. CARACTERISTICAS DE LA OFERTA DE MANO DE OBRA: Población en edad de trabajar, ocupados, desocupados,inactivos por sexo, edad, nivel de educación y región; composición y características de los inmigrantes internacionales; matriz de migraciones y tasas de migración e inmigración según regiones. EVOLUCION DEL NIVEL DE ACTIVIDAD ECONOMICA: "Evolución de los sectores productivos a través de indicadores indirectos"(14). Fuente: Rojas Aravena op.cit.l983 www.ts.ucr.ac.cr 21  BIBLIOGRAFIA - ALVAREZ,J.J. El Marco Lógico. FOV. mimeografiado, San José, 1982. -BABBIE E. The practice of social research. Wadsworth Publishing. Belmont. 1986 - BARBOZA, J y Raabe C. Notas sobre estadísticas e indicadores: Referencia al caso de Costa Rica, Centroamerica. En Indicadores Socioeconómicos para el desarrollo. Edición Francisco Rojas Aravena, Ediciones FLACSO. San José. 1993. -Casley D. y Kumar K. Recopilación, análisis y uso de los datos de seguimiento y evaluación. Ediciones Mundi-Prensa. Banco Mundial. 1990 - CHOW, N. Técnicas de Investigación Social. EDUCA. San José. 1982 - CROWTHER, W. Manual de Investigación-Acción para la evaluación científica en el ámbito administrativo. EUDED. San José. 1993 - MOLINA, Hugo. Consideraciones Generales acerca de los indicadores económicos y sociales. En Indicadores socioeconómicos para el desarrollo. Edición Francisco Rojas Aravena. Ediciones FLACSO. San José, 1983. - PARDINAS, F. Metodología y Técnicas de Investigación en Ciencias Sociales. Siglo XXI, 1976 - PNUD. Informe sobre Desarrollo Humano, 1993. Editorial CIDEAL. Madrid, 1993 - PICADO, X. La evaluación de los programas sociales en el sector público costarricense. Instituto de Investigaciones Económicas. Documento de Trabajo No. 135, San José, 1990. - RAMIREZ, Gonzalo. Indicadores socioeconómicos: qué medir, para qué Medir. para quién medir. Centroamérica: indicadores socioeconómicos para el desarrollo. Edición Francisco Rojas Aravena. Editorial FLACSO. San José, 1983. - RONDINELLI D. Development projects as policy experiments. Routledge, New York, 1993. - STRAUSS, A. y Cosrbin J. Basics of qualitative research. Grounded theory. procedures and techniques. Sage Publications, 1990. - VIQUEZ, Ramírez Silvia, Indicadores Sociales de la calidad educativa en una sociedad: agrícola, industrial o tecnológica. Ministerio de Educación Pública. Departamento www.ts.ucr.ac.cr 22  de Investigación Educativa, San José, 1989. 1.Babbie E. The practice of social research. Wadsworth Publishing Co. Belmont. 1986 2.Quintero Uribe Víctor Ml. Evaluación de Proyectos Sociales.Construcción de indicadores. Fundación FES. Colombia. 1996. 3.Víquez Ramírez S. Indicadores Sociales de la calidad educativa de una sociedad: agrícola,industrial, tecnológica. Ministerio de Educación Pública. Departamento de Investigación Educativa. San José, 1989. 4.Veáse Babbie E. The practice of social research.Wadsworth Publishing Co.Belmont.l986.p.98 5.Ramírez Gonzalo. Indicadores socioeconómicos: Qué medir, para qué medir, para quién medir. Centroamérica: Indicadores socioeconómicos para el desarrollo. Edición Francisco Rojas Aravena. Ediciones Flacso. San José, 1989. Barboza J. y Raabe C. "Notas sobre estadísticas e indicadores sociales: referencia al caso de Costa Rica". Centroamérica: indicadores socioeconómicos para el desarrolllo. Edición Francisco Rojas Aravena. Ediciones Flacso. 6.Víquez Ramírez S. Ob.cit. 7.World Banks. The sustaimability of Investment Projects in Education Washington. Diciembre 1990. 8.Picado X. La evaluación de los programas sociales en el sector público costarricense. Institut de Investigaciones Económicas. Documento de Trabajo No. 135. San José, 1990. 9.CARMINES E. y ZELLER R.”RELIABILITY AND VALIDITY ASSESSMENT. BEVERLY HILLS. CALIFORNIA. SAGE. 1979, CITADO POR BABBIE E. OP.CIT. PP.112 10.Veáse Alvarez J.L. “El marco lógico”.FOV. mimeografiado. San José. 1982 11.Alvarez J. L. op.cit. 12.Babbie E. Op. cit.p.47 13.Hernández S.R. et al. Metodología de la investigación. McGraw- Hill.México.l991.p.76 www.ts.ucr.ac.cr 23  14.Pardinas F. "Metodología y técnicas de investigación en ciencias sociales". Siglo XXI. 1976. p. 132. 15.Pardinas F. ob.cit. 16.Crowther W. op.cit. pp.163-165 17.MOHR L. “IMPACT ANALYSIS FOR PROGRAM EVALUATION. SAGE: CALIFORNIA, l995 18.Casley D. y Kumar K. Recopilación, análisis y uso de los datos de seguimiento y evaluación. Ediciones Mundi-Prensa. Banco Mundial. 1990.p.4. 19.(Strauss A. y Corbin J., 1990 (1). (1) Strauss A. y Corbin J. "Basics of qualitative research. Grounded theory. Procedures and techiniques. Sage Publications. 1990. www.ts.ucr.ac.cr 24