Acessibilidade / Reportar erro

Diversificação como estratégia de expansão em uma instituição pública de pesquisa: uma avaliação utilizando o modelo DEA de análise de eficiência

Diversification as an expansion strategy in a public research institution: an evaluation using the dea model for efficiency analysis

Resumos

Este trabalho avalia a estratégia de expansão do Instituto de Pesquisa Clínica Evandro Chagas da Fundação Oswaldo Cruz - IPEC/FIOCRUZ para promover a pesquisa por meio de ações integradas (PAIs) de pesquisa clínica de doenças infecciosas. Foram avaliadas oito PAIs no período 2002-2008. A Análise Envoltória de Dados - DEA foi usada para calcular uma fronteira eficiente e indicar os planos de operação para conduzir as PAIs ineficientes à fronteira. A hipótese markoviana foi utilizada na análise da transição das PAIs entre os estados de eficiência e ineficiência, no longo prazo. Merecem destaque as seguintes conclusões: a PAI é uma estrutura factível e eficiente de produção conjunta de assistência, ensino e pesquisa; é possível guiar as escolhas de curto-prazo dos gerentes, quantificando a mudança do mix de produtos que resultaria da estratégia pró-eficiência; e, no longo prazo, a proporção de PAIs ineficientes poderá aumentar, caso não sejam adotadas medidas gerenciais adequadas.

Pesquisa estratégica em saúde; Diversificação da estrutura organizacional; Análise de eficiência; Análise envoltória de dados; Análise markoviana


In order to provide support to public health initiatives in Brazil, Evandro Chagas Clinical Research Institute (IPEC/FIOCRUZ) endeavours to integrate clinical research, technological development, education and the production of services in the field of infectious diseases. To assess the performance of this model, in this work we evaluate eight IPEC Integrated Actions ( PAIs) in the period 2002-2008, using Data Envelopment Analysis - DEA for the calculation of an efficiency border and to suggest the required changes in operation plans. Markovian analysis indicated the number of inefficient PAIs in the long run. Conclusions were in the sense that: the new format has disclosed the existence of efficient organisational paths; DEA models may be used to routinely follow up performance, to reinforce commitment and to promote pro-efficiency solutions; and a smooth tendency of efficiency loss in the long run could be identified.

Strategic research in health; Diversification in organizational structure; Efficiency analysis; Data envelopment analysis; Markovian analysis


Diversificação como estratégia de expansão em uma instituição p ública de pesquisa: uma avaliação utilizando o modelo DEA de análise de eficiência

Diversification as an expansion strategy in a public research institution: an evaluation using the dea model for efficiency analysis

Marcelino José JorgeI; Frederico A. de CarvalhoII; Marina Filgueiras JorgeIII

IDoutor em Engenharia de Produção pelo Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia da Universidade Federal do Rio de Janeiro - COPPE/UFRJ. Chefe da Seção de Monitoramento de Custos do Instituto de Pesquisa Clínica Evandro Chagas da Fundação Osvaldo Cruz - IPEC/FIOCRUZ, Rio de Janeiro/RJ/Brasil. Endereço: IPEC/FIOCRUZ. Av. Brasil, 4365, Manguinhos. Rio de Janeiro/RJ. CEP: 21040-360. E-mail: marcelino.jorge@ipec.fiocruz.br

IIDoutor em Ciências Econômicas pela Université Catholique de Louvain, Bélgica. Professor Associado da Faculdade de Administração e Ciências Contabéis da UFRJ, Rio de Janeiro/RJ/Brasil. E-mail: fdecarv@gmail.com

IIIMestre em Ciências Econômicas pela Universidade do Estado do Rio de Janeiro. Pesquisador em Propriedade Industrial do Instituto Nacional de Propriedade Industrial - INPI, Rio de Janeiro/RJ/Brasil. E-mail: marina_filgueiras@yahoo.com.br

RESUMO

Este trabalho avalia a estratégia de expansão do Instituto de Pesquisa Clínica Evandro Chagas da Fundação Oswaldo Cruz - IPEC/FIOCRUZ para promover a pesquisa por meio de ações integradas (PAIs) de pesquisa clínica de doenças infecciosas. Foram avaliadas oito PAIs no período 2002-2008. A Análise Envoltória de Dados - DEA foi usada para calcular uma fronteira eficiente e indicar os planos de operação para conduzir as PAIs ineficientes à fronteira. A hipótese markoviana foi utilizada na análise da transição das PAIs entre os estados de eficiência e ineficiência, no longo prazo. Merecem destaque as seguintes conclusões: a PAI é uma estrutura factível e eficiente de produção conjunta de assistência, ensino e pesquisa; é possível guiar as escolhas de curto-prazo dos gerentes, quantificando a mudança do mix de produtos que resultaria da estratégia pró-eficiência; e, no longo prazo, a proporção de PAIs ineficientes poderá aumentar, caso não sejam adotadas medidas gerenciais adequadas.

Palavras-chave: Pesquisa estratégica em saúde. Diversificação da estrutura organizacional. Análise de eficiência. Análise envoltória de dados. Análise markoviana

ABSTRACT

In order to provide support to public health initiatives in Brazil, Evandro Chagas Clinical Research Institute (IPEC/FIOCRUZ) endeavours to integrate clinical research, technological development, education and the production of services in the field of infectious diseases. To assess the performance of this model, in this work we evaluate eight IPEC Integrated Actions ( PAIs) in the period 2002-2008, using Data Envelopment Analysis - DEA for the calculation of an efficiency border and to suggest the required changes in operation plans. Markovian analysis indicated the number of inefficient PAIs in the long run. Conclusions were in the sense that: the new format has disclosed the existence of efficient organisational paths; DEA models may be used to routinely follow up performance, to reinforce commitment and to promote pro-efficiency solutions; and a smooth tendency of efficiency loss in the long run could be identified.

Keywords: Strategic research in health. Diversification in organizational structure. Efficiency analysis. Data envelopment analysis. Markovian analysis

Introdução

A adoção dos princípios da administração pública gerencial na reforma do Estado introduziu a gestão orientada para resultados nas organizações de saúde e trouxe crescente interesse com relação aos métodos de mensuração de performance (SILVA; FORMIGLI, 1994).

Em conseqüência da mudança do modelo de gestão da Fundação Oswaldo Cruz - FIOCRUZ a partir de 1994, o Instituto de Pesquisa Clínica Evandro Chagas - IPEC/FIOCRUZ, que atua nas áreas de pesquisa, ensino e assistência de doenças infecciosas, adotou uma estratégia de crescimento com destaque para a diversificação, colocada sob suspeita de promover ineficiências. O objetivo deste artigo é avaliar a performance das principais Ações Integradas (PAIs) de pesquisa clínica de doenças infecciosas, nas quais as atividades desse Instituto se diversificaram ao longo do tempo.

Em busca de alcançar esse objetivo, são, primeiramente, caracterizados os propósitos da estratégia de expansão com diversificação (JORGE et al., 2011, p. 92) do IPEC, adotada para a promoção da pesquisa clínica sobre doenças infecciosas no período 2002-2008. Em seguida, as relações analíticas estabelecidas entre os três conceitos de desempenho medido por resultados, de avaliação da performance e de eficiência técnica das unidades produtivas no modelo de administração pública gerencial são usadas como referência para formular o problema da pesquisa deste estudo, a saber, a avaliação do desempenho recente do IPEC e das suas perspectivas para o futuro sob o critério de eficiência.

Sob a hipótese de que a busca de eficiência em organizações do tipo do IPEC é condicionada pelo conhecimento, a priori, incompleto do processo produtivo por parte do gerente, o cálculo dos escores-síntese de eficiência técnica relativa das PAIs é feito por meio do método de Análise Envoltória de Dados - DEA (Data Envelopment Analysis). Por sua vez, a extensão da Análise de Eficiência ao estudo da distribuição das PAIs entre os estados de "eficiente" e "ineficiente" no longo prazo é feita utilizando o recurso da Hipótese Markoviana, segundo a qual o estado de eficiência ou ineficiência de uma PAI depende apenas do estado em que se encontrava no período anterior.

O texto está organizado em cinco seções, além da bibliografia. A seção a seguir apresenta uma breve revisão da literatura sobre princípios aplicáveis à Análise de Eficiência. A terceira seção descreve os procedimentos metodológicos utilizados na avaliação de performance, bem como o critério de seleção das PAIs escolhidas para o estudo, das variáveis do modelo e dos dados usados na pesquisa empírica. A quarta seção aborda o cálculo da fronteira eficiente, as indicações para melhoria das PAIs ineficientes e a perspectiva de longo prazo. A conclusão trata do poder explicativo, da contribuição gerencial e da capacidade de previsão da Análise de Eficiência.

Referencial Teórico

Nesta seção, serão inicialmente caracterizados os objetivos da estratégia de expansão com diversificação do IPEC, adotada para a promoção da pesquisa clínica no período 2002-2008. Em seguida, são examinadas as relações analíticas entre os três conceitos de desempenho medido por resultados, de avaliação da performance e de eficiência técnica das unidades produtivas, tal como estabelecidas na literatura sobre o modelo de administração pública gerencial e que servem de referência para formular o problema de pesquisa neste estudo.

Gestão do desempenho de unidades complexas de saúde

A reorganização do governo, com os propósitos de melhorar seu desempenho e tornar mais eficiente a gestão pública, envolveu estratégias para a substituição do modelo baseado no controle hierárquico do cumprimento de procedimentos por modelos consistentes com o paradigma da nova gestão pública. Entre os princípios da estratégia de administração pública gerencial, foram incluídos a valorização da eficiência, a elevação da performance, a introdução de mecanismos de mercado, a orientação para resultados, a descentralização dos controles gerenciais, a ênfase na responsabilização e a flexibilização de procedimentos (REZENDE, 2002). Entre os objetivos da reforma da gestão pública, foram incluídos o exame permanente da performance das organizações e a busca da eficiência e da responsabilização (accountability).

O grande interesse adquirido pela avaliação de resultados (HOLANDA; PETTERINI; NOGUEIRA, 2004) esteve, portanto, diretamente relacionado às iniciativas de reforma do Estado e à ênfase na eficiência e na responsabilização na administração pública em muitos países da América Latina, a partir da década dos noventa (GRAU; BOZZI, 2003).

Um dos pressupostos das teorias contemporâneas de administração pública sobre a gestão orientada para resultados é que esta forma de gestão geraria, no interior da organização, uma dinâmica que redundaria no melhoramento do desempenho. A hipótese implícita é que a dinâmica de enfatizar resultados, em lugar de concentrar-se apenas em procedimentos, desencadearia, por si mesma, processos de retroalimentação e aprendizagem por parte dos agentes envolvidos, que, por sua vez, promoveriam ações de correção que contribuiriam para melhorar a obtenção dos êxitos esperados (GRAU; BOZZI, 2003). Dito de outro modo, acredita-se que o exame sistemático do desempenho, através de monitoramento e avaliação, contribui para melhorar a gestão, porque produz a informação necessária para identificar e entender as causas dos êxitos e dos fracassos ou os problemas do desempenho individual ou coletivo, dentro de um contexto de planejamento estratégico.

A observação sistemática do desempenho, a escolha de modelos analíticos e indicadores adequados, assim como a produção sistemática de informação, apresentam, no entanto, desafios técnicos. Do ponto de vista da implementação do novo modelo de administração pública, o primeiro problema que mereceu atenção foi a dificuldade para estabelecer padrões de resultados para serviços em que a atividade pública persegue múltiplos objetivos; o segundo problema foi a dificuldade que se apresenta em organizações de grande complexidade e nas quais haja interdependência entre atividades (ECHEBARRÍA, 2005).

No IPEC, a propósito, prevalece a abordagem da pesquisa e do ensino sobre doenças infecciosas através da sistematização de protocolos de atendimento clínico (LOBO et al., 2009). Assim, a busca de sinergia entre as atividades clínicas das áreas médica e complementar e a laboratorial exige a constituição de elos entre as atividades de pesquisa, de ensino e de assistência no interior das PAIs, o que torna complexa a coordenação de interesses.

Com objetivos e metas específicos para suas atividades-fim - a saber, ensino, pesquisa e assistência -, cada PAI tem uma patologia como foco e engloba atividades especializadas de diagnóstico; de atendimento ambulatorial, de hospital-dia e de internação; de ensino e de pesquisa; além de apoio administrativo interno às atividades especializadas. No IPEC, além disso, as múltiplas abordagens profissionais de atendimento envolvem a participação rotineira não somente de infectologistas, mas também de especialistas de outras áreas clínicas, com vistas a aproveitar o conhecimento de todas estas especialidades.

Finalmente, consideremos a coorte de pacientes composta e acompanhada, em um banco de dados dos pesquisadores médicos, como marco de referência para a demarcação do que é entendido como uma PAI estruturada. Na Tabela 1, observa-se não somente que cada uma das PAIs inclui todas as atividades de pesquisa, de ensino, de laboratório e de atendimento do IPEC, mas também que, vistas em conjunto, essas PAIs respondem quase que integralmente por essas atividades tomadas individualmente.

Essa organização governamental complexa, sem fins lucrativos e com tal diversificação de objetivos e meios convive, portanto, com problemas de coordenação e de compromisso nas diversas facetas da tomada de decisão, em particular quanto à distribuição interna dos recursos orçamentários entre os objetivos concorrentes das várias PAIs.

Ao mesmo tempo, o propósito estratégico do IPEC de ocupar um nicho institucional diferenciado, de modo a obter recursos para sua expansão, requer o desenvolvimento das suas PAIs como unidades produtivas e não apenas o desempenho unilateral das suas atividades. Como conseqüência, a obtenção de indicadores para avaliar a evolução temporal do desempenho das suas PAIs como unidades produtivas é de grande importância para a gestão do IPEC (SCHWARTZMAN, 1994).

Produtividade e eficiência: a organização como unidade produtiva

O ponto de partida conceitual nesta subseção é muito simples, mas muito geral, pois focaliza uma organização em sua atividade básica de utilizar recursos para produzir bens ou serviços. Nesse contexto, aceita-se como igualmente básica a virtude de qualquer processo organizacional que permita produzir mais com os mesmos recursos ou que permita produzir o mesmo com menos recursos. Esse é o princípio básico da eficiência, inegavelmente atraente para qualquer organização que precise utilizar recursos limitados, incluindo as organizações públicas.

De acordo com Coelli, Rao e Battese (1998), os aumentos de produtividade podem ser decompostos em três tipos de ganhos: ganhos de eficiência técnica, ganhos de escala e ganhos da mudança técnica. A Figura 1, adaptada de Coelli, Rao e Battese (1998), ilustra as possíveis formas de mudança de produtividade em uma organização (simplificada) que opera com um insumo e um produto. Nesse modelo gráfico, o ponto A indica uma organização ineficiente, com a fronteira de possibilidade de produção OF. Sua ineficiência está relacionada ao fato de que ela poderia estar produzindo mais produtos com a mesma quantidade de insumo (deslocamento vertical para cima até a fronteira OF) ou poderia estar produzindo o mesmo produto com menos quantidade de insumo (deslocamento horizontal para a esquerda até a fronteira OF). Como resultado, a produtividade da organização no ponto A é medida pela inclinação da reta que parte da origem - OA.


A partir do ponto A, o aumento de produtividade da organização pode ser decomposto em três processos:

• A → B: de A para B a organização ineficiente aumenta sua habilidade de obter o máximo de produto a partir de um conjunto de insumos e, desta maneira, ao aumentar sua eficiência técnica na utilização dos insumos, alcança ganhos de produtividade no ponto B;

• B → C: de B para C a organização eficiente explora economias de escala e se desloca ao longo da sua fronteira de produção eficiente (OF), de modo que aumenta a produtividade ao seu nível ótimo no ponto C; e

• C → D: de C para D, ao longo do tempo, avanços na tecnologia podem induzir o deslocamento da fronteira de produção (de OF → OF'), de modo que a mudança técnica configura outra fonte de aumento de produtividade, por exemplo o ponto D.

Uma vez promovida a consistência entre os objetivos pretendidos pelo gerente e os objetivos organizacionais, bem como entre os objetivos executados e os objetivos pretendidos, a gestão tem, como terceiro propósito, o de eliminar as ineficiências técnicas decorrentes dos fatores que efetivamente se encontram sob o controle dos gerentes.

Em decorrência da assimetria de informação, vale dizer, as dificuldades engendradas pela natureza humana e interpessoal dos processos de tomada de decisão em unidades econômicas implicam que o esforço empreendido pelo executor da ação é uma variável que encontra-se fora de observação direta do administrador. São as chamadas razões de natureza "X" - fatores de origem externa versus ineficiências alocativas (LEIBENSTEIN, 1966) - que implicam em conflito entre interesses individuais e objetivos organizacionais e que resultam em custos mais elevados e/ou em remunerações desestimulantes.

Por sua vez, o reconhecimento da existência de ineficiências de natureza "X" origina, na literatura, a discussão dos diferentes tratamentos dispensados aos problemas de assimetria de informação, de um lado, pelos métodos paramétricos estocásticos de estimação e, de outro, pelos métodos não-paramétricos, tais como o método de Análise Envoltória de Dados - DEA, caracterizado na próxim seção.

As cisões entre propriedade e controle nas organizações e entre administradores e executores das ações organizacionais provocam um conflito que implica, naturalmente, na falta de acesso, por parte do administrador, à função teórica de transformação e à verdadeira função de custos da sua organização.

Por motivos associados à natureza das ineficiências, considera-se, portanto, que a avaliação de eficiência de unidades produtivas não deve ser limitada pelo estabelecimento, a priori, de formas funcionais para a função de produção. Postula-se, então (KREPS, 1990), a existência de ineficiências não alocativas no processo produtivo, decorrentes de motivos que escapam ao controle dos administradores, que podem explicar a "distância" da unidade econômica em relação à produção tecnicamente eficiente. Diante disso, parte da literatura sobre avaliação de unidades econômicas recomenda a utilização de instrumental de ajuste não-paramétrico da fronteira de eficiência (GONÇALVES et al., 2007). Em termos econômicos, esta fronteira representa o lócus de eficiência técnica, a fronteira de produção às "melhores práticas" reveladas, ou seja, a produção máxima empiricamente observada de qualquer unidade econômica da população estudada, a partir de sua dotação efetiva de insumos (COELLI; RAO; BATTESE, 1998).

Foco da atenção do modelo de gestão por resultados, adotado no IPEC, a medida de ineficiência técnica das PAIs assim definida, bem como sua variação ao longo do tempo sinalizam a presença de uma margem de atuação para os mecanismos gerenciais internos de ajuste à trajetória de busca de eficiência da organização; ao mesmo tempo que explicam o propósito da estratégia de expansão com diversificação e da estrutura organizacional de promoção da pesquisa de forma consorciada com a assistência e o ensino, tal como foram implementadas.

Portanto, em que pese "uma formidável parcela das aplicações empíricas da DEA ter se baseado em dados de cross-section" (GRIFELL-TATJÉ; LOVELL, 1997, p. 177.), consagrando o uso dos escores-síntese de eficiência técnica para a identificação de diferentes composições pró-eficiência do output mix das DMUs como tradição (CESCONETTO; LAPA; CALVO, 2008), a formulação do problema de avaliação proposto neste estudo implica, de fato, no ajuste de uma fronteira única como padrão de avaliação intertemporal da eficiência técnica de várias PAIs do IPEC em cada ano do período 2002-2008.

Metodologia

A partir dessa abordagem sobre os objetivos organizacionais e sobre as opções alocativas ao alcance das PAIs amostradas, o dimensionamento do ajuste ótimo para assegurar seu desenvolvimento é aqui formulado como um problema de cálculo das fronteiras eficientes de possibilidades de produção dessas unidades produtivas e do seu desempenho relativo, bem como dos planos de operação - ou seja, das mudanças em suas combinações de recursos e resultados - necessários para proporcionar ganhos de eficiência técnica.

Nesta seção, trata-se deste e dos demais procedimentos metodológicos que nortearam a análise.

Análise Envoltória de Dados - DEA

A família de modelos conhecida como Data Envelopment Analysis (DEA) foi introduzida por Charnes, Cooper e Rhodes (1978, 1981) e, posteriormente, modificada por Banker, Charnes e Cooper (1984). A diferença mais importante entre esses dois modelos é a possibilidade de tratamento das economias de escala: retornos variáveis (RVE) no modelo Banker, Charnes e Cooper (modelo BCC), utilizado neste estudo, ou retornos constantes de escala (RCE), no modelo Charnes, Cooper e Rhodes (modelo CCR).

A DEA, aplicada nas mais variadas formas, é sempre utilizada para avaliar a eficiência de unidades produtivas (Decision Making Units - DMUs) que usam múltiplos insumos para obter múltiplos produtos. Por exemplo, as avaliações focalizam DMUs que podem referir-se a diversos tipos de organizações públicas, tais como escolas públicas, hospitais (LINS et al., 2007) e unidades ou sistemas militares, todos devidamente entendidos como tipos de "organizações complexas". Essa flexibilidade no uso desse instrumental reside no fato de não requerer a pré-definição de uma forma funcional para a função de produção, tal como é exigido, por exemplo, nas abordagens econométricas de regressão. Tal flexibilidade é uma das vantagens especialmente relevantes desse método, pois permite sua aplicação em diversas situações.

Entre as características de interesse da DEA para a análise de organizações governamentais - sujeitas a operar sob um orçamento limitado, a prori, tal como o IPEC - destaca-se a flexibilidade do método para estimar uma fronteira de produção que maximiza o produto, sujeito à quantidade de insumos que é possível utilizar sob aquela limitação orçamentária. Esse procedimento implica resultados alocativos eficientes no sentido de Pareto. Além disso, a DEA permite a incorporação, na análise, de insumos e de produtos mensurados em diferentes unidades de medida - dispensando, portanto, o uso de "valores" de qualquer natureza - e possibilita a verificação de valores ótimos de produção e de consumo respeitando restrições de viabilidade (feasibility) definidas segundo a conveniência de quem usa.

A DEA parte da premissa de que existe uma fronteira de produção que envolve as unidades produtivas observadas (ou "amostradas"). Essa fronteira é construída a partir da combinação linear que conecta aquelas DMUs que apresentam as melhores práticas. O valor calculado da eficiência, portanto, não é absoluto, dado que leva em conta as situações relativas entre as diversas DMUs. Assim, DMUs que estiverem localizadas na fronteira serão "mais eficientes relativamente às demais", e o desvio de uma unidade produtiva ineficiente em relação a essa fronteira empiricamente observada será, por sua vez, sua medida de ineficiência. Além disso, a DEA permite localizar unidades eficientes de referência para cada uma daquelas que for assinalada como ineficiente (MARINHO; FAÇANHA, 2001).

Com apoio na formalização de Coelli, Rao e Battese (1998) e de Estellita Lins e Ângulo-Meza (2000), pode-se descrever o método partindo da definição do conjunto das N organizações que utilizam K insumos e produzem M produtos. A matriz de insumos X é uma matriz retangular KxN que representa os insumos utilizados pelas organizações. A matriz Y é uma matriz MxN que representa os produtos produzidos por elas. Nessas matrizes, cada organização é representada por um vetor de produto, yi , e de insumos, xi. Para cada organização, é obtida a razão entre os produtos e insumos utilizados, u'yi/v'xi , em que u é um vetor Mx1 contendo os pesos - a "importância relativa" - dos produtos e v é um vetor Kx1 contendo o peso dos insumos.

Utilizando Programação Linear, os pesos ótimos são encontrados pela resolução do seguinte problema de maximização:

maxμ,v (μ'yi/v'xi), sujeito a μ'yi/v'xi=1 ; μ'yj/v'xj ≤ 0, j=1, 2,..., N ; μ, v ≥ 0. (1)

Aplicando o conceito de dualidade da Programação Linear, pode-se afirmar que o problema de maximização (1) equivale ao seguinte problema de minimização.

minθ,λ θ, sujeito a yi + Yλ ≥ 0 ; θxi - Xλ ≥ 0 ; λ ≥ 0. (2)

O escalar θ do problema de minimização em (2) representa a eficiência técnica (ET) da unidade produtiva, e λ é um vetor de constantes Nx1. Por definição, temos que θ ≤ 1, o que significa que, se a organização está sobre a fronteira (ou seja, θ = 1), sua eficiência técnica será máxima de acordo com a definição de Debreu-Farrell. O valor de θ é calculado para cada DMU. O problema de minimização em (2) adota a hipótese de que todas as DMUs operam com retornos constantes de escala, ou seja, em escala ótima. Para estimar a eficiência de escala da unidade produtiva e identificar com que tipo de retornos de escala está operando - se crescentes, constantes ou decrescentes -, o problema de minimização (2) pode ser modificado de modo bem simples.

A aplicação dos modelos com RCE e RVE permite calcular os escores de eficiência técnica, decompostos em eficiência técnica pura e eficiência de escala (PROITE; SOUZA, 2004), para cada unidade produtiva. Os resultados oferecem, também, os alvos a serem alcançados por unidades produtivas ineficientes, os chamados "planos de operação".

Testes de aferição da precisão estatística das estimativas

Com vistas à análise dos escores-síntese calculados com o modelo DEA, e considerando que as amostras exemplificam distribuições de probabilidades desconhecidas, foi utilizado o teste de Friedman (SIEGEL, 1956) e a metodologia Bootstrap. Esta metodologia tem por objetivo inferir a respeito de parâmetros populacionais, mesmo para amostras pequenas e com distribuição de probabilidade desconhecida, através do processo de reamostragem, que permite lidar com o problema de indeterminação do erro de cálculo, inerente aos métodos determinísticos tais como a DEA (SOUZA; RAMOS, 1999).

O teste F de Friedman é um teste não-paramétrico usado para testar a existência de diferenças entre três ou mais amostras não necessariamente independentes (TRIOLA, 2005). A hipótese nula a ser testada é de que não há diferença entre as K opções de amostra (DOWNING; CLARK, 2000). Se Fcalc > χ2tab com K -1 graus de liberdade, deve-se rejeitar a hipótese nula de que as amostras são estatisticamente indistintas, porém, extraídas da mesma população, ao nível de confiança selecionado.

O método Bootstrap, por sua vez, é um procedimento computacional desenvolvido para estimar, por reamostragem, a variabilidade de parâmetros amostrais, particularmente no caso de amostras com distribuição de probabilidades desconhecidas. Em outras palavras, a abordagem Bootstrap baseia-se na geração de R amostras de tamanho N com reposição, ou seja, um processo de reamostragem em que R é o número de reamostragens denominadas amostras Bootstrap.

Apresentado em 1979, o método Bootstrap pode ser utilizado, por exemplo, para estimar uma medida de precisão, como o erro padrão de um estimador θ = S(X), qual seja, a estimativa Bootstrap (EFRON; TIBSHIRANI, 1993).

Se, em particular, o estimador θ = S(X) for o estimador da média aritmética - que é de especial interesse nesta análise - e R for suficientemente grande (EFRON; TIBSHIRANI, 1993):

A expressão (3) é, então, o valor limite do erro padrão para a média.

Resumindo, o método Bootstrap é recomendável quando há impossibilidade de estimação de parâmetros pelos métodos tradicionais da Estatística Paramétrica, os quais pressupõem grandes amostras ou populações com distribuição de probabilidades conhecidas.

No caso da diferença entre médias amostrais, para utilizar o método Bootstrap quando a medida de precisão estatística de estimativas é o erro padrão, o procedimento de teste segue os seguintes passos:

a) calcular as médias amostrais;

b) calcular o erro padrão de cada uma das amostras utilizando a expressão (3); e

c) dividir a diferença das médias amostrais obtidas em (a) pela soma dos erros padrão calculados em (b).

Se o resultado da divisão efetuada no passo anterior é pequeno, digamos menor que 1, cabe concluir que não há diferença estatisticamente significativa entre as médias amostrais.

Análise markoviana

Como se dispõe de escores calculados para as oito PAIs no período 2002-2008, que se referem à fronteira conjunta calculada para as 56 ações integradas anuais, foi possível investigar o desdobramento do processo evolutivo que foi separando as unidades eficientes das ineficientes ao longo do período. Adotando a hipótese markoviana (KEMENY; SNELL, 1972) de que o estado de eficiência ou ineficiência de uma ação integrada PAI depende apenas do estado em que se encontrava no período anterior, pode-se construir a matriz de probabilidades de transição entre os estados de "eficiência" e "ineficiência" para o sistema constituído pelas oito ações integradas ao longo dos sete anos. Na literatura, um procedimento indicado para obter essa matriz se baseia na simples contagem (transition count; ver Billingsley, 1961, p. 14, ou Anderson; Goodman, 1957, p. 92) do número de passagens de um estado a outro no período 2002-2008.

De posse daquela matriz e utilizando o conceito de distribuição de equilíbrio (KEMENY; SNELL, 1972), pode-se determinar a distribuição percentual no longo prazo do conjunto das unidades produtivas entre aqueles dois estados, que representa o equilíbrio dinâmico do sistema, desde que não haja uma interveniência, de natureza gerencial ou não, sobre o processo, que possa, por exemplo, comprometer a aceitação da hipótese markoviana.

Universo, amostra e coleta de dados

O universo da pesquisa é formado pelo conjunto das quatorze PAIs do IPEC. A reduzida participação das seis PAIs que não integram todas as modalidades de diagnóstico, de atendimento, de ensino e de pesquisa, no total das atividades do Instituto, levou a focalizar a avaliação da eficácia do modelo de organização do IPEC na Análise de Eficiência das oito PAIs que estão reconhecidamente estruturadas, a saber, as PAIs de Doença de Chagas, DFA/Dengue, HTLV, Leishmaniose, Micoses, Toxoplasmose, Tuberculose e HIV/AIDS.

Os dados básicos, retroativos a 2002, são provenientes de três fontes: (1) os bancos de dados informatizados do Centro de Clínicas (CECLIN) e Centro Laboratorial (SERVLAB) do Sistema do IPEC (SIPEC); (2) os dados primários relativos às coortes dos pacientes das PAIs que têm prontuário, recorrendo às entrevistas semi-estruturadas realizadas com os pesquisadores responsáveis por projetos de pesquisa clínica; e (3) os gastos em material de consumo nas notas de empenho geradas pelo Sistema Integrado de Administração Financeira do Governo Federal - SIAFI.

Face ao número restrito de unidades de observação e à série de dados anuais disponíveis, por enquanto curta, o modelo DEA foi aplicado ao cálculo de uma fronteira única para o conjunto das PAIs anuais do período 2002-2008. Foram considerados dois recursos (ou inputs), a saber, o número de horas-médico/ano e a despesa de custeio/ano (a preços correntes e incluindo medicamentos, reagentes e material hospitalar. Os produtos (ou outputs) foram representados por sete variáveis: número de exames diagnóstico/ano, número de consultas de infectologista/ano, número de dias de internação/ano, número de artigos publicados/ano, número de pacientes incluídos nos projetos de pesquisa/ano, número de teses e dissertações/ano e número de buscas orientadas em prontuário médico do paciente/ano.

Resultados

Os resultados que aparecem nesta seção estão distribuídos em quatro subseções. Primeiro, é apresentada a discriminação das ações integradas anuais em grupos de unidades relativamente "eficientes" e "ineficientes". A subseção seguinte analisa os resultados do teste da diferença entre os escores. A terceira subseção expõe os resultados da análise markoviana Finalmente, sob a denominação de "plano de operação conjunto 2002-2008", é apresentada a soma das alterações alocativas de insumos e produtos que permitiriam levar cada ação ineficiente de volta à fronteira conjunta calculada para o período 2002-2008.

Classificação das ações integradas segundo sua eficiência

O problema de programação linear subjacente ao cálculo do modelo DEA com Retornos Variáveis de Escala Orientado para o Produto (DEA-BCC-O) foi resolvido para a obtenção dos escores-síntese das 56 ações integradas anuais selecionadas, que refletem o poder de discriminação do modelo entre PAIs eficientes e não eficientes (COELLI, 1996). A esse propósito, observa-se que quanto maior for o número de DMUs em relação ao número de variáveis, melhor será a discriminação das DMUs eficientes e ineficientes (COELLI; RAO; BATTESE, 1998).

Foi verificado, então, que quase toda a despesa com material hospitalar do IPEC é de uso geral. Em segundo lugar, como são medidas em valor, as despesas com medicamento, com reagente e com material hospitalar foram adicionadas, obtendo-se a variável Despesa de Custeio Exclusive Pessoal. Apesar dessa redução do número de variáveis, os escores mostram uma fronteira de eficiência com 31 das 56 DMUs avaliadas (veja a Tabela 2).

Foram feitas outras simulações com o modelo DEA, no intuito de observar se a fronteira calculada com as variáveis utilizadas nessa especificação efetivamente descreve o resultado de maior poder explicativo. Verificou-se, então, que a exclusão de variáveis de output não causa efeito na discriminação das unidades eficientes e que os valores dos escores-síntese de eficiência relativa das unidades ineficientes pouco se alteram. Optou-se, portanto, por persistir na utilização do modelo (DEA-BCC-O), tal como inicialmente especificado.

A Tabela 2 mostra, também, a mudança na eficiência, indicando que houve unidades eficientes (4) e ineficientes (1) que assim se mantiveram nos anos inicial e final do período. Por outro lado, houve mudanças de um estado para outro entre 2002 e 2008: duas unidades eficientes em 2002 passaram a ineficientes em 2008; e uma cumpriu sentido inverso no mesmo período. Todas as unidades, porém, persistiram em níveis bastante elevados de eficiência, sugerindo, em princípio, um forte efeito aprendizado cruzado entre os gerentes de cada PAI no período.

O aumento das despesas das PAIs nesses anos levantou a suspeita de que a produção tivesse incorporado ineficiências, por força de problemas de gestão. A análise comparativa da média anual dos escores calculados é, portanto, de especial interesse, no sentido de verificar se houve variação negativa do escore médio, sugerindo perda de eficiência de performance, ou se, ao contrário, a variação foi positiva, sugerindo ganho de eficiência. De fato, houve crescimento do valor calculado do escore médio anual de eficiência no período: 96,4% para o ano de 2002; 96,1% em 2003; 97,0% em 2004; 95,9% em 2005; 91,3% em 2006; 97,9% em 2007; e 98,1% em 2008 (veja a Tabela 2). De imediato, portanto, esses resultados indicam que não houve perda de eficiência.

Para completar a análise dessa questão, cabe lembrar que os registros sistemáticos disponíveis, como vimos, são de periodicidade anual. Assim sendo, diante do baixo poder do modelo para a discriminação dos PAIs eficientes e ineficientes daí resultante, uma questão adicional é a de verificar se houve variação significativa do coeficiente médio de eficiência técnica relativa do subconjunto das PAIs de um ano para outro.

Resultados do teste de precisão estatística de estimativas

Os coeficientes de variação, calculados para o conjunto das PAIs no período de análise, não são superiores a 9% (veja a Tabela 1), mostrando que o escore médio de eficiência técnica de cada ano é representativo da eficiência do subconjunto das PAIs do ano correspondente.

Quando os escores das PAIs de diferentes anos são comparados pelo teste de Friedman, a estatística de teste, Fcalc , aplicada a sete amostras (anos) de oito elementos (PAIs), forneceu o valor 10.107,47, maior que o valor teórico para a distribuição qui-quadrado com seis graus de liberdade e 95% de confiança. Pode-se, então, rejeitar a hipótese nula de que não haja diferença entre as amostras, ou seja, pode-se afirmar que existe diferença entre os escores médios de eficiência técnica de diferentes anos.

Com vistas a testar a significância das diferenças entre as médias amostrais de dois anos consecutivos utilizando a técnica Bootstrap, foram obedecidos os passos descritos no final da subseção 3.2. Depois de obtidas as médias amostrais (passo a), foi calculada a estimativa Bootstrap do erro padrão de cada uma das amostras utilizando a expressão (3) (passo b), cujos resultados foram: SÊBOOT(2002)=2,2627; SÊBOOT(2003)=2,3806, SÊBOOT(2004)=2,0017, SÊBOOT(2005)=2,2608; SÊBOOT(2006)=2,6231, SÊBOOT(2007)=1,6229 e SÊBOOT(2007) =1,2121. Em seguida, obteve-se o resultado da divisão da diferença das médias amostrais entre dois períodos consecutivos pela soma dos respectivos erros padrão (passo c). Para os períodos 2002-03, 2003-04 e 2007-08, os resultados absolutos da divisão foram menores do que 1, enquanto que para os períodos 2004-05, 2005-06 e 2006-07 foram maiores do que 1.

Quando os resultados obtidos do teste de diferença das médias amostrais utilizando a técnica Bootstrap são menores do que 1, pode-se concluir que não há diferença estatística significativa entre as médias amostrais nos períodos considerados. Segundo os resultados obtidos, há diferença estatística significativa, portanto, entre as médias amostrais apenas nos períodos 2004-05, 2005-06 e 2006-07, resultando em crescimento do escore médio anual de eficiência técnica com o desdobramento do período.

Considerando, então, que as médias da eficiência técnica das PAIs anuais crescem com a evolução do período 2002-2008 e que o resultado do teste de Friedman não confirma perda de eficiência, a próxima subseção amplia este horizonte de observação a partir da abordagem markoviana da transição entre as condições de eficiência e ineficiência. Em outras palavras, para completar essas considerações sobre a performance das PAIs do IPEC, a próxima subseção incorpora o horizonte de longo prazo à investigação da hipótese de perda de eficiência do conjunto das PAIs, recorrendo à abordagem markoviana da transição entre as condições de eficiência e ineficiência.

Hipótese markoviana

Uma primeira observação que merece destaque é que, efetivamente, o percentual de unidades eficientes apresenta, no período, evolução distinta em relação ao caminho temporal dos escores médios, sugerindo que se trata de modos distintos para avaliar a eficiência do "sistema produtivo" representado pelas oito PAIs.

Contando as mudanças de estado para cada ação integrada ao longo do período 2002-2008 e usando as iniciais óbvias, obtemos: E para E = 17; E para I = 9; I para E = 8; I para I = 14.

Podemos, então, escrever a matriz P de probabilidades de transição entre estados (no período). Por exemplo, a probabilidade de passar, no período, de "eficiente" para "ineficiente" é igual a 9/26 (9 que passaram dentre 26 eficientes). Adotando a hipótese markoviana de que, ao longo do tempo, as probabilidades de transição entre estados só dependem do estado anterior, podemos calcular a distribuição percentual das unidades em cada um dos dois estados em termos de equilíbrio dinâmico (KEMENY; SNELL, 1972, p. 131). Essa distribuição pode ser escrita como um vetor-linha π cujos elementos somam 1 e que satisfaz a equação matricial p P = p. Resolvendo esta equação obtém-se:

pE (percentual das Eficientes) = 51,23%; pNE (percentual das Ineficientes) = 48,77%.

Da Tabela 2, pode-se extrair, finalmente, que o percentual eficiente médio no período foi de 55,36% e que o percentual eficiente mediano atingiu 56,25. Assim, pode-se argumentar que, em termos agregados ("sistêmicos"), os escores individuais sugerem uma super estimativa da percentagem eficiente no período, vis-à-vis a distribuição de longo prazo do sistema, indicada pela análise markoviana. Segundo essa análise, parece haver um ligeiro movimento em direção ao aumento da ineficiência do sistema, no longo prazo, se nada for feito em termos gerenciais.

Planos de operação eficientes

O modelo foi usado, ainda, para identificar o conjunto de referência - os "pares" - de cada DMU não eficiente, ou seja, as PAIs relativamente eficientes que podem servir de benchmarks para que cada PAI ineficiente também atinja a fronteira de eficiência.

A análise conjunta dos planos de operação pró-eficiência prescritos permitiu concluir que a escolha em simultâneo dos novos mixes de insumos e produtos não aumenta a Despesa de Custeio Exclusive Pessoal do IPEC, mas reduz as horas-médico contratadas, e que o aumento da quantidade de produto é compatível com a capacidade instalada (veja a Tabela 3).

Conclusões

Em que pese o baixo poder de discriminação que foi possível demonstrar entre PAIs eficientes e ineficientes, o modelo DEA revelou-se útil, antes de mais nada, porque os dados básicos levantados demandaram esforço de inventário e contribuíram para o auto-conhecimento.

Uma vez que um dos alvos da Análise de Eficiência é reforçar o compromisso dos gerentes com o objetivo plural do IPEC, justificando, então, preservar todas as variáveis utilizadas na representação das suas atividades, o futuro aumento da série histórica hoje disponível e do número de PAIs avaliadas irá permitir conclusões mais apuradas, ao mesmo tempo em que o conhecimento das características e do contexto de cada PAI, em particular sobre o efeito do aprendizado para a difusão das técnicas utilizadas em cada PAI anual, irá amenizar suas limitações atuais.

Ainda assim, os resultados obtidos comprovaram ganhos de eficiência de curto prazo ao longo da experiência das PAIs e estes resultados identificaram grandes margens para o aumento do número de consultas, exames, internações, artigos e teses, em busca de eficiência sistêmica do conjunto das PAIs do IPEC.

Adotada, no entanto, a hipótese markoviana sobre a conexão intertemporal do desempenho das PAIs e calculada a distribuição percentual de equilíbrio de longo prazo entre os dois estados de eficiência, pode-se concluir que existe um ligeiro movimento em direção ao aumento da ineficiência sistêmica, se nada for feito em termos gerenciais. Resumindo, a Análise de Eficiência logrou caracterizar a mudança organizacional do IPEC como uma estratégia pró-eficiência de produção conjunta de assistência, conhecimento e ensino. Em outros termos, a Análise de Eficiência aqui empreendida apresentou evidências de que - face à informação incompleta de que o gerente dispõe sobre as atividades complexas que envolvem o uso de recursos especializados e face à dotação orçamentária anual pré-estabelecida - a hipótese de maximização da eficiência técnica relativa, subjacente ao modelo (DEA-BCC-O) de caracterização do objetivo gerencial das ações integradas anuais, como o de mirar-se nos pares para maximizar o produto, é consistente para a explicação da escolha de curto prazo dos planos de operação em organizações com a estrutura de PAIs.

Além disso, foi demonstrada a relevância das ações estratégicas devotadas à expansão com diversificação (JORGE et al., 2011) na atividade de pesquisa clínica, permitindo concluir a partir do poder explicativo do modelo DEA.

Diante da melhoria de performance das PAIs e dos limites constatados, a contribuição gerencial da Análise de Eficiência, por sua vez, foi oferecer evidências de que o agravamento dos problemas de coordenação e de compromisso, no âmbito da estrutura de Ação Integrada, pode demandar esforço adicional de gestão, mas, ao mesmo tempo, de que estes problemas, em princípio, não chegam a ofuscar a eficácia da estrutura organizacional em PAIs.

Artigo recebido em 25/03/2010.

Última versão recebida em 12/05/2011.

Artigo aprovado em 16/06/2011.

  • ANDERSON, T. W.; GOODMAN, L. Statistical inference about Markov chains. The Annals of Mathematical Statistics, v. 28, n. 1, p. 89-110, 1957.
  • BANKER, R.; CHARNES, A.; COOPER, W. W. Some models for estimating technical and scale inefficiencies in data envelopment analysis. Management Science, v. 30, n. 9, p. 1078-1092, 1984.
  • BILLINGSLEY, P. Statistical methods in Markov chains. The Annals of Mathematical Statistics, v. 32, n. 1, p. 12-40, 1961.
  • CESCONETTO, A.; LAPA, J. S.; CALVO, M. C. M. Avaliação da eficiência produtiva dos hospitais do SUS de Santa Catarina, Brasil. Cadernos de Saúde Pública, v. 24, n. 10, p. 2407-2417, 2008.
  • CHARNES, A.; COOPER, W.; ROHDES, E. Measuring the efficiency of decision making units. European Journal of Operational Research, v. 2, n. 3, p. 429-444, 1978.
  • _________. Evaluating program and managerial efficiency: an application of data envelopment analysis to program Follow Through. Management Science, v. 27, n. 6, p. 688-697, 1981.
  • COELLI, T. A guide to DEAP version 2.1: a Data Envelopment Analysis (Computer) Program. Armidale, AU: University of New England, 1996. (CEPA Working Paper n. 8).
  • _________; RAO, D. S. P.; BATTESE, G. E. An introduction to efficiency and productivity analysis. Boston: Kluwer, 1998.
  • DE NEGRI, J. A. Desempenho exportador das firmas industriais no Brasil: a influência da eficiência de escala e dos rendimentos crescentes de escala. Brasília, DF: IPEA, 2003. (Texto para Discussão, n. 997).
  • DOWNING, D.; CLARK, J. Estatística aplicada São Paulo: Saraiva, 2000.
  • ECHEBARRÍA, K. Responsabilización y responsabilidad gerencial: instituciones antes que instrumentos. In: ECHEBARRÍA, K. et al. Responsabilización y evaluación de la gestión pública Caracas: CLAD/AECI, 2005. p. 13-46.
  • EFRON, B.; TIBSHIRANI, R. J. An introduction to the bootstrap. New York: Chapman & Hall, 1993.
  • ESTELLITA LINS, M. P.; ANGULO MEZA, L. (Org.). Análise envoltória de dados Rio de Janeiro: COPPE / UFRJ, 2000.
  • GONÇALVES, A. C.; NORONHA, C. P.; LINS, M. P. E.; ALMEIDA, R. M. V. R. Análise envoltória de dados na avaliação de hospitais públicos nas capitais brasileiras. Revista de Saúde Pública, v. 41, n. 3, p. 427-435, 2007.
  • GRAU, N. C.; BOZZI, S. O. La evaluación de los resultados de la gestión pública: una herramienta técnica y política. In: ___________. (Ed.). Evaluación de resultados para una gestión pública moderna y democrática: experiencias latinoamericanas. Caracas: CLAD/AECI, 2003. p. 435-494.
  • GRIFELL-TATJÉ, E.; LOVELL, C. A. K. A DEA-based analysis of productivity change and intertemporal managerial performance. Annals of Operations Research, v. 73, n. 0 (número especial em homenagem a Abraham Charnes), p. 177-189, 1997.
  • HOLANDA, M. C.; PETTERINI, F. C.; NOGUEIRA, C. A. G. O SUS no Ceará: avaliação de eficiência técnica nos municípios. Fortaleza: IPECE - SEPLAN, Governo do Estado do Ceará, 2004. (Texto para Discussão, n. 13).
  • JORGE, M. J.; CARVALHO, F. A.; FERREIRA, D. S.; AVELLAR, C. M.; SOUZA, A. C. Organizational change as a strategic tool: the case of a public organization in Brazil. International Public Management Review, v. 12, n. 1, p. 85-94, 2011.
  • KEMENY, J. G.; SNELL, J. L. Mathematical models in the social sciences Cambridge, MA: The MIT Press, 1972.
  • KREPS, D. Corporate culture and economic theory. In: ALT, J.; SHAPSLE, K. (Ed.). Perspectives on positive political economy New York: Cambridge University Press, 1990. p. 90-143.
  • LEIBENSTEIN, H. Allocative efficiency vs. "X-efficiency". American Economic Review, v. 56, n. 3, p. 392-415, 1966.
  • LINS, M. P. E.; LOBO, M. S. C.; SILVA, A. C. M.; FISZMAN, R. O uso da análise envoltória de dados (DEA) para avaliação de hospitais universitários brasileiros. Ciência & Saúde Coletiva, v. 12, n. 4, p. 985-998, 2007.
  • LOBO, M. S. C.; SILVA, A. C. M.; LINS, M. P. E.; FISZMAN, R. Impacto da reforma de financiamento de hospitais de ensino no Brasil. Revista de Saúde Pública, v. 43, n. 3, p. 437-445, 2009.
  • MARINHO, A.; FAÇANHA, L. O. Estudo de eficiência em alguns hospitais públicos e privados com a geração de rankings Rio de Janeiro: IPEA, 2001. (Texto para Discussão, n. 794).
  • PROITE, A.; SOUZA, M. C. S. de. Eficiência técnica, economias de escala, estrutura da propriedade e tipo de gestão no sistema hospitalar brasileiro. In: ENCONTRO NACIONAL DE ECONOMIA, 32., 2004, João Pessoa. Anais . . . São Paulo: ANPEC, 2004.
  • REZENDE, F. C. As reformas e as transformações no papel do estado: o Brasil em perspectiva comparada. In: ABRUCIO, F.; LOUREIRO, M. R. (Org.). O estado numa era de reformas: os anos FHC - Parte 1. Brasília: MP, SEGES, 2002. p. 163-208.
  • SCHWARTZMAN, J. Um sistema de indicadores para as universidades brasileiras São Paulo: NUPES/USP, 1994. (Documento de Trabalho, n. 5).
  • SIEGEL, S. Nonparametric statistics New York: McGraw-Hill, 1956.
  • SILVA, L. M. V.; FORMIGLI, L. A. Avaliação em saúde: limites e perspectivas. Cadernos de Saúde Pública, Rio de Janeiro, v. 10, n. 1, p. 80-91, 1994.
  • SOUZA, M. C. S.; RAMOS, F. S. Eficiência técnica e retornos de escala na produção de serviços públicos municipais: o caso do nordeste e do sudeste brasileiros. Revista Brasileira de Economia, v. 53, n. 4, p. 433-461, 1999.
  • TRIOLA, M. F. Introdução à estatística. 9. ed. Rio de Janeiro: LTC, 2005.

Datas de Publicação

  • Publicação nesta coleção
    21 Jun 2012
  • Data do Fascículo
    Mar 2012

Histórico

  • Recebido
    25 Mar 2010
  • Aceito
    16 Jun 2011
  • Revisado
    12 Maio 2011
Escola de Administração da Universidade Federal da Bahia Av. Reitor Miguel Calmon, s/n 3o. sala 29, 41110-903 Salvador-BA Brasil, Tel.: (55 71) 3283-7344, Fax.:(55 71) 3283-7667 - Salvador - BA - Brazil
E-mail: revistaoes@ufba.br