Acessibilidade / Reportar erro

Avaliação do desempenho do Sistema Nacional de Notificações para a Vigilância Sanitária: uma ferramenta do sistema de farmacovigilância no Brasil

Evaluation of the Performance of the Brazilian Notification System for Health Surveillance: A Tool in Brazil’s Pharmacovigilance System

Resumo

Avaliar o desempenho do Sistema Nacional de Notificações para a Vigilância Sanitária no que diz respeito ao registro de informações sobre danos à saúde relacionados com medicamentos (Notivisa-medicamento) a partir de atributos previamente selecionados. Realizou-se um estudo de avaliação em saúde de corte transversal, entre 2008 e 2013, que empregou oito atributos previstos em diretrizes para avaliação de sistemas de vigilância da saúde pública (simplicidade, aceitabilidade, representatividade, completude, validade, consistência, erro preditivo positivo e oportunidade). No período estudado, 63.512 registros foram identificados no Notivisa-medicamento, sendo a maioria classificados como graves (60,5%). O desempenho do Notivisa-medicamento foi considerado satisfatório para dois dos oito atributos (validade e erro preditivo positivo) e deficitário para os demais (simplicidade, aceitabilidade, representatividade, completude, consistência e oportunidade). É necessário discutir e implementar maneiras de como aprimorar o sistema com vistas a fornecer informações completas, oportunas e confiáveis para diferentes segmentos da sociedade brasileira, sobretudo os gestores de vigilância sanitária.

Palavras-chave
Avaliação em saúde; Farmacovigilância; Sistemas de informação em Saúde; Sistemas de Notificação de Reações Adversas a Medicamentos

Abstract

The scope of this paper is to assess the performance of the Brazilian Notification System for Health Surveillance, with respect to the registration of information on adverse drug-related effects on health (Notivisa/medication) based on previously selected attributes. A cross-sectional health evaluation study was conducted between 2008 and 2013 using eight attributes established by international guidelines to assess public health surveillance systems: simplicity, acceptability, representativeness, completeness, validity, consistency, positive predictive error and timeliness. In the study period, 63,512 registrations were identified in Notivisa/medication, the majority being considered severe (60.5%). The performance of Notivisa/medication was considered satisfactory with respect to two of the eight attributes (validity and positive predictive error) and deficient in six of the remaining attributes (simplicity, acceptability, representativeness, completeness, consistency and timeliness). Quality improvement strategies to remedy the system need to be discussed and implemented in order to provide complete, timely and reliable surveillance information for different segments of Brazilian society, especially health surveillance managers.

Key words
Health evaluation; Pharmacovigilance; Health information systems; Adverse Drug Reaction Reporting Systems

Introdução

A produção de informações sobre a ocorrência e consequências de eventos adversos a medicamentos (EAM) possui importante papel na redução destes agravos e na formulação de políticas de vigilância sanitária, incluindo a avaliação criteriosa e sistemática dos sistemas de farmacovigilância11 European Medicines Agency (EMA). CHMP Guideline on detection and management of duplicate individual cases and Individual Case Safety Reports (ICSRs). Londres: EMA; 2012.,22 Hauben M, Reich L, DeMicco J, Kim K. "Extreme Duplication" in the US FDA Adverse Events Reporting. Drug Saf 2007; 30(6):551-554..

Diretrizes internacionais recomendam a avaliação do desempenho de sistemas de vigilância da saúde pública a partir de atributos como simplicidade, aceitabilidade, representatividade, oportunidade e qualidade dos dados33 Centers for Disease Control and Prevention (CDC). Updated guidelines for evaluating public health surveillance systems: recommendations from the guidelines working group. MMWR 2001; 50:1-35.

4 European Centre for Disease Prevention and Control (ECDPC). Data quality monitoring and surveillance system evaluation. Stockolm: ECDPC; 2014.
-55 World Health Organization (WHO). Communicable disease surveillance and response systems - Guide to monitoring and evaluating. Epidemic and pandemic alert and response. [página na Internet]. 2006 [acessado 2016 Abr 25]. Disponível em: https://goo.gl/KnXrJ1
https://goo.gl/KnXrJ1...
. Alguns estudos têm utilizado um ou mais critérios para avaliação de um determinado atributo, como a qualidade dos dados dos sistemas de informação em saúde66 Romero DE, Cunha CB. Avaliação da qualidade das variáveis sócio-econômicas e demográficas dos óbitos de crianças menores de um ano registrados no Sistema de Informações sobre Mortalidade do Brasil (1996/2001). Cad Saude Publica 2006; 22(3):673-684.

7 Romero DE, Cunha CB. Avaliação da qualidade das variáveis epidemiológicas e demográficas do Sistema de Informações sobre Nascidos Vivos, 2002. Cad Saude Publica 2007; 23(3):701-714.

8 Lima CRA, Mendes J, Schramm DA, Coeli CM. Revisão das dimensões de qualidade dos dados e métodos aplicados na avaliação dos sistemas de informação em saúde. Cad Saude Publica 2009; 25(10):2095-2109.
-99 Correia LODS, Padilha BM, Mary S, Vasconcelos L. Métodos para avaliar a completitude dos dados dos sistemas de informação em saúde do Brasil?: uma revisão sistemática. Cien Saude Colet 2014; 19(11):4467-4478. ou analisado dois ou mais atributos para avaliação de sistemas de vigilância1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446.

11 Mota DM, Freitas DRC, Araújo WN. Avaliação do Sistema de Vigilância Sanitária do Sangue em âmbito federal, Brasil, 2007. Cien Saude Colet 2012; 17(1):191-202.
-1212 Barbosa JR, Barrado JCDS, Zara ALDSA, Siqueira JB. Avaliação da qualidade dos dados, valor preditivo positivo, oportunidade e representatividade do sistema de vigilância epidemiológica da dengue no Brasil, 2005 a 2009. Epidemiol Serv Saúde 2015; 24(1):49-58..

Estudos que avaliaram os sistemas de vigilância de saúde pública são muito heterogêneos em termos metodológicos88 Lima CRA, Mendes J, Schramm DA, Coeli CM. Revisão das dimensões de qualidade dos dados e métodos aplicados na avaliação dos sistemas de informação em saúde. Cad Saude Publica 2009; 25(10):2095-2109.,1313 Drewe JA, Hoinville LJ, Cook AJC, Floyd T, Stärk KDC. Evaluation of animal and public health surveillance systems: a systematic review. Epidemiol Infect 2012; 140(4):575-590.,1414 Calba C, Goutard FL, Hoinville L, Hendrikx P, Lindberg A, Saegerman C, Peyre M. Surveillance systems evaluation?: a systematic review of the existing approaches. BMC Public Health 2015; 15:448., em particular, os que enfocam sistemas de farmacovigilância de países1515 Maigetter K, Pollock AM, Kadam A, Ward K, Weiss MG. Pharmacovigilance in India, Uganda and South Africa with reference to WHO's minimum requirements. Int J Heal Policy Manag 2015; 4(5):295-305.

16 Nwokike J, Ludeman E, Thumm M. Pharmacovigilance Systems in Five Asian Countries: Comparative Analysis of Pharmacovigilance Systems in Five Asian Countries. Genebra: WHO; 2013.
-1717 Olsson S, Pal SN, Stergachis A, Couper M. Pharmacovigilance Activities in 55 Low- and Middle-Income Countries. Drug Saf 2010; 33(8):689-703.. Diferem quanto ao objetivo analisado, o agravo sob vigilância e o acesso às fontes de dados88 Lima CRA, Mendes J, Schramm DA, Coeli CM. Revisão das dimensões de qualidade dos dados e métodos aplicados na avaliação dos sistemas de informação em saúde. Cad Saude Publica 2009; 25(10):2095-2109.,1313 Drewe JA, Hoinville LJ, Cook AJC, Floyd T, Stärk KDC. Evaluation of animal and public health surveillance systems: a systematic review. Epidemiol Infect 2012; 140(4):575-590.,1414 Calba C, Goutard FL, Hoinville L, Hendrikx P, Lindberg A, Saegerman C, Peyre M. Surveillance systems evaluation?: a systematic review of the existing approaches. BMC Public Health 2015; 15:448.. A heterogeneidade quanto ao melhor enfoque metodológico avaliativo tem sido apontada, muito embora prevaleçam os atributos propostos pelo Centers for Disease Control and Prevention (CDC) dos Estados Unidos1313 Drewe JA, Hoinville LJ, Cook AJC, Floyd T, Stärk KDC. Evaluation of animal and public health surveillance systems: a systematic review. Epidemiol Infect 2012; 140(4):575-590.,1414 Calba C, Goutard FL, Hoinville L, Hendrikx P, Lindberg A, Saegerman C, Peyre M. Surveillance systems evaluation?: a systematic review of the existing approaches. BMC Public Health 2015; 15:448. em abordagens mais frequentemente voltadas à vigilância epidemiológica de doenças infectocontagiosas comparativamente aos sistemas de vigilância de produtos para a saúde1313 Drewe JA, Hoinville LJ, Cook AJC, Floyd T, Stärk KDC. Evaluation of animal and public health surveillance systems: a systematic review. Epidemiol Infect 2012; 140(4):575-590..

No Brasil, a avaliação dos sistemas de vigilância de eventos adversos de produtos sob vigilância sanitária não tem sido conduzida regularmente, sendo incipiente se comparada aos sistemas de vigilância epidemiológica, provém de iniciativas pontuais1111 Mota DM, Freitas DRC, Araújo WN. Avaliação do Sistema de Vigilância Sanitária do Sangue em âmbito federal, Brasil, 2007. Cien Saude Colet 2012; 17(1):191-202.,1818 Torres AS, Mota ELA. Notificação de eventos adversos em vigilância sanitária: incompletitude das variáveis do Notivisa em 2007 e 2008. Cad Saude Colet 2010; 18(1):133-143.,1919 Freitas DRC, Simões BJ, Araújo WN. Avaliação do sistema nacional de hemovigilância dos anos 2002 a 2005. Cad Saude Colet 2010; 18(1):179-186. e carece de diretrizes específicas que estimulem e orientem tais abordagens nas diferentes esferas governamentais.

O Sistema Nacional de Notificações para a Vigilância Sanitária (Notivisa) é um sistema informatizado em plataforma web, gerenciado pela Agência Nacional de Vigilância Sanitária (Anvisa) e utilizado para a notificação de eventos adversos supostamente associados ao uso de produtos sob vigilância sanitária. Cada grupo de produtos conta com um formulário padronizado integrado ao Notivisa. O formulário que registra as informações sobre danos à saúde relacionados com medicamentos, doravante denominado de Notivisa-medicamento, é o principal repositório de dados do sistema de farmacovigilância no Brasil. O objetivo deste estudo foi avaliar o desempenho do Notivisa-medicamento.

Método

Foi conduzido um estudo de avaliação em saúde de corte transversal entre 2008 e 2013. A partir de estudo de revisão da literatura88 Lima CRA, Mendes J, Schramm DA, Coeli CM. Revisão das dimensões de qualidade dos dados e métodos aplicados na avaliação dos sistemas de informação em saúde. Cad Saude Publica 2009; 25(10):2095-2109. e diretrizes internacionais de avaliação de sistemas de vigilância33 Centers for Disease Control and Prevention (CDC). Updated guidelines for evaluating public health surveillance systems: recommendations from the guidelines working group. MMWR 2001; 50:1-35.,44 European Centre for Disease Prevention and Control (ECDPC). Data quality monitoring and surveillance system evaluation. Stockolm: ECDPC; 2014. foram elaborados atributos utilizados na avaliação de desempenho do Notivisa-medicamento (Quadro 1). A escolha dos atributos (simplicidade, aceitabilidade, representatividade, completude, consistência, validade, erro preditivo positivo e oportunidade), dos critérios de avaliação e dos valores de referência foram baseados na disponibilidade, acesso e facilidade no manuseio de fontes de informações. Alguns valores de referência foram definidos pelos autores, no caso de não identificação de fontes de dados.

Quadro 1
Atributos utilizados na avaliação de desempenho do Notivisa-medicamento, segundo critérios pré-definidos.

Os atributos simplicidade e aceitabilidade foram avaliados quantitativamente, baseando-se em parâmetros originários de avaliação comparativa de formulários de notificação de reações adversas a medicamentos2020 Singh A, Bhatt P. Comparative evaluation of adverse drug reaction reporting forms for introduction of a spontaneous generic ADR form. J Pharmacol Pharmacother 2012; 3(3):228.. O Notivisa-medicamento foi considerado complexo e com baixa aceitabilidade se a quantidade de variáveis no formulário for igual ou superior a 60 variáveis. A avaliação dos atributos se deu mediante uma simulação-teste no Notivisa-medicamento, realizada em 27 de novembro de 2015 por um dos autores. O propósito da simulação foi identificar as informações necessárias à notificação de um caso hipotético de uma reação adversa. Após o término da notificação, esta foi informada à área responsável da Anvisa para a devida exclusão.

Para o primeiro critério de avaliação do atributo representatividade (Quadro 1), considerou-se razoavelmente aceitável a diferença de até três valores para mais ou para menos no conjunto de variáveis utilizadas para comparar os dados populacionais do Notivisa-medicamento em relação aos dados da população brasileira do Censo nacional de 2010. Em relação ao segundo critério de avaliação, considerou-se satisfatória a representatividade de 100% das Unidades da Federação e das capitais brasileiras nas notificações presentes no sistema no período estudado.

Para os atributos que avaliam a qualidade dos dados – completude, validade e consistência, o valor de referência utilizado baseou-se no valor inverso do grau de avaliação “bom” (5 a 10%) adotado para mensurar incompletude, como sugerido em estudo avaliativo da qualidade de variáveis epidemiológicas e demográficas77 Romero DE, Cunha CB. Avaliação da qualidade das variáveis epidemiológicas e demográficas do Sistema de Informações sobre Nascidos Vivos, 2002. Cad Saude Publica 2007; 23(3):701-714.. O desempenho para cada um dos dois atributos (completude e validade) foi considerado satisfatório se pelo menos 75% das variáveis do grupo relacionado aos eventos adversos graves atingissem percentuais de preenchimento iguais ou acima de 90%.

Para o atributo validade foram estabelecidas regras para cada variável analisada, de maneira a avaliar a razoabilidade dos valores declarados na base de dados, uma vez que a verdadeira acurácia não é possível ser estimada1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446.. O nome do paciente, por exemplo, foi considerado válido se apresentasse ao menos dois nomes aceitáveis (nome e sobrenome). A idade, outro exemplo, foi considerada admissível se registrada entre 0 e 110 anos.

Para a avaliação da consistência, representada pela coerência das respostas em variáveis relacionadas2121 Jesus HS, Moreira HBB, Assis DM. Avaliação do sistema de vigilância das intoxicações exógenas no âmbito da saúde do trabalhador no Brasil entre 2007 e 2009. Cad Saude Colet 2012; 20(4):515-524., as variáveis estudadas foram: a) “Data de óbito” e Gravidade do evento”; b) “Grupo de idade” e “Idade” e c) “Via de administração” e “Forma farmacêutica”. Registros com “Data de óbito” devem constar na variável “Gravidade do evento” apenas na opção “Óbito”. Se a variável “Grupo de idade”: indicasse o grupo Criança (6 a 12 anos), os dados na variável “Idade” deveriam corresponder a essa faixa etária. Do contrário, considerou-se como resultado inconsistente. Procedeu-se de forma análoga para a variável via de administração. Caso a opção fosse intramuscular, duas formas farmacêuticas seriam aceitáveis: solução e suspensão injetável. O desempenho relacionado à consistência foi considerado satisfatório se os três conjuntos de pares de variáveis supracitados atingissem percentuais iguais ou acima de 90%.

O valor de referência do atributo erro preditivo positivo (EPP) foi definido pelos autores como ≤ 10%. Acima deste percentual, o Notivisa-medicamento seria classificado como insatisfatório.

Os registros considerados como de não interesse para notificação no Notivisa-medicamento foram: queixa técnica sem danos à saúde do paciente, intoxicação medicamentosa e eventos adversos a vacinas, imunoglobulinas e soros hiperimunes, pois contam com formulários específicos para notificação. Tal condição incluem os registros que porventura citaram a palavra “infecção”, EAM não ocorridos no Brasil e aqueles que envolveram produtos não medicamentosos, como sangue, cosméticos e produtos para saúde, igualmente detentores de mecanismos de registro específicos. Nos campos em branco da variável “princípio ativo do medicamento” foi utilizada a variável “nome comercial do medicamento”, como critério de classificação do produto como medicamento ou não.

O atributo oportunidade utilizou os critérios da Anvisa2222 Agência Nacional de Vigilância Sanitária (Anvisa). Guias de farmacovigilância para detentores de registro de medicamentos [página na Internet]. Brasília: Anvisa; 2010 [acessado 2016 Abr 25]. Disponível em: https://goo.gl/GxFPZA
https://goo.gl/GxFPZA...
para a definição dos prazos, em dias, para as etapas dos processos de vigilância: (1) Dd1 – diferença entre a data de recebimento da notificação e a data da ocorrência do evento adverso; (2) Dd2 – diferença entre a data da notificação no Notivisa e a data de recebimento da notificação; e (3) Dd3 – diferença entre a data de avaliação da notificação na Anvisa e a data da notificação no Notivisa. Esses prazos foram analisados de acordo com a gravidade do caso notificado: a) óbito: 0 a 7 dias (Dd1 e Dd2) e 0 a 5 dias (Dd3); b) demais casos de eventos adversos graves: 0 a 15 dias (Dd1 e Dd2) e 0 a 10 dias (Dd3); e c) casos de eventos adversos não graves: 0 a 30 dias (Dd1, Dd2 e Dd3). O sistema foi avaliado como oportuno se, desconsiderando o grupo de eventos adversos não graves, pelo menos 75% das notificações observaram os respectivos prazos.

Para a avaliação dos atributos completude, validade, consistência, EPP e oportunidade, em 15 de junho de 2015 os pesquisadores tiveram acesso a banco de dados fornecido pela Anvisa em planilha eletrônica (Microsoft Office Excel), com notificações sobre EAM do Notivisa-medicamento extraídas em 11 de março de 2015. Sempre que possível, analisou-se todos os registros de EAM com data de notificação entre 1º de janeiro de 2008 e 31 de dezembro de 2013.

Não foi realizado qualquer tipo de procedimento de limpeza e exclusão de registros no banco de dados. Todos os registros disponíveis foram considerados como notificações de par medicamento-evento adverso sujeitas à avaliação.

Foram avaliadas apenas as variáveis identificadas no banco de dados, excluindo-se sete não passíveis de classificação em um dos domínios do formulário. Para cada um dos domínios analisados (evento adverso, medicamentos/empresa, paciente ou usuário, outras informações e avaliação por especialistas da Anvisa) foi selecionado pelo menos 1/3 das variáveis, totalizando 42 (Quadro 2). Para as variáveis em que a obrigatoriedade do preenchimento foi apenas para uma delas, considerou-se todas como de preenchimento obrigatório. A identificação do tipo de preenchimento não foi possível constar em duas variáveis (Quadro 2).

Quadro 2
Variáveis utilizadas na avaliação do desempenho do Notivisa-medicamento, extraídas do banco de dados.

O domínio “Avaliação por especialistas da Anvisa”foi criado para atender ao objetivo do estudo, sendo que suas variáveis foram evidenciadas apenas no banco de dados, posto que não estão disponíveis no formulário de notificação, e todas as variáveis foram consideradas de preenchimento não obrigatório.

Os critérios que orientaram a escolha das variáveis em cada um dos domínios estudados (Quadro 2) diferenciaram-se conforme as especificidades de cada atributo analisado, considerando uma seleção baseada no conhecimento prévio e no interesse dos autores em atender ao objetivo do estudo, na análise do manual do usuário (profissional da saúde) do sistema2323 Agência Nacional de Vigilância Sanitária (Anvisa). Manual do Usuário Versão 7 NOTIVISA - Sistema Nacional de Notificações para a Vigilância Sanitária - Módulo de Notificação. Brasilia: Anvisa; 2008., no banco de dados, no formulário virtual para notificação e na relevância das variáveis em um contexto farmacoepidemiológico e de farmacovigilância.

Um banco de dados com as váriáveis de interesse para cada atributo foi organizado em planilha eletrônica (Microsoft Office Excel ®). As análises foram realizadas no programa estatístico SPSS versão 18.03 ®. Os atributos completude, validade e consistência foram analisados em dois grupos, obedecendo ao critério de gravidade do caso: 1) eventos adversos graves; e 2) eventos adversos não graves. Os primeiros correspondendo àqueles que motivaram ou prolongaram a hospitalização e resultaram em óbito, anomalia congênita, ameaça à vida, incapacidade persistente ou significativa e efeito clinicamente importante2323 Agência Nacional de Vigilância Sanitária (Anvisa). Manual do Usuário Versão 7 NOTIVISA - Sistema Nacional de Notificações para a Vigilância Sanitária - Módulo de Notificação. Brasilia: Anvisa; 2008.. Razões de proporções com seus intervalos de confiança (IC) de 95%, comparando as variáveis relacionadas aos eventos graves e não graves, foram estimadas para os atributos completude e validade. No caso do atributo oportunidade, os dados foram apresentados em três grupos: a) óbitos; b) demais eventos graves; e c) evento adversos não graves.

O excesso ou déficit da população masculina como percentual do total da população foi calculado como sendo a diferença entre os sexos dividido pelo total da população e multiplicado por 100.

O estudo teve aprovação do comitê de ética em pesquisa do Hospital de Clínicas de Porto Alegre e permissão institucional da Anvisa para o uso da base de dados nominais do Notivisa, salvaguardados o sigilo e a privacidade das informações de pacientes e notificadores.

Resultados

O Notivisa-medicamento armazena notificações de EAM de todo o território nacional desde janeiro de 20081818 Torres AS, Mota ELA. Notificação de eventos adversos em vigilância sanitária: incompletitude das variáveis do Notivisa em 2007 e 2008. Cad Saude Colet 2010; 18(1):133-143.. Seu formulário destinado ao profissional da saúde é composto por cinco domínios enquanto aquele reservado aos detentores de registro de medicamentos apresenta um domínio adicional, denominado “Notificador Primário”2424 Agência Nacional de Vigilância Sanitária (Anvisa). Manual do Usuário Notivisa - Sistema Nacional de Notificações para a Vigilância Sanitária Anexo 3 (Indústria). Brasília: Anvisa; 2008.. Os domínios do primeiro formulário são: 1) Evento Adverso; 2) Medicamentos/Empresa; 3) Paciente ou Usuário; 4) Outras informações; e 5) Pendências2323 Agência Nacional de Vigilância Sanitária (Anvisa). Manual do Usuário Versão 7 NOTIVISA - Sistema Nacional de Notificações para a Vigilância Sanitária - Módulo de Notificação. Brasilia: Anvisa; 2008..

Análise descritiva das notificações

Foram identificadas 63.512 notificações registradas no Notivisa-medicamento entre 2008 e 2013, cuja distribuição variou ao longo do período, com 5.900 (9,3%) em 2008 e 13.972 (22,0%) em 2013. Esta quantidade total também variou segundo às condições de interesse de cada atributo e variável avaliados. Uma pequena redução na quantidade de notificações foi notada em 2012 em comparação à 2011 (-1,6%), mas, em geral, manteve-se uma tendência de aumento anual, registrando uma média de 10.585 notificações/ano (DP±3.076). As notificações de eventos adversos graves predominaram (60,5%; n = 38.411), das quais 76,6% (n = 29.413) estão relacionadas a efeitos clinicamente importantes, seguidas dos eventos que motivaram ou prolongaram a hospitalização (12,0%; n = 4.594).

Atributos avaliados

O desempenho do Notivisa-medicamento foi considerado satisfatório para dois dos oito atributos avaliados (validade e EPP) e deficiente para os demais (simplicidade, aceitabilidade, representatividade, completude, consistência e oportunidade).

Simplicidade e Aceitabilidade

O Notivisa-medicamento foi considerado complexo e com baixo potencial de aceitabilidade. Foram identificadas 95 variáveis necessárias para um completo preenchimento do formulário destinado aos profissionais da saúde, representando excesso de 35 em relação ao valor de referência, definido em 60 variáveis. O preenchimento de algumas variáveis do formulário torna o processo de notificação ainda mais demorado e complexo, contribuindo para a baixa aceitabilidade. Por exemplo, a resposta à variável “Evento Adverso descrito na bula?”, exige mais esforço por parte da fonte notificadora que deve procurar esta informação na bula de cada medicamento suspeito.

Representatividade

O Notivisa-medicamento possui variáveis capazes de descrever a distribuição dos casos de EAM por tempo, lugar e pessoa, possibilitando a realização de análises farmacoepidemiológicas descritivas. As comparações por sexo e idade sugerem existir diferenças em relação às notificações registradas no Notivisa-medicamento e a população do país para a maioria das variáveis analisadas, como proporção de masculinidade (38,7% vs 49,0%), razão homem:mulher (63:100 vs 96:100) e razão de déficit de homens na população (-22,5% vs -2,0%). A exceção ocorreu para as faixas etárias “Menor 1 a 4 anos” (5,2% vs 7,2%) e “80 e mais anos” (4,4% vs 1,5%).

No período estudado, os registros de EAM foram provenientes de 227 cidades, 4,1% do total de 5.565 municípios no país em 2010. Em relação às capitais brasileiras, apenas Macapá não está retratada neste montante. As três cidades com as maiores proporções de notificações foram: São Paulo (25,3%), Rio de Janeiro (14,9%) e Fortaleza (6,5%). Excetuando-se as capitais, Passo Fundo, no Rio Grande do Sul, foi a cidade com maior número de notificações registradas no Notivisa-medicamento (5,8%), alcançando a quinta posição no total das cidades que apresentaram casos de EAM. Dez cidades concentraram 78,4% das notificações no Notivisa-medicamento. O Amapá foi o único estado brasileiro ausente entre registros de notificações de eventos adversos no período estudado.

Completude, validade e consistência

A taxa percentual mediana de completude para o total de registros foi de 62,1%, variando de 16,3% (mínimo) a 99,8% (máximo). Duas variáveis (município de ocorrência do evento e sexo) obtiveram valores de preenchimento acima de 90%. Para os registros de eventos adversos graves, a taxa ficou em 64,5% (mínimo = 14,0 e máximo = 99,7) e 55,1% (mínimo = 21,0 e máximo = 99,9) para aqueles considerados não graves, resultando numa razão de proporções igual a 1,17.

A Tabela 1 apresenta as frequências relativas e razões de proporções das variáveis analisadas no período estudado. Na análise das 26 variáveis do grupo de eventos adversos graves, 3 (11,5%) alcançaram percentual de completude acima de 90%. A variável “Estado do notificador” apresentou a menor taxa para ambas as classificações dos casos graves (14,0%) e não graves (21,0%). Em quatro variáveis não ocorreram diferenças nas razões de proporções dos eventos graves e não graves (Município de ocorrência do evento, Nº de lote, Sexo e Relação temporal entre evento e medicamento). A maior razão de proporção foi registrada para a variável “CID-10” que obteve 42% (IC95% 1,39-1,45) a mais no preenchimento das notificações graves em relação as não graves (Tabela 1).

Tabela 1
Taxa percentual do atributo "Completude" de variáveis do Notivisa-medicamento, 2008 a 2013 (N = 63.512).

De um total de nove variáveis avaliadas, sete (78%) alcançaram valores válidos acima de 90%, o que denota um desempenho satisfatório do Notivisa-medicamento. Em duas variáveis ocorreram diferenças nas razões de proporções dos eventos graves e não graves (Data do término da medicação e Situação da notificação). A maior razão de proporção foi registrada para a variável “Situação da notificação”, significando dizer que houve um preenchimento a mais de 16% (IC95% 1,14-1,18) nas notificações graves em relação as não graves (Tabela 2).

Tabela 2
Taxa percentual do atributo "Validade" de variáveis do Notivisa-medicamento, 2008 a 2013 (N = 63.512).

Em relação ao atributo consistência, os pares de variáveis confrontados “Grupo de idade e Idade” e “Via de administração e Forma farmacêutica” apresentaram resultados satisfatórios, 96,1% e 91%, respectivamente. No entanto, o par “Data de óbito e gravidade do evento” obteve um valor de 38,4%, o que comprometeu o desempenho geral da consistência dos dados do Notivisa-medicamento.

Erro preditivo positivo

Em relação ao EPP, o desempenho do Notivisa-medicamento, medido pelas três variáveis, mostrou-se satisfatório ao longo do período analisado. Para a variável “Evento adverso”, a taxa percentual de EPP variou de 0,1% (n = 8) em 2008 a 0,8% (n = 105) em 2011. Quanto à variável “País de ocorrência do evento” a taxa foi ainda menor, variando zero em 2013 a 0,5% (n = 54) em 2010. Em relação a variável “Princípio ativo” os valores ficaram em 0,1% (n = 8) em 2008 e 0,8% (n = 105) em 2011. Havia 11.023 (17,3%) registros com campos vazios na variável “princípio ativo do medicamento” que foram classificados a partir da variável “nome comercial do medicamento”.

Oportunidade

Quanto à agilidade da fonte notificadora em notificar (Dd1), a taxa percentual de oportunidade para o período analisado foi considerada satisfatória no grupo “Demais eventos adversos graves” (80,0%) (Tabela 3). Apenas 40,5% dos casos envolvendo óbitos foram notificados ao Notivisa-medicamento em até sete dias, enquanto que 67,8% para aquelas classificadas como não graves. Após a notificação no Notivisa-medicamento, aproximadamente 47% dos registros de óbitos foram avaliados por especialistas da Anvisa em até 5 dias. Percentual semelhante foi encontrado para os registros de eventos adversos não graves, avaliados em até 30 dias.

Tabela 3
Taxa percentual do atributo "Oportunidade" de variáveis do Notivisa-medicamento, segundo a gravidade dos eventos adversos a medicamentos. 2008 a 2013 (N = 63.512).

Discussão

A despeito de sua abrangência nacional, relevância para a identificação de sinais de segurança convincentes e constituição do sistema nacional de farmacovigilância, o Notivisa-medicamento foi considerado como deficiente em seis dos oito atributos avaliados: simplicidade, aceitabilidade, representatividade, completude, consistência e oportunidade. São dignas de nota as baixas frequências de notificação consideradas como oportunas em até sete dias de casos envolvendo óbitos e mesmo para os eventos classificados como não graves correspondendo a, respectivamente, 40,5% e 67,8%. Em geral os achados apontam que o desempenho do Notivisa-medicamento foi avaliado inoportuno se considerados os baixos percentuais de avaliação dos óbitos e demais casos graves nos prazos definidos pela própria Agência.

As limitações identificadas na maioria dos atributos podem comprometer as potencialidades do sistema de farmacovigilância. A existência de elevada quantidade de variáveis no formulário Notivisa-medicamento caracterizando-o mais como um sistema de registro de notificações de EAM do que um sistema para a vigilância de pares de medicamento-evento adverso pode ser um fator determinante de parcela relevante das limitações encontradas nos atributos avaliados.

A simplicidade está estreitamente relacionada à aceitabilidade e oportunidade de sistemas de vigilâncias33 Centers for Disease Control and Prevention (CDC). Updated guidelines for evaluating public health surveillance systems: recommendations from the guidelines working group. MMWR 2001; 50:1-35.. O Notivisa-medicamento foi considerado como complexo devido à grande quantidade de variáveis a serem preenchidas para a notificação de EAM, podendo, inclusive, comprometer o grau de completude das variáveis. A necessidade de consultar múltiplas fontes de dados também torna o processo de notificação complexo e demorado. Tais condições desestimulam a notificação e, também, a agilidade do processo de vigilância, como a avaliação dos eventos graves por especialistas da Anvisa.

A quantidade de informações registradas para cada caso foi considerada como extensa na avaliação de um novo sistema americano de vigilância de EAM de pacientes atendidos em ambulatórios e tratados em serviços de urgência hospitalares2525 Jhung MA, Budnitz DS, Mendelsohn AB, Weidenbach KN, Nelson TD, Pollock DA. Evaluation and overview of the National Electronic Injury Surveillance System-Cooperative Adverse Drug Event Surveillance Project (NEISS-CADES). Med Care 2007; 45(10 Supl. 2):S96-S102.. O nível de detalhamento dos formulários pode depender da utilização prevista dos dados, recursos disponíveis2626 World Health Organization (WHO). Preliminary Version of Minimal Information Model for Patient Safety. Geneva: WHO; 2014. e dificuldade na caracterização do agravo, que no caso dos EAM se destacam pela ausência de sinais patognomônicos e inexistência de testes laboratoriais que permitam a confirmação do seu diagnóstico2727 Monteiro SAMG, Takano OA, Waldman EA. Avaliação do sistema brasileiro de vigilância de eventos adversos pós-vacinação. Rev Bras Epidemiol 2011; 14(3):361-371..

O excesso de campos em formulários para notificações de agravos pode estar relacionado a vários fatores, como não orientação técnica na escolha das variáveis necessárias para a tomada de decisões acerca das medidas a serem conduzidas e para a construção do conhecimento epidemiológico do agravo na população. Ainda há poucos estudos de avaliação dos sistemas de vigilância em relação não apenas a sua eficiência como também quanto aos seus objetivos e propósitos2828 Laguardia J, Domingues CMA, Carvalho C, Lauerman CR, Macário E, Glatt R. Sistema de Informação de Agravos de Notificação (Sinan): desafios no desenvolvimento de um sistema de informação em saúde. Epidemiol Serv Saude 2004; 13(3):135-147..

No período estudado, o sistema não forneceu dados nacionalmente representativos em termos de população e cobertura geográfica. Um dos prováveis motivos é que o sistema recebe em maior frequência, principalmente, notificações de pacientes atendidos em hospitais em caráter de urgência e emergência situados em grandes cidades. A notificação de EAM oriunda de cidades de pequeno porte refletindo ambientes não-hospitalares não tem sido suficientemente estimulada e explorada. Situações que podem afetar a representatividade incluem a cobertura geográfica heterogênea, predomínio de fontes de notificação urbana, populações minoritárias não alcançadas pelo sistema de vigilância e fontes de dados que não incluem todas as modalidades assistenciais44 European Centre for Disease Prevention and Control (ECDPC). Data quality monitoring and surveillance system evaluation. Stockolm: ECDPC; 2014..

Neste estudo, apenas a validade, um dos atributos que compõe a qualidade dos dados, se mostrou satisfatório. A disponibilidade de determinadas ferramentas de consultas como bulário eletrônico e sistemas de codificação da CID-10, ATC e WHO-ART contribuem para o aumento da completude, consistência e validade dos dados ao facilitar o preenchimento de variáveis. Completude e validade estão entre os quatro atributos mais analisados na literatura científica brasileira88 Lima CRA, Mendes J, Schramm DA, Coeli CM. Revisão das dimensões de qualidade dos dados e métodos aplicados na avaliação dos sistemas de informação em saúde. Cad Saude Publica 2009; 25(10):2095-2109..

As baixas taxas de completude constatadas neste estudo podem estar relacionadas às informações requeridas pelo formulário para notificação as quais podem não estar disponíveis às fontes notificadoras entre a coleta dos dados e a notificação do caso, ocasionando um trade off entre os atributos completude e oportunidade. As informações incompletas e não suficientemente caracterizadas nos prontuários dos pacientes e demais registros médicos também são obstáculos a ambos os atributos2929 Azofeifa A, Yeung LF, Wes Duke C, Gilboa SM, Correa A. Evaluation of an active surveillance system for stillbirths in Metropolitan Atlanta. J Regist Manag 2012; 39(1):13-36.. Neste estudo, a avaliação do atributo oportunidade, desde a primeira etapa da vigilância (recebimento da notificação do caso pela fonte notificadora) até a fase final (avaliação do caso na Anvisa), apresentou um desempenho insatisfatório. Este achado compromete uma das principais atribuições dos sistemas de vigilância de EAM representada pela detecção, em tempo oportuno, de sinais de segurança3030 Maro JC, Brown JS, Kulldorf M. Medical Product Safety Surveillance. Epidemiology 2013; 24(5):692-699..

As deficiências na qualidade dos dados possuem profundas implicações para todas as partes interessadas na farmacovigilância1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446.. Os profissionais e gestores de vigilância sanitária podem extrair conclusões equivocadas e tomar medidas de regulação erradas. Os detentores de registros de medicamentos podem ser demandados a suspender a comercialização de um medicamento na ausência de sólida base de evidência. Os profissionais de saúde podem equivocadamente alterar suas práticas clínicas e os pacientes podem ter seu tratamento seguro e eficaz negado1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446..

Algumas recomendações para aumentar a consistência e completude do Notivisa-medicamento passam pela definição de rotinas informatizadas que realizem a crítica de inconsistência dos dados entre campos do formulário ou que alertem o digitador no momento da entrada de dados no sistema e pelo incentivo às fontes notificadoras para registrar as notificações sobre EAM mais próximo possível da data de início do evento adverso1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446.,2828 Laguardia J, Domingues CMA, Carvalho C, Lauerman CR, Macário E, Glatt R. Sistema de Informação de Agravos de Notificação (Sinan): desafios no desenvolvimento de um sistema de informação em saúde. Epidemiol Serv Saude 2004; 13(3):135-147.,3131 Singleton JA, Lloyd JC, Mootrey GT, Salive ME, Chen RT. An overview of the vaccine adverse event reporting system (VAERS) as a surveillance system. VAERS Working Group Vaccine 1999; 17(22):2908-2917.. Igualmente importante é dar conhecimento dos principais problemas detectados no sistema as fontes notificadoras encarregadas de registrar as notificações no Notivisa-medicamento. A melhoria dos atributos completude, consistência e oportunidade é, em parte, considerada fonte notificadora-dependente.

Segundo Getz et al.1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446. a Food and Drug Administration (FDA), a agência reguladora dos Estados Unidos, tem propiciado assessoramentoa para o indivíduo completar uma notificação de EAM no sistema MedWatch. Esta conduta implica em redução de problemas relacionados com a variabilidade da qualidade dos dados uma das reconhecidas limitações deste tipo de sistema de informação3232 Varricchio F, Iskander J, Destefano F, Ball R, Pless R, Braun MM, Chen RT. Understanding vaccine safety information from the Vaccine Adverse Event Reporting System. Pediatr Infect Dis J 2004; 23(4):287-294..

Este estudo tem limitações. Nem todos os atributos definidos pelas referências nas quais o estudo se baseou foram avaliados, como estabilidade, sensibilidade, valor preditivo positivo, duplicidade de registros e custos. Em uma revisão sistemática, aproximadamente metade dos artigos (48/99) avaliaram apenas um ou dois atributos e poucos estudos avaliaram mais de dez atributos1313 Drewe JA, Hoinville LJ, Cook AJC, Floyd T, Stärk KDC. Evaluation of animal and public health surveillance systems: a systematic review. Epidemiol Infect 2012; 140(4):575-590.. A diretriz do CDC sugere que os atributos avaliados podem ser selecionados, segundo o contexto e objetivo da avaliação33 Centers for Disease Control and Prevention (CDC). Updated guidelines for evaluating public health surveillance systems: recommendations from the guidelines working group. MMWR 2001; 50:1-35.. Os valores e parâmetros de referência utilizados para alguns dos atributos no presente estudo apresentam limitações quanto à validação dos mesmos, inclusive aqueles baseados em estudos publicados. O uso de regras simples e eventualmente arbitrárias de validade para avaliar a razoabilidade dos valores declarados nos registros na ausência de dados reais é também uma limitação deste estudo. Estudos futuros podem coletar dados reais direto na fonte primária para comparar com aqueles registrados na base de dados, visando avaliar melhor o atributo validade1010 Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446..

Embora haja aumento progressivo do número de notificações registradas no Notivisa-medicamento no período estudado, tal tendência não vem sendo acompanhada de melhoria do desempenho de alguns de seus atributos, nem mesmo para os registros de eventos adversos graves. Assim, espera-se que os resultados deste estudo sirvam para promover melhorias que resultem em informações completas, oportunas e confiáveis, sobretudo aos gestores da vigilância sanitária. Cabe sugerir pelo menos quatro linhas de atuação: i) realização de estudos aprofundados de alguns dos atributos avaliados, considerando outras formas de avaliação; ii) avaliação de outros atributos que não foram objeto de análise neste estudo, como estabilidade, sensibilidade e valor preditivo positivo; iii) elaboração de um manual de boas práticas para monitoramento da qualidade de dados e avaliação de sistemas de farmacovigilância; e iv) diversificação e focalização das iniciativas de sensibilização das fontes notificadoras sobre a importância de melhoria da qualidade das notificações a serem registradas no Notivisa-medicamento.

Referências

  • 1
    European Medicines Agency (EMA). CHMP Guideline on detection and management of duplicate individual cases and Individual Case Safety Reports (ICSRs) Londres: EMA; 2012.
  • 2
    Hauben M, Reich L, DeMicco J, Kim K. "Extreme Duplication" in the US FDA Adverse Events Reporting. Drug Saf 2007; 30(6):551-554.
  • 3
    Centers for Disease Control and Prevention (CDC). Updated guidelines for evaluating public health surveillance systems: recommendations from the guidelines working group. MMWR 2001; 50:1-35.
  • 4
    European Centre for Disease Prevention and Control (ECDPC). Data quality monitoring and surveillance system evaluation Stockolm: ECDPC; 2014.
  • 5
    World Health Organization (WHO). Communicable disease surveillance and response systems - Guide to monitoring and evaluating. Epidemic and pandemic alert and response [página na Internet]. 2006 [acessado 2016 Abr 25]. Disponível em: https://goo.gl/KnXrJ1
    » https://goo.gl/KnXrJ1
  • 6
    Romero DE, Cunha CB. Avaliação da qualidade das variáveis sócio-econômicas e demográficas dos óbitos de crianças menores de um ano registrados no Sistema de Informações sobre Mortalidade do Brasil (1996/2001). Cad Saude Publica 2006; 22(3):673-684.
  • 7
    Romero DE, Cunha CB. Avaliação da qualidade das variáveis epidemiológicas e demográficas do Sistema de Informações sobre Nascidos Vivos, 2002. Cad Saude Publica 2007; 23(3):701-714.
  • 8
    Lima CRA, Mendes J, Schramm DA, Coeli CM. Revisão das dimensões de qualidade dos dados e métodos aplicados na avaliação dos sistemas de informação em saúde. Cad Saude Publica 2009; 25(10):2095-2109.
  • 9
    Correia LODS, Padilha BM, Mary S, Vasconcelos L. Métodos para avaliar a completitude dos dados dos sistemas de informação em saúde do Brasil?: uma revisão sistemática. Cien Saude Colet 2014; 19(11):4467-4478.
  • 10
    Getz KA, Stergiopoulos S, Kaitin KI. Evaluating the Completeness and Accuracy of MedWatch Data. Am J Ther 2014; 21(6):442-446.
  • 11
    Mota DM, Freitas DRC, Araújo WN. Avaliação do Sistema de Vigilância Sanitária do Sangue em âmbito federal, Brasil, 2007. Cien Saude Colet 2012; 17(1):191-202.
  • 12
    Barbosa JR, Barrado JCDS, Zara ALDSA, Siqueira JB. Avaliação da qualidade dos dados, valor preditivo positivo, oportunidade e representatividade do sistema de vigilância epidemiológica da dengue no Brasil, 2005 a 2009. Epidemiol Serv Saúde 2015; 24(1):49-58.
  • 13
    Drewe JA, Hoinville LJ, Cook AJC, Floyd T, Stärk KDC. Evaluation of animal and public health surveillance systems: a systematic review. Epidemiol Infect 2012; 140(4):575-590.
  • 14
    Calba C, Goutard FL, Hoinville L, Hendrikx P, Lindberg A, Saegerman C, Peyre M. Surveillance systems evaluation?: a systematic review of the existing approaches. BMC Public Health 2015; 15:448.
  • 15
    Maigetter K, Pollock AM, Kadam A, Ward K, Weiss MG. Pharmacovigilance in India, Uganda and South Africa with reference to WHO's minimum requirements. Int J Heal Policy Manag 2015; 4(5):295-305.
  • 16
    Nwokike J, Ludeman E, Thumm M. Pharmacovigilance Systems in Five Asian Countries: Comparative Analysis of Pharmacovigilance Systems in Five Asian Countries Genebra: WHO; 2013.
  • 17
    Olsson S, Pal SN, Stergachis A, Couper M. Pharmacovigilance Activities in 55 Low- and Middle-Income Countries. Drug Saf 2010; 33(8):689-703.
  • 18
    Torres AS, Mota ELA. Notificação de eventos adversos em vigilância sanitária: incompletitude das variáveis do Notivisa em 2007 e 2008. Cad Saude Colet 2010; 18(1):133-143.
  • 19
    Freitas DRC, Simões BJ, Araújo WN. Avaliação do sistema nacional de hemovigilância dos anos 2002 a 2005. Cad Saude Colet 2010; 18(1):179-186.
  • 20
    Singh A, Bhatt P. Comparative evaluation of adverse drug reaction reporting forms for introduction of a spontaneous generic ADR form. J Pharmacol Pharmacother 2012; 3(3):228.
  • 21
    Jesus HS, Moreira HBB, Assis DM. Avaliação do sistema de vigilância das intoxicações exógenas no âmbito da saúde do trabalhador no Brasil entre 2007 e 2009. Cad Saude Colet 2012; 20(4):515-524.
  • 22
    Agência Nacional de Vigilância Sanitária (Anvisa). Guias de farmacovigilância para detentores de registro de medicamentos [página na Internet]. Brasília: Anvisa; 2010 [acessado 2016 Abr 25]. Disponível em: https://goo.gl/GxFPZA
    » https://goo.gl/GxFPZA
  • 23
    Agência Nacional de Vigilância Sanitária (Anvisa). Manual do Usuário Versão 7 NOTIVISA - Sistema Nacional de Notificações para a Vigilância Sanitária - Módulo de Notificação Brasilia: Anvisa; 2008.
  • 24
    Agência Nacional de Vigilância Sanitária (Anvisa). Manual do Usuário Notivisa - Sistema Nacional de Notificações para a Vigilância Sanitária Anexo 3 (Indústria) Brasília: Anvisa; 2008.
  • 25
    Jhung MA, Budnitz DS, Mendelsohn AB, Weidenbach KN, Nelson TD, Pollock DA. Evaluation and overview of the National Electronic Injury Surveillance System-Cooperative Adverse Drug Event Surveillance Project (NEISS-CADES). Med Care 2007; 45(10 Supl. 2):S96-S102.
  • 26
    World Health Organization (WHO). Preliminary Version of Minimal Information Model for Patient Safety Geneva: WHO; 2014.
  • 27
    Monteiro SAMG, Takano OA, Waldman EA. Avaliação do sistema brasileiro de vigilância de eventos adversos pós-vacinação. Rev Bras Epidemiol 2011; 14(3):361-371.
  • 28
    Laguardia J, Domingues CMA, Carvalho C, Lauerman CR, Macário E, Glatt R. Sistema de Informação de Agravos de Notificação (Sinan): desafios no desenvolvimento de um sistema de informação em saúde. Epidemiol Serv Saude 2004; 13(3):135-147.
  • 29
    Azofeifa A, Yeung LF, Wes Duke C, Gilboa SM, Correa A. Evaluation of an active surveillance system for stillbirths in Metropolitan Atlanta. J Regist Manag 2012; 39(1):13-36.
  • 30
    Maro JC, Brown JS, Kulldorf M. Medical Product Safety Surveillance. Epidemiology 2013; 24(5):692-699.
  • 31
    Singleton JA, Lloyd JC, Mootrey GT, Salive ME, Chen RT. An overview of the vaccine adverse event reporting system (VAERS) as a surveillance system. VAERS Working Group Vaccine 1999; 17(22):2908-2917.
  • 32
    Varricchio F, Iskander J, Destefano F, Ball R, Pless R, Braun MM, Chen RT. Understanding vaccine safety information from the Vaccine Adverse Event Reporting System. Pediatr Infect Dis J 2004; 23(4):287-294.

Datas de Publicação

  • Publicação nesta coleção
    08 Maio 2020
  • Data do Fascículo
    Maio 2020

Histórico

  • Recebido
    28 Dez 2017
  • Aceito
    11 Set 2018
  • Publicado
    13 Set 2018
ABRASCO - Associação Brasileira de Saúde Coletiva Av. Brasil, 4036 - sala 700 Manguinhos, 21040-361 Rio de Janeiro RJ - Brazil, Tel.: +55 21 3882-9153 / 3882-9151 - Rio de Janeiro - RJ - Brazil
E-mail: cienciasaudecoletiva@fiocruz.br