Indicadores bibliométricos das Revistas de Enfermagem sob a ótica das bases indexadoras

Indicadores bibliométricos de las revistas de enfermería bajo la óptica de las bases indexadoras

Magdalena José Avena Dulce Aparecida Barbosa Sobre os autores

RESUMO

Objetivo

Analisar os indicadores bibliométricos dos periódicos nacionais e internacionais na área de Enfermagem, sob a ótica das bases indexadoras.

Método

Coorte histórica referente ao período de 2014 a 2016. Foram selecionados os periódicos nacionais de enfermagem indexados na base SciELO e classificados no Qualis A1, A2 e B1, e periódicos internacionais de enfermagem com fator de impacto acima de 1.0 e abaixo de 1.8, indexados nas Bases Web of Science e Scopus. Foram excluídos os periódicos de especialidades da enfermagem. Os indicadores bibliométricos foram coletados das bases de dados indexadoras e importados no Ms Excel, para análise e tabulação.

Resultados

Os indicadores bibliométricos das diversas bases indexadoras são divergentes e não podem ser comparados. Menor cobertura de títulos e período mais curto para o cálculo ampliam as distorções entre os indicadores das revistas nacionais e internacionais.

Conclusão

Os critérios para internacionalização impostos aos periódicos nacionais não contribuem para obtenção ou aumento do fator de impacto. Cobertura mais ampla de títulos indexados e um período maior no cálculo de citações representam diferença significativa nos resultados. O índice H e o CiteScore parecem ser melhores indicadores do impacto da pesquisa de enfermagem nacional.

Bibliometria; Fator de Impacto; Fator de Impacto de Revistas; Publicações Periódicas; Pesquisa em Enfermagem

RESUMEN

Objetivo

Analizar los indicadores bibliométricos de los periódicos nacionales e internacionales en el área de Enfermería, bajo la óptica de las bases indexadoras.

Método

Cohorte histórica referente al período de 2014 a 2016. Fueron seleccionados los periódicos nacionales de enfermería indexados en la base SciELO y clasificados en el Qualis A1, A2 y B1, y periódicos internacionales de enfermería con factor de impacto arriba de 1.0 y abajo de 1.8, indexados en las Bases Web of Science y Scopus. Fueron excluidos los periódicos de especialidades de la enfermería. Los indicadores bibliométricos fueron recogidos de las bases de datos indexadoras e importados al Ms Excel, para análisis y tabulación.

Resultados

Los indicadores bibliométricos de las distintas bases indexadoras son divergentes y no pueden compararse. Menor cobertura de títulos y período más corto para el cálculo amplian las distorciones entre los indicadores de las revistas nacionales e internacionales.

Conclusión

Los criterios para internacionalización impuestos a los periódicos nacionales no contribuyen a la obtención o aumento del factor de impacto. Cobertura más amplia de títulos indexados y un período mayor en el cálculo de citaciones representan diferencia significativa en los resultados. El índice H y el CiteScore parecen ser mejores indicadores del impacto de la investigación de enfermería nacional.

Bibliometría; Factor de Impacto; Factor de Impacto de la Revista; Publicaciones Periódicas; Investigación en Enfermería

ABSTRACT

Objective

To analyze the bibliometric indicators of the national and international journals in the area of nursing from the perspective of index databases.

Method

A historical cohort referring to the period of 2014 to 2016. National nursing journals indexed in the SciELO database and classified in the Qualis as A1, A2 and B1, and international nursing journals with impact factor above 1.0 and below 1.8, indexed in the Web of Science and Scopus Bases, were selected. Nursing specialty periodicals were excluded. The bibliometric indicators were collected from the index databases and imported into Ms Excel for analysis and data tabulation.

Results

The bibliometric indicators of the different index databases are divergent and cannot be compared. Lower title coverage and shorter calculation periods amplify the distortions between the indicators of national and international journals.

Conclusion

The internationalization criteria imposed on national journals do not contribute to obtaining or increasing the impact factor. A broader coverage of indexed titles and a longer calculation period for citations represent a significant difference in results. The h-index and CiteScore appear to be better impact indicators for national nursing research.

Bibliometrics; Impact Factor; Journal Impact Factor; Periodicals; Nursing Research

INTRODUÇÃO

A publicação do resultado de uma pesquisa, em periódicos especializados, é a principal forma de divulgação científica em todas as áreas acadêmicas. “A informação científica é o insumo básico para o desenvolvimento científico e tecnológico de um país”(1).. Esse tipo de informação, resultado das pesquisas cientificas, após ser validado pela certificação pelos pares, é divulgado à comunidade por meio da publicação de artigos em revistas científicas(11. Kuramoto H. Informação científica: proposta de um novo modelo para o Brasil. Ci Inf [Internet]. 2006 [cited 2016 June 02];35(2). Disponível em: http://revista.ibict.br/ciinf/article/view/1144.
http://revista.ibict.br/ciinf/article/vi...
-22. Mugnaini R. Caminhos para adequação da produção científica brasileira: impacto nacional versus impacto internacional [tese doutorado]. São Paulo: Universidade de São Paulo, Escola de Comunicação e Artes; 2006.).

A adoção do artigo como principal veículo para comunicação científica o torna um importante instrumento para mensurar a produtividade do pesquisador(33. Aguado-López E, Rogel-Salazar R, Becerril-García A. Limites e potencialidades da avaliação científica: crítica epistemológica à cobertura de bases de dados e à construção de indicadores. In: Ferreira SMSP, Targino MG, organizadores. Acessibilidade e visibilidade de revistas científicas eletrônicas. São Paulo: SENAC; 2010. p.175-212).

A transição dos periódicos científicos para o formato eletrônico tem trazido para a comunidade científica uma agilidade na disseminação dos seus resultados sem precedentes na história da comunicação escrita, como também a recuperação de informações e conhecimento em tempo real(44. Meadows AJ. Os periódicos científicos e a transição do meio impresso para o eletrônico. Rev Bibliotecon Brasília [Internet]. 2001 [citado 2015 out. 02];25(1):5-14. Disponível em: http://www.brapci.ufpr.br/brapci/_repositorio/2010/10/pdf_29f176742d_0012269.pdf
http://www.brapci.ufpr.br/brapci/_reposi...
).

Os editores envolvidos na divulgação científica nacional têm buscado estratégias para aumentar a visibilidade e promover a internacionalização dos seus periódicos(55. Marziale MHP. Editorial management: innovations and perspectives [editorial]. Rev Latino Am Enfermagem. 2014;22(1):1-2.) e com isso aprimorar os indicadores para mensuração do impacto dessas publicações.

A crescente demanda por recursos financeiros pelos pesquisadores e a escassa alocação de verbas por parte das agências de fomento exigem a adoção de mecanismos de seleção mais criteriosos em substituição às tradicionais avaliações por pares. À exigência de publicações regulares somam-se critérios quantitativos de verificação de impacto dessas publicações.

O objetivo deste estudo foi analisar os indicadores bibliométricos dos periódicos nacionais e internacionais na área de Enfermagem, sob a ótica das bases indexadoras.

INDICADORES BIBLIOMÉTRICOS

Atualmente existem diversos índices de avaliação atribuídos ao periódico, que se propõem a medir o impacto da produção científica. Dentre eles:

JOURNAL CITATION REPORT (JCR)

O indicador de impacto, conhecido como Fator de Impacto (FI), e o mais influente no mundo científico(33. Aguado-López E, Rogel-Salazar R, Becerril-García A. Limites e potencialidades da avaliação científica: crítica epistemológica à cobertura de bases de dados e à construção de indicadores. In: Ferreira SMSP, Targino MG, organizadores. Acessibilidade e visibilidade de revistas científicas eletrônicas. São Paulo: SENAC; 2010. p.175-212), é distribuído, mediante assinatura, pela Clarivate, que adquiriu os direitos da Thomson e Reuters em 2016(66. Thompson Reuters. Web of Science, Web of knowledge [Internet]. 2016 [cited 2014 June 02]. Available from: http://wokinfo.com/products_tools/analytical/jcr/
http://wokinfo.com/products_tools/analyt...
). Calculado a partir de dados extraídos dos periódicos indexados na Base Web of Science (WoS), utiliza, ainda, a fórmula criada em 1950 por Garfield, para avaliação de periódicos por bibliotecários(77. Garfield E. “The agony and the ecstasy: the history and meaning of the Journal Impact Factor [Internet]. Chicago; 2005 [cited 2016 Oct 05]. Available from: http://garfield.library.upenn.edu/papers/jifchicago2005.pdf
http://garfield.library.upenn.edu/papers...
), que contabiliza apenas as citações feitas, num determinado ano, a documentos publicados nos 2 anos anteriores(88. Araújo CA. Bibliometria: evolução histórica e questões atuais. Em Questão. 2006;12(1)11-32.). A Clarivate divulga também outros Indicadores, que são auxiliares e não influenciam o FI do JCR. São eles:

Índice de Imediatez (Immediacy Index): Contagem das citações a um artigo durante o mesmo ano em que foi publicado(99. Pendlebury D. The use and misuse of journal metrics and other citation indicators. Arch Immunol Ther Exp. 2009;57(1):1-11.);

Meia vida do artigo (Cited Half-Life ou Aging): Cálculo que define o número de anos (“idade”) necessários para atingir 50% do total de citações de uma revista. Reflete o período para o qual os artigos de uma revista continuam a atrair citações(99. Pendlebury D. The use and misuse of journal metrics and other citation indicators. Arch Immunol Ther Exp. 2009;57(1):1-11.);

Eigenfactor: calculado a partir de dados WoS, com fórmula semelhante ao FI, mas utiliza as citações do período de 1 ano de censo, aplicado aos 5 anos anteriores para cálculo(99. Pendlebury D. The use and misuse of journal metrics and other citation indicators. Arch Immunol Ther Exp. 2009;57(1):1-11.);

Cites per item: Número médio de citações recebidas por documento ou o número total de citações dividido pelo número total de artigos na base WoS(66. Thompson Reuters. Web of Science, Web of knowledge [Internet]. 2016 [cited 2014 June 02]. Available from: http://wokinfo.com/products_tools/analytical/jcr/
http://wokinfo.com/products_tools/analyt...
);

Article Influence Score: determina a média da influência dos artigos de uma revista durante os primeiros 5 anos após a publicação. Calcula-se multiplicando o Índice de Eigenfactor por 0,01 e dividindo-se pelo número de artigos na revista. Essa medida é análoga ao JCR de 5 anos.

SCIMAGO JOURNAL RANKING (SJR)

Scimago Journal & Country Ranking (SJR): é uma plataforma na Internet que provê uma série de indicadores sobre a qualidade e o impacto de publicações e revistas a partir da informação da Base de Dados Scopus da Elsevier(1010. SCIMAGO SJR. SCImago Journal & Country Rank [Internet]. 2015 [cited 2016 June 02]. Available from: http://www.scimagojr.com/
http://www.scimagojr.com/...
).

A Scopus foi criada em 2004, com mais de 21 mil periódicos, cobre um universo mais amplo do que a WoS e também provê indicadores alternativos(33. Aguado-López E, Rogel-Salazar R, Becerril-García A. Limites e potencialidades da avaliação científica: crítica epistemológica à cobertura de bases de dados e à construção de indicadores. In: Ferreira SMSP, Targino MG, organizadores. Acessibilidade e visibilidade de revistas científicas eletrônicas. São Paulo: SENAC; 2010. p.175-212). É o maior banco de dados de citações e resumo da literatura revisada por pares: revistas científicas, livros e conferências. Oferece “ferramentas inteligentes para rastrear, analisar e visualizar a pesquisa, fornecendo uma visão abrangente da produção mundial de pesquisa nas áreas de ciência, tecnologia, medicina, ciências sociais e artes e humanidades”(1010. SCIMAGO SJR. SCImago Journal & Country Rank [Internet]. 2015 [cited 2016 June 02]. Available from: http://www.scimagojr.com/
http://www.scimagojr.com/...
). Além do SJR, mais divulgado, a Scimago também divulga outros indicadores secundários que também não são computados para o SJR:

Índice H, h: O índice H foi proposto, em 2005, pelo físico Jorge E. Hirsch, para mensurar o impacto e o desempenho individual dos pesquisadores, a partir do cálculo de citações ao longo de sua carreira. A mesma fórmula passou a ser utilizada para avaliar os periódicos, sendo o índice h baseado nas citações recebidas pelo periódico, ao longo do tempo(1111. Hirsch JE. An index to quantify an individual’s scientific research output. Proc Nati Acad Sci U S A. 2005;102(46):16569-72.).

Source-Normalized Impact per Paper (SNIP): Contabiliza citações com peso ponderado em relação ao total de citações em determinada área com menor potencial de citações, visando à equidade entre as áreas(1212. Waltman L, van Eck NJ, van Leeuwen TN, Visser MS. Some modifications to the SNIP jornal impact indicator. J Informetr. 2013;7(2):272-85.).

Impact per Publication (IPP): Impacto por Publicação (IPP), mede a proporção de citações em 1 ano para os trabalhos acadêmicos publicados nos 3 anos anteriores dividida pelo número de artigos publicados nesses mesmos 3 anos(1010. SCIMAGO SJR. SCImago Journal & Country Rank [Internet]. 2015 [cited 2016 June 02]. Available from: http://www.scimagojr.com/
http://www.scimagojr.com/...
).

Cites per Doc: Citações médias por documento em um período de 2, 3 e 4 anos. Calcula-se considerando o número de citações recebidas por uma revista no ano corrente aos documentos publicados no período avaliado(1010. SCIMAGO SJR. SCImago Journal & Country Rank [Internet]. 2015 [cited 2016 June 02]. Available from: http://www.scimagojr.com/
http://www.scimagojr.com/...
,1313. Mingers J, Leydesdorff L. A review of theory and practice in scientometrics. Eur J Oper Res. 2015;246(1):1-19.).

CiteScore: Lançado em dezembro de 2016 pela Scopus, o indicador conta as citações a artigos publicados nos 3 anos anteriores, pois considera que esse intervalo captura o auge de citações na maioria das disciplinas. Utiliza todos os documentos publicados: artigos de pesquisa, de revisão, atas de conferências, erratas, editoriais, cartas, notas e pesquisas curtas, excluindo da contagem apenas os artigos “in press”(1414. Scopus. Journalmetrics: introducing CiteScore metrics for serials [Internet]. 2016 [cited 2016 Dec 15]. Available from: https://journalmetrics.scopus.com/
https://journalmetrics.scopus.com/...
).

SCIELO CITATION INDEX (SCIELO CI)

Scientific Electronic Library Online (SciELO) – Criada em 1997, com o intuito de incrementar a visibilidade das revistas de ciências naturais e exatas, com prevalência das disciplinas médicas(33. Aguado-López E, Rogel-Salazar R, Becerril-García A. Limites e potencialidades da avaliação científica: crítica epistemológica à cobertura de bases de dados e à construção de indicadores. In: Ferreira SMSP, Targino MG, organizadores. Acessibilidade e visibilidade de revistas científicas eletrônicas. São Paulo: SENAC; 2010. p.175-212), a Coleção SciELO de periódicos trouxe maior visibilidade aos periódicos nacionais, complementando o WoS e Scopus nos países participantes(1616. Packer AL. A eclosão dos periódicos do Brasil e cenários para o seu porvir. Educ Pesqui [Internet]. 2014;40(2):301-23. Disponível em: http//www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf...
). Em 2014, a coleção SciELO passou a integrar a base de dados WoS, nomeada de SciELO Citation Index (SciELO CI), com a possibilidade de ampliar a cobertura dos periódicos nas buscas e contagem de citações. Além dos indicadores bibliométricos de citações, a SciELO contabiliza também os acessos e downloads dos documentos(1616. Packer AL. A eclosão dos periódicos do Brasil e cenários para o seu porvir. Educ Pesqui [Internet]. 2014;40(2):301-23. Disponível em: http//www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf...
).

GOOGLE SCHOLAR METRICS (GS)

O Google Scholar permite pesquisar a produção acadêmica em diversas disciplinas e fontes, incluindo artigos científicos, teses, livros, resumos, tribunais, sociedades profissionais, repositórios on-line, universidades e outros sites(1717. Google Scholar. About Google Scholar [Internet]. 2016 [cited 2016 Dec 15]. Available from: https://scholar.google.com.br/intl/pt-BR/scholar/about.html
https://scholar.google.com.br/intl/pt-BR...
). Contabilizando dados de citações em todas as bases, seu cálculo segue a metodologia do índice H, porém aplicado a um período de 5 anos. Publica uma lista com as 100 melhores publicações em vários idiomas, ordenadas por suas métricas de h-index e h-mediana de 5 anos, mas permite que se pesquise por um periódico específico ou um autor. Apresenta também listagens por área, mas apenas para as revistas em idioma inglês(1717. Google Scholar. About Google Scholar [Internet]. 2016 [cited 2016 Dec 15]. Available from: https://scholar.google.com.br/intl/pt-BR/scholar/about.html
https://scholar.google.com.br/intl/pt-BR...
).

REPERCUSIÓN INMEDIATA CUIDEN (RIC)

Calculado com base no número de citações recebidas por um periódico dividido pelo número de artigos publicados, em um período de 2 anos. Abrange apenas a coleção constante da base de dados bibliográficos da Fundação Índex, com abrangência Ibero-americana na área de Cuidado da Saúde(1818. Fundación Index. Cuiden: Base de Datos Bibliográfica [Internet]. 2016 [citado 2016 Dez. 15]. Disponible en: http://www.index-f.com/new/cuiden/
http://www.index-f.com/new/cuiden/...
). O ranking Cuiden também divulga o “Índice de Imediatez”, calculado da mesma forma que os divulgados por outros órgãos(1818. Fundación Index. Cuiden: Base de Datos Bibliográfica [Internet]. 2016 [citado 2016 Dez. 15]. Disponible en: http://www.index-f.com/new/cuiden/
http://www.index-f.com/new/cuiden/...
).

CLASSIFICAÇÃO QUALIS/CAPES

Quase simultaneamente à criação da SciELO, a Coordenação de Aperfeiçoamento do Pessoal do Ensino Superior (CAPES), do Ministério da Educação, criou o Qualis, sistema de classificação dos periódicos utilizados pelos programas de Pós-Graduação para divulgação de sua produção(1919. Brasil. Ministério de Ciência e Tecnologia; Coordenação de Aperfeiçoamento de Pessoal de Nível Superior. Avaliação Qualis [Internet]. Brasília: CAPES; 2014. Disponível em: http://www.capes.gov.br/avaliacao/qualis
http://www.capes.gov.br/avaliacao/qualis...
-2020. Trzesniak P. As dimensões da qualidade dos periódicos científicos e sua presença em um instrumento da área da educação. Rev Bras Educ. 2006;11(32):346-77.).

A qualidade é medida usando um sistema periódico de avaliação a partir de critérios definidos por representantes de cada área de especialização, organizados em Comitês de Consultores de Cada Área de Avaliação-CTC-ES. Periódicos nacionais e internacionais são categorizados nos estratos de A1 a C(1919. Brasil. Ministério de Ciência e Tecnologia; Coordenação de Aperfeiçoamento de Pessoal de Nível Superior. Avaliação Qualis [Internet]. Brasília: CAPES; 2014. Disponível em: http://www.capes.gov.br/avaliacao/qualis
http://www.capes.gov.br/avaliacao/qualis...
-2020. Trzesniak P. As dimensões da qualidade dos periódicos científicos e sua presença em um instrumento da área da educação. Rev Bras Educ. 2006;11(32):346-77.), conforme se enquadram nos critérios.

O último documento da área disponível retrata a classificação referente ao triênio 2010-2012 e apresenta, no seu quadro 2, a proposta a ser aplicada no período 2013-2014(1919. Brasil. Ministério de Ciência e Tecnologia; Coordenação de Aperfeiçoamento de Pessoal de Nível Superior. Avaliação Qualis [Internet]. Brasília: CAPES; 2014. Disponível em: http://www.capes.gov.br/avaliacao/qualis
http://www.capes.gov.br/avaliacao/qualis...
).

Quadro 2
– Principais indicadores atribuídos pelas Bases Indexadoras aos periódicos – São Paulo, SP, 2017.

JUSTIFICATIVA/RELEVÂNCIA

A discussão sobre a pertinência da adoção de indicadores de impacto internacionais para medir a produção científica brasileira é antiga e parece não evoluir(22. Mugnaini R. Caminhos para adequação da produção científica brasileira: impacto nacional versus impacto internacional [tese doutorado]. São Paulo: Universidade de São Paulo, Escola de Comunicação e Artes; 2006.,55. Marziale MHP. Editorial management: innovations and perspectives [editorial]. Rev Latino Am Enfermagem. 2014;22(1):1-2.).

Na área da Enfermagem, os desafios enfrentados pelos periódicos científicos brasileiros para ampliar sua visibilidade têm se mostrado insuficientes para alteração significativa dos indicadores(55. Marziale MHP. Editorial management: innovations and perspectives [editorial]. Rev Latino Am Enfermagem. 2014;22(1):1-2.,1616. Packer AL. A eclosão dos periódicos do Brasil e cenários para o seu porvir. Educ Pesqui [Internet]. 2014;40(2):301-23. Disponível em: http//www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf...
,2121. Marziale MHP. Produção científica da enfermagem brasileira: a busca pelo impacto internacional [editorial]. Rev Latino Am Enfermagem. 2005;13(3):285-6. DOI: https://doi.org/10.1590/S0104-11692005000300001
https://doi.org/10.1590/S0104-1169200500...
).

Atualmente, a SciELO indexa sete periódicos brasileiros de enfermagem, desses, a Scopus indexa seis e a WoS apenas três. A inclusão das principais revistas de enfermagem brasileiras na SciELO levou-as à busca de padrões de excelência na gestão editorial, tais como publicação multilíngue, normas rígidas de revisão por pares e cumprimento da periodicidade(2121. Marziale MHP. Produção científica da enfermagem brasileira: a busca pelo impacto internacional [editorial]. Rev Latino Am Enfermagem. 2005;13(3):285-6. DOI: https://doi.org/10.1590/S0104-11692005000300001
https://doi.org/10.1590/S0104-1169200500...
).

Embora a implantação do portal SciELO tenha trazido visibilidade internacional à literatura científica ibero-americana, principalmente na área da Saúde e Ciências da Vida, na área de Enfermagem, essa visibilidade não representou aumento no fator de impacto, colocando em questão a validade de métodos puramente métricos na avaliação de uma área com forte componente social. A contrapartida de ascensão nos rankings internacionais não se efetivou nem mesmo com a inclusão dos periódicos de enfermagem da SciELO na Base WoS(55. Marziale MHP. Editorial management: innovations and perspectives [editorial]. Rev Latino Am Enfermagem. 2014;22(1):1-2.,1616. Packer AL. A eclosão dos periódicos do Brasil e cenários para o seu porvir. Educ Pesqui [Internet]. 2014;40(2):301-23. Disponível em: http//www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf...
).

Se a visibilidade pode ser refletida também nos acessos e downloads de um artigo(22. Mugnaini R. Caminhos para adequação da produção científica brasileira: impacto nacional versus impacto internacional [tese doutorado]. São Paulo: Universidade de São Paulo, Escola de Comunicação e Artes; 2006.,55. Marziale MHP. Editorial management: innovations and perspectives [editorial]. Rev Latino Am Enfermagem. 2014;22(1):1-2.), outro aspecto que vale a pena ressaltar é que o “tempo de vida” do artigo na área de enfermagem é maior quando comparado às outras áreas, com artigos sendo usados por muitos anos após sua publicação e artigos que, mesmo tendo sido baixados centenas de milhares de vezes, possivelmente para uso na formação acadêmica, receberam pouca ou nenhuma citação.

Esse panorama de indicadores divergentes pelo fato de as bases utilizarem critérios, cobertura e períodos diferentes justifica este estudo, que teve por objetivo analisar os indicadores bibliométricos dos periódicos nacionais e internacionais na área de Enfermagem, sob a ótica das bases indexadoras.

MÉTODO

Aspectos éticos: o estudo foi precedido da aprovação do Comitê de Ética e Pesquisa da Universidade Federal de São Paulo. Parecer n. 503.573, ano 2013.

Desenho do estudo: coorte histórica referente ao período de 2014 a 2016.

Local do estudo: pesquisa realizada utilizando a internet como ferramenta de busca. Downloads de arquivos de dados da WoS, Scopus, SciELO.

Critérios de inclusão/exclusão: periódicos nacionais de enfermagem indexados na base SciELO e classificados no Qualis A1, A2 e B1: Acta Paulista de Enfermagem; Escola Anna Nery Revista de Enfermagem; Revista Brasileira de Enfermagem; Revista da Escola de Enfermagem da USP; Revista Gaúcha de Enfermagem; Revista Latino-Americana de Enfermagem; Texto & Contexto Enfermagem.

Periódicos internacionais de enfermagem com fator de impacto entre 1.0 e 1.8.

American Journal of Nursing; Applied Nursing Research; International Nursing Review; Journal of Nursing Care Quality; Nursing & Health Sciences; Nursing Inquiry; Research in Nursing & Health.

Foram excluídos os periódicos com escopo voltado para especialidades da área da enfermagem.

Protocolo do estudo: foram selecionados os periódicos nacionais e internacionais da área, indexados nas Bases WoS, Scopus e SciELO, que preencheram os critérios de inclusão. As variáveis estudadas foram importadas para o MS-Excel para tabulação e análise.

Variáveis de características gerais dos periódicos: Afiliações, Publisher, Criação, Periodicidade, Suporte.

Variáveis de indicadores de avaliação

Web of Science: Journal Citation Report (JCR) − Fator de Impacto; Imediatez, Fator de impacto de 5 anos, Índice H; Cites per item, Half-life.

Scopus Scimago: SCImago Journal Ranking (SJR), CiteScore, Cites per Doc, Índice H, SNIP.

SciELO: Citation Index CI (2 e 3 anos); Imediatez, Half-life.

Cuiden: Repercusión Inmediata CUIDEN (RIC), Imediatez.

Google Scholar: Índice h 5-i, Índice h 5-m.

CAPES: Qualis.

RESULTADOS

As Figuras 1 e 2 demonstram que, exceto pela exclusão de um periódico, as demais revistas nacionais permaneceram no mesmo patamar nos dois principais indicadores de impacto.

Figura 1
– Evolução do Fator de Impacto JCR-WOS das revistas brasileiras durante o período do estudo.

Figura 2
– Evolução do SJR Scimago das revistas brasileiras durante o período do estudo.

Como podemos observar no Quadro 2, os principais indicadores que norteiam a avaliação de qualidade dos periódicos por parte das instituições financeiras, universidades e autores são essencialmente quantitativos. Das Revistas Internacionais, duas estão classificadas no Qualis/CAPES, mas, seguindo-se os critérios da área, todas seriam A1. Os números divulgados pelas bases não apresentam nenhuma similaridade e não são comparáveis entre si.

Os indicadores secundários que adotam uma normalização por área, qualificando os periódicos citantes, bem como os que cobrem períodos maiores de tempo apresentam resultados menos extremos, mais equilibrados.

Os dados apresentados no Quadro 4 refletem a desigualdade entre os indicadores, conforme o alcance da Base de Dados que os apresentam. Mesmo os que utilizam a mesma metodologia, de citações ao longo de existência do periódico (índice H), se mostram incomparáveis justamente porque a cobertura dos periódicos nas diversas bases é diferente.

Quadro 4
– Indicadores bibliométricos com metodologia similar avaliada por diferentes bases – São Paulo, SP, Brasil, 2017.

A Figura 3 facilita a visualização dessas distorções, presentes até mesmo no indicador mais equilibrado: o índice H nas três Bases, calculado sobre o total de artigos publicados pelo periódico e constante da base.

Figura 3
– Índice H nas Bases de Dados WoS, Scopus e Google Scholar - São Paulo, 2014 a 2016

Com metodologia idêntica, os dados obtidos são desiguais devido à diferença de revistas indexadas nas Bases. O Google Scholar, que coleta seus dados em todas as bases, representa o resultado mais equilibrado. Fonte: WoS, Scimago, Google Scholar

Quanto às características dos periódicos referentes à periodicidade, à vinculação, ao suporte, ao idioma, etc., os resultados apontam maior semelhança entre a amostra nacional e internacional. A periodicidade é variada, sendo a maioria sete, bimensal, uma com fluxo contínuo e outras duas se preparando para isso. O formato de publicação é, na totalidade, eletrônico. Todas as revistas pertencem ou estão vinculadas de alguma forma a sociedades, associações de classe ou acadêmicas. Considerando-se a SciELO na função de editora, todas as revistas estão vinculadas a alguma Publisher.

DISCUSSÃO

Foi realizada uma série histórica comparando-se sete periódicos internacionais, considerados padrão de excelência, com sete periódicos nacionais indexados na SciELO, base que hospeda parte significativa da produção nacional.

Durante o estudo, um periódico nacional foi excluído da WoS, e outro foi suspenso por 1 ano, o que pode ter impactado para baixo os indicadores dos periódicos que permaneceram. A razão alegada para a suspensão do periódico foi um alto índice de autocitação.

Para evitar a suspensão e posterior exclusão, os editores passaram a evitar a autocitação e a citação cruzada, ao mesmo tempo que incentivam a citação a artigos estrangeiros. Essas duas ações diminuíram significativamente as citações às revistas nacionais.

Isso, aliado à ausência, na WoS, dos outros periódicos, que mais costumam citar os artigos de periódicos brasileiros, praticamente inviabilizam qualquer ascensão no ranking.

Foi observado, durante o estudo, que os critérios SciELO estabelecidos para indexação dos periódicos nacionais visando à excelência dos periódicos não são requisitos para os internacionais terem fator de impacto elevado. Entre as revistas internacionais estudadas, observamos a ocorrência de Conselho Editorial endógeno, publicação em único idioma, ausência de informações sobre o fluxo de avaliação dos manuscritos e, principalmente, a cobrança de acesso(2222. Scientific Electronic Library Online (SciELO). Critérios SciELO Brasil: critérios, política e procedimentos para a admissão e a permanência de periódicos científicos na Coleção SciELO Brasil [Internet]. São Paulo; 2014. [citado 2016 dez. 15]. Disponível em: http://www.scielo.br/avaliacao/criterio/scielo_brasil_pt.htm
http://www.scielo.br/avaliacao/criterio/...
).

O aspecto de maior desigualdade correspondeu ao financiamento e ao aporte de recursos. Enquanto os periódicos nacionais são, na totalidade, mantidos com recursos públicos e sem patrocínio, os periódicos internacionais são financiados por empresas e associações privadas e veiculam, também, anúncios pagos em suas páginas.

Quanto ao tempo de existência das revistas, coletado para verificar se antiguidade poderia ser sinônimo de gestão mais eficiente, constatamos que essa variável não significou FI maior ou menor. A revista mais antiga não tem o maior FI, nem a mais recente apresenta o menor.

A hipótese partiu do pressuposto de que as exigências para permanência na Base SciELO, visando à internacionalização da pesquisa dos periódicos científicos nacionais, permitiriam aumento da visibilidade da produção científica junto à comunidade internacional(1616. Packer AL. A eclosão dos periódicos do Brasil e cenários para o seu porvir. Educ Pesqui [Internet]. 2014;40(2):301-23. Disponível em: http//www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf...
,2121. Marziale MHP. Produção científica da enfermagem brasileira: a busca pelo impacto internacional [editorial]. Rev Latino Am Enfermagem. 2005;13(3):285-6. DOI: https://doi.org/10.1590/S0104-11692005000300001
https://doi.org/10.1590/S0104-1169200500...

22. Scientific Electronic Library Online (SciELO). Critérios SciELO Brasil: critérios, política e procedimentos para a admissão e a permanência de periódicos científicos na Coleção SciELO Brasil [Internet]. São Paulo; 2014. [citado 2016 dez. 15]. Disponível em: http://www.scielo.br/avaliacao/criterio/scielo_brasil_pt.htm
http://www.scielo.br/avaliacao/criterio/...

23. Ferreira AGC, Caregnato SE. Visibilidade de revistas científicas: um estudo no Portal de Periódicos Científicos da Universidade Federal do Rio Grande do Sul. Transinformação. 2014;26(2):177-90.

24. Packer AL. Os periódicos brasileiros e a comunicação da pesquisa nacional. Rev USP [Internet]. 2011 [citado 2016 out. 05];(89):26-61. Disponível em: https://doi.org/10.11606/issn.2316-9036.v0i89p26-61
https://doi.org/10.11606/issn.2316-9036....
-2525. Portugal MJ, Branca S, Rodrigues M. Dados de medida de fator de impacto das revistas científicas. Rev Enferm Ref [Internet]. 2011 [citado 2016 dez. 15];III Série(5):211-5. Disponível em: http://www.scielo.mec.pt/pdf/ref/vserIIIn5/serIIIn5a22.pdf
http://www.scielo.mec.pt/pdf/ref/vserIII...
), o que poderia contribuir para o aumento do FI. Porém, mesmo cumprindo a maior parte dos critérios de excelência, o FI tem se mantido com pouca variação, e a maioria dos periódicos não prossegue em curva ascendente no FI-JCR ou SJR (Figuras 1-2).

Nos últimos dez anos, houve um aumento no questionamento da aplicação preferencial do FI na avaliação dos periódicos e sua consequência na avaliação dos pesquisadores. Ao mesmo tempo, foram elaboradas e propostas outras fórmulas para cálculo do “impacto” de um artigo ou periódico em seu campo de atuação(1212. Waltman L, van Eck NJ, van Leeuwen TN, Visser MS. Some modifications to the SNIP jornal impact indicator. J Informetr. 2013;7(2):272-85.,2525. Portugal MJ, Branca S, Rodrigues M. Dados de medida de fator de impacto das revistas científicas. Rev Enferm Ref [Internet]. 2011 [citado 2016 dez. 15];III Série(5):211-5. Disponível em: http://www.scielo.mec.pt/pdf/ref/vserIIIn5/serIIIn5a22.pdf
http://www.scielo.mec.pt/pdf/ref/vserIII...

26. Mugnaini R. The Impact Factor: its popularity and impacts, and the need to preserve the scientific knowledge generation process [editorial]. Rev Esc Enferm USP. 2016;50(5):720-1. DOI: http://dx.doi.org/10.1590/s0080-623420160000600002
http://dx.doi.org/10.1590/s0080-62342016...
-2727. Van Noorden R. Controversial impact factor gets a heavyweight rival. Nature [Internet]. 2016 [cited 2016 Oct 05];540:325-6. Available from: http://www.nature.com/doifinder/10.1038/nature.2016.21131
http://www.nature.com/doifinder/10.1038/...
).

Argumenta-se que o FI é uma medida imprecisa, com grande potencial de distorções, além de ser vulnerável à manipulação, por meio da prática de autocitação, citação cruzada, ou ainda com a publicação massiva de artigos de revisão, que atraem mais citações(2525. Portugal MJ, Branca S, Rodrigues M. Dados de medida de fator de impacto das revistas científicas. Rev Enferm Ref [Internet]. 2011 [citado 2016 dez. 15];III Série(5):211-5. Disponível em: http://www.scielo.mec.pt/pdf/ref/vserIIIn5/serIIIn5a22.pdf
http://www.scielo.mec.pt/pdf/ref/vserIII...
).

Tendo em vista que o FI é calculado a partir das citações recebidas apenas entre os periódicos presentes na WoS, a baixa representatividade da enfermagem nacional nessa base só aumenta a distância entre os indicadores dos periódicos nacionais e dos periódicos internacionais mais bem colocados no ranking(66. Thompson Reuters. Web of Science, Web of knowledge [Internet]. 2016 [cited 2014 June 02]. Available from: http://wokinfo.com/products_tools/analytical/jcr/
http://wokinfo.com/products_tools/analyt...
).

Os resultados apresentados no Quadro 2 apontam que, embora os indicadores FI, SJR e RIC sejam os que norteiam a avaliação de qualidade dos periódicos para concessão de fomento, os índices apresentados pelas bases não se assemelham entre si, adotam metodologias e fontes de dados diferentes, não claramente apresentadas aos editores, que não têm facilidade em confirmar os dados apurados para o resultado final(1212. Waltman L, van Eck NJ, van Leeuwen TN, Visser MS. Some modifications to the SNIP jornal impact indicator. J Informetr. 2013;7(2):272-85.).

No Quadro 3 apresentamos, também, outras métricas que, embora representem um indicador de qualidade dos periódicos, não são computadas ao produto final do principal e mais relevante indicador da Base. Porém, o que percebemos é que a normalização por área, ponderando o potencial de citação, ou quando são avaliados também os periódicos citantes, ou, como no caso do CiteScore, apenas com a ampliação do intervalo apurado, bem como a cobertura de tipos diversos de documentos, equilibram mais o resultado, não resultando em um intervalo tão distal(1212. Waltman L, van Eck NJ, van Leeuwen TN, Visser MS. Some modifications to the SNIP jornal impact indicator. J Informetr. 2013;7(2):272-85.,2727. Van Noorden R. Controversial impact factor gets a heavyweight rival. Nature [Internet]. 2016 [cited 2016 Oct 05];540:325-6. Available from: http://www.nature.com/doifinder/10.1038/nature.2016.21131
http://www.nature.com/doifinder/10.1038/...
).

Essa análise dos dados referentes ao índice H e outros índices cobrindo espaço de tempo mais amplo traz outros elementos para a discussão: a questão do tempo de utilização dos artigos da área. Quanto maior o período, mais equilibrados tornam-se os números. Isso pode significar que a ciência produzida na Enfermagem tem uma vida maior e uma taxa de obsolescência menor que a de outras áreas da saúde(2828. Silva MJP, Egry EY, Margareth A, Barbosa MAM, Sousa RMC, Castilho V, et al. Nursing knowledge production: from the research idea to the publishing in a qualified journal. Rev Esc Enferm USP. 2009;43(n.spe2):1345-5.).

Esses resultados mostram que a proliferação de novas medidas, com escopos, intervalos e metodologias diferentes representa a insatisfação de todas as áreas com a utilização exclusiva do FI(1212. Waltman L, van Eck NJ, van Leeuwen TN, Visser MS. Some modifications to the SNIP jornal impact indicator. J Informetr. 2013;7(2):272-85.).

Com a presença de apenas três revistas nacionais de enfermagem na WoS, nossas citações serão sempre minimizadas. Atualmente, somente a Scopus está bem próxima de cobrir as mesmas indexadas pela SciELO, que é, hoje, a mais completa como indicador de avaliação dos periódicos de enfermagem do universo Ibero-Latino-Americano(2626. Mugnaini R. The Impact Factor: its popularity and impacts, and the need to preserve the scientific knowledge generation process [editorial]. Rev Esc Enferm USP. 2016;50(5):720-1. DOI: http://dx.doi.org/10.1590/s0080-623420160000600002
http://dx.doi.org/10.1590/s0080-62342016...
).

Somente a inclusão das principais revistas nacionais na base utilizada pode resultar em melhoria do ranking. Da mesma forma, mudanças na política de incentivo à publicação da pesquisa nacional em periódicos brasileiros também podem alterar esse panorama(2929. Grinberg M, Solimene MC, Barreto MCC. Por que publicar em periódicos nacionais? Arq Bras Cardiol. 2012;98(3)e62-e63.).

CONCLUSÃO

Os resultados obtidos nos permitem afirmar que os critérios para internacionalização impostos aos periódicos não contribuem para obtenção ou aumento do FI.

O FI, criado em 1950, é um indicador analógico sendo utilizado em um universo digital. Ele foi criado para medir o uso de coleções em bibliotecas, com restrições de espaço físico, problema que hoje já não se apresenta. Os artigos, no mundo digital, permanecem indefinidamente ao alcance dos usuários, sendo lidos e baixados por longos períodos, podendo exigir outros indicadores que mensurem esses diversos usos.

Recomenda-se que a adoção do FI deixe de ser o “padrão-ouro” e que os outros indicadores sejam adotados nos processos de avaliação dos periódicos, de acordo com as especificidades de cada área. Destacamos o SNIP e CiteScore, que utilizam um intervalo de tempo maior na contagem das citações, o que diminui a distorção entre os números obtidos. O SNIP, ao atribuir maior peso às áreas, eleva os números de todas as revistas e, como abrange quatro periódicos brasileiros, também diminui a distorção entre os números.

Entende-se, então, que o FI não pode ser considerado a razão de ser da Ciência. Para outras áreas, com maior potencial de citação, o FI pode ser considerado um qualificador, mas na Enfermagem, em que as inovações e descobertas são mais impactantes em longo prazo, a avaliação deveria ser diferenciada.

Nesta lógica, entende-se que o índice H, por cobrir toda a coleção da Revista e contemplar as citações ao longo de todo esse tempo, teria que ser mais considerado na avaliação dos periódicos, nos processos de classificação. Nessa mesma linha de pensamento, o CiteScore também se torna uma opção mais justa para complemento da avaliação.

Quadro 1
– Critérios dos Estratos da Área de Enfermagem.
Quadro 3
– Indicadores de avaliação de qualidade atribuídos pelas Bases Indexadoras aos periódicos – São Paulo, SP, 2017.

REFERÊNCIAS

  • 1
    Kuramoto H. Informação científica: proposta de um novo modelo para o Brasil. Ci Inf [Internet]. 2006 [cited 2016 June 02];35(2). Disponível em: http://revista.ibict.br/ciinf/article/view/1144
    » http://revista.ibict.br/ciinf/article/view/1144
  • 2
    Mugnaini R. Caminhos para adequação da produção científica brasileira: impacto nacional versus impacto internacional [tese doutorado]. São Paulo: Universidade de São Paulo, Escola de Comunicação e Artes; 2006.
  • 3
    Aguado-López E, Rogel-Salazar R, Becerril-García A. Limites e potencialidades da avaliação científica: crítica epistemológica à cobertura de bases de dados e à construção de indicadores. In: Ferreira SMSP, Targino MG, organizadores. Acessibilidade e visibilidade de revistas científicas eletrônicas. São Paulo: SENAC; 2010. p.175-212
  • 4
    Meadows AJ. Os periódicos científicos e a transição do meio impresso para o eletrônico. Rev Bibliotecon Brasília [Internet]. 2001 [citado 2015 out. 02];25(1):5-14. Disponível em: http://www.brapci.ufpr.br/brapci/_repositorio/2010/10/pdf_29f176742d_0012269.pdf
    » http://www.brapci.ufpr.br/brapci/_repositorio/2010/10/pdf_29f176742d_0012269.pdf
  • 5
    Marziale MHP. Editorial management: innovations and perspectives [editorial]. Rev Latino Am Enfermagem. 2014;22(1):1-2.
  • 6
    Thompson Reuters. Web of Science, Web of knowledge [Internet]. 2016 [cited 2014 June 02]. Available from: http://wokinfo.com/products_tools/analytical/jcr/
    » http://wokinfo.com/products_tools/analytical/jcr/
  • 7
    Garfield E. “The agony and the ecstasy: the history and meaning of the Journal Impact Factor [Internet]. Chicago; 2005 [cited 2016 Oct 05]. Available from: http://garfield.library.upenn.edu/papers/jifchicago2005.pdf
    » http://garfield.library.upenn.edu/papers/jifchicago2005.pdf
  • 8
    Araújo CA. Bibliometria: evolução histórica e questões atuais. Em Questão. 2006;12(1)11-32.
  • 9
    Pendlebury D. The use and misuse of journal metrics and other citation indicators. Arch Immunol Ther Exp. 2009;57(1):1-11.
  • 10
    SCIMAGO SJR. SCImago Journal & Country Rank [Internet]. 2015 [cited 2016 June 02]. Available from: http://www.scimagojr.com/
    » http://www.scimagojr.com/
  • 11
    Hirsch JE. An index to quantify an individual’s scientific research output. Proc Nati Acad Sci U S A. 2005;102(46):16569-72.
  • 12
    Waltman L, van Eck NJ, van Leeuwen TN, Visser MS. Some modifications to the SNIP jornal impact indicator. J Informetr. 2013;7(2):272-85.
  • 13
    Mingers J, Leydesdorff L. A review of theory and practice in scientometrics. Eur J Oper Res. 2015;246(1):1-19.
  • 14
    Scopus. Journalmetrics: introducing CiteScore metrics for serials [Internet]. 2016 [cited 2016 Dec 15]. Available from: https://journalmetrics.scopus.com/
    » https://journalmetrics.scopus.com/
  • 15
    Pendlebury DA, Adams J. Comments on a critique of the Thomson Reuters jornal impact factor. Scientometrics. 2012;92(2):395-401.
  • 16
    Packer AL. A eclosão dos periódicos do Brasil e cenários para o seu porvir. Educ Pesqui [Internet]. 2014;40(2):301-23. Disponível em: http//www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
    » www.scielo.br/pdf/ep/v40n2/v40n2a02.pdf
  • 17
    Google Scholar. About Google Scholar [Internet]. 2016 [cited 2016 Dec 15]. Available from: https://scholar.google.com.br/intl/pt-BR/scholar/about.html
    » https://scholar.google.com.br/intl/pt-BR/scholar/about.html
  • 18
    Fundación Index. Cuiden: Base de Datos Bibliográfica [Internet]. 2016 [citado 2016 Dez. 15]. Disponible en: http://www.index-f.com/new/cuiden/
    » http://www.index-f.com/new/cuiden/
  • 19
    Brasil. Ministério de Ciência e Tecnologia; Coordenação de Aperfeiçoamento de Pessoal de Nível Superior. Avaliação Qualis [Internet]. Brasília: CAPES; 2014. Disponível em: http://www.capes.gov.br/avaliacao/qualis
    » http://www.capes.gov.br/avaliacao/qualis
  • 20
    Trzesniak P. As dimensões da qualidade dos periódicos científicos e sua presença em um instrumento da área da educação. Rev Bras Educ. 2006;11(32):346-77.
  • 21
    Marziale MHP. Produção científica da enfermagem brasileira: a busca pelo impacto internacional [editorial]. Rev Latino Am Enfermagem. 2005;13(3):285-6. DOI: https://doi.org/10.1590/S0104-11692005000300001
    » https://doi.org/10.1590/S0104-11692005000300001
  • 22
    Scientific Electronic Library Online (SciELO). Critérios SciELO Brasil: critérios, política e procedimentos para a admissão e a permanência de periódicos científicos na Coleção SciELO Brasil [Internet]. São Paulo; 2014. [citado 2016 dez. 15]. Disponível em: http://www.scielo.br/avaliacao/criterio/scielo_brasil_pt.htm
    » http://www.scielo.br/avaliacao/criterio/scielo_brasil_pt.htm
  • 23
    Ferreira AGC, Caregnato SE. Visibilidade de revistas científicas: um estudo no Portal de Periódicos Científicos da Universidade Federal do Rio Grande do Sul. Transinformação. 2014;26(2):177-90.
  • 24
    Packer AL. Os periódicos brasileiros e a comunicação da pesquisa nacional. Rev USP [Internet]. 2011 [citado 2016 out. 05];(89):26-61. Disponível em: https://doi.org/10.11606/issn.2316-9036.v0i89p26-61
    » https://doi.org/10.11606/issn.2316-9036.v0i89p26-61
  • 25
    Portugal MJ, Branca S, Rodrigues M. Dados de medida de fator de impacto das revistas científicas. Rev Enferm Ref [Internet]. 2011 [citado 2016 dez. 15];III Série(5):211-5. Disponível em: http://www.scielo.mec.pt/pdf/ref/vserIIIn5/serIIIn5a22.pdf
    » http://www.scielo.mec.pt/pdf/ref/vserIIIn5/serIIIn5a22.pdf
  • 26
    Mugnaini R. The Impact Factor: its popularity and impacts, and the need to preserve the scientific knowledge generation process [editorial]. Rev Esc Enferm USP. 2016;50(5):720-1. DOI: http://dx.doi.org/10.1590/s0080-623420160000600002
    » http://dx.doi.org/10.1590/s0080-623420160000600002
  • 27
    Van Noorden R. Controversial impact factor gets a heavyweight rival. Nature [Internet]. 2016 [cited 2016 Oct 05];540:325-6. Available from: http://www.nature.com/doifinder/10.1038/nature.2016.21131
    » http://www.nature.com/doifinder/10.1038/nature.2016.21131
  • 28
    Silva MJP, Egry EY, Margareth A, Barbosa MAM, Sousa RMC, Castilho V, et al. Nursing knowledge production: from the research idea to the publishing in a qualified journal. Rev Esc Enferm USP. 2009;43(n.spe2):1345-5.
  • 29
    Grinberg M, Solimene MC, Barreto MCC. Por que publicar em periódicos nacionais? Arq Bras Cardiol. 2012;98(3)e62-e63.

  • Apoio Financeiro: Conselho Nacional de Desenvolvimento Científico e Tecnológico – CNPq. Processo n. 443997/2014-4.

Datas de Publicação

  • Publicação nesta coleção
    2017

Histórico

  • Recebido
    23 Abr 2017
  • Aceito
    05 Jun 2017
Universidade de São Paulo, Escola de Enfermagem Av. Dr. Enéas de Carvalho Aguiar, 419 , 05403-000 São Paulo - SP/ Brasil, Tel./Fax: (55 11) 3061-7553, - São Paulo - SP - Brazil
E-mail: reeusp@usp.br