Acessibilidade / Reportar erro

Potencialidades e limitações dos instrumentos de mensuração da sustentabilidade

Potentialities and limitations of sustainability measurement instruments

RESUMO

A medição da sustentabilidade tem sido tema recorrente nas discussões sobre o meio ambiente. Este artigo trata das potencialidades e limitações de instrumentos de mensuração da sustentabilidade (IMS) por meio de revisão da literatura e pesquisa de campo com especialistas. Os resultados mostram concordância entre as opiniões dos especialistas e as encontradas na literatura no que se refere ao grau de relevância dos resultados da aplicação dos IMS para as dimensões ambiental, social e econômica da sustentabilidade e sobre a concordância ou discordância quanto às potencialidades e às limitações desses instrumentos. Para a dimensão ambiental, a pegada ecológica foi considerada a mais relevante; para a social, o barômetro da sustentabilidade foi apontado como o mais importante; e para a econômica, o Pressão, Estado, Resposta (PER) foi o mais relevante. Os resultados também mostram que todas as potencialidades pesquisadas foram consideradas importantes para os IMS. Ao viabilizarem medidas de sustentabilidade, os IMS colaboram para a conservação do meio ambiente e o desenvolvimento sustentável, contribuindo para a conscientização da sociedade e de gestores e fornecendo subsídios para a realização de ações visando à melhoria da sustentabilidade, porém as limitações dos IMS reforçam a dificuldade de se ter uma ferramenta que reflita a natureza holística da sustentabilidade em toda a sua amplitude.

Palavras-chave:
mensuração da sustentabilidade; pegada ecológica; painel de sustentabilidade; barômetro da sustentabilidade; pressão, estado, resposta

ABSTRACT

Sustainability measurement has been a recurrent theme concerning environmental debates. This article deals with the capabilities and restrictions of sustainability measurement tools (SMT) using technical literature review and field research with experts. The results show consensus amongst expert’s positions and those found in the technical literature about both the importance level of the sustainability measurement tools implementation results and the capabilities and restrictions of these tools. The ecological footprint is regarded here as the most significant to the environmental dimension. The barometer of sustainability is regarded here as the most significant to the social dimension, and PER is regarded here as the most important to the economical dimension. Results also show that all researched capabilities are regarded here as relevant to SMT. By the application of sustainability measurement, SMT contribute to the environmental protection and sustainable development, raising managers’ and society’s awareness and providing sustainability improvements. SMT limitations enhance the obstacles for a tool to reflect the holistic nature of sustainability in its all extent.

Keywords:
measurement of sustainability; ecological footprint; dashboard of sustainability; barometer of sustainability; pressure, state, response

INTRODUÇÃO

Os danos ao meio ambiente provocados pelos modelos de desenvolvimento têm sido cada vez mais percebidos pela sociedade. Ao longo dos anos, interferências antropogênicas como a agricultura, indústria, urbanização e outras têm afetado biomas e feito com que áreas ricas em biodiversidade sejam pressionadas para utilização em diversas aplicações econômicas (CARDOSO; SILVA; VENDRAME, 2016CARDOSO, J.C.; SILVA, J.A.T.; VENDRAME, W.A. (2016) Impacts of deforestation on some orchids of São Paulo State. Natureza e Conservação, v. 14, n. 1, p. 28-32.), tornando urgente o enfrentamento dos impactos causados pelas pressões antrópicas ao meio ambiente.

Nesse contexto, a mensuração da sustentabilidade de regiões tem sido tema recorrente nas discussões sobre o meio ambiente, estando normalmente relacionada à obtenção de medidas por meio do monitoramento da situação atual, visando ao alcance de objetivos de sustentabilidade preestabelecidos, destacadamente os associados à conservação do meio ambiente.

Vários modelos de mensuração da sustentabilidade foram desenvolvidos com o objetivo de identificar características específicas de aplicabilidade (MARZALL & ALMEIDA, 2000MARZALL, K.; ALMEIDA, J. (2000) Indicadores de sustentabilidade para agroecossistemas: Estado da arte, limites e potencialidades de uma nova ferramenta para avaliar o desenvolvimento sustentável. Cadernos de Ciência & Tecnologia, Brasília, v. 17, n. 1, p. 41-59.). Normalmente, possibilitam a construção de indicadores que representam um conjunto de dados, informações e conhecimentos acerca de determinado fenômeno, sendo capazes de expressar e comunicar, de maneira simples e objetiva, as características essenciais e o significado desse fenômeno, propiciando a avaliação da realidade ambiental e das suas tendências de mudança (SEI, 2006SUPERINTENDÊNCIA DE ESTUDOS ECONÔMICOS E SOCIAIS DA BAHIA (SEI). Indicadores de sustentabilidade ambiental. Salvador: SEI, 2006. (Série Estudos e Pesquisas, 75).).

Esta pesquisa avalia as potencialidades e limitações da pegada ecológica (ecological footprint method), do painel de controle da sustentabilidade (dashboard of sustainability), do barômetro da sustentabilidade (barometer of sustainability) e do Pressão, Estado e Resposta (Pressure, State, Response - PER), que são instrumentos fartamente citados na literatura como importantes para a mensuração da sustentabilidade (SEI, 2006SUPERINTENDÊNCIA DE ESTUDOS ECONÔMICOS E SOCIAIS DA BAHIA (SEI). Indicadores de sustentabilidade ambiental. Salvador: SEI, 2006. (Série Estudos e Pesquisas, 75).; FROEHLICH, 2014FROEHLICH, C. (2014) Sustentabilidade: dimensões e métodos de mensuração de resultados. Desenvolve: Revista de Gestão do Unilasalle, v. 3, n. 2, p. 151-168. http://dx.doi.org/10.18316/1316
http://dx.doi.org/10.18316/1316...
; KEMERICH; RITTER; BORBA, 2014KEMERICH, P.D.C.; RITTER, L.G.; BORBA, W.F. (2014) Indicadores de sustentabilidade ambiental: métodos e aplicações. Revista Monografias Ambientais - REMOA, v. 13, n. 5, p. 3723-3736. http://dx.doi.org/10.5902/2236130814411
http://dx.doi.org/10.5902/2236130814411...
; LOZANO & TEIXEIRA, 2012LOZANO, M.C.; TEIXEIRA, B.A.N. (2012) Barômetro da Sustentabilidade, Painel de Sustentabilidade e Pegada Ecológica: a abordagem da gestão de resíduos sólidos na avaliação da sustentabilidade. In: ENCONTRO NACIONAL DE TECNOLOGIA DO AMBIENTE CONSTRUÍDO, 14., 2012, Juiz de Fora. Anais...; FONSECA, 2010FONSECA, C.A.G.M. (2010) Índice de Sustentabilidade Municipal: um instrumento de avaliação da qualidade de vida nos municípios brasileiros. Dissertação (Mestrado) - Universidade de Brasília, Brasília.; CARVALHO et al., 2008CARVALHO, P.G.M.; BARCELLOS, F.; GREEN, A.; OLIVEIRA, S. (2008) Indicadores para a avaliação da gestão ambiental municipal com base no modelo Pressão-Estado-Resposta. In: ENCONTRO NACIONAL DE ESTUDOS POPULACIONAIS, 16., 2008, Caxambu. Anais…; KRONEMBERGER et al., 2008KRONEMBERGER, D.M.P.; CLEVELARIO JUNIOR, J.; NASCIMENTO, J.A.C.; COLLARES, J.E.R.; SILVA, L.C.D. (2008) Desenvolvimento sustentável no Brasil: uma análise a partir da aplicação do barômetro da sustentabilidade. Sociedade & Natureza, Uberlândia, v. 20, n. 1, p. 25-50. http://dx.doi.org/10.1590/S1982-45132008000100002
http://dx.doi.org/10.1590/S1982-45132008...
; CAMPOS & RIBEIRO, 2007CAMPOS, C.A.; RIBEIRO, F.R. (2007) Aplicação da ferramenta Dashboard of Sustainability no processo de avaliação do desenvolvimento sustentável na agricultura familiar. In: CONGRESSO DA SOCIEDADE BRASILEIRA DE ECONOMIA, 45., 2007, Londrina. Anais…; VAN BELLEN, 2002VAN BELLEN, H.M. (2002) Indicadores de sustentabilidade: uma análise comparativa. Tese (Doutorado) - Universidade Federal de Santa Catarina, Florianópolis.; FARSARI & PRASTACOS, 2002FARSARI, Y.; PRASTACOS, P. (2002) Sustainable Development Indicators: An Overview. In: INTERNATIONAL CONFERENCE CITIZENS, SUSTAINABLE DEVELOPMENT, ENVIRONMENT, FOUNDATION FOR MEDITERRANEAN COOPERATION, Atenas, 2002. Anais…; VAN DEN BERGH & VERBRUGGEN, 1999VAN DEN BERGH, J.C.J.M.; VERBRUGGEN, H. (1999) Spatial sustainability, trade and indicators: an evaluation of the “ecological footprint”. Ecological Economics, v. 29, p. 61-72.; VAN KOOTEN & BULTE, 2000VAN KOOTEN, G.C.; BULTE, E.H. (2000) The ecological footprint: useful science or politics. Ecological Economics, v. 32, n. 3, p. 385-389. https://doi.org/10.1016/S0921-8009(99)00160-3
https://doi.org/10.1016/S0921-8009(99)00...
; HARDI & BARG, 1997HARDI, P.; BARG, S. (1997) Measuring sustainable development: review of current practice. Canadá: International Institute for Sustainable Development.).

FUNDAMENTAÇÃO TEÓRICA

A pegada ecológica foi desenvolvida por Wackernagel e Rees (1996WACKERNAGEL, M.; REES, W. (1996) Our Ecological Footprint. Gabriola Island/Stony Creek: New Society Publishers.) e tem como objetivo representar o espaço ecológico necessário para sustentar determinado sistema. Esse instrumento contabiliza as entradas e saídas dos fluxos de matéria e energia de dado sistema econômico, ­traduzindo-os em área equivalente em terra ou água produtiva. Assim, considerando a energia, os recursos naturais e a capacidade de absorção de resíduos ou dejetos do sistema, o instrumento calcula o indicador do impacto ambiental, que corresponde à área que será necessária para sustentar o sistema.

O princípio básico do método é que, para cada unidade de matéria ou energia consumida pela população, deve haver uma área de terra para suprir os recursos de matéria e energia e absorver seus resíduos e dejetos (FARSARI & PRASTACOS, 2002FARSARI, Y.; PRASTACOS, P. (2002) Sustainable Development Indicators: An Overview. In: INTERNATIONAL CONFERENCE CITIZENS, SUSTAINABLE DEVELOPMENT, ENVIRONMENT, FOUNDATION FOR MEDITERRANEAN COOPERATION, Atenas, 2002. Anais…; WACKERNAGEL & REES, 1996WACKERNAGEL, M.; REES, W. (1996) Our Ecological Footprint. Gabriola Island/Stony Creek: New Society Publishers.). Assim, os diferentes padrões de consumo demandarão diferentes áreas e usos de terra.

Algumas premissas foram estabelecidas pelos autores do método para simplificar seus cálculos. Segundo Santos, Xavier e Peixoto (2008SANTOS, M.F.R.F.; XAVIER, L.S.; PEIXOTO, J.A.A. (2008) Estudo do indicador de sustentabilidade Pegada Ecológica: uma abordagem teórico-empírica. Revista Gerenciais, v. 7, n. 1, p. 29-37.), essas premissas são:

  • todos os tipos de energia, o consumo de materiais e a descarga de dejetos e resíduos demandam certa capacidade de produção e/ou absorção de uma área com dimensões finitas de terra ou água;

  • os cálculos consideram apenas as receitas mais importantes, determinadas por valores econômicos, tecnológicos e socioculturais, para a área estudada;

  • o modelo indica apenas cinco pontos (apropriação de recursos renováveis, extração de recursos não renováveis, absorção de rejeitos, destruição do solo e depleção de recursos hídricos) como forma de apropriação, direta ou indireta, dos serviços da natureza pela atividade humana. Além disso, esse método não contabiliza, em duplicidade, uma área que produz um ou mais desses serviços simultaneamente;

  • a maior parte das estimativas realizadas pelo método é fundamentada em médias de consumo nacionais e mundiais de produtividade da terra, com o objetivo de facilitar comparações entre regiões e países;

  • o método adota uma classificação para os dados estatísticos sobre consumo com base em cinco categorias (alimentação, habitação, transporte, bens de consumo e serviços), visando simplificar a coleta de dados;

  • o modelo utiliza uma taxionomia simples de produtividade ecológica, atualmente envolvendo cinco categorias de território ou área definida (território de biodiversidade, território construído, território de energia, território terrestre bioprodutivo e área marítima bioprodutiva).

A metodologia de cálculo baseia-se, normalmente, em cinco categorias principais: alimentação, habitação, transporte, bens de consumo e serviços, podendo ser essas categorias subdivididas para análises mais detalhadas.

Para o cálculo da pegada ecológica, inicialmente deve ser efetuado o cálculo da média anual de consumo de itens particulares de dados agregados, nacionais ou regionais, dividindo o consumo total pelo tamanho da população. Em seguida, precisa ser determinada, ou estimada, a área apropriada per capita para a produção de cada um dos principais itens de consumo, por meio da divisão do consumo anual per capita (kg/capita) pela produtividade média anual (kg/ha). A maioria dos dados necessários pode ser obtida em estatísticas e dados agregados de governos e/ou de organizações não governamentais. Nesse ponto, já é possível efetuar o cálculo da área da pegada ecológica média por indivíduo somando as áreas apropriadas per capita por item de consumo de bens ou serviços calculados anteriormente, para então efetuar o cálculo da pegada ecológica total, multiplicando a área da pegada ecológica média individual pelo tamanho da população total (VAN BELLEN, 2008VAN BELLEN, H.M. (2008) Indicadores de sustentabilidade: uma análise comparativa. São Paulo: Editora FGV.; SANTOS; XAVIER; PEIXOTO, 2008SANTOS, M.F.R.F.; XAVIER, L.S.; PEIXOTO, J.A.A. (2008) Estudo do indicador de sustentabilidade Pegada Ecológica: uma abordagem teórico-empírica. Revista Gerenciais, v. 7, n. 1, p. 29-37.).

Com relação ao barômetro da sustentabilidade, o seu desenvolvimento teve como precursor Prescott-Allen (2001PRESCOTT-ALLEN, R. (2001) Barometer of Sustainability: measuring and method illustrated by the wellbeing of nations. Cambridge: IUCN.), e esse instrumento visa à avaliação da sustentabilidade de determinada região por intermédio da avaliação dos subsistemas ambiental e humano, em função dos quais são calculados o índice de bem-estar ecológico e o índice de bem-estar humano.

A referida ferramenta utiliza um conjunto de índice e subíndices (caso existam). O índice de bem-estar ecológico identifica tendências da função ecológica no tempo. É uma função da água, da terra, do ar, da biodiversidade e do uso dos recursos. O índice de bem-estar humano representa o nível geral de bem-estar da sociedade e é uma função do bem-estar individual, da saúde, da educação, do desemprego, da pobreza, dos rendimentos, dos crimes, bem como dos negócios e das atividades humanas (FARSARI & PRASTACOS, 2002FARSARI, Y.; PRASTACOS, P. (2002) Sustainable Development Indicators: An Overview. In: INTERNATIONAL CONFERENCE CITIZENS, SUSTAINABLE DEVELOPMENT, ENVIRONMENT, FOUNDATION FOR MEDITERRANEAN COOPERATION, Atenas, 2002. Anais…; VAN BELLEN, 2002VAN BELLEN, H.M. (2002) Indicadores de sustentabilidade: uma análise comparativa. Tese (Doutorado) - Universidade Federal de Santa Catarina, Florianópolis.).

Os resultados são apresentados por meio de interface gráfica que sintetiza os resultados e facilita a compreensão. Por meio de um gráfico bidimensional (para cada eixo é atribuído um indicador), o bem-estar humano e o do ecossistema são apontados em escalas relativas variando de 0 (ruim) a 100 (boa). Cada eixo é segmentado em cinco setores de 20 pontos cada um, recebendo graduação de cores que varia do vermelho até o verde. A interseção entre as duas dimensões mostra se o ecossistema avaliado sob a ótica dos indicadores selecionados é sustentável ou não.

A utilização do barômetro envolve a definição do sistema e das características da sociedade humana e do ecossistema que devem ser considerados para se ter a real visão de sua situação, a escolha dos indicadores e critérios de desempenho, bem como sua medição, organização e combinação, a fim de chegar ao resultado final.

O painel de controle da sustentabilidade, por sua vez, é o resultado do esforço concentrado de várias instituições, sendo atualmente desenvolvido e atualizado pelos membros do Consultative Group on Sustainable Development Indicators. Ele tem como objetivo avaliar a sustentabilidade de um sistema em função das dimensões econômica, ambiental e social, mediante interface gráfica com imagem similar à de um painel de automóvel, com três mostradores representando essas dimensões de forma inter-relacionada.

A versão mais recente do sistema segue as recomendações da Comissão das Nações Unidas para o Desenvolvimento Sustentável, que abrange quatro dimensões - ecológica, econômica, social e institucional -, embora vários especialistas envolvidos com o desenvolvimento do sistema sugiram que seja baseado nas três dimensões iniciais (VAN BELLEN, 2002VAN BELLEN, H.M. (2002) Indicadores de sustentabilidade: uma análise comparativa. Tese (Doutorado) - Universidade Federal de Santa Catarina, Florianópolis.).

O sistema é formado por um software livre que, por meio de um algoritmo, calcula índices sintéticos com base em dados organizados em uma planilha, apresentando o desempenho do que está sendo medido em uma escala de cores que varia do verde-escuro (positivo), passando pelo amarelo (médio), ao vermelho-escuro (crítico). Também contém um gráfico que mostra as mudanças que ocorrem em um índice específico ao longo do tempo e um indicador de alerta representado por um sinal luminoso que identifica mudanças críticas.

Assim, os indicadores são dispostos em um gráfico no formato pizza baseados nos seguintes princípios:

  • o tamanho de cada segmento do gráfico reflete a importância relativa do assunto descrito pelo indicador;

  • o código de cores refere-se ao desempenho;

  • o círculo central de cada mostrador é o índice da dimensão, que é calculado por meio dos indicadores inseridos e identificado com uma das nove cores adotadas;

  • a seta maior, que está acima dos quatro mostradores, reflete o índice geral de desenvolvimento sustentável (IDS);

  • a análise de correlação informa se os indicadores estão numa relação de sinergia ou de conflito (PONTES JUNIOR et al., 2011PONTES JUNIOR, C.F.; PONTES, I.D.B.; SILVA, I.D.B.; GONDIN, M.C. (2011) Adaptação do indicador Painel de Sustentabilidade utilizando lógica fuzzy para o município de Rio Branco-AC. In: CONGRESSO DE MATEMÁTICA APLICADA E COMPUTACIONAL DA REGIÃO SUDESTE, 1., 2011, Uberlândia. Anais...; HÁK; MOLDAN; DAHL, 2007HÁK, T.; MOLDAN, B.; DAHL, A.L. (2007) Sustainability indicators: a scientific assessment. Washington, D.C.: Scope.).

O banco de dados do sistema possui um conjunto de informações para cada dimensão ambiental, na forma de indicadores e obtidas de instituições expressivas no cenário mundial, como a Organização Internacional do Trabalho (OIT), o Banco Mundial e o Programa das Nações Unidas para o Desenvolvimento, porém o sistema foi desenvolvido de maneira a poder ser inseridos novos indicadores, bem como alterar os seus valores, a fim de refletir a região (municípios, países etc.) em estudo.

Por fim, o PER foi desenvolvido pela Organização para a Cooperação e Desenvolvimento Econômico (OCDE, 2002ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO (OCDE). (2002) Rumo a um desenvolvimento sustentável: indicadores ambientais. Tradução de Ana Maria S. F. Teles. Salvador: CRA. 224 p. (Série Cadernos de Referência, 9).), que publica seus indicadores nesse formato. A ferramenta baseia-se no princípio de que as atividades exercem pressão sobre o meio ambiente, provocando alteração de seu estado ao variar a qualidade e a quantidade de recursos naturais. Como consequência, a sociedade responde por meio de políticas ambientais, econômicas ou setoriais (FARSARI & PRASTACOS, 2002FARSARI, Y.; PRASTACOS, P. (2002) Sustainable Development Indicators: An Overview. In: INTERNATIONAL CONFERENCE CITIZENS, SUSTAINABLE DEVELOPMENT, ENVIRONMENT, FOUNDATION FOR MEDITERRANEAN COOPERATION, Atenas, 2002. Anais…; OECD, 2002ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO (OCDE). (2002) Rumo a um desenvolvimento sustentável: indicadores ambientais. Tradução de Ana Maria S. F. Teles. Salvador: CRA. 224 p. (Série Cadernos de Referência, 9).).

O PER agrupa os indicadores nas seguintes categorias:

  • pressão ambiental: representa as pressões que as atividades humanas exercem sobre o meio ambiente;

  • estado ou condição ambiental: expressa a qualidade do ambiente e a qualidade e quantidade de recursos naturais em termos qualitativos e quantitativos;

  • resposta: expressa a extensão e a intensidade das reações individuais e coletivas da sociedade às alterações das condições ambientais.

Essas categorias devem ser levadas em conta para cada tema a ser analisado. São exemplos de temas considerados pela OCDE: mudança climática, diminuição da camada de ozônio, eutrofização, acidificação, contaminação tóxica, qualidade ambiental urbana, biodiversidade, paisagens culturais, resíduos, recursos hídricos, recursos florestais e degradação do solo.

Assim, adotando o formato de uma planilha, em cada linha se tem cada um dos temas a serem analisados. Nas colunas, ficam dispostas as categorias de análise. Nas células referentes à categoria pressão são inseridos os indicadores de pressão ao meio ambiente; nas da categoria estado, os indicadores das condições ambientais; e nas da categoria resposta, os indicadores das respostas da sociedade.

MATERIAIS E MÉTODOS

A investigação baseou-se em pesquisas bibliográfica e de campo. A primeira foi efetuada visando ao maior aprofundamento sobre o tema, com o objetivo de serem identificadas potencialidades e limitações dos instrumentos averiguados, por meio da leitura, análise e interpretação de material presente principalmente nas bases do portal de periódicos disponibilizado pela Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (Capes), no endereço http://www.periodicos.capes.gov.br/.

Em seguida, realizou-se pesquisa de campo usando os recursos do Google Forms (http://www.google.com/forms), que é uma ferramenta que possibilita a criação e o envio de formulários via web. Essa ferramenta embaralha a sequência das questões do questionário, impedindo que os respondentes sejam influenciados pela ordem de apresentação das questões, além de ser de fácil utilização.

O questionário foi desenvolvido para identificar a percepção de especialistas por meio de uma escala psicométrica Likert de cinco pontos (CLASON & DORMODY, 1994CLASON, D.L.; DORMODY, T.J. (1994) Analyzing data measured by individual Likert-type items. Journal of Agricultural Education, v. 35, n. 4, p. 31-35.). Assim, para o grau de relevância dos resultados da aplicação dos instrumentos de mensuração da sustentabilidade (IMS) para as dimensões ambiental, social e econômica, a escala variou de muitíssimo relevante a pouquíssimo relevante, e, para a concordância ou discordância quanto às potencialidades e limitações dos IMS, a escala variou de concordo totalmente a discordo totalmente.

Como respondentes, foram selecionados profissionais e pesquisadores brasileiros atuantes na iniciativa pública ou privada, e o link para acesso ao questionário foi enviado para 420 especialistas, dos quais 49 aceitaram participar da pesquisa. Foi efetuado pré-teste com dois especialistas com o objetivo de identificar possíveis dúvidas.

Para visualizar e analisar os dados dos itens do tipo Likert, foi utilizada a ferramenta R, um ambiente de software livre para cálculos estatísticos e gráficos, por meio do R Likert Package (SPEERSCHNEIDER & BRYER, 2013SPEERSCHNEIDER, K.K.; BRYER, J.M. (2013) Likert: An R Package for Visualizing and Analyzing Likert-Based Items. In: THE R USER CONFERENCE. Anais…), que executa testes paramétricos nas escalas dos itens do tipo Likert (BOONE & BOONE, 2012BOONE, H.N. Jr. ; BOONE, D.A. (2012) Analyzing Likert data. Journal of Extension, v. 50, n. 2, p. 1-5.; NORMAN, 2010NORMAN, G. (2010) Likert scales, levels of measurement and the “laws” of statistics. Advances in Health Sciences Education, v. 15, n. 5, p. 625-632. https://doi.org/10.1007/s10459-010-9222-y
https://doi.org/10.1007/s10459-010-9222-...
; CARIFIO & PERLA, 2008CARIFIO, J.; PERLA, R. (2008) Resolving the 50 Year Debate around Using and Misusing Likert Scales. Medical Education, v. 42, n. 1, p. 1150-1152. https://doi.org/10.1111/j.1365-2923.2008.03172.x
https://doi.org/10.1111/j.1365-2923.2008...
; CLASON & DORMODY, 1994CLASON, D.L.; DORMODY, T.J. (1994) Analyzing data measured by individual Likert-type items. Journal of Agricultural Education, v. 35, n. 4, p. 31-35.; SISSON & STOCKER, 1989SISSON, D.V.; STOCKER, H.R. (1989) Research corner: analyzing and interpreting Likert-type survey data. Delta Pi Epsilon Journal, v. 31, n. 2, p. 81-85.), utilizando os princípios expostos por Wakita, Ueshima e Noguchi (2012WAKITA, T.; UESHIMA, N.; NOGUCHI, H. (2012) Psychological distance between categories in the likert scale comparing different numbers of options. Educational and Psychological Measurement, v. 72, n. 4, p. 533-546. https://doi.org/10.1177%2F0013164411431162
https://doi.org/10.1177%2F00131644114311...
) e Speerschneider e Bryer (2013SPEERSCHNEIDER, K.K.; BRYER, J.M. (2013) Likert: An R Package for Visualizing and Analyzing Likert-Based Items. In: THE R USER CONFERENCE. Anais…).

Com essa ferramenta, foi estimada a confiabilidade do instrumento de coleta de dados e dos respondentes, verificando-se a consistência interna do questionário por meio do coeficiente alfa de Cronbach (CRONBACH, 1951CRONBACH, L.J. (1951) Coefficient Alpha and the Internal Structure of Tests. Psycometrika, v. 16, n. 3, 297-334. https://doi.org/10.1007/bf02310555
https://doi.org/10.1007/bf02310555...
), que possibilitou a medição da variância das respostas de cada item e das respostas de cada respondente (MARTINS et al., 2011MARTINS, L.R.B.; PEREIRA, L.S.; ALMEIDA, L.M.; HORA, H.R.M.; COSTA, H.G.M. (2011) Estudo sobre escala mais adequada em questionários: um experimento com o modelo de Kano. Vértices, v. 13, n. 1, p. 75-103. https://doi.org/10.19180/1809-2667.20110005
https://doi.org/10.19180/1809-2667.20110...
).

O coeficiente alfa de Cronbach é uma das ferramentas estatísticas mais importantes e difundidas em pesquisas envolvendo a construção de testes e sua aplicação, porque leva em consideração a variância atribuída aos sujeitos e a variância atribuída à interação entre sujeitos e itens, resultando em um índice utilizado para avaliar a magnitude em que os itens de um instrumento estão correlacionados, permitindo, assim, avaliar a média das correlações entre os itens que fazem parte de um instrumento e a medida pela qual o fator medido está presente em cada item (ALMEIDA; SANTOS; COSTA, 2010ALMEIDA, D.; SANTOS, M.A.R.; COSTA, A.F.B. (2010) Aplicação do coeficiente alfa de Cronbach nos resultados de um questionário para avaliação de desempenho da saúde pública. In: ENCONTRO NACIONAL DE ENGENHARIA DE PRODUÇÃO, 30., 2010, São Carlos. Anais…).

O ambiente R também foi empregado para calcular as curvas de distribuição de cada item referente aos resultados da aplicação dos IMS para as dimensões da sustentabilidade e para as potencialidades e limitações, o que serviu de base para a classificação dos itens em função do grau de relevância e concordância e para a elaboração dos gráficos.

Os dados obtidos com a escala psicométrica de Likert foram posteriormente convertidos em números variando de 5 a 1. Medianas superiores a 3 ou 50% caracterizaram relevância ou concordância alta.

RESULTADOS E DISCUSSÃO

Relevância dos resultados dos instrumentos de mensuração da sustentabilidade: dimensões da sustentabilidade

Com relação à relevância dos resultados da aplicação dos instrumentos no que se refere às dimensões ambiental, social e econômica, os valores de alfa de Cronbach são mostrados na Tabela 1.

Tabela 1:
Alfa de Cronbach da relevância dos resultados dos instrumentos de mensuração de sustentabilidade para as dimensões da sustentabilidade.

O baixo valor do alfa de Cronbach da dimensão social deu-se por conta da grande variabilidade dos dados no que tange à pegada ecológica. Ao se excluírem os dados desse instrumento, o valor de Alfa subiu para 0,77, o que mostra que não houve consenso entre os respondentes com relação à relevância dos resultados da aplicação desse IMS para a dimensão social da sustentabilidade. Os demais valores, por serem superiores ou iguais a 0,7, foram considerados adequados (SILVA JÚNIOR & COSTA, 2014SILVA JÚNIOR, S.D.; COSTA, F.J. (2014) Mensuração e Escalas de Verificação: uma Análise Comparativa das Escalas de Likert e Phrase Completion. Revista Brasileira de Pesquisas de Marketing, Opinião e Mídia, São Paulo, v. 15, p. 1-16.; FREITAS & RODRIGUES, 2005FREITAS, A.L.P.; RODRIGUES, S.G. (2005) A avaliação da confiabilidade de questionários: uma análise utilizando o coeficiente alfa de Cronbach. In: SIMPÓSIO DE ENGENHARIA DE PRODUÇÃO, 12., 2005, Bauru. Anais...; DAVIS, 1964DAVIS, F.B. (1964) Educational measurements and their interpretation. Belmont: Wadsworth Publishing Co.).

As Figuras 1, 2 e 3 apresentam os resultados acerca das dimensões ambiental, social e econômica, ordenados pelo grau de relevância. Os valores à esquerda das barras representam relevância baixa (somatório dos percentuais de pouquíssimo relevante e pouco relevante); os à direita das barras indicam relevância alta (somatório dos percentuais de muitíssimo relevante e muito relevante); e no centro das barras estão os valores em relação à média relevância.

Figura 1:
Relevância dos resultados dos instrumentos de mensuração de sustentabilidade para a dimensão ambiental.

Figura 2:
Relevância dos resultados dos instrumentos de mensuração de sustentabilidade para a dimensão social.

Figura 3:
Relevância dos resultados dos instrumentos de mensuração de sustentabilidade para a dimensão econômica.

Para a dimensão ambiental, a pegada ecológica foi considerada mais importante (84%); para a dimensão social, o barômetro da sustentabilidade foi tido como mais relevante (71%); e para a dimensão econômica, o PER foi apontado como o mais relevante (65%).

Analisando-se por instrumento e levando-se em conta as medianas, conclui-se que o painel de controle da sustentabilidade e o PER foram considerados de relevância alta para todas as dimensões. Já a pegada ecológica foi considerada de relevância alta para a dimensão ambiental e de relevância baixa para as demais dimensões; e o barômetro da sustentabilidade foi considerado de relevância alta para as dimensões ambiental e social e relevante para a dimensão econômica.

Os resultados referentes ao painel, à pegada ecológica e ao PER estão de acordo com os encontrados na literatura. Com relação ao barômetro, embora tenha sido desenvolvido com o objetivo de avaliar os subsistemas ambiental e social, gerando o índice de bem-estar ecológico e o índice de bem-estar humano, por ocasião da definição do conjunto de índices a serem avaliados pelo instrumento, alguns deles podem indiretamente informar aspectos econômicos, o que talvez tenha influenciado parcela dos respondentes a pensar o instrumento relevante para a dimensão econômica.

Potencialidades dos instrumentos de mensuração da sustentabilidade

Com relação às potencialidades dos IMS, os valores de alfa de Cronbach são apresentados na Tabela 2.

Tabela 2:
Alfa de Cronbach das potencialidades dos instrumentos de mensuração de sustentabilidade.

Todos os valores foram superiores ou iguais a 0,7 e, por isso, considerados altos. Os resultados comprovam a confiabilidade do instrumento de coleta de dados e dos respondentes.

As Figuras 4, 5, 6 e 7 apresentam os resultados referentes às potencialidades de cada instrumento, ordenadas pelo grau de concordância dos respondentes. Os valores à esquerda das barras representam as discordâncias (somatória dos percentuais de Discordo totalmente e Discordo); os à direita das barras indicam as concordâncias (somatória dos percentuais de Concordo totalmente e Concordo); e no centro das barras estão os valores concernentes à neutralidade (Não concordo nem discordo).

Figura 4:
Potencialidades da pegada ecológica.

Figura 5:
Potencialidades do barômetro da sustentabilidade.

Figura 6:
Potencialidades do painel de controle da sustentabilidade.

Figura 7:
Potencialidades do Pressão, Estado e Resposta (PER).

Analisando-se em função dos graus de concordância e ­levando-se em conta as medianas, conclui-se que todos os itens apresentados foram considerados pelos respondentes como potencialidades para os IMS. Além disso, para os quatro IMS analisados, o percentual dos respondentes que concordam que as afirmativas apresentadas são potencialidades (somatória das respostas concordo totalmente e concordo) é expressivamente superior ao dos que não concordam (somatória de discordo totalmente e discordo).

Em todos os IMS, para algumas potencialidades, o percentual de respondentes que responderam Não concordo nem discordo foi superior a 20%. Isso ocorreu para 31% das potencialidades pesquisadas. O caso mais expressivo ocorreu com o PER, em que 75% das potencialidades tiveram valores próximos a 40% para esse tipo de resposta.

Várias pesquisas indicam que os resultados são mais confiáveis ao se fornecer aos respondentes um ponto médio neutro, pois isso diminui a variância do erro aleatório (SMITH, 2003SMITH, T.W. (2003) Developing comparable questions in cross-national surveys. In: HARKNESS, J.A.; VAN DE VIJVER, F.J.R.; MOHLER, P. (Orgs.). Cross-cultural survey methods. Nova York: John Wiley & Sons. p. 69-92.; LIETZ, 2010LIETZ, P. (2010) Research into questionnaire design: a summary of the literature. International Journal of Market Research, v. 52, n. 2, p. 249-272. http://psycnet.apa.org/doi/10.2501/S147078530920120X
http://psycnet.apa.org/doi/10.2501/S1470...
), porém Não concordo nem discordo, além de significar opinião neutra, também pode representar que o entrevistado não tem opinião a respeito, conforme pesquisa de Sturgis et al. (2014).

Assim, os resultados obtidos podem significar que parcela dos respondentes tem opinião neutra ou não tem opinião formada a respeito sobre as afirmativas apresentadas serem potencialidades.

O fato de todas as afirmativas apontadas aos respondentes, além de serem consideradas por eles como potencialidades dos IMS, também serem citadas na literatura pesquisada como potencialidades mostra concordância entre as opiniões dos respondentes e as encontradas na literatura.

Os Quadros 1, 2, 3 e 4 apresentam as obras que relatam as potencialidades pesquisadas.

Quadro 1:
Referências sobre as potencialidades da pegada ecológica.

Quadro 2:
Referências sobre as potencialidades do barômetro da sustentabilidade.

Quadro 3:
Referências sobre as potencialidades do painel de controle da sustentabilidade.

Quadro 4:
Referências sobre as potencialidades do Pressão, Estado, Resposta (PER).

Limitações dos instrumentos de mensuração da sustentabilidade

Com relação às limitações dos IMS, os valores de alfa de Cronbach são mostrados na Tabela 3.

Tabela 3:
Alfa de Cronbach das limitações dos instrumentos de mensuração de sustentabilidade.

Com exceção do valor referente às limitações do PER, todos os valores de alfa de Cronbach (Tabela 2) foram superiores ou iguais a 0,7 e, por isso, considerados adequados. O valor pertinente às limitações do PER (0,6) pode ser considerado aceitável (DAVIS, 1964DAVIS, F.B. (1964) Educational measurements and their interpretation. Belmont: Wadsworth Publishing Co.). Os resultados comprovam a confiabilidade do instrumento de coleta de dados e dos respondentes.

As Figuras 8, 9, 10 e 11 apresentam os resultados das limitações de cada instrumento, ordenadas pelo grau de concordância dos respondentes. Os valores à esquerda das barras representam as discordâncias (somatória dos percentuais de discordo totalmente e discordo); à direita das barras há as concordâncias (somatória dos percentuais de concordo totalmente e concordo); e no centro das barras estão os valores concernentes à neutralidade (não concordo nem discordo).

Figura 8:
Limitações da pegada ecológica.

Figura 9:
Limitações do barômetro da sustentabilidade.

Figura 10:
Limitações do painel de controle da sustentabilidade.

Figura 11:
Limitações do Pressão, Estado e Resposta (PER).

Analisando-se em função dos graus de concordância e ­levando-se em conta as medianas, conclui-se que todos os itens apresentados foram considerados pelos respondentes como limitações para os IMS. Além disso, para os quatro IMS analisados, o percentual dos respondentes que concordam que as afirmativas apresentadas são limitações (somatória de Concordo totalmente e Concordo) é expressivamente superior ao dos que não concordam (somatória de Discordo totalmente” e “Discordo).

Em 64% das afirmativas apresentadas como limitações, o percentual de respondentes que responderam Não concordo nem discordo foi inferior a 30%, e em 36 % das afirmativas variou de 30 a 45%, o que pode significar que parcela dos respondentes tem opinião neutra ou não tem opinião formada à respeito de as afirmativas apresentadas serem limitações.

O fato de que todas as afirmativas exibidas aos respondentes, além de serem consideradas por eles como limitações dos IMS, também serem citadas na literatura pesquisada como limitações mostra concordância entre as opiniões dos respondentes e as encontradas na literatura. Os Quadros 5, 6, 7 e 8 elencam as obras que relatam as limitações pesquisadas.

Quadro 5:
Referências sobre as limitações da pegada ecológica.

Quadro 6:
Referências sobre as limitações do barômetro da sustentabilidade.

Quadro 7:
Referências sobre as limitações do painel de controle da sustentabilidade.

Quadro 8:
Referências sobre as limitações do Pressão, Estado, Resposta (PER).

CONCLUSÃO

O desenvolvimento sustentável possui características e especificidades cujas complexidades tornam difícil sua mensuração. Nesse sentido, quanto mais precisas e aderentes à realidade as informações sobre a região objeto de avaliação, maiores são as chances de se transformar em realidade operacional o conceito abstrato.

Considerando os resultados da pesquisa de campo, constata-se, de forma geral, concordância entre as opiniões dos especialistas e as encontradas na literatura. Levando-se em conta o percentual de respondentes que disseram não concordo nem discordo tanto para as afirmativas apresentadas como potencialidades quanto para as apresentadas como limitações, pôde-se concluir que parcela dos respondentes pode ter opinião neutra ou não ter opinião formada a respeito dessas afirmativas.

Quando se analisa a quantidade de informações presentes na literatura sobre as potencialidade e limitações dos IMS, verifica-se que, embora várias obras tratem do tema, poucas apresentam contribuições originais, havendo citações recorrentes. Também se averiguou que essas obras tratam muito mais das potencialidades do que das limitações. Há escassez de obras que se preocupam com as limitações dos IMS.

O IMS que é menos analisado na literatura com relação às potencialidades e limitações é o PER. Ele também foi o que apresentou maior variabilidade das respostas e maior percentual de respondentes que desconheciam potencialidades e limitações.

A seleção de determinado instrumento em função de suas potencialidades e limitações deve ser efetuada ponderando os objetivos principais e secundários da mensuração. Assim, características consideradas por muitos como limitações podem, dependendo do foco, ser vistas como potencialidades. É o caso do ecological footprint method, cujo fato de se concentrar apenas na dimensão ecológica é apontado como limitação, mas, por outro lado, reforça o papel educativo do instrumento de apresentar para a sociedade o nível de pressão que exerce sobre o meio ambiente.

Os IMS, ao viabilizarem medidas da sustentabilidade, colaboram para a conservação do meio ambiente e o desenvolvimento sustentável, contribuindo para a conscientização da sociedade e de gestores e fornecendo subsídios para a realização de ações visando à melhoria da sustentabilidade, como, por exemplo, a elaboração e implantação de políticas públicas.

Embora os quatro instrumentos contribuam para a conservação do meio ambiente e o desenvolvimento sustentável, as limitações inerentes às suas características reforçam a dificuldade de se ter uma ferramenta que reflita a natureza holística da sustentabilidade em toda a sua amplitude.

REFERÊNCIAS

  • ALMEIDA, D.; SANTOS, M.A.R.; COSTA, A.F.B. (2010) Aplicação do coeficiente alfa de Cronbach nos resultados de um questionário para avaliação de desempenho da saúde pública. In: ENCONTRO NACIONAL DE ENGENHARIA DE PRODUÇÃO, 30., 2010, São Carlos. Anais…
  • BOONE, H.N. Jr. ; BOONE, D.A. (2012) Analyzing Likert data. Journal of Extension, v. 50, n. 2, p. 1-5.
  • CAMPOS, C.A.; RIBEIRO, F.R. (2007) Aplicação da ferramenta Dashboard of Sustainability no processo de avaliação do desenvolvimento sustentável na agricultura familiar. In: CONGRESSO DA SOCIEDADE BRASILEIRA DE ECONOMIA, 45., 2007, Londrina. Anais…
  • CARDOSO, J.C.; SILVA, J.A.T.; VENDRAME, W.A. (2016) Impacts of deforestation on some orchids of São Paulo State. Natureza e Conservação, v. 14, n. 1, p. 28-32.
  • CARIFIO, J.; PERLA, R. (2008) Resolving the 50 Year Debate around Using and Misusing Likert Scales. Medical Education, v. 42, n. 1, p. 1150-1152. https://doi.org/10.1111/j.1365-2923.2008.03172.x
    » https://doi.org/10.1111/j.1365-2923.2008.03172.x
  • CARVALHO, P.G.M.; BARCELLOS, F.; GREEN, A.; OLIVEIRA, S. (2008) Indicadores para a avaliação da gestão ambiental municipal com base no modelo Pressão-Estado-Resposta. In: ENCONTRO NACIONAL DE ESTUDOS POPULACIONAIS, 16., 2008, Caxambu. Anais
  • CHAMBERS, N.; SIMMONS, C.; WACKERNAGEL, M. (2000) Sharing Nature’s Interest: Ecological Footprints as an Indicator of Sustainability. Londres: Earthscan.
  • CLASON, D.L.; DORMODY, T.J. (1994) Analyzing data measured by individual Likert-type items. Journal of Agricultural Education, v. 35, n. 4, p. 31-35.
  • CRONBACH, L.J. (1951) Coefficient Alpha and the Internal Structure of Tests. Psycometrika, v. 16, n. 3, 297-334. https://doi.org/10.1007/bf02310555
    » https://doi.org/10.1007/bf02310555
  • DAVIS, F.B. (1964) Educational measurements and their interpretation Belmont: Wadsworth Publishing Co.
  • EVANS, A.; STREZOV, V.; EVANS, T. (2015) Measuring Tools for Quantifying Sustainable Development. European Journal of Sustainable Development, v. 4, n. 2, p. 291-300. http://doi.org/10.14207/ejsd.2015.v4n2p291
    » http://doi.org/10.14207/ejsd.2015.v4n2p291
  • FARSARI, Y.; PRASTACOS, P. (2002) Sustainable Development Indicators: An Overview. In: INTERNATIONAL CONFERENCE CITIZENS, SUSTAINABLE DEVELOPMENT, ENVIRONMENT, FOUNDATION FOR MEDITERRANEAN COOPERATION, Atenas, 2002. Anais
  • FIALA, N. (2008) Measuring sustainability: why the ecological footprint is bad economics and bad environmental science. Ecological Economics, v. 67, n. 4, p. 519-525. https://doi.org/10.1016/j.ecolecon.2008.07.023
    » https://doi.org/10.1016/j.ecolecon.2008.07.023
  • FONSECA, C.A.G.M. (2010) Índice de Sustentabilidade Municipal: um instrumento de avaliação da qualidade de vida nos municípios brasileiros Dissertação (Mestrado) - Universidade de Brasília, Brasília.
  • FREITAS, A.L.P.; RODRIGUES, S.G. (2005) A avaliação da confiabilidade de questionários: uma análise utilizando o coeficiente alfa de Cronbach. In: SIMPÓSIO DE ENGENHARIA DE PRODUÇÃO, 12., 2005, Bauru. Anais..
  • FROEHLICH, C. (2014) Sustentabilidade: dimensões e métodos de mensuração de resultados. Desenvolve: Revista de Gestão do Unilasalle, v. 3, n. 2, p. 151-168. http://dx.doi.org/10.18316/1316
    » http://dx.doi.org/10.18316/1316
  • HÁK, T.; MOLDAN, B.; DAHL, A.L. (2007) Sustainability indicators: a scientific assessment. Washington, D.C.: Scope.
  • HARDI, P.; BARG, S. (1997) Measuring sustainable development: review of current practice. Canadá: International Institute for Sustainable Development
  • KEMERICH, P.D.C.; RITTER, L.G.; BORBA, W.F. (2014) Indicadores de sustentabilidade ambiental: métodos e aplicações. Revista Monografias Ambientais - REMOA, v. 13, n. 5, p. 3723-3736. http://dx.doi.org/10.5902/2236130814411
    » http://dx.doi.org/10.5902/2236130814411
  • KRONEMBERGER, D.M.P.; CLEVELARIO JUNIOR, J.; NASCIMENTO, J.A.C.; COLLARES, J.E.R.; SILVA, L.C.D. (2008) Desenvolvimento sustentável no Brasil: uma análise a partir da aplicação do barômetro da sustentabilidade. Sociedade & Natureza, Uberlândia, v. 20, n. 1, p. 25-50. http://dx.doi.org/10.1590/S1982-45132008000100002
    » http://dx.doi.org/10.1590/S1982-45132008000100002
  • LIETZ, P. (2010) Research into questionnaire design: a summary of the literature. International Journal of Market Research, v. 52, n. 2, p. 249-272. http://psycnet.apa.org/doi/10.2501/S147078530920120X
    » http://psycnet.apa.org/doi/10.2501/S147078530920120X
  • LISBOA, C.K.; BARROS, M.V.F. (2010) A pegada ecológica como instrumento de avaliação ambiental para a cidade de Londrina. Confins - Revista Franco Brasileira de Geografia, n. 8, p. 1-20.
  • LOURENÇO, M.S. (2006) Questões técnicas na elaboração de indicadores de sustentabilidade. In: SEMINÁRIO UNIFAE DE SUSTENTABILIDADE, 2006, Curitiba. Anais..
  • LOZANO, M.C.; TEIXEIRA, B.A.N. (2012) Barômetro da Sustentabilidade, Painel de Sustentabilidade e Pegada Ecológica: a abordagem da gestão de resíduos sólidos na avaliação da sustentabilidade. In: ENCONTRO NACIONAL DE TECNOLOGIA DO AMBIENTE CONSTRUÍDO, 14., 2012, Juiz de Fora. Anais..
  • LUCENA, A.D.; CAVALCANTE, J.N.; CÂNDIDO, G.A. (2011) Sustentabilidade do município de João Pessoa: uma aplicação do barômetro da sustentabilidade. Revista Brasileira de Gestão e Desenvolvimento Regional, v. 7, n. 1, p. 19-49.
  • MARTINS, L.R.B.; PEREIRA, L.S.; ALMEIDA, L.M.; HORA, H.R.M.; COSTA, H.G.M. (2011) Estudo sobre escala mais adequada em questionários: um experimento com o modelo de Kano. Vértices, v. 13, n. 1, p. 75-103. https://doi.org/10.19180/1809-2667.20110005
    » https://doi.org/10.19180/1809-2667.20110005
  • MARZALL, K.; ALMEIDA, J. (2000) Indicadores de sustentabilidade para agroecossistemas: Estado da arte, limites e potencialidades de uma nova ferramenta para avaliar o desenvolvimento sustentável. Cadernos de Ciência & Tecnologia, Brasília, v. 17, n. 1, p. 41-59.
  • MOFFATT, I. (2000) Ecological footprints and sustainable development. Ecological Economics, v. 32, p. 359-362.
  • MORI, K.; CHRISTODOULOU, A. (2012) Review of sustainability indices and indicators: towards a new City Sustainability Index (CSI). Environmental Impact Assessment Review, v. 32, n. 1, p. 94-106. http://dx.doi.org/10.1016/j.eiar.2011.06.001
    » http://dx.doi.org/10.1016/j.eiar.2011.06.001
  • NORMAN, G. (2010) Likert scales, levels of measurement and the “laws” of statistics. Advances in Health Sciences Education, v. 15, n. 5, p. 625-632. https://doi.org/10.1007/s10459-010-9222-y
    » https://doi.org/10.1007/s10459-010-9222-y
  • ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO (OCDE). (2002) Rumo a um desenvolvimento sustentável: indicadores ambientais. Tradução de Ana Maria S. F. Teles. Salvador: CRA. 224 p. (Série Cadernos de Referência, 9).
  • ORGANIZATION FOR ECONOMIC COOPERATION AND DEVELOPMENT (OECD). (1993). Organization for economic cooperation and development: coreset of indicators for environmental performance reviews; a synthesis report by the group onthe state of the environment. Paris: OECD.
  • PONTES JUNIOR, C.F.; PONTES, I.D.B.; SILVA, I.D.B.; GONDIN, M.C. (2011) Adaptação do indicador Painel de Sustentabilidade utilizando lógica fuzzy para o município de Rio Branco-AC. In: CONGRESSO DE MATEMÁTICA APLICADA E COMPUTACIONAL DA REGIÃO SUDESTE, 1., 2011, Uberlândia. Anais..
  • PRESCOTT-ALLEN, R. (2001) Barometer of Sustainability: measuring and method illustrated by the wellbeing of nations. Cambridge: IUCN.
  • PRESTES, M.F.; GARCIAS, C.M.; LIMA, C.A. (2012) Manual de aplicação do Barômetro da Sustentabilidade: uma ferramenta de indicadores para uso em planejamento e gestão urbana. In: CONGRESSO LUSO-BRASILEIRO PARA O PLANEJAMENTO URBANO, REGIONAL, INTEGRADO E SUSTENTÁVEL - PLURIS: REABILITAR O URBANO, 5., 2012, Brasília. Anais..
  • SANTOS, M.F.R.F.; XAVIER, L.S.; PEIXOTO, J.A.A. (2008) Estudo do indicador de sustentabilidade Pegada Ecológica: uma abordagem teórico-empírica. Revista Gerenciais, v. 7, n. 1, p. 29-37.
  • SCIPIONI, A.; MAZZI, A.; MASON, M.; MANZARDO, A. (2009) The dashboard of sustainability to measure the local urban sustainable development: the case study of Padua municipality. Ecological Indicators, v. 9, p. 364-380. http://dx.doi.org/10.1016/j.ecolind.2008.05.002
    » http://dx.doi.org/10.1016/j.ecolind.2008.05.002
  • SILVA JÚNIOR, S.D.; COSTA, F.J. (2014) Mensuração e Escalas de Verificação: uma Análise Comparativa das Escalas de Likert e Phrase Completion. Revista Brasileira de Pesquisas de Marketing, Opinião e Mídia, São Paulo, v. 15, p. 1-16.
  • SISSON, D.V.; STOCKER, H.R. (1989) Research corner: analyzing and interpreting Likert-type survey data. Delta Pi Epsilon Journal, v. 31, n. 2, p. 81-85.
  • SMITH, T.W. (2003) Developing comparable questions in cross-national surveys. In: HARKNESS, J.A.; VAN DE VIJVER, F.J.R.; MOHLER, P. (Orgs.). Cross-cultural survey methods Nova York: John Wiley & Sons. p. 69-92.
  • SPEERSCHNEIDER, K.K.; BRYER, J.M. (2013) Likert: An R Package for Visualizing and Analyzing Likert-Based Items. In: THE R USER CONFERENCE. Anais
  • SUPERINTENDÊNCIA DE ESTUDOS ECONÔMICOS E SOCIAIS DA BAHIA (SEI). Indicadores de sustentabilidade ambiental Salvador: SEI, 2006. (Série Estudos e Pesquisas, 75).
  • VAN BELLEN, H.M. (2002) Indicadores de sustentabilidade: uma análise comparativa Tese (Doutorado) - Universidade Federal de Santa Catarina, Florianópolis.
  • VAN BELLEN, H.M. (2008) Indicadores de sustentabilidade: uma análise comparativa. São Paulo: Editora FGV.
  • VAN DEN BERGH, J.C.J.M.; VERBRUGGEN, H. (1999) Spatial sustainability, trade and indicators: an evaluation of the “ecological footprint”. Ecological Economics, v. 29, p. 61-72.
  • VAN KOOTEN, G.C.; BULTE, E.H. (2000) The ecological footprint: useful science or politics. Ecological Economics, v. 32, n. 3, p. 385-389. https://doi.org/10.1016/S0921-8009(99)00160-3
    » https://doi.org/10.1016/S0921-8009(99)00160-3
  • WACKERNAGEL, M.; REES, W. (1996) Our Ecological Footprint Gabriola Island/Stony Creek: New Society Publishers.
  • WAKITA, T.; UESHIMA, N.; NOGUCHI, H. (2012) Psychological distance between categories in the likert scale comparing different numbers of options. Educational and Psychological Measurement, v. 72, n. 4, p. 533-546. https://doi.org/10.1177%2F0013164411431162
    » https://doi.org/10.1177%2F0013164411431162
  • 1
    Reg. ABES: 170117

Datas de Publicação

  • Publicação nesta coleção
    13 Set 2018
  • Data do Fascículo
    Out 2018

Histórico

  • Recebido
    10 Maio 2016
  • Aceito
    23 Jul 2018
Associação Brasileira de Engenharia Sanitária e Ambiental - ABES Av. Beira Mar, 216 - 13º Andar - Castelo, 20021-060 Rio de Janeiro - RJ - Brasil - Rio de Janeiro - RJ - Brazil
E-mail: esa@abes-dn.org.br