IMPACTO DA INCERTEZA E DA TOLERÂNCIA DA NORMA ASTM...
Transcript of IMPACTO DA INCERTEZA E DA TOLERÂNCIA DA NORMA ASTM...
i
PAULO ROBERTO GUIMARÃES COUTO
ESTIMATIVA DA INCERTEZA DA MASSA ESPECÍFICA DA GASOLINA PELO ISOGUM 95 E MÉTODO DE MONTE CARLO E SEU IMPACTO NA TRANSFERÊNCIA DECUSTÓDIA.
Dissertação de Mestrado apresentada ao Programa dePós-Graduação em Tecnologia de Processos Químicose Bioquímicos, Escola de Química, UniversidadeFederal do Rio de Janeiro, como parte dos requisitosnecessários à obtenção do título de mestre emTecnologia de Processos Químicos e Bioquímicos.
Orientador:Luiz Antonio d’Avila, D.Sc
Rio de Janeiro2006
ii
FOLHA DE APROVAÇÃO
PAULO ROBERTO GUIMARÃES COUTO
ESTIMATIVA DA INCERTEZA DA MASSA ESPECÍFICA DA GASOLINA PELO ISOGUM 95 E MÉTODO DE MONTE CARLO E SEU IMPACTO NA TRANSFERÊNCIA DECUSTÓDIA.
Rio de Janeiro, 07 de dezembro de 2006
_________________________________Luiz Antonio d’Avila, D.Sc. Orientador
_________________________________Alexandre de Castro Leiras Gomes , D.Sc.
_________________________________Humberto Siqueira Brandi, D.Sc.
_________________________________Sérgio Pinheiro de Oliveira, D.Sc.
iii
Dedicatória
Este trabalho é dedicado à Ciência Metrologia que devidamente implementada é uma
das bases para a existência da igualdade entre os povos.
Paulo Couto
iv
AGRADECIMENTOS
“ A minha vida e a elaboração da dissertação podem ser traduzidos em processos
metrológicos semelhantes nos quais:
• Deus é o Valor Verdadeiro.
• Os meus queridos pais Cotão e Caiquinha são os Padrões Primários.
• A minha amada esposa Dalva é o meu Padrão de Referência.
• Os meus adorados filhos Rafael, Rodrigo e a minha netinha Rafaela são os Materiais de
Referência Certificados.
• A minha madrinha Osmarina e os meus tios Tael e Zé são os Valores Verdadeiros
Convencionais das grandezas de base.
• Os meus irmãos Carlinho, Cecília, Regina, Juca , Selmar e Sônia são os Padrões de Trabalho
de todas as medições realizadas.
• Os meus amigos Athanagilde, Paulo Lyra, Petrônio, Túlio, Renatinha, Olga, Sidney, Valente,
Tito, Sérgio Marques, Aibe, Dona Margarida, Alzira, Maurício, Guará, Jorjão, Cici, Didi e
Décio são os Instrumentos Calibrados cujas Exatidões são adequadas ao meu processo.
• Os amigos do Lapre Ilca, Isabela, Jackson, Leonardo, Luiz, Paraguassu e Walmir
monitoraram e mantiveram diariamente todas as ótimas condições ambientais para a
elaboração desta dissertação.
• Todas as medições do estudo de caso abordado na dissertação foram realizadas pelo pessoal
do LABCOM-UFRJ.
v
"Sempre há o que aprender...Ouvindo...Vivendo ...e sobretudo Trabalhando.
Mas só se aprende, quem se dispõe rever suas CERTEZAS".
Darcy Ribeiro
vi
RESUMO
Essa dissertação calcula, compara e avalia os valores das estimativas de incerteza doresultado de medição da massa específica de uma gasolina, obtidos pelas metodologias propostasno Guia para a Expressão da Incerteza de Medição/2005 (ISO GUM 2005), noEURACHEM/CITAC GUIDE – 2000 (simulado) e também pelo método de Monte Carlo. Adiferença entre os valores obtidos pelas metodologias estudadas não é significativa emcomparação aos limites de tolerância da norma ASTM D 1298-05.
Precedendo a estimativa da incerteza de medição, foi realizado o estudo da variação damassa específica em função do tempo objetivando a definição de um plano de amostragem, paraa definição da metodologia de validação e o estabelecimento da confiabilidade metrológica dosresultados, etapas que devem ocorrer anteriormente à estimativa da incerteza de um resultado demedição. O estudo mostrou que o plano inicial de amostragem adotado não foi o mais adequado,visto que por problemas freqüentes de manipulação da amostra a sua massa específica variou ,em torno de 0,1%, ao longo de oito dias. Foi, então, definido um novo plano de amostragem paraa aplicação da metodologia estatística proposta nesta dissertação de validação dos dados eestabelecimento da confiabilidade metrológica.
A aplicação da metodologia evidenciou que os resultados de medição da massa específicade uma gasolina, obtidos pelos técnicos do LABCOM - Laboratório de Combustíveis eDerivados de Petróleo da Escola de Química da Universidade Federal do Rio de Janeiro, sãocompatíveis entre si e apresentam uma confiabilidade metrológica cujas repetitividade ereprodutibilidade estão de acordo com os limites citados pela norma ASTM D 1298 -05. Estametodologia proposta pode ser aplicada também na validação e estabelecimento daconfiabilidade metrológica dos dados de medições de outras áreas.
O ISO GUM 95 surge inicialmente para a harmonização internacional da estimativa daincerteza de medição, sendo, assim, possível existir a comparação entre resultados de medição. Arealização de comparações dos resultados de medição é fundamental para a existência do mútuoreconhecimento entre sistemas metrológicos, ação importante para atender um mercado cada vezmais globalizado. Esta dissertação apresenta também o ISO GUM 95 como uma ferramentamuito importante no estabelecimento prévio da exatidão necessária de qualquer variável de umprocesso, visando a atenuação da relação custo/benefício.
A partir de um cálculo simulado, baseado no valor obtido da incerteza de medição damassa específica da gasolina e nos limites de tolerância da norma ASTM D 1298 -05, conclui-seque estes valores conduzem a um capital referente ao desperdício bastante elevado. Desta formaentão, o trabalho propõe também um estudo de revisão da norma ASTM D 1298 –05 tendo comobase os conceitos estabelecidos no ISO GUM 95, objetivando a otimização dos seus limites detolerância.
vii
ABSTRACT
This dissertation calculates, compares and assesses uncertainty estimates in densitymeasurements of a gasoline, which were obtained using methodologies proposed in the Guide tothe Expression of Uncertainty in Measurement/2005 (ISO GUM 2005), theEURACHEM/CITAC Guide – 2000 (simulated), and the Monte Carlo method. The differencebetween the values obtained using these methodologies was found to be negligible when judgedagainst the tolerance levels set by the ASTM D 1298 -05 standard.
Before the uncertainty of the measurement was estimated, a study was made of the densityvariations with time so as to define a sampling plan and to decide upon a validation methodologyand establish the metrological reliability of the results, which are stages that should precede anestimate of measurement uncertainty. The study showed that the initial sampling plan was notthe most suitable, as frequent problems involving the handling of the sample meant that itsdensity varied by around 0.1% over eight days. Therefore, a new sampling plan was establishedfor the statistical methodology for validating data and establishing metrological reliabilityproposed in this dissertation.
The methodology showed that the density measurements of a gasoline made by thepersonnel at the Fuel and Oil Byproducts Laboratory (LABCOM) at Escola de Química, FederalUniversity of Rio de Janeiro were compatible amongst themselves and had a metrologicalreliability whose repeatability and reproducibility were within the tolerance levels set by ASTMD 1298 -05. This methodology could also be used to validate and ascertain the metrologicalreliability of measurement data from other areas.
The ISO GUM 95 was initially devised to bring measurement uncertainty estimates intoline internationally so that different measurements could be compared more easily. Comparisonsbetween measurements are essential if different metrological systems are to be mutuallyrecognized, which is itself important in an increasingly globalized marketplace. This dissertationalso shows how ISO GUM 95 could be a very useful tool for establishing in advance whatdegree of accuracy is needed for a given variable in a process, thereby enhancing its cost/benefitratio.A simulated calculation based on the uncertainty value obtained for the gasoline densitymeasurement and the tolerance levels set in ASTM D 1298-05 led us to conclude that thesevalues imply a very high cost incurred through waste. Therefore, the work also recommends thata study be carried out with a view to revising ASTM D 1298 –05, based on the concepts set outin ISO GUM 95, so as to optimize its tolerance levels.
viii
LISTA DE FIGURAS
Figura 1 - Princípio de medição da balança de pressão 3
Figura 2 - Documentação básica da Metrologia 11
Figura 3 – Desenho esquemático de um resultado de medição não corrigido 16
Figura 4 – Desenho esquemático representando a obtenção do resultado de medição
corrigido
17
ix
LISTA DE ESQUEMAS
Esquema 1 - Esquema da interdependência entre Metrologia, Normalização e Qualidade 2
Esquema 2 – Esquema para o estabelecimento da confiabilidade metrológica 23
Esquema 3 – Diagrama causa e efeito da medição de uma força 49
Esquema 4 – Diagrama causa e efeito da incerteza da massa específica de uma gasolina 81
x
LISTA DE GRÁFICOS
Gráfico 1 – Importação e exportação de petróleo no Brasil, em m³, segundo a ANP 7
Gráfico 2 - Incerteza total do processo em função da incerteza em pressão com a
representação de uma isoterma
39
Gráficos 3a e 3b – Variação do mensurando y em função das grandezas de entrada x e a 41
Gráfico 4 – Variação da viscosidade com a temperatura 43
Gráfico 5 – Balanço das incertezas de massa 46
Gráfico 6 – Balanço das incertezas de volume 47
Gráfico 7 – Balanço das incertezas da massa molecular 47
Gráfico 8 – Balanço da incertezas na medição de uma força. 54
Gráfico 9 – Incerteza em relação ao limite de tolerância (especificação) 66
Gráfico 10 – Estudos preliminares da variação da massa específica de uma amostra com o
tempo
69
Gráfico 11 – Estudo da repetitividade em função do limite de tolerância da norma ASTM
D 1298 -05
73
Gráfico 12 – Reprodutibilidade em relação à tolerância da norma ASTM D 1298 -05. 74
Gráfico 13 – Diferença das médias entre dias e o limite de tolerância da norma ASTM D
4052-02.
80
Gráfico 14 - Variação da massa específica da gasolina em função da temperatura 87
Gráfico 15 – Variância combinada e suas componentes da medição da massa específica da
gasolina.
89
Gráfico 16 - Intervalo de incerteza obtido o qual refere a quatro desvios – padrão 94
xi
LISTA DE TABELAS
Tabela 1- Grandezas de Base e Unidades do SI. 13
Tabela 2 – Identificação do rij calculado 29
Tabela 3 – Equação do rij calculado 29
Tabela 5 – Limites de controle das cartas de controle da média 34
Tabela 6 – Limites de controle das cartas de controle do desvio-padrão. 34
Tabela 7 – Limites de controle das cartas de controle da amplitude. 35
Tabela 9 – Fontes de incerteza na medição de uma força, apresentadas no gráfico 8 53
Tabela 10- Resultados preliminares da massa específica (g/cm³) da amostra a 20°C. 67
Tabela 12- Fcalculado e Fcrítico para avaliação dos desvios - padrão combinado diários dos resultados
preliminares da massa específica da amostra a 20°C. 68
Tabela 13- Resultados da massa específica (g/cm³) das amostras a 20°C. 71
Tabela 14 - Estudo da compatibilidade entre dos desvios padrão diários das amostras. 72
Tabela 15 - Limites de tolerância da repetitividade e reprodutibilidade, de acordo com a norma72
ASTM D 1298 -05 72
Tabela 16- Estudos da Compatibilidade entre Desvios Padrão Diários 74
Tabela 17 - Valores calculados e críticos da estatística do teste de Shapiro – Wilks (W e Wc).
respectivamente 75
Tabela 18 - Estatísticas rij calculadas e rij críticas para os valores máximos e mínimos de todas as
amostras 76
Tabela 19 - Valores das estatísticas G calculadas com seus respectivos valores críticos. 77
Tabela 20- Limites dos intervalos de confiança e valores de t de Student calculados e críticos. 78
xii
Tabela 21- Limites Inferior e superior dos intervalos de confiança das diferenças entre médias
diárias com respectivos t . 79
Tabela 22- Componentes de incerteza de medição da massa específica de uma gasolina 88
Tabela 23- Resultados dos cálculos de ρi e suas respectivas diferenças em relação a C020
ρ . 91
Tabela 24- Compilação de todas as componentes de incerteza do estudo de caso. 93
Tabela 25 - Estatísticas da simulação 94
Tabela 26 - Incertezas combinada e expandida conforme ISO GUM 95, EURACHEM/CITAC -
2000 e simulação de Monte Carlo. 95
Tabela 27- Contribuições das componentes de incerteza de medição da massa específica da
gasolina 96
xiii
LISTA DE SÍMBOLOS
X Média amostralR Amplitude médiaσ Média dos desvios - padrãoσ2 Variância da populaçãoνi Número de graus de liberdade do desvio - padrão
X Média das médiasA ÁreaC ConcentraçãoCKHP Concentração KHPcxi Coeficiente de sensibilidade de uma fonte xiea Erro aleatórioEn Erro normalizadoes Erro sistemáticoet Erro totalFcalculado Estatística F calculadaFcrítico Valor crítico da estatística FFKHP Massa molecular do KHPg GravidadeG Estatística calculada de Grubb’sg1 Assimetria (skewness)g2 Curtose (kurtosis)Gcrítico Estatística crítica de Grubb’sgl Gravidade localk Fator de abrangênciakv Constante do viscosímetrom MassamKHP Massa de KHPmP Massa do pistãoN Número de amostrasN Concentração da solução padrãoN’ Concentração da solução desconhecidap PressãoP Tensão de cisalhamentop(xi) Função densidade de probabilidadePKHP Pureza do KHPri j Estatística calculada de Dixonrijcrítico Estatística crítica de Dixons(xi) Desvio padrão amostralsi
2 Variância de um conjunto de mediçõessp Desvio - padrão combinadot Tempo
xiv
t(ν,p) t de StudentU Incerteza expandidau(xi) Incertezas padrão de uma fonte de entradau(xi,xj)= u(xj,xi) Covariância estimada associada com ix e jxuAmostra Incerteza da amostrauc(y) Incerteza padrão combinadaureprodutibilidade Incerteza referente à reprodutibilidadeuTemperatura Incerteza referente à temperaturauxi(y) Componente de incerteza na unidade do mensurado referente à fonte xi
uρi Incerteza de ρi
uρmedida Incerteza da massa específica medidaV Volume de solução padrão utilizadoV’ Volume da solução desconhecida utilizadoveff Número de graus de liberdade efetivosVf Volume do frascovi Graus de liberdade das fontes de entradaVV Valor verdadeiroVVC Valor verdadeiro convencionalW Estatística do teste de Shapiro-WilksWcrítico Estatística crítica de Shapiro-Wilksxj Valor do j-ésimo da amostraxn Maior valor da amostray Mensurandoylab Valor medido pelo laboratórioyref Valor medido pelo laboratório de referênciaη Viscosidadeµ Médiaρmedido Massa específica medidaρ1 Massa específica tabelada ( Tabelas de correção das densidades e dos volumes
dos produtos de petróleo)ρ2 Massa específica tabelada ( Tabelas de correção das densidades e dos volumes
dos Produtos de petróleo)ρ20(1) Massa específica tabelada ( Tabelas de correção das densidades e dos volumes
dos produtos de petróleo)ρ20(2) Massa específica tabelada ( Tabelas de correção das densidades e dos volumes
dos produtos de petróleo)ρ20
οC Massa específica a 20oC
σ Desvio - padrão
xv
LISTA DE ABREVIATURAS E SIGLAS
ABNT Associação Brasileira de Normas TécnicasANP Agência Nacional de Petróleo, Gás Natural e BiocombustíveisAPI Americam Petroleum InstituteASTM American Society for Testing and MaterialsBIPM Bureau International des Poids et MèsuresCIPM Comité International des Poids et MèsuresCITAC Cooperation on International Traceability in Analytical ChemistryDICLA Divisão de Acreditação de Laboratórios de Calibração e EnsaiosDimel Diretoria de Metrologia LegalEURACHEM Focus for Analytical Chemistry in EuropeFOB Free on boardIEC International Electrotechnical CommissionInmetro Instituto Nacional de Metrologia, Normalização e Qualidade IndustrialISO International Organization for StandardizationISO GUM 95 Guide to the Expression of Uncertainty in MeasurementIUPAC International Union of Pure and Applied ChemistryIUPAP International Union of Pure and Applied PhysicsLABCOM Laboratório de Combustíveis e Derivados de Petróleo da Escola de Química
da Universidade Federal do Rio de JaneiroLIE Limite de especificação inferiorLSE Limite de especificação superiorNBR Norma Brasileira RegistradaNIE Norma Interna EspecíficaOIML International Organization of Legal MetrologyPIB Produto Interno BrutoRBC Rede Brasileira de CalibraçãoRBLE Rede Brasileira de Laboratórios de EnsaiosSI Sistema Internacional de UnidadesTAG 4 Technical Advisory Group on Metrology 4UFRJ Universidade Federal do Rio de JaneiroVIM Vocabulário Internacional de Termos Fundamentais e Gerais de MetrologiaVL Valor do LaboratórioWG 3 Working Group 3
xvi
SUMÁRIO
1 INTRODUÇÃO 1
2 OBJETIVOS 9
3 DOCUMENTAÇÃO BÁSICA 11
3.1 VOCABULÁRIO INTERNACIONAL DE METROLOGIA – VIM 12
3.1.1 Grandeza 12
3.1.2 Sistema Internacional de Unidades – SI 13
3.1.3 Mensurando 14
3.1.4 Grandeza de influência 14
3.1.5 Valor Verdadeiro (de uma grandeza) 15
3.1.6 Valor Verdadeiro Convencional (de uma grandeza) 15
3.1.7 Resultado não corrigido 16
3.1.8 Resultado corrigido 17
3.1.9 Resultado de uma medição 18
3.1.10 Erro (de medição) 18
3.1.11 Exatidão de medição 19
3.1.12 Repetitividade (de resultados de medições) 19
3.1.13 Reprodutibilidade (de resultados de medição) 20
3.1.14 Incerteza de medição 20
4 METODOLOGIA PROPOSTA PARA O ESTABELECIMENTO DA CONFIABILIDADE
METROLÓGICA 21
4.1 ESTUDO DA COMPATIBILIDADE ENTRE AS DISPERSÕES DOS CONJUNTOS DE
REPETIÇÕES DE MEDIÇÕES. HOMOGENEIDADE ENTRE VARIÂNCIAS 24
xvii
4.2 ANÁLISE DO TIPO DE DISTRIBUIÇÃO DOS DADOS DAS AMOSTRAS 25
4.3 APLICAÇÃO DE CRITÉRIOS DE REJEIÇÃO A UM CONJUNTO DE REPETIÇÕES
DE MEDIÇÕES 28
4.3.1 Critério de Dixon 29
4.3.2 Critério de Grubbs’ 30
4.4 ESTUDO DA COMPATIBILIDADE ENTRE AS MÉDIAS DAS AMOSTRAS. 30
4.5 CARTAS DE CONTROLE 32
4.5.1 Carta de controle das médias 33
4.5.2 Carta de controle dos desvios- padrão 34
4.5.3 Carta de controle das amplitudes 35
5 INCERTEZA DE MEDIÇÃO 36
5.1 OUTRA IMPORTANTE RELEVÂNCIA DO ISO GUM 95 38
5.2 INTERPRETAÇÃO DO CONCEITO DA INCERTEZA DE MEDIÇÃO 40
5.3 PASSOS PARA A ESTIMATIVA DA INCERTEZA DE MEDIÇÃO 44
5.4 ESTIMATIVA DA INCERTEZA DE MEDIÇÃO CONFORME ISO GUM 95 48
5.4.1 Definição do mensurando 48
5.4.2 Diagrama causa - efeito 49
5.4.3 Avaliação das incertezas - padrão 50
5.4.3.1 Avaliação Tipo A da incerteza - padrão. 50
5.4.3.2 Avaliação Tipo B da incerteza - padrão 50
5.4.3.3 Incertezas correlacionadas e não correlacionadas 52
5.4.3.4 Cálculo dos coeficientes de sensibilidade 52
5.4.3.5 Componentes de incerteza 53
xviii
5.4.3.6 Cálculo da incerteza - padrão combinada 55
5.4.3.6.1 Incerteza combinada de fontes de entrada não correlacionadas 55
5.4.3.6.2 Incertezas das grandezas de entrada correlacionadas 56
5.4.3.7 Determinação dos graus de liberdade 57
5.4.3.8 Determinação do coeficiente de abrangência 58
5.4.3.9 Estimativa da incerteza expandida 58
5.5 METODOLOGIAS ALTERNATIVAS DE CÁLCULO DA ESTIMATIVA DE
INCERTEZA 58
5.5.1 Simulação numérica 59
5.5.2 Combinação das incertezas relativas 60
5.6 EQUAÇÃO NUMÉRICA DOS RESULTADOS DE MEDIÇÃO 60
5.7 LIMITAÇÕES DO GUIA 61
5.7.1 Linearização do modelo 61
5.7.2 Suposição da normalidade do mensurando 61
5.7.3 Cálculo dos graus de liberdade efetivos 62
6 SIMULAÇÃO DE MONTE CARLO 63
6.1 INCERTEZA DE MEDIÇÃO PELO MÉTODO DE MONTE CARLO 63
7 COMPATIBILIDADE ENTRE RESULTADOS DE MEDIÇÃO 65
7.1 INCERTEZA DE MEDIÇÃO E LIMITES DE TOLERÂNCIA DE UMA NORMA 65
8 RESULTADOS E DISCUSSÕES 67
8.1 MEDIÇÃO DA MASSA ESPECÍFICA DA GASOLINA 67
8.2 AVALIAÇÃO DOS RESULTADOS 72
8.2.1 Avaliação diária dos desvios - padrão (Repetitividade) 72
xix
8.2.2 Avaliação dos desvios - padrão entre dias ( Reprodutibilidade) 74
8.2.3 Avaliação do tipo de distribuição para cada amostra 75
8.2.3.1 Teste de Shapiro - Wilks 75
8.2.4 Aplicação dos critérios de rejeição 76
8.2.4.1 Critério de Dixon 76
8.2.4.2 Critério de Grubbs’ 77
8.2.5 Avaliação diária das médias 78
8.2.6 Avaliação das médias entre dias 78
8.2.7 INCERTEZA DE MEDIÇÃO 80
8.2.7.1 Definição do mensurando 80
8.2.7.2 Diagrama causa - efeito 81
8.2.7.3 Avaliação das incertezas - padrão 82
8.2.7.3.1 Incerteza referente à reprodutibilidade do método 82
8.2.7.3.2 Incerteza referente às repetições das medições na amostra 83
8.2.7.3.3 Incertezas referentes à )1(20ρ , 1ρ , 2ρ e )2(20ρ 84
8.2.7.3.4 Incerteza referente à medidaρ 84
8.2.7.3.5 Incerteza referente à temperatura 85
8.2.7.4 Coeficientes de sensibilidade referentes às fontes de incertezas 85
8.2.7.5 Componentes de incerteza 88
8.2.7.5.1 Combinação das incertezas 88
8.2.7.5.2 Balanço das incertezas 88
8.2.7.6 Método simulado 90
8.2.7.7 Comparação entre os valores obtidos pelas metodologias clássica e simulada 91
xx
8.2.7.8 Cálculo dos graus de liberdade 92
8.2.7.9 Incerteza expandida 92
8.2.7.10 Estimativa da incerteza pelo método de Monte - Carlo 93
8.2.7.11 Comparação entre as estimativas de incerteza obtidas pelos métodos ISO GUM 95,
Simulado e Monte- Carlo 95
8.3 AVALIAÇÃO DA ADEQUAÇÃO DO INTERVALO DE INCERTEZA DA MASSA
ESPECÍFICA DA GASOLINA EM RELAÇÃO AOS LIMITES DE TOLERÂNCIA DA
NORMA ASTM D 1298 -05 95
9 CONCLUSÕES 97
10 RECOMENDAÇÕES 99
REFERÊNCIAS 101
APÊNDICE 1 – Impacto do erro da medição de pressão na comercialização de cilindros de 50L
de nitrogênio a 19,6 MPa na temperatura 21°C. 109
APÊNDICE 2 – Planilha para a elaboração do gráfico 2 - Adequação da instrumentação ao
processo de engarrafamento de gases 110
APÊNDICE 3 - Planilha para a elaboração dos gráficos 5, 6 e 7. 111
APÊNDICE 4 - Planilha para a elaboração do gráfico 113
ANEXO A – PONTOS PERCENTUAIS fα,ν1, ν2 DA DISTRIBUIÇÃO F 115
ANEXO B – COEFICIENTES ( an-i+1) DO TESTE W PARA A NORMALIDADE 116
ANEXO B – COEFICIENTES (an-i+1) DO TESTE W PARA A NORMALIDADE –
CONTINUAÇÃO 117
ANEXO C – PONTOS PERCENTUAIS DO ENSAIO W 118
ANEXO D – VALORES CRÍTICOS DE rij 119
xxi
ANEXO E – VALORES CRÍTICOS DE G 120
ANEXO F – TABELA T DE STUDENT 121
ANEXO G – CARTA DE CONTROLE 122
1
1 INTRODUÇÃO
De acordo com os requisitos da norma ABNT NBR ISO/IEC 17025:2005, para que um
resultado de medição seja confiável, o mesmo deve apresentar evidências quanto à sua
rastreabilidade e também ter comprovada a sua confiabilidade metrológica. Estas evidências se
estabelecem como propriedades importantes para a avaliação da qualidade de uma medição.
Porém, freqüentemente, os resultados de medição são apresentados e utilizados sem a
preocupação da existência destes importantes requisitos da norma. Conseqüentemente, nestas
condições, qualquer decisão a partir destes resultados de medição, certamente, pode originar
conclusões equivocadas cujos transtornos poderão ser imprevisíveis.
Visando uma maior dinâmica de um mercado cada vez mais globalizado, sempre deverá
ser justificada a eliminação da duplicação de esforços freqüentemente demandados para
obtenção dos resultados de medição (EURACHEM/CITAC GUIDE, 2000). Para a implantação e
a implementação dessa dinâmica, os blocos econômicos devem exercer esforços para a
existência de um mútuo reconhecimento, principalmente, entre os seus sistemas metrológicos. A
ação básica para que se estabeleça o mútuo reconhecimento entre sistemas metrológicos é a
existência de freqüentes comparações entre os seus resultados de medição para que seja
evidenciada a compatibilidade metrológica entre eles. Numa comparação ou em qualquer
situação que esteja relacionada a uma medição, os resultados devem sempre primeiramente
evidenciar a sua rastreabilidade e a confiabilidade metrológica. A incerteza é a indicação
quantitativa da qualidade dos resultados de medição, sem a qual os mesmos não poderiam ser
comparados entre si ou com os valores de referência especificados ou com um padrão. Em
conseqüência, principalmente da existência, e visando a manutenção do mútuo reconhecimento
2
entre sistemas metrológicos, os técnicos, particularmente aqueles que de alguma forma têm
relações com as áreas de comércio exterior, são cada vez mais pressionados a evidenciar e
comprovar a qualidade e a confiabilidade metrológica dos seus resultados de medição
(EURACHEM/CITAC GUIDE, 2000).
A implementação da qualidade de um processo industrial conforme recomendações da
família de normas ISO 9000 pode ser resumida em três etapas principais: a) a aquisição e
controle da matéria-prima; b) o controle do processo; e c) a análise da qualidade final dos
produtos. Para que estas três etapas sejam bem estabelecidas, a interdependência entre
Metrologia, Normalização e Qualidade deve ser respeitada e evidenciada, conforme esquema 1.
Qualidade
Metrologia
Normalização
Esquema 1 - Esquema da interdependência entre Metrologia, Normalização e Qualidade.
Com o estabelecimento do processo de globalização de mercados, o país que não perceber
a importância estratégica da Metrologia, da Normalização e da Qualidade estará possibilitando a
criação de uma forte barreira comercial aos seus produtos, comprometendo sem dúvida a sua
economia e com sérios reflexos na sua estabilidade social, etc. (COUTO, P ; GUILHERMINO, I,
2001).
Apesar da qualidade dos produtos estabelecer-se como um dos fatores estratégicos para a
estabilidade econômica de uma nação, no Brasil ainda podem ser identificados três grupos de
3
usuários dos serviços de Metrologia, a saber: a) o primeiro, que entende perfeitamente a
interdependência entre Metrologia, Normalização e Qualidade; b) o segundo, que utiliza os
serviços de Metrologia apenas para o cumprimento de atividades legais, administrativas e
necessidades do cliente; c) o terceiro, que ainda ignora a Metrologia como uma ferramenta
importante para evidenciar a Qualidade adequada do seu produto e/ou serviço (COUTO, P;
MONTEIRO, L, 2000). O segundo grupo está duplamente equivocado pelas seguintes razões: i)
quando um instrumento possui certificado de calibração não significa necessariamente que o
mesmo reúne as características metrológicas adequadas à tolerância de seu processo; e ii)
somente o certificado de calibração de um instrumento não garante a confiabilidade de qualquer
medição realizada por aquele instrumento (COUTO, P; MONTEIRO, L, 2000). Por exemplo: o
medidor de pressão denominado “balança de pressão” é constituído basicamente de um conjunto
pistão-cilindro e de uma coleção de massas(figura 1). Este tipo de instrumento tem uma exatidão
que, de acordo com o VIM, é o grau de concordância entre o resultado de uma medição e um
valor verdadeiro do mensurando, da ordem de 0,01% da amplitude de sua faixa de escala.
Figura 1 - Princípio de medição da balança de pressão.
O princípio de medição de uma balança de pressão baseia-se no equilíbrio entre as forças
oriundas da pressão de um fluído hidráulico ou gasoso que atua na base do pistão e aquela
4
referente às massas de uma coleção que agem sobre o topo do pistão. No equilíbrio pode ser
escrita a equação 1:
( )gmmpA p∑ += ∴ ( )A
gmmp p∑ +
=(1)
onde:
p = pressão do fluido;
A= área do conjunto pistão-cilindro da balança de pressão;
∑m = somatório das massas atuantes no topo do pistão;
mp = massa do pistão;
g = aceleração da gravidade local.
Cada massa da coleção tem marcada a sua respectiva pressão nominal medida em relação a
um valor referencial da gravidade de 9,80665 m/s². Quando a balança de pressão é utilizada em
um lugar cujo valor da gravidade local seja diferente do referencial, por exemplo 9,787487 m/s²,
os valores das pressões nominais marcadas em cada massa devem ser corrigidos pelo fator
0,998045918, o qual refere-se à razão entre os valores da aceleração da gravidade local pela
referencial. Desta forma, a utilização de uma balança de pressão que foi calibrada, sem o
conhecimento do valor correto da aceleração da gravidade do local, pode ocasionar um erro de
medição da ordem de 0,2% (COUTO, P; MONTEIRO, L, 2000). Se isto ocorrer fica
comprovado que somente a rastreabilidade não ratifica a confiabilidade metrológica de um
resultado de medição. Se no processo em questão este erro de medição de 0,2% for aceitável,
deve-se utilizar um instrumento de pior exatidão do que a balança de pressão, visando um custo
mais competitivo.(COUTO, P; MONTEIRO, L, 2000).
5
Outro caso seria a utilização de um determinado instrumento calibrado sem o devido
cuidado metrológico, o que pode também comprometer a confiabilidade metrológica da
respectiva medição. Por exemplo, a grande maioria dos instrumentos mede uma grandeza de
forma indireta sem a comprovação da sua realização. Incluídos neste grupo de instrumentos
podem ser citados, por exemplo: manômetros; transdutores de pressão; termopares; células de
carga; voltímetros; medidores de pH; densímetros, etc. Estes tipos de instrumentos, mesmo que
calibrados, podem estar sujeitos a algum problema de caráter interno ou externo ao seu
funcionamento, havendo a possibilidade de erros que seu usuário perceberá somente quando uma
nova calibração do equipamento for realizada. Neste caso, para que isto não ocorra, deve ser
estabelecida um procedimento de verificação do instrumento entre medições sucessivas. Se este
procedimento não for estabelecido, a medição também não evidenciará confiabilidade
metrológica. Estes dois exemplos citados esclarecem também as dúvidas que normalmente
ocorrem quanto aos objetivos e aplicações das normas ABNT NBR ISO/IEC 17025:2005 e NBR
ISO 9000:2000, no que se refere aos termos “rastreabilidade” e “confiabilidade metrológica”. A
norma ABNT NBR ISO/IEC 17025:2005, por conter todos os requisitos que contemplam as
evidências de uma competência técnica e sistêmica, deve ser aplicada para a comprovação de
uma determinada qualidade metrológica.
“Um laboratório que atue desta forma dinâmica e pró-ativa, fazendo convergir de maneira
efetiva a realização da sua tarefa com a qualidade do produto, sem dúvida é uma célula
importante (vital) para uma indústria que queira produzir com uma qualidade adequada a uma
dada necessidade” (COUTO, P ; GUILHERMINO, I, 2001).
A norma ASTM D 1298-05 cita no seu item 5.1 que a medição com boa exatidão da massa
específica de petróleo e seus produtos é necessária para a conversão de volumes medidos para
6
volumes ou massas, ou ambos, numa temperatura de referência durante um processo de
transferência de custódia. Segundo a NIE 047. Rev.00.agosto 2003, o processo de transferência
de custódia define-se pela transação comercial na qual o fornecedor e comprador controlam o
fornecimento e o recebimento do produto de acordo com o contrato firmado entre as partes
interessadas. O resultado de medição no caso apresentado é um parâmetro do processo de
transferência de custódia ou comercialização do produto. Além deste tipo de utilização de um
resultado de medição existem outras diversas formas de aplicações tais como:
• inspecionar os produtos em relação às suas especificações ou limites determinados por
uma norma específica, objetivando um padrão de qualidade na área de comércio;
• apoiar muitas das decisões nas áreas de medicina e de justiça e outras;
• auxiliar na especificação dos parâmetros que definem um projeto;
• auxiliar a condução e a conclusão sobre um trabalho de pesquisa científica
estabelecendo limitações ou suposições de um modelo;
• apoiar a(s) atividade(s) de reconhecimento mútuo entre sistemas metrológicos,
ferramenta importante para o auxílio da implementação de um mercado cada vez mais
globalizado;
• controlar e otimizar a qualidade de um produto.
Enfocando o assunto transferência de custódia de petróleo e seus produtos são apresentadas
informações fornecidas pela Superintendência de Planejamento e Pesquisa da Agência Nacional
de Petróleo, Gás Natural e Biocombustíveis - (ANP), sobre as exportações e importações de
petróleo em milhões de m³ no Brasil ocorridas durante o período de janeiro de 2000 a fevereiro
de 2006, conforme o gráfico 1. Esta informação apresentada objetiva que o leitor tenha uma
7
visão contextual a mais real possível das discussões , dos estudos e das análises apresentados ao
longo desta dissertação.
Gráfico 1 – Importação e exportação de petróleo no Brasil, em m³, segundo a ANP.
O gráfico 1 mostra as importações e exportações de petróleo no período de janeiro de 2000
a fevereiro de 2006. Observa-se que as exportações superaram as importações em fevereiro de
2006 e segundo a ANP o valor foi cerca de 23%. Os volumes e capitais envolvidos nestas
operações são da ordem de bilhões de dólares. Conforme a ANP, no período de 2001 a 2004 o
Brasil apresentou um balanço negativo acumulado nos quatro anos da ordem de 15,3 bilhões de
dólares FOB.
Adicionalmente, o Brasil tem um volume alto de perdas ocorridas em razão de erros,
defeitos de produção, tempo perdido em retrabalho, excesso de refugo e outras formas de
desperdício que se elevam a cifras bastante relevantes em relação ao seu Produto Interno Bruto
(PIB).
-
5
10
15
20
25
30
2000 2001 2002 2003 2004 2005 fev/06Período
(x10
6 )m³
Im portaçãoExportação
8
Segundo FROTA, M. N. et al. “ cerca de 10% do PIB de países em desenvolvimento é
gasto em retrabalho e desperdício devido à inexistência de adequado controle metrológico
(ordem de 80 bilhões de dólares no caso do Brasil, cujo PIB é superior a 800 bilhões de dólares),
ficando patente que o grau de desenvolvimento da metrologia passa a constituir indicador do
nível de desenvolvimento econômico de empresas e nações”.
FERNANDES, F. e ROLLI, C. (2001) e MONDELO R.A. que também tratam do assunto
citam diferentes percentuais deste disperdício em relação ao PIB, cerca de 15% e 40%,
respectivamente.
O fator metrológico é o responsável por grande parte destas perdas quando são enfocados
aspectos tais como: i) o grande número de instrumentos que são utilizados no parque industrial
brasileiro, cuja exatidão é inadequada em relação à tolerância de um determinado processo; e ii)
o impacto dos erros e incertezas de medição de um resultado na comercialização e qualidade dos
produtos (COUTO, P.;MONTEIRO, L. 2000).
Como exemplo do segundo aspecto, pode ser citado o caso da comercialização do gás
nitrogênio. Nesta situação específica, como a temperatura e volume do cilindro são controlados,
a pressão interna do cilindro que contém o gás estabelece-se como um parâmetro da sua
comercialização. Por exemplo, um cilindro cujo volume interno é de 50 litros e que contém gás
nitrogênio à pressão de 200 kgf/cm² e na temperatura de 21°C, armazena 10,2 m³ de gás
nitrogênio. Se ocorrer um erro de 2% na medição de pressão em cada cilindro, ocasiona ao longo
de vinte dias, um desperdício da ordem de 49% da produção diária, conforme cálculo
apresentado no Apêndice A tendo como base uma produção diária de 1000 cilindros de
nitrogênio (COUTO, P. ; GUILHERMINO, I., 2001).
9
2 OBJETIVOS
Os objetivos dessa dissertação são:
• Propor uma metodologia aplicada aos dados experimentais da medição da massa específica
de uma gasolina, baseada em conceitos relevantes de estatística que, aliados à experiência
técnica e aos limites de tolerância da norma ASTM D 1298 -05, possibilitam concluir sobre a
evidência do estabelecimento da confiabilidade metrológica do resultado e também orientar
em relação aos limites de tolerância que podem ser adotados;
• Aplicar o ISO GUM 95 no estabelecimento da incerteza de medição da massa específica de
uma gasolina;
• Estabelecer pelo método de simulação de Monte Carlo a estimativa da incerteza de medição
da massa específica de uma gasolina;
• Comparar os valores das estimativas da incerteza de medição obtidos através das
metodologias descritas no ISO GUM 95 (nas modalidades clássico e simulado) e o método
de Monte Carlo;
• Avaliar a compatibilidade entre os valores da incerteza de medição e a tolerância da norma
ASTM D 1298 -05;
• Contabilizar o desperdício ocasionado pela aplicação dos valores da incerteza de medição da
massa específica da gasolina e da tolerância estabelecida pela norma ASTM D 1298 –05. Em
função disso, propor a revisão da norma em relação aos seu limites de tolerância
estabelecidos na norma ;
• Mostrar o outro aspecto relevante do ISO GUM 95, quando ele é aplicado como uma
ferramenta importante no estabelecimento prévio da exatidão necessária de qualquer variável
10
visando a atenuação da relação custo/benefício de um processo. Este tipo de aplicação do
ISO GUM 95 é diferente daquele que foi a motivação inicial para a elaboração do
documento, que é a harmonização internacional da estimativa da incerteza de medição;
• Mostrar a importância da Metrologia, da Normalização e da Qualidade nos produtos e
serviços que com a globalização dos mercados se estabelecem como fatores estratégicos na
implementação das exportações.
11
3 DOCUMENTAÇÃO BÁSICA
Nas duas últimas décadas surgiram documentos vitais para a harmonização internacional
dos aspectos metrológicos e laboratoriais. A adoção destes documentos auxilia a evolução e a
dinâmica do processo de globalização das sociedades. Dentre os documentos que têm esta
função citam-se aqueles que compõem a documentação básica da metrologia: i) o Vocabulário
Internacional de Termos Fundamentais e Gerais de Metrologia (VIM), ii) a norma ABNT NBR
ISO/IEC 17025:2005; e iii) o Guia para a Expressão da Incerteza de Medição (Tradução
Brasileira do ISO GUM 95), cujas capas são apresentadas na figura 2.
Figura 2 - Documentação básica da Metrologia, que inclui a norma ABNT NBR ISO/IEC 17025:2005, oVocabulário Internacional de Termos Fundamentais e Gerais de Metrologia e o Guia para a Expressão da Incerteza
de Medição (Tradução Brasileira do ISO GUM 95).
O VIM objetiva, de certa forma, a harmonização de todas as terminologias e definições
utilizadas nos campos da metrologia e da instrumentação. Em outras palavras, é o “dialeto” da
metrologia e da instrumentação.
12
A norma ABNT NBR ISO/IEC 17025:2005, apresenta os requisitos técnicos e sistêmicos
que se devem ser atendidos por uma laboratório, objetivando a obtenção de resultados de
medição, com uma confiabilidade metrológica adequada a uma determinada qualidade
metrológica.
O Guia para expressão da Incerteza de Medição estabelece uma metodologia universal para
a estimativa da incerteza de medição dos resultados, dotando-os da propriedade
comparabilidade, ferramenta vital para o estabelecimento do mútuo reconhecimento entre
sistemas metrológicos.
3.1 VOCABULÁRIO INTERNACIONAL DE METROLOGIA – VIM
Determinados termos e conceitos apresentados pelo VIM são transcritos nesta dissertação
entre aspas e alguns deles são interpretados visando auxiliar o bom entendimento pelo leitor do
desenvolvimento de todo o assunto.
3.1.1 Grandeza
“Atributo de um fenômeno, corpo ou substância que pode ser qualitativamente distingüido
e quantitativamente determinado”.
Por exemplo, quando se observa um cubo, pode-se identificar suas características, as quais
são retratadas através de grandezas. Dentre estas, o volume e a massa do cubo, que são grandezas
que podem ser qualitativamente diferenciadas e quantitativamente determinadas.
13
3.1.2 Sistema Internacional de Unidades – SI
“O Sistema Internacional de Unidades - SI é estabelecido a partir de setes grandezas de
base com suas respectivas unidades mostradas na tabela 1”.
O SI tem como função básica a harmonização das unidades de medida, fator importante na
melhoria contínua da dinâmica entre as transações comerciais em atendimento a um mercado
cada vez mais globalizado.
Tabela 1- Grandezas de Base e Unidades do SI.Unidade SI
GrandezaNome Símbolo
Comprimento metro mMassa quilograma kgTempo segundo s
Corrente Elétrica ampère ATemperatura
Termodinâmica kelvin K
Quantidade de Matéria mol molIntensidade Luminosa candela cd
O SI se estabelece também como uma ferramenta importante durante as operações de
cálculo das suas grandezas derivadas, as quais são definidas como função de suas grandezas de
base. Nas operações matemáticas entre as respectivas unidades das grandezas de base do SI
utilizadas, não há dúvida que a unidade obtida estará também no SI. Por exemplo, pressão é uma
grandeza derivada do SI das grandezas massa, comprimento e tempo. No cálculo de pressão, não
há dúvidas que a unidade obtida é o pascal quando se utiliza as unidades SI da massa, da área e
da aceleração, em kg, m2 e m/s² respectivamente.
14
3.1.3 Mensurando
“Objeto da medição. Grandeza específica submetida à medição”.
Exemplo:
Pressão de vapor de uma dada amostra de água a 20° C.
Observação:
A especificação de um mensurando pode requerer informações de outras grandezas como
tempo, temperatura ou pressão”.
É bom frisar que devido ao termo “objeto da medição”, citado na definição de mensurando,
em alguns certificados de calibração o termo mensurando costuma ser aplicado a um
instrumento da medição. Isto é um equívoco porque o termo objeto na definição tem o sentido de
objetivo da medição e instrumento de medição não é uma grandeza.
3.1.4 Grandeza de influência
“Grandeza que não é o mensurando mas que afeta o resultado da medição deste”.
Exemplos:
a) a temperatura de um micrômetro usado na medição de um comprimento;
b) a freqüência na medição da amplitude de uma diferença de potencial em corrente
alternada;
c) a concentração de bilirrubina na medição da concentração de hemoglobina em uma
amostra de plasma sangüíneo humano”.
15
3.1.5 Valor Verdadeiro (de uma grandeza)
“Valor consistente com a definição de uma dada grandeza específica.”.
Sobre este conceito, consta em uma das observações do VIM que o valor verdadeiro seria
obtido por uma medição perfeita. O objetivo de uma medição é a busca do valor verdadeiro de
um mensurando. Como a medição perfeita não existe, o Valor Verdadeiro de um mensurando é
utópico, mesmo levando-se em conta que, um Instituto Nacional de Metrologia tenha como
função básica a busca contínua do valor verdadeiro de um mensurando, o que significa a
pesquisa intensa objetivando diminuir ao máximo possível o intervalo de incerteza do seu
respectivo resultado de medição.
3.1.6 Valor Verdadeiro Convencional (de uma grandeza)
“Valor atribuído a uma grandeza específica e aceito, às vezes por convenção, como tendo
uma incerteza apropriada para uma dada finalidade”.
O valor verdadeiro convencional é dinâmico e tem uma incerteza adequada à
tolerância/especificação de um processo particular. Se dois processos têm uma mesma grandeza
de base e têm tolerâncias diferentes, não significa que eles necessitem do mesmo valor
verdadeiro convencional. Porém, cada valor verdadeiro convencional deve ter a sua incerteza, a
qual deverá ser compatível com as suas respectivas tolerâncias e especificações.
16
3.1.7 Resultado não corrigido
“Resultado de uma medição antes da correção devido aos erros sistemáticos” .
Para um melhor entendimento desta definição, pode-se imaginar em um sentido figurado
que, quando se realiza uma medição, existe um alvo a ser atingido no centro de um círculo
maior, o qual corresponde ao Valor Verdadeiro (Valor Verdadeiro Convencional). Por outro lado
os “disparos ” são as medições realizadas, que são representadas pelos pontos circunscritos ao
círculo menor, conforme figura 3:
te
Se ae
.. .... ..
::. :::: .
... ..:: ::..::
.. ....
..
::. ::::
VVC x
et – erro totales – erro sistemáticoea – erro aleatório
Figura 3 – Desenho esquemático de um resultado de medição não corrigido, com a representação do errototal (et), erro sistemático (es) e o erro aleatório (ea).
Observando a figura 3, para efeito didático, suponha que as repetições das medições
tenham uma tendência e uma determinada dispersão. O valor mais provável da repetição de
medições é a sua média ( x ), que em relação ao Valor Verdadeiro Convencional (VVC)
apresenta um erro mais provável (erro sistemático-es). As repetições das medições em cada
momento apresentam valores imprevisíveis que por sua vez acarretam um erro aleatório (ea).
17
Conclui-se então que qualquer medição tem um erro total (et), o qual é composto do erro
sistemático mais o erro aleatório. Se o resultado de uma medição é definido somente pela média
das repetições das medições, o mesmo é definido como resultado de medição não corrigido.
3.1.8 Resultado corrigido
“Resultado de uma medição após a correção devido aos erros sistemáticos”.
Figura 4 – Desenho esquemático representando a obtenção do resultado de medição corrigido a partir doresultado de medição não corrigido.
Observando-se as figuras 3 e 4 verifica-se que o erro aleatório é avaliado por uma medida
de dispersão “dúvida”, que sempre permanecerá. Desta forma então, a partir da definição de
resultado de medição corrigido e observando a figura 4, conclui-se inicialmente que a incerteza
de medição é avaliada por uma medida de dispersão. No caso da figura 4, somente a incerteza
devido à repetição das medições está sendo representada. Num processo global de avaliação da
incerteza do mensurando, a propagação de todas as dispersões das fontes de incerteza é que de
c
VVC
ae
.. .... ..
::. :::: .
... ..:: ::..::
c=correçãoea= erro aleatório
18
fato influem na sua medição. Em linguagem figurada, haveria a propagação de todos os círculos
referentes às dispersões de todas as fontes de incertezas para o mensurando.
3.1.9 Resultado de uma medição
“Valor atribuído a um mensurando obtido por medição”.
Visto que por definição é impossível o conhecimento do valor verdadeiro de um
mensurando, uma expressão completa do resultado de uma medição deve incluir sempre
informações sobre a sua incerteza de medição.
3.1.10 Erro (de medição)
“Resultado de uma medição menos o valor verdadeiro do mensurando.
Observações:
1) Uma vez que o valor verdadeiro não pode ser determinado, utiliza-se, na prática, um
valor verdadeiro convencional.
2) Quando for necessário distinguir “erro” de “erro relativo”, o primeiro é algumas vezes
denominado erro absoluto da medição. Este termo não deve ser confundido com valor
absoluto do erro, que é o módulo do erro”.
Como existe a impossibilidade do conhecimento do valor verdadeiro, o erro de qualquer
medição não pode ser completamente determinado.
19
3.1.11 Exatidão de medição
“Grau de concordância entre o resultado de uma medição e um valor verdadeiro do
mensurando.
Observações:
1) Exatidão é um conceito qualitativo;
2) O termo precisão não deve ser utilizado como exatidão”.
Apesar da exatidão ser por definição qualitativa, o seu valor pode ser semelhante a um
erro, conforme é observado na figura 4. Quanto melhor a exatidão de um resultado de medição,
menor será a sua dispersão em torno do Valor Verdadeiro (Convencional) e, conseqüentemente,
menor a sua incerteza.
3.1.12 Repetitividade (de resultados de medições)
“Grau de concordância entre os resultados de medições sucessivas de um mesmo
mensurando efetuadas sob as mesmas condições de medição”.
Observando-se o conceito e as figuras 3 e 4 pode-se concluir que a avaliação da
repetitividade poderá ser realizada em qualquer uma situações representadas pelas duas figuras.
No caso da figura 3, não é possível concluir que a melhor repetitividade induz a uma melhor
exatidão e conseqüentemente menor incerteza. Já no caso da figura 4, a conclusão sobre melhor
repetitividade, induzindo a uma melhor exatidão e conseqüentemente menor incerteza é correta.
Ou seja, uma melhor repetitividade leva à uma maior exatidão e menor incerteza, desde que o
erro sistemático da medição seja corrigido.
20
3.1.13 Reprodutibilidade (de resultados de medição)
“Grau de concordância entre os resultados das medições de um mesmo mensurando,
efetuadas sob condições variadas de medição”.
Este conceito de reprodutibilidade é mais realista do que o da repetitividade, visto que são
admitidas uma ou mais condições variadas de medição como por exemplo: equipamento,
condições ambientais, método, etc.
3.1.14 Incerteza de medição
“Parâmetro, associado ao resultado de uma medição, que caracteriza a dispersão dos
valores que podem ser fundamentadamente atribuídos a um mensurando. A incerteza de medição
é definida matematicamente como um intervalo de confiança, onde o desvio-padrão utilizado é o
desvio combinado de todas as fontes de incerteza para o mensurando”.
21
4 METODOLOGIA PROPOSTA PARA O ESTABELECIMENTO DA
CONFIABILIDADE METROLÓGICA
A incerteza de medição não valida um resultado, mesmo que este seja obtido através de um
método normalizado. Anteriormente à estimativa da incerteza de medição de um resultado, deve
ser aplicada uma metodologia para se evidenciar a sua confiabilidade metrológica.
Os conceitos estatísticos aliados à experiência técnica de quem realiza a medição se
estabelecem como uma ferramenta fundamental para o estabelecimento da metodologia que tem
por objetivo evidenciar a confiabilidade metrológica de um resultado de medição. Geralmente,
quem está iniciando o estudo de técnicas estatísticas tem dificuldades na aplicação dos inúmeros
conceitos estatísticos existentes de forma ordenada e objetiva, por exemplo, no estabelecimento
da confiabilidade metrológica de um procedimento de medição. Adicionalmente existe uma
variedade de programas estatísticos, e se o usuário não detém os conceitos estatísticos básicos, a
utilização de qualquer destes programas será prejudicada, inviabilizando a solução do problema.
Existem também algumas normas específicas que tratam em parte do assunto confiabilidade
metrológica, tais como: i) ISO 5725, partes 1 a 6, a qual aborda a análise de rejeição de dados
“outliers”, análise de variância, determinação de repetitividade e de reprodutibilidade,
planejamento de experimentos englobando, fatorial, fatorial fracionário e o hierárquico; ii) ISO
3534, que engloba todas as definições utilizadas nas análises estatísticas dos dados;. iii) ISO
13528, que trata da análise de comparações interlaboratoriais, envolvendo z-score e zeta-score.
A metodologia proposta neste trabalho para o estabelecimento da confiabilidade
metrológica de um resultado de medição é baseada principalmente nos conceitos estatísticos
básicos disponíveis para um iniciante no estudo de estatística, os quais de certa maneira estão
22
contidos nas normas estatísticas. Portanto, a seqüência da metodologia proposta nesta dissertação
para o estabelecimento da confiabilidade metrológica de um resultado de medição não se baseará
totalmente nas recomendações de algumas das normas existentes, mas fundamentalmente em
conceitos estatísticos básicos. Esta ação visa também propor um texto orientativo de uma ementa
de programa para um curso de metrologia química, de forma que o aluno ao final do curso tenha
condições de realizar, de forma orientada e objetiva, a avaliação de um conjunto de dados em
qualquer situação.
A expressão de um resultado de medição é o valor mais provável do mensurando corrigido
do erro sistemático, incluindo a sua incerteza. Então, quando se deseja validar um resultado de
medição, deve ser implementada uma metodologia estatística objetivando avaliar a
homogeneidade entre médias e entre desvios - padrão dos conjuntos de repetições das medições
que originaram o resultado da medição. O ponto inicial que se estabelece para a metodologia é
um conjunto de repetições de medições realizadas em uma amostra. A partir dos dados amostrais
se realiza a inferência sobre os parâmetros da população: a sua média ( X ) e seu desvio - padrão
( σ ). O campo da inferência estatística consiste naqueles métodos utilizados para tomar
decisões ou tirar conclusões acerca de uma população. Tomando isto como base, o conceito de
inferência estatística será apresentado e justificará a metodologia para o estabelecimento da
confiabilidade metrológica de um resultado de medição proposta nesta dissertação.
Posteriormente à apresentação desta metodologia, ela será aplicada aos dados experimentais na
avaliação da confiabilidade metrológica do resultado de medição da massa específica de uma
gasolina. A metodologia de análise proposta é retratada no esquema 2, e tem como base
conjuntos de medições com poucas repetições por amostra. A metodologia objetiva o controle da
confiabilidade metrológica do resultado de medição a cada instante e, em paralelo, visa
23
principalmente os aspectos de custos. Os resultados da aplicação desta metodologia podem
basear a reformulação, ratificação ou otimização dos limites de tolerância / especificacão de
uma determinada norma. A metodologia compõe-se das seguintes etapas de cálculo :
i) estudo da compatibilidade entre as dispersões dos conjuntos de repetições de
medições realizadas pelo laboratório, com a elaboração do gráfico de controle do
estudo dos desvios- padrão em função do tempo;
ii) estudo da distribuição dos conjuntos das repetições de medições;
iii) aplicação de critérios de rejeição de valores individuais de cada conjunto visando a
otimização de seus respectivos desvios- padrão;
iv) estudo da compatibilidade entre as médias de cada conjunto de repetições, com a
elaboração de um gráfico de controle do estudo das médias em função do tempo;
v) a partir das médias e desvios - padrão dos conjuntos sob controle, são, então,
construídas as Cartas de Controle da média e do desvio- padrão;
vi) estimativa da incerteza de medição;
vii) realização de uma Comparação Laboratorial.
Esquema 2 – Esquema para o estabelecimento da confiabilidade metrológica.
Valor do
Laboratório
VVCVVC
Operador, Método, Equipamento...
Operador, Método,Equipamento...
Operador, Método, Equipamento...
24
A eficácia de qualquer metodologia estatística estabelecida somente será ratificada após a
observação da adequação das estatísticas calculadas aos limites especificados pelas normas
referentes ao processo de medição em estudo.
Cabe ressaltar que qualquer uma das análises citadas na metodologia somente será
confiável se todas as medições evidenciarem a sua respectiva rastreabilidade metrológica. A
rastreabilidade é definida pelo VIM como: “propriedade do resultado de uma medição ou do
valor de um padrão estar relacionado a referências estabelecidas, geralmente a padrões nacionais
ou internacionais, através de uma cadeia contínua de comparações, todas tendo incertezas
estabelecidas”.
4.1 ESTUDO DA COMPATIBILIDADE ENTRE AS DISPERSÕES DOS CONJUNTOS DE
REPETIÇÕES DE MEDIÇÕES. HOMOGENEIDADE ENTRE VARIÂNCIAS
Segundo MILLER e MILLER (1986), MASSART et al. (1997) e MONTGOMERY e
RUNGER (2003), para que as variâncias de duas amostras de uma mesma população ),( 22
21 ss
sejam homogêneas entre si, a condição críticocalculado FF ≤ deve que ser satisfeita., onde Fcalculado é
definido pela equação 2;
22
21
ssFcalculado = (2)
e críticoF = valor da tabela F (Anexo A) correspondente aos graus de liberdade das variâncias das
duas amostras para um determinada probabilidade, geralmente 95%. Na equação de calculadoF a
variância do numerador sempre deverá ser maior ou igual à do denominador.
25
Ainda segundo MILLER e MILLER (1986), MASSART et al. (1997) e MONTGOMERY
e RUNGER (2003), se as variâncias de duas amostras são homogêneas ( críticocalculado FF ≤ ) e
desconhecidas, o desvio-padrão combinado delas, é definido pela equação (3).
∑
∑
=
== N
ii
N
iii
p
ss
1
2
1
2
ν
ν(3)
onde:
=ps desvio-padrão combinado das amostras;
N= número de amostras;
2is = variância do conjunto de medições de cada amostra;
νi= número de graus de liberdade do desvio-padrão de cada amostra.
Os desvios-padrão de todas as amostras estudadas estarão sob controle quando os seus
respectivos desvios-padrão combinados, a cada momento da avaliação, são constantes ao longo
do tempo.
4.2 ANÁLISE DO TIPO DE DISTRIBUIÇÃO DOS DADOS DAS AMOSTRAS
Posteriormente à realização do estudo da homogeneidade entre variâncias das amostras,
deve-se analisar o tipo de distribuição dos seus dados, objetivando a possibilidade da aplicação
dos métodos paramétricos de inferência estatísticos. Segundo TRIOLA (1999), os métodos
paramétricos de inferência estatísticos baseiam-se na amostragem de uma população com
parâmetros específicos, tais como a média, o desvio - padrão ou a proporção “P”. Para a
aplicação destes métodos paramétricos, uma das condições é que os dados amostrais provenham
26
de uma população distribuída normalmente. Em outras palavras: os testes paramétricos exigem
suposições sobre a natureza ou a forma da população envolvida. Os métodos não paramétricos,
os quais não serão tratados nesta dissertação, não dependem de tais exigências.
Existem testes qualitativos e quantitativos para analisar se um conjunto de dados de uma
amostra se comporta de acordo com uma distribuição normal. Dentre os testes qualitativos, há
três métodos gráficos que são mais comumente utilizados: i) o de probabilidade normal (normal
probability plot), ii) o da probabilidade normal positiva (half-normal probability plot) e iii) o da
probabilidade normal sem tendências (detrended normal probability plot). Objetivando evitar
qualquer avaliação qualitativa, os testes quantitativos são mais aplicados e eficientes, pois
independem de qualquer interpretação subjetiva. Estes métodos consistem em calcular uma
estatística característica de cada teste e verificar se o seu valor é significativo para uma
determinada probabilidade. Os testes quantitativos estatísticos mais usados são: i) Kolmogorov -
Smirnov, utilizado quando a média e o desvio-padrão da população são desconhecidos, sendo,
entretanto, recomendado somente para amostras maiores do que 30; ii) Lilliefors, utilizado
quando a média e o desvio- padrão da população são conhecidos; iii) Shapiro-Wilks, o teste que
pode ser aplicado em amostras cujo tamanho pode variar de 3 a 50. ROYSTON (1982) ampliou
o tamanho das amostras até 2000. Em função das limitações dos outros testes e também devido
ao tamanho de cada amostra utilizada no estudo de caso deste trabalho, o teste Shapiro-Wilks
será aplicado. A estatística do teste de Shapiro-Wilks, W, é calculada pela equação 4.
( )∑
∑
−
−⋅
== =+−+−
n
i
k
iiinin
calculado
yy
yya
SbW
1
2
2
111
2
2 )((4)
Onde:
27
i = 1,2,…n, é o tamanho da amostra ,
yi = valor da medição da amostra em análise, ordenado do menor para o maior valor;
y = valor médio da medição;
ai = coeficiente calculado por Shapiro e Wilks, e que é apresentado no Anexo B.
A tabela apresentada no Anexo C apresenta os valores críticos da estatística críticoW (pontos
percentuais do ensaios W). A condição para que o conjunto de dados da amostra se distribua
conforme uma distribuição normal é que críticocalculado WW ≥ .
As medidas de forma de uma distribuíção normal são: assimetria (skewness) ou terceiro
momento central (g1) e curtose (kurtosis) ou quarto momento central (g2). Se a distribuíção for
simétrica, os valores da média, da mediana e da moda serão iguais.
A assimetria (g1), que é o desvio da simetria de uma distribuíção, é definida pela equação
5.
31
3
1
)(
σ
µ
n
xg
n
jj∑
=
−=
(5)
Onde:
n = tamanho da amostra;
xj = valor do j-ésimo da amostra;
µ = média da distribuição;
σ = desvio-padrão da população.
Uma distribuição normal é simétrica quando 1g é igual a zero. Um distribuíção é dita
assimétrica positiva quando 1g for maior do que 1, tendo simetria negativa quando 1g igual a -1.
A medida do perfil da curva de distribuíção (achatamento/alongamento) é medida através
da estatística chamada curtose. A distribuição será mais achatada ou mais alongada dependendo
28
do valor da curtose ser negativo ou positivo, respectivamente. O cálculo dessa estatística é dado
pela equação 6.
41
4
2
)(
σ
µ
n
xg
n
jj∑
=
−=
(6)
Se a distribuíção é normal, o valor da curtose é igual a 3. Por este motivo, a equação 6
pode também ser escrita conforme equação 6a:
3)(
3 41
4
2 −−
=−∑
=
σ
µ
n
xg
n
jj (6a)
Deste modo, a curtose é zero para uma distribuíção normal. Uma distribuição não pode ser
considerada normal se a curtose for menor ou igual a +1 (mais alongada) ou -1 (mais achatada).
4.3 APLICAÇÃO DE CRITÉRIOS DE REJEIÇÃO A UM CONJUNTO DE REPETIÇÕES DE
MEDIÇÕES
Segundo NATRELA (1963), “não existe critério que seja superior ao julgamento de um
técnico experiente, que esteja familiarizado com seu processo de medição. As regras estatísticas
são principalmente para auxílio aos técnicos inexperientes, que estejam trabalhando com um
novo processo de medição ou para aqueles que simplesmente desejam justificar porque tomaram
aquela decisão”. Esta citação é bastante relevante em relação à filosofia deste trabalho porque em
nenhum momento será desprezada a experiência do técnico responsável pela análise dos dados.
MASSART et al. (1997) citam que foram comparados oito diferentes testes de rejeição para
avaliar quatro valores suspeitos numa série de vinte e uma observações. Dependendo do teste
utilizado, nenhum ou mais de quatro valores rejeitados foram detectados. Isto mostra que a
29
rejeição de dados por testes estatísticos não deverá ser realizada como uma rotina principal.
Além disso, quando um ou mais dados são rejeitados em uma amostra, deve-se averigüar o
motivo das rejeições porque isto pode significar que o método de análise não está sob controle e
que ações corretivas devem ser tomadas.
4.3.1 Critério de Dixon
A aplicação do teste de Dixon segue os seguintes passos: i) ordenar de maneira crescente
os dados da amostra; ii) observar o tamanho da amostra e identificar a respectiva estatística rij a
ser calculada de acordo com a tabela 2; iii) calcular a estatística rij para o primeiro valor (x1) e
último valor (xn) conforme a tabela 3; iv) identificar o valor de rij tabelado no Anexo D. A
condição para que cada dado testado não seja rejeitado é que )()( críticoijcalculadoij rr ≤ para uma
determinada probabilidade.
Tabela 2 – Identificação do rij calculadoTamanho da amostra
ijr3 ≤ n ≤ 7
10r8 ≤ n ≤ 10
11r11 ≤ n ≤ 13
21r14 ≤ n ≤ 25
22r
Tabela 3 – Equação do rij calculadorij xn suspeito x1 suspeitor10 (xn - xn-1) / (xn- x1) (x2 - x1) / (xn- x1)r11 (xn - xn-1) / (xn- x2) (x2 - x1) / (xn-1- x1)r21 (xn - xn-2) / (xn- x2) (x3 - x1) / (xn-1- x1)r22 (xn - xn-2) / (xn- x3) (x3 - x1) / (xn-2- x1)
30
4.3.2 Critério de Grubbs’
Segundo MASSART et al. (1997) o teste de Dixon foi originalmente recomendado pela
ISO 5725-2:1994 para ensaios interlaboratoriais. Na revisão desta norma foi dada a preferência
ao teste de Grubbs’.
Na aplicação do teste de Grubbs’ deve-se ordenar de modo crescente os dados da amostra e
calcular a estatística de Grubbs’( G ) para o primeiro (x1) e último (xn) valores. A estatística é
definida pela equação 7.
s
xxG
i −= (7)
Onde:
xi = valor testado;
x = média do conjunto de valores da amostra;
s = desvio-padrão do conjunto de valores da amostra;
A condição para que cada valor testado não seja rejeitado é que críticocalculado GG ≤ para uma
determinada probabilidade. Os valores de Gcrítico são obtidos na tabela do Anexo E.
4.4 ESTUDO DA COMPATIBILIDADE ENTRE AS MÉDIAS DAS AMOSTRAS.
O intervalo de confiança da diferença entre as médias de duas amostras é definido pela
equação 8.
31
pyx
yxp s
nnnn
tYX ⋅⋅
+⋅±− ),(ν (8)
Onde:
X e Y = médias das duas amostras;
),( pt ν = t de Student (Anexo F);
ps = desvio padrão combinado;
ν = graus de liberdade do desvio-padrão combinado;
p = probabilidade de abrangência;
xn e yn = tamanho das amostras.
É importante observar na equação 8 que a condição necessária para comparar médias de
duas amostras é que os seus respectivos desvios- padrão sejam homogêneos entre si.
A condição para que as médias X e Y sejam homogêneas entre si para uma determinada
probabilidade, geralmente 95%, é que o intervalo da diferença entre elas deva conter o zero.
Segundo MILLER e MILLER (1986), o cálculo do valor do t de Student conforme a equação 8a
:
pyx
yxp
snnnn
YXt
⋅⋅
+
−=),(ν (8a)
Neste caso, a condição para que as médias X e Y sejam homogêneas para uma
determinada probabilidade, geralmente 95%, é que críticop tt ≤),(ν .
32
As médias de todas as amostras estudadas estarão sob controle quando a média das médias
a cada momento da avaliação for constante ao longo do tempo. Todas estas etapas são realizadas
simultaneamente e paralelamente a cada momento do estudo.
4.5 CARTAS DE CONTROLE
Segundo MONTGOMERY e RUNGER (2003), as ferramentas mais utilizadas no controle
estatístico de um processo são:
• histograma;
• gráfico de Pareto;
• diagrama causa-efeito;
• diagrama de defeito – concentração;
• cartas de controle;
• diagrama de dispersão;
• folha de verificação.
As cartas de controle são as ferramentas mais eficazes para o controle estatístico do
processo. O processo está sob controle estatístico quando amostras repetidas comportam-se
como amostras aleatórias de uma distribuição de probabilidade estável. Estabelecidos os
controles das homogeneidades entre médias e entre desvios- padrão, a partir deste momento são
estabelecidos procedimentos para a elaboração das cartas de controle. Segundo NATRELA
(1963), a melhor ferramenta para detectar erros grosseiros e sistemáticos no trabalho de rotina
são as cartas de controle desenvolvidas por Shewhart em 1931. Estas cartas de controle podem
33
abordar várias características de cada amostra, tais como: a média, o desvio-padrão, a amplitude
ou a proporção de defeitos.
Os limites de controle da carta calculados são colocados como linhas em uma carta
específica. O processo está sob controle quando todos os pontos da característica estudada em
função do tempo estão dentro do intervalo definido pelos limites. Quando as cartas mostram
perda de controle, elas indicam a natureza do problema, por exemplo: tendência ou mudança
repentina na média, aumento de variabilidade, etc. Dependendo do objetivo da análise dos dados,
o tipo de carta mais indicado é apresentado na tabela 4:
Tabela 4 - Tipos de carta de controle em função do objetivo estudado (1 corresponde ao tipo de carta maisindicada; 2 corresponde ao tipo de carta menos indicada; e X significa que as cartas não são apropriadas para aquelacausa específica) –Fonte: Natrela (1963)
Objetivo Média Amplitude Desvio Padrão
Erro Grosseiro 1 2 XDesvio na média 1 X XDesvio na Variabilidade X 1 2Flutuações Suaves(tendência)
1 X X
Flutuações Repentinas(ciclo)
X 1 2
Dependendo dos tamanhos de cada amostra, existem maneiras diferentes de calcular os
limites da carta; porém, neste trabalho, serão apresentadas as cartas cujas amostras possuem
tamanhos iguais.
4.5.1 Carta de controle das médias
Os limites inferior e superior das carta de controle das médias podem ser definidos em
função da média dos desvios- padrão ou da média das amplitudes das amostras que foram
utilizadas para sua elaboração. Quando nenhum valor de referência é dado, os limites da carta de
34
controle das médias ( X ) são calculados em função do desvio- padrão médio e amplitude média
( R ) conforme a tabela 5 .
Tabela 5 – Limites de controle das cartas de controle da médiaLinha Central LimitesX X ±A1σX X ±Α2 R
Onde:
X = média das médias de todas as amostras;
σ = (σ1 + σ2 + ...+ σN) / N ;
R = (R1 + R2 + ...+ RN) / N ;
N = quantidade de amostras ;
A1 e A2 = valores da tabela obtidos no anexo G correspondente ao tamanho das amostras.
4.5.2 Carta de controle dos desvios- padrão
Os limites da carta dos desvios - padrão (σ) para pequenas amostras (n<25), quando
nenhum valor de referência é dado, são definidos conforme a tabela 6.
Tabela 6 – Limites de controle das cartas de controle do desvio-padrão.Linha Central Limites
σ Β4σ ε Β3σ
Onde:
B4 e B3 = valores da tabela obtidos no anexo G correspondentes ao tamanho das amostras.
35
4.5.3 Carta de controle das amplitudes
Os limites da carta das amplitudes (R) são definidos conforme a tabela 7 quando nenhum
valor de referência é dado.
Tabela 7 – Limites de controle das cartas de controle da amplitude.Linha Central Limites
R ∆4 R ε ∆3 ROnde:
D4 e D3 = valores da tabela, obtidos no anexo G, correspondente ao tamanho das amostras.
36
5 INCERTEZA DE MEDIÇÃO
Uma vez que o valor verdadeiro do resultado de uma medição é utópico, qualquer
resultado de uma medição será somente uma aproximação ou estimativa do valor de um
mensurando. Sendo assim, a equação completa que representará o valor de tal mensurando
deverá incluir a dúvida deste resultado, a qual é traduzida pela sua incerteza de medição. A
incerteza de medição é a indicação quantitativa da qualidade dos resultados de medição, sem a
qual os mesmos não poderiam ser comparados entre si, com os valores de referência
especificados ou com um padrão. De acordo com o contexto da globalização, primordialmente
na comercialização de produtos, é necessária a adoção de um procedimento universal para a
estimativa da incerteza dos resultados de medição, tendo em vista a necessidade da
comparabilidade entre resultados visando o intercâmbio das instituições nacionais e
internacionais em atendimento principalmente à nova era do mercado mundial.
O início da elaboração do Guia para expressão da Incerteza, foi a partir de 1977 com o
CIPM (Comité International des Poids et Mèsures) reconhecendo a ausência de um consenso
mundial sobre a equação do cálculo da incerteza de um resultado de medição. O CIPM então
solicitou ao BIPM (Bureau International des Poids et Mèsures) que tratasse o problema em
conjunto com os laboratórios nacionais de metrologia e que se fizesse uma recomendação para
uma metodologia de estimativa de incerteza de medição. Esta responsabilidade foi conferida à
ISO (International Organization for Standardization) TAG 4 (Technical Advisory Group on
Metrology 4) O TAG 4, por sua vez, estabeleceu o Working Group 3 (WG3) composto de
especialistas designados pelo BIPM, IEC (International Electrotechnical Commission), ISO e
OIML ( International Organization of Legal Metrology ), sendo, também, referendados pelo
37
presidente do TAG 4. A primeira versão do Guia para expressão da Incerteza de Medição surgiu
em 1993 como ISO/TAG4-WG3 1993. Este guia foi revisado e publicado em 1995 com o título:
”Guide to the Expression of Uncertainty in Measurement” (ISO GUM 95). Mais recentemente
no Brasil foi publicada a tradução do Guia com o seguinte título: “Guia para a Equação da
Incerteza de Medição – Terceira Edição Brasileira Guide to the Expression of Uncertainty in
Measurement – Edição Revisada (Agosto de 2003) – ABNT- INMETRO”.
A Divisão de Acreditação de Laboratórios DICLA - INMETRO, de acordo com a ABNT
NBR ISO/IEC 17025:2005, exige que os laboratórios proponentes à acreditação na Rede
Brasileira de Calibração (RBC) e na Rede Brasileira de Laboratório de Ensaios (RBLE)
apresentem as suas incertezas de acordo com o modelo recomendado pelo documento EA-4/02
(1999). Este documento apresenta uma planilha para a compilação de todas incertezas das fontes
que influem numa medição e define o conceito de melhor capacidade de medição do laboratório.
A melhor capacidade de medição expressa o nível de qualidade da medição proposto pelo
laboratório na acreditação para a prestação de serviços que o mesmo se propõe a realizar, no
âmbito da Rede Brasileira de Calibração e/ou Rede Brasileira de Laboratórios de Ensaios.
Todas as discussões apresentadas nesta dissertação se basearão nas recomendações do ISO
GUM 95, o qual é o Guia básico para todas as fontes de referência que tratam do assunto
incerteza de medição.
38
5.1 OUTRA IMPORTANTE RELEVÂNCIA DO ISO GUM 95
O ISO GUM 95 objetiva de maneira geral a harmonização da metodologia do cálculo da
estimativa da incerteza de medição. Porém, na visão do autor deste trabalho, o Guia tem sido
freqüentemente apresentado de forma bastante simplista de forma a atender somente ao requisito
da norma ABNT NBR ISO/IEC 17025:2005, sem a preocupação de mostrar as outras valiosas
aplicabilidades e interpretações do documento, que auxiliam bastante o cotidiano de um técnico
que atua na área de medição. Uma dessas aplicações é quando o Guia se estabelece como uma
ferramenta poderosa na análise e orientação da especificação da instrumentação adequada a uma
determinada tolerância de processo. Porém, geralmente este tipo de análise prévia não é realizada
e, certamente, como citado, deve ser uma das causas responsáveis pela existência de um grande
número de instrumentos no parque industrial brasileiro com bom nível de exatidão sendo
subutilizados e sucateados. Isto contribui, de certa forma, para a elevação do custo/benefício do
processo e conseqüente aumento do desperdício (COUTO, P. e MONTEIRO, L., 2000).
Com a especificação da exatidão da instrumentação adequada à tolerância do processo,
certamente será obtido um produto de qualidade e com o preço mais competitivo. Para que
ocorra a especificação da instrumentação adequada a um processo, primeiramente deve ser
conhecida a sua tolerância. A partir desta informação é estabelecido o estudo das incertezas de
medição de todas as fontes que interferem no processo, onde serão especificadas as classes de
exatidão adequadas dos instrumentos que serão utilizados no seu controle. Esta especificação
sendo realizada a partir dos conceitos estabelecidos pelo ISO GUM 95 se torna bastante
relevante, visto que o Guia é um documento universal. Um estudo deste tipo, referente ao
processo de engarrafamento do gás nitrogênio, o qual tem como grandezas básicas a temperatura,
39
a pressão e o volume, é apresentado no gráfico 2 conforme Apêndice 2. (COUTO, P. e
MONTEIRO, L., 2000).
0,0%
0,5%
1,0%
1,5%
2,0%
2,5%
3,0%
3,5%
4,0%
4,5%
5,0%
5,5%
0,00 0,50 1,00 1,50 2,00 2,50 3,00 3,50 4,00 4,50 5,00 5,50
Incerteza na Leitura de Pressão [%]
Ince
rtez
a To
tal d
o Pr
oces
so [
% ]
Ut=2%
Ut=1%
Ut=0,5%
A4 A3 A2A1 e A
B
C
D
Gráfico 2 - Incerteza total do processo em função da incerteza em pressão com a representação de uma isoterma aqual foi medida com três medidores de temperatura com diferentes exatidões.
O gráfico 2 tem como coordenadas a incerteza do processo e a incerteza da medição de
pressão. As três curvas do gráfico 2 representam a isoterma (294 K) medida com três medidores
de temperatura cujas exatidões são: 2%, 1% e 0,5% . Analisando inicialmente as três curvas do
gráfico 2, pode-se concluir pela substituição do medidor de temperatura cuja classe de exatidão é
2% por aquele que apresenta a classe de exatidão de 1%, visto que a incerteza de medição do
processo diminui sensivelmente. Porém, a substituição do medidor da classe de exatidão de 1%
pelo de 0,5% é discutível e dependerá da análise de custo/benefício porque, neste caso, a
diminuição da incerteza do processo a princípio não é significativa em relação àquela ocorrida
no caso da primeira substituição. No gráfico 2, uma análise semelhante é realizada também para
a medição da grandeza pressão. Em cada uma das curvas estão assinalados pontos que têm como
40
coordenadas a incerteza total do processo e a incerteza correspondentes dos manômetros cujas
classes de exatidão são: A4(0,1%), A3(0,25%), A2(0,5%), A1/A(1%), B(2%), C(3%) e D(5%).
Observando-se qualquer uma das três curvas conclui-se que a utilização de um manômetro de
classes intermediárias (A1 e A) no processo leva praticamente ao mesmo valor de incerteza,
quando o manômetro utilizado é da classe A4. O manômetro A4 tem uma exatidão dez vezes
melhor do que as dos manômetros de classes A1 e A. No gráfico 2 pode ser observado também
que se forem utilizados os melhores medidores de temperatura e de pressão, a incerteza do
processo não diminuirá além de 1,2%. Para que isto ocorra, deverá ocorrer a diminuição do
intervalo de tolerância na fabricação do volume interno dos cilindros que é da ordem de 1%
(COUTO, P. e MONTEIRO, L., 2000).
5.2 INTERPRETAÇÃO DO CONCEITO DA INCERTEZA DE MEDIÇÃO
Para a interpretação do conceito de incerteza de medição deve-se observar a figura 4 a qual
representa a definição de um Resultado de Uma Medição Corrigido segundo o VIM. A figura 4
mostra que o erro aleatório de uma medição, o qual é avaliado por uma medida de dispersão
(dúvida) sempre permanecerá. Conclui-se, então, que a incerteza de medição é avaliada por uma
medida de dispersão. Na figura 4 somente é representada a incerteza referente às repetições de
uma medição. A avaliação da incerteza total do mensurando é estimada pela propagação de todas
as incertezas referentes às suas fontes de entrada.
41
A avaliação da incerteza do resultado de medição pode ser exemplificado da seguinte
forma: o mensurando é sempre a saída e as suas respectivas fontes de incertezas, as entradas.
Esta explicação pode ser mostrada em um gráfico cartesiano, onde a ordenada é o mensurando e
cada abscissa é uma das fonte de entrada de incerteza. Por exemplo, na avaliação da incerteza de
medição de um mensurando ),( axfy = podem ser elaborados os gráficos 3a e 3b.
(a) (b)Gráficos 3a e 3b – Variação do mensurando y em função das grandezas de entrada x e a
Observando os gráficos 3a e 3b, verifica-se que existe uma função que define como o
mensurando varia em relação a cada fonte de entrada. Neste momento do processo de avaliação
da incerteza, há a possibilidade de se visualizar o impacto da incerteza de cada fonte na incerteza
do mensurando, uma vez que pode ser calculada a taxa de variação da incerteza do mensurando
em relação a cada fonte de entrada. Esta taxa de variação do mensurando em relação a cada fonte
de entrada denomina-se coeficiente de sensibilidade e é definida por uma derivada. O conceito
da derivada define o caráter pontual da incerteza de medição. Isto significa que a avaliação da
incerteza de medição de um instrumento é realizada ponto a ponto em toda sua faixa de escala. A
aplicação do coeficiente de sensibilidade permite a conversão da unidade da fonte de entrada
para a do mensurando levando-se em conta também que trata do efeito de ponderação. Por
aiai ∆+
ai∆
ai axixi ∆+
xi∆
y∆
xi
y
x
y
1y∆
42
exemplo, numa titulação, o mensurando é a concentração desconhecida de uma solução, a qual é
definida pela seguinte equação:
VNVN
′=′ (9)
onde:
=′N concentração da solução desconhecida;
=N concentração da solução padrão;
=V volume de solução padrão utilizada;
=′V volume da solução desconhecida utilizada.
O coeficiente de sensibilidade da incerteza da concentração N’ em relação à incerteza da
concentração N é definido pela equação 10.
VV
NN
′=
∂′∂ (10)
Neste caso, as unidades do mensurando e da fonte de entrada são as mesmas. Se as
concentrações das soluções desconhecida e padrão são diferentes, o coeficiente de sensibilidade
não será igual a um. Isto mostra que o coeficiente de sensibilidade, além de atuar como
conversor de unidades, é também um fator de ponderação.
Também há casos em que a fonte de entrada não é uma grandeza de base para o cálculo do
mensurando. Por exemplo a medição de viscosidade utilizando-se um reoviscosímetro de
Höppler é definida pela equação 11 ( MOITA NETO, J. e MARINHO, L. A.).
vktP ⋅⋅=η (11)onde:
idadevis cos=η (cP);
43
tempot = (s);
tocisalhamendetensãoP = (gf/cm²);
=vk constante do viscosímetro.
A temperatura é uma grandeza que tem influência relevante na viscosidade. Entretanto, ela
não é contemplada na equação 11 que define a medição da viscosidade pelo reoviscosímetro de
Höppler. Neste caso, para se determinar o coeficiente de sensibilidade da viscosidade em relação
à temperatura, deve-se elaborar um experimento que, de alguma forma, retrate a variação da
viscosidade em relação à temperatura. Um estudo deste tipo é apresentado no gráfico 4, o qual
retrata a variação da viscosidade do Líquido da Castanha de Caju em função da temperatura ,
para a tensão de cisalhamento de 10 gf/cm² ( MOITA NETO, J. e MARINHO, L. A.).
Viscosidade em Função da Temperatura(10gf/cm²)
Viscos(cP) = -64,3*Temp(’C) + 2393R2 = 0,9757
0200400600800
100012001400
0 5 10 15 20 25 30 35
Temperatura (’C)
Visc
osid
ade
(cP)
Gráfico 4 – Variação da viscosidade do Líquido de Castanha de Cajú com a temperatura para a tensão decisalhamento de 10 gf/cm² (Adaptação de MOITA NETO, J. e MARINHO, L. A.)
Desta forma, define-se um polinômio para retratar a variação da viscosidade em função da
temperatura e a sua derivada representa o coeficiente de sensibilidade da viscosidade em relação
à temperatura.
44
5.3 PASSOS PARA A ESTIMATIVA DA INCERTEZA DE MEDIÇÃO
A metodologia do ISO GUM 95 pode ser resumida nos seguintes passos principais: 1)
definição do mensurando; 2) elaboração do diagrama causa–efeito; 3) estimativas das incertezas
das fontes de entrada; 4) cálculo dos coeficientes de sensibilidade; 5) cálculo das componentes
de incerteza; 6) combinação das componentes; 7) cálculo dos graus de liberdade efetivo; 8)
determinação do fator de abrangência; 9) estimativa da incerteza expandida. Dentre estas etapas,
a mais importante é a definição do mensurando. Uma boa fundamentação do mensurando
certamente possibilitará a elaboração de um diagrama causa-efeito adequado e,
conseqüentemente, uma estimativa da incerteza mais realista, a qual contemplará todas as fontes
que impactam no mensurando. Na implementação desta metodologia deve-se interpretar e
avaliar os valores gerados a cada passo para que a estimativa da incerteza de medição não se
torne apenas um simples cálculo ou uma atividade para atender o requisito respectivo da norma
ABNT NBR ISO/IEC 17025:2005. A metodologia de cálculo estabelecida desta forma
possibilita ao técnico identificar rapidamente as fontes de incerteza que são preponderantes em
qualquer instante no processo de estimativa da incerteza geral. Por exemplo no
EURACHEM/CITAC GUIDE, a concentração de uma solução padrão (0,1 M) de Ftalato
Hidrogênio de Potássio (KHP) é calculada pela equação 12.
)/()()(
)/()(
)()(
molgFlVPgm
lmolCKHPf
KHPKHPKHP ×
×=
(12)
Onde os dados citados pelo EURACHEM/CITAC GUIDE são:
CKHP = Concentração do KHP (mol /l);
45
mKHP = Massa do KHP medida (5,105 g);
FKHP = Massa molecular do KHP (204,2236 g/mol);
PKHP = Pureza do KHP ( 99,9 %);
Vf = Volume total do frasco (0,25 l) utilizado na preparação da solução.
Segundo EURACHEM/CITAC GUIDE, os dados das grandezas de entrada e respetivas
fontes de incerteza são:
- Massa
i) o laboratório mostra através de gráfico de controle que para pesagens até 50 g o
desvio padrão é 0,07 mg;
ii) o peso padrão utilizado na pesagem tem incerteza de 0,02 mg para 95% de
confiança;
iii) a resolução da balança utilizada na pesagem é 0,1 mg com 95% de confiança.
- Volume
iv) a incerteza estabelecida pelo fabricante para o frasco de 0,25 l é 0,15 ml;
v) uma série de 10 enchimentos de um frasco de 0,25 l apresentou o desvio-padrão de
0,012 ml;
vi) a variação da temperatura no momento da preparação da solução é ± 3 oC (95%)
em relação a temperatura de calibração do frasco;
vii) o coeficiente de expansão volumétrica do frasco é desprezível em relação ao da
solução (αsolução = αH2O = 2,1 x 10-4 / oC).
46
- Massa Molecular
viii) A fórmula molecular do KHP é C8H5O4K e a tabela 8 da IUPAC/ Journal of Pure
and Applied Chemistry apresenta de pesos atômicos incluindo as estimativas de
incerteza dos elementos.
Tabela 8- Pesos atômicos e estimativas de incerteza dos elementos (Referência IUPAC/ Journal of Pure and AppliedChemistry ).
Elemento Peso Atômico (g/mol) Incerteza (g/mol)C 12,011 0,001H 1,00794 0,00007O 15,9994 0,0003K 39,0983 0,0001
- Pureza
ix) A pureza do KHP (PKHP) é 99,9 ± 0,1% .
Os gráficos 5, 6 e 7 apresentam uma forma gráfica da avaliação da incerteza das fontes de
incerteza de cada grandeza de entrada que define a concentração da solução-padrão de KHP,
conforme as condições de contorno citadas anteriormente.
Gráfico 5 – Balanço das incertezas de massa
0 0,01 0,02 0,03 0,04 0,05 0,06 0,07 0,08 0,09 0,1
u1m (Resolução)
u2m (Peso Padrão)
u3m (Graf Controle)
um
Font
es d
e In
cert
eza
Incerteza [mg]
47
Gráfico 6 – Balanço das incertezas de Volume
Gráfico 7 – Balanço das incertezas da massa molecular
Observando-se o gráfico 5 verifica-se que a fonte preponderante na incerteza da grandeza
massa (um) é aquela referente à metodologia de medição a qual é retratada pelo gráfico de
controle. Se o processo necessitar que a incerteza da concentração da solução padrão de KHP
melhore, sendo a incerteza referente à grandeza massa é predominante na incerteza da
0 0,02 0,04 0,06 0,08 0,1 0,12 0,14
u1v (Repetição)
u2v (Decl Fabricante)
u3v (Temperatura)
u4v(Coef DilatVolumétrica)
uv
Font
es d
e In
cert
eza
Incertezas [ml]
0,E+00 5,E-04 1,E-03 2,E-03 2,E-03 3,E-03 3,E-03 4,E-03 4,E-03 5,E-03 5,E-03
uC8
uH5
uO4
uK
Font
es d
e in
cert
eza
Incerteza (g/mol)
48
concentração, a prioridade de melhoria de incerteza das fontes seria: a metodologia de medição,
a balança e o padrão utilizado na medição. Certamente não ocorrendo este tipo de avaliação
gráfica a primeira solução seria a aquisição de uma balança de melhor qualidade metrológica.
Realizando-se estudo semelhante a partir do gráfico 6 na avaliação das fontes de incerteza
em volume, conclui-se que a prioridade de melhoria de incerteza das fontes é: declaração do
fabricante, temperatura, repetição e o coeficiente de dilatação volumétrica.
Avaliando-se o gráfico 7, conclui-se que a prioridade de melhoria de incerteza das fontes é
aquela referente ao elemento carbono, porque as incertezas referentes aos outros elementos são
menores.
Esta forma de cálculo possibilita avaliar e definir a qualquer momento quais as fontes de
incerteza tais como: exatidão da instrumentação, metodologia de medição, condições ambientais,
etc. Estes devem ter a prioridade de redução de sua incerteza em função da necessidade de
otimização da tolerância do respectivo processo.
5.4 ESTIMATIVA DA INCERTEZA DE MEDIÇÃO CONFORME ISO GUM 95
5.4.1 Definição do mensurando
Geralmente o mensurando não é medido diretamente, mas determinado a partir de “n”
grandezas de entrada, através de uma relação funcional, conforme equação 13,
y f x x xn= ( , ,.., )1 2 (13)
onde x x xn1 2, ,.., são as grandezas cujos valores e respectivas incertezas são diretamente
determinados durante a medição, como por exemplo: temperatura ambiente, pressão barométrica,
umidade, etc. Existem também outras grandezas cujos valores e incertezas provêm de fontes
49
externas para a medição, tais como: certificados de padrões, materiais de referência, valores de
referência na literatura, etc.
Por exemplo, a medição de uma força F (mensurando), originada a partir de uma massa m
sob a ação da aceleração da gravidade local lg é definida pela equação 14:
lgmF ⋅= (14)
5.4.2 Diagrama causa - efeito
Após a definição da equação do mensurando, um diagrama causa - efeito bem elaborado
torna-se uma ferramenta bastante importante. O esquema 3 apresenta o diagrama causa - efeito
para a estimativa da incerteza de medição de uma Força com as seguintes condições de contorno:
i) o valor da grandeza massa foi obtido a partir de uma média de 10 leituras e cada repetição do
valor de massa foi medido por uma balança contendo um certificado de calibração; ii) a
aceleração da gravidade local apresenta um resultado de medição.
Certificado
m
F
gl
Certificado
Repetição
Esquema 3 – Diagrama causa - efeito da medição de uma força.
50
No diagrama causa - efeito são identificadas todas as fontes de incerteza que definem a
incerteza do mensurando.
5.4.3 Avaliação das incertezas - padrão
As incertezas - padrão de cada fonte de entrada, u(xi), são estimadas em função do modo
que a fonte de entrada aparece para definir o mensurando.
5.4.3.1 Avaliação Tipo A da incerteza - padrão.
A avaliação tipo A da incerteza - padrão é intrínseca ao processo de medição e é realizada
através de um tratamento estatístico do conjunto de repetições das observações de ix . Quando
são executadas repetições das medições da grandeza de entrada ix sob condições de
repetitividade uma das avaliações Tipo A da incerteza - padrão é :
nxs
xu ii
)()( =
(15)
onde:
)( ixs = desvio - padrão dos valores individuais do conjunto de repetições;
n= número de repetições do conjunto.
5.4.3.2 Avaliação Tipo B da incerteza - padrão
Quando a avaliação da incerteza da fonte de entrada é realizada por um método diferente
do estatístico, a avaliação da incerteza - padrão é denominada do tipo B. Uma das estimativas da
51
incerteza - padrão Tipo B, u(xi ), é realizada quando os valores de ix têm uma determinada
distribuição assumida e um intervalo de dispersão. As distribuições normalmente enfocadas são a
retangular, a triangular, a normal, etc. Assumindo-se que a variação de ix tenha distribuição
retangular num intervalo simétrico “(±a)”, a estimativa da incerteza - padrão neste caso é
definida pela equação 16.
3)( axu i =
(16)
Assumindo-se que ix tenha agora uma distribuição triangular num intervalo “(±a)”, a
estimativa da incerteza - padrão é definida pela equação 17.
6)( axu i =
(17)
Quando a incerteza de uma fonte de entrada ix provém de um certificado de calibração
com as informações da probabilidade e do fator de abrangência ( k ), a estimativa da incerteza -
padrão é definida pela equação 18.
kUxu i =)(
(18)
onde “U” é a incerteza expandida e “k” o coeficiente de abrangência declarados no certificado de
calibração da respectiva fonte de entrada.
52
5.4.3.3 Incertezas correlacionadas e não correlacionadas
A obtenção de um volume total de 40 ml a partir de pipetas cujo volume nominal é 20 ml
pode ser realizada de duas formas: 1) utilizando-se duas pipetas de 20 ml; ou 2) com uma mesma
pipeta de 20 ml. No primeiro caso, as incertezas das pipetas não apresentam correlação. Porém
no segundo caso é estabelecida uma correlação entre as incertezas das fontes de entrada.
5.4.3.4 Cálculo dos coeficientes de sensibilidade
Estimadas as incertezas das fontes de entrada, é necessário definir os coeficientes de
sensibilidade do mensurando em relação a cada fonte de entrada. O coeficiente de sensibilidade
do mensurando y em relação a uma determinada grandeza de entrada ix é definido como:
ii x
y=c∂∂ (19)
O coeficiente de sensibilidade estima a variação do mensurando em relação a qualquer
variação de uma dada fonte de entrada. No caso de não ocorrer uma relação direta entre o
mensurando com alguma fonte de entrada é necessário realizar um experimento para se
determinar qual é a variação do mensurando em relação a essa dada fonte de entrada.
53
5.4.3.5 Componentes de incerteza
Com a estimação das incertezas - padrão das fontes de entrada do mensurando e os seus
coeficientes de sensibilidade calculados, cada respectiva componente de incerteza na unidade do
mensurando pode ser avaliada pela seguinte equação:
)()()( ixii
x xucxuxyyu
ii=
∂∂
=(20)
onde:
)(yuix = componente de incerteza na unidade do mensurado referente à fonte xi;
ixc = coeficiente de sensibilidade referente à fonte xi;
)( ixu = incerteza referente à fonte xi.
Nesta etapa da metodologia de cálculo é possível avaliar de forma mais objetiva o impacto
da incerteza de cada fonte de entrada na incerteza combinada do mensurando. A interpretação
desta etapa do ISO GUM 95 é muito importante porque neste momento o documento se
estabelece como uma ferramenta robusta para definir de forma orientada e objetiva as
prioridades e a exatidão necessárias de qualquer de suas fontes; além disso, há a necessidade de
otimização dos limites de tolerância do respectivo processo. Uma análise deste tipo é
apresentada na tabela 9 em conjunto com o gráfico 8 referentes às componentes de incerteza da
medição de uma força conforme Apêndice 4.
Tabela 9 – Fontes de incerteza na medição de uma força, apresentadas no gráfico 8Fonte Valor (N) %
um1(F) 9,30341E-05 41um2(F) 4,90333E-05 11,4ua(F) 1,00E-04 47,6uc(F) 1,45E-04 100
54
Gráfico 8 – Balanço da incertezas na medição de uma força.
Os valores citados na tabela 9 são:
um1(F) = Incerteza em força referente às repetições das medições de massa,
um2(F) = Incerteza em força referente ao certificado da balança utilizada,
ua(F) = Incerteza em força referente ao certificado de medição da aceleração,
uc(F) = Incerteza combinada da força.
Observa-se na tabela 9 e no gráfico 8, neste caso, que as maiores contribuições de
incertezas provêm das fontes referentes à aceleração da gravidade e às repetições das medições
de massa. Isto significa que se houver a necessidade da melhoria da incerteza de medição da
força, ao se enfocar a grandeza massa, a solução prioritária não seria comprar uma balança de
melhor qualidade metrológica e sim rever a metodologia de medição da massa. No caso de
combinação de incertezas, qualquer cálculo relativo deve ser realizado com o valores elevados ao
Font
es d
e in
cert
eza
Incerteza (N)
55
quadrado. As componentes de incerteza da massa referentes à repetição das medições e à
resolução da balança equivalem a 41% e 11,4 % da incerteza combinada, respectivamente.
Certamente, uma decisão tomada sem a realização desta avaliação seria a compra de uma
balança de melhor qualidade metrológica contudo sem a melhoria desejada da incerteza de
medição da força.
5.4.3.6 Cálculo da incerteza - padrão combinada
A estimativa da incerteza padrão - combinada, )(yuc , é obtida a partir da combinação das
incertezas - padrão, )(yuxi , de cada uma das fontes de entrada ix . O ISO GUM 95 estabelece
duas equações para a combinação de incertezas: uma para incertezas não correlacionadas e outra
para quando há correlação entre as incertezas.
5.4.3.6.1 Incerteza combinada de fontes de entrada não correlacionadas
Estimadas as incertezas - padrão das fontes de entrada, )u(xi , e seus respectivos
coeficientes de sensibilidade ( ic ), quando as incertezas - padrão das fontes de entrada não são
correlacionadas, a incerteza - padrão combinada uc (y) do mensurando é calculada pela equação
21.
∑=
⋅
∂∂
=N
ii
ic xu
xfyu
1
2
)()( (21)
56
5.4.3.6.2 Incertezas das grandezas de entrada correlacionadas
Quando as incertezas das fontes de entrada são correlacionadas, a incerteza - padrão
combinada uc(y) do mensurando é estimada pela equação 22,
)x,xu(xf
xf+)(xu
xf=)x,xu(
xf
xf=(y)u ji
j
N
=i
N
+i=j ii
N
=i iji
j
N
=i
N
=j ic ∂
∂∂∂
∂∂
∂∂
∂∂ ∑ ∑∑∑∑
−1
1 1
2
1
2
1 1
2 2 (22)
onde:
)x,xu(=)x,xu( ijji é a covariância estimada associada com ix e jx .
A equação 22 pode ser reescrita, equação 22A, a qual é estabelecida em termos de
coeficientes de correlação que são mais prontamente interpretados do que covariâncias:
)x,)r(x)u(xu(xxf
xf+)(xu
xf=(y)u jiji
j
N
=i
N
+i=j ii
N
=i ic ∂
∂∂∂
∂∂ ∑ ∑∑
−1
1 1
2
1
22 2 (22A)
onde o coeficiente de correlação é definido pela equação 23,
))u(xu(x)x,u(x
=)x,r(xji
jiji
(23)
considerando-se ainda:
)x,r(x=)x,r(x ijji e 11 +)x,r(x ji ≤≤−
Se as incertezas das fontes de entrada são cem por cento correlacionadas, 1=)x,r(x ji ; desta
forma a equação 22A pode ser reescrita conforme a equação 24.
))u(xu(xcc+)(xuc+)(xuc=(y)u jijxixjjxixc i.2.22 222 (24)
57
Denominando : 222 a=)(xuc iix e 222 b=)(xuc jjx , a equação 24 fica:
2222 2 b)+(a=ab+b+a=(y)uc(24A)
Conclui-se então pela equação 24A que quando as incertezas das fontes de entrada são cem
por cento correlacionadas ( r=1 ) a incerteza - padrão combinada será a soma linear delas, duas a
duas.
5.4.3.7 Determinação dos graus de liberdade
O número de graus de liberdade efetivos da incerteza - padrão combinada de um
mensurando é calculado pela equação de Welch Sattethrwaite, equação 25,
( )∑∑ ⋅N
i= i
ii
cN
i= i
i
ceff
νc)u(x
(y)u=
ν(y)u
(y)u=ν
1
4
4
1
4
4
(25)
onde:
N = número de fontes de entrada;
=νi respectivos graus de liberdade das fontes de entrada;
(y)ui = incerteza - padrão da fonte de entrada na unidade do mensurando;
=)xu( i incerteza - padrão da fonte de entrada;
=ci coeficiente de sensibilidade referente a cada fonte de entrada.
O número de graus de liberdade é um número inteiro. Sempre que houver números decimais no
valor dos graus de liberdade efetivos, somente a parte inteira do número deve ser considerada. O
número de graus de liberdade de uma incerteza - padrão tipo B é considerado infinito.
58
5.4.3.8 Determinação do coeficiente de abrangência
O fator de abrangência (“ k”) é definido a partir da distribuição t de Student (Anexo F) e o
mesmo depende da probabilidade de abrangência, geralmente de 95,45%, e dos graus de
liberdade efetivos da incerteza - padrão combinada (y)uc do mensurando.
5.4.3.9 Estimativa da incerteza expandida
Eventualmente, a incerteza - padrão combinada (y)uc pode ser utilizada para expressar a
incerteza em um resultado de medição. Porém, em algumas aplicações comerciais, industriais,
regulamentares e quando a segurança e a saúde estão em foco, se faz necessária a declaração de
uma incerteza que defina um intervalo em torno do resultado de medição. Espera-se que este
intervalo englobe uma grande porção da distribuição de valores que podem razoavelmente ser
atribuídos ao mensurando. A incerteza expandida U, para uma determinada probabilidade de
abrangência p , é estimada pela equação 26.
)();( yukU cp ⋅= ν (26)
5.5 METODOLOGIAS ALTERNATIVAS DE CÁLCULO DA ESTIMATIVA DE
INCERTEZA
O EURACHEM/CITAC - 2000, documento baseado no ISO GUM 95, apresenta também
duas outras formas alternativas para a combinação das incertezas - padrão das fontes de entrada .
Estas duas metodologias de cálculo seguem todas as etapas da metodologia tradicional do ISO
59
GUM 95, exceto aquela na qual se calculam os coeficientes de sensibilidade do mensurando em
relação a cada fonte de entrada .
5.5.1 Simulação numérica
O método de simulação numérica é descrito da seguinte forma: suponha-se que o
mensurando W seja definido pela equação 27.
zyxW ⋅
= (27)
As incertezas ux ,uy e uz referentes às fontes de entrada x, y e z são estimadas conforme
itens 5.4.3.1 e 5.4.3.2 desta dissertação. Cada novo cálculo do mensurando é realizado
impactando cada grandeza de entrada com a sua respectiva incerteza, conforme as equações 27A,
27B e 27C.
zyux
W xx
⋅+=
)( (27A)
zuyx
W yy
)( +⋅=
(27B)
zz uz
yxW+⋅
=(27C)
O valor original W do mensurando varia para Wi, devido à aplicação da incerteza ui na sua
respectiva fonte de entrada. Deste modo, a componente de incerteza de cada fonte de entrada na
unidade do mensurando W é definida pela diferença WWi − . A incerteza combinada do
mensurando W é então definida conforme itens 5.4.3.6.1 ou 5.4.3.6.2 desta literatura, se as
incertezas das grandezas de entrada não são ou são correlacionadas, respectivamente.
60
5.5.2 Combinação das incertezas relativas
O método de combinação de incertezas relativas é definido da seguinte forma: suponha-se
que o mesmo mensurando da equação 27, e as incertezas ux ,uy e uz, referentes às fontes de
entrada x, y e z, são estimadas da mesma forma que nos itens 5.4.3.1 e 5.4.3.2 desta dissertação.
As incertezas relativas para cada fonte são obtidas pela fração:
iui
A incerteza relativa combinada WuW do mensurando W é então definida conforme itens
5.4.3.6.1 ou 5.4.3.6.2 deste trabalho, se as incertezas das grandezas de entrada não são ou são
correlacionadas, respectivamente.
5.6 EQUAÇÃO NUMÉRICA DOS RESULTADOS DE MEDIÇÃO
O resultado da medição do mensurando deverá ser declarado como U±y complementado
com as informações sobre a probabilidade e o fator de abrangência “ k”.
A incerteza expandida é um intervalo bilateral que pode ser expresso em termos da unidade
do mensurando ou também de forma relativa (%, ppm, ppb, etc.). O valor da incerteza deverá ser
declarado no máximo com dois algarismos significativos definindo a respectiva resolução. Por
sua vez, a resolução da incerteza define a resolução do valor mais provável do mensurando. No
caso de arredondamento do valor da incerteza de medição, o mesmo deverá sempre ocorrer para
o dígito imediatamente superior ao dígito arredondado.
61
5.7 LIMITAÇÕES DO GUIA
Conforme HERRADOR, GONZÁLEZ, 2004, o ISO GUM 95 apresenta algumas
limitações tais como:
• linearização do modelo;
• suposição da normalidade do mensurando ;
• cálculo dos graus de liberdade efetivos.
5.7.1 Linearização do modelo
No princípio de propagação das incertezas aplicado, item 5.4.3.6, que trata do cálculo da
incerteza combinada, a expansão da série de Taylor é truncada até os termos de primeira ordem.
Esta aproximação linear em alguns casos pode necessitar de termos de mais alta ordem.
5.7.2 Suposição da normalidade do mensurando
De acordo com a recomendação do Guia, é prática comum de análise rotineira na
estimativa da incerteza expandida considerar a distribuição do resultado como sendo normal A
incerteza expandida U(y) é estimada como o produto do fator de abrangência k e a incerteza
combinada uc(y), sendo assemelhada à variável normal (z-score). Assim é muito comum
descobrir declaração de incertezas obtidas utilizando um fator de abrangência k=2, o qual
corresponde a uma probabilidade de abrangência de 95,45% .
62
5.7.3 Cálculo dos graus de liberdade efetivos
Segundo COX, HARRIS, 2003, o cálculo do número dos graus de liberdade efetivos
utilizando a equação Welch Sattethrwaite é ainda um problema insolúvel, porque as incertezas
tipo B geralmente contribuem com um infinito número de graus de liberdade.
63
6 SIMULAÇÃO DE MONTE CARLO
De modo a superar as limitações do ISO GUM 95, a simulação de Monte Carlo pode ser
aplicada para a avaliação da incerteza de medição.
Segundo HERRADOR, GONZÁLEZ, 2004, o método de Monte Carlo é um procedimento
numérico para a solução de problemas matemáticos por meio da simulação de variáveis
aleatórias.
A análise de Monte Carlo é uma ferramenta para combinar distribuições; deste modo,
significa muito mais do que simplesmente propagar incertezas estatísticas. A técnica de Monte
Carlo utiliza a geração de números aleatórios para a simular os valores de variáveis aleatórias, o
que é melhor do que os cálculos analíticos, sendo atualmente bastante popular devido à alta
velocidade dos computadores pessoais.
6.1 INCERTEZA DE MEDIÇÃO PELO MÉTODO DE MONTE CARLO
O método de Monte Carlo para a estimativa de incerteza de medição, como no ISO GUM
95, pode ser resumido nos seguintes passos principais:
• definição do mensurando;
• elaboração do diagrama causa – efeito;
• estimativas das incertezas das fontes de entrada;
• identificação da funções densidade de probabilidade, correspondentes a cada fonte de
entrada;
• seleção do número de iterações de Monte Carlo;
64
• escolha da função densidade de probabilidade p(xi);
• estimativa da incerteza expandida.
Quando o valor de skewness (simetria) da distribuíção discreta prevista de y está próximo
de zero, o intervalo de confiança torna-se simétrico e a incerteza expandida U(y) pode ser
aproximada pela equação 28.
[ ]2
2/12/1 p)M(p)M+( yy=U(y) −− (28)
65
7 COMPATIBILIDADE ENTRE RESULTADOS DE MEDIÇÃO
O erro normalizado é um dos critérios de análise da compatibilidade entre resultados de
medição, permitindo decidir se dois ou mais resultados de medição têm a mesma qualidade;
conseqüentemente, conduzem à mesma decisão quanto ao “valor verdadeiro do mensurando”. A
aplicação deste critério auxilia na análise de comparações interlaboratoriais. O erro normalizado
é definido pela equação 29:
| |22reflab
reflabn
U+U
yy=E
−(29)
onde:
laby = valor medido pelo laboratório;
refy = valor medido pelo laboratório de referência;
labU = incerteza expandida do laboratório;
refU = incerteza expandida do laboratório de referência.
A condição para que exista a compatibilidade entre dois ou mais resultados de medição é
que o erro normalizado ( En ) seja menor ou igual a um.
7.1 INCERTEZA DE MEDIÇÃO E LIMITES DE TOLERÂNCIA DE UMA NORMA
Freqüentemente existe a necessidade de uma declaração da conformidade de um resultado
de medição a uma determinada especificação/tolerância de norma. É necessário comparar o
intervalo da incerteza com o da tolerância antes de declarar algo sobre a conformidade do
resultado de medição aos limites de uma especificação/tolerância. No gráfico 9, são apresentados
66
intervalos verticais numerados de I a IX representando nove resultados de medição e também os
limites de especificação inferior (LIE) e superior (LSE).
Gráfico 9 – Incerteza em relação ao limite de Tolerância (Especificação): resultados I, II e VII compatíveis ;resultados IV, V, VIII, e IX duvidosos; resultados III e VI incompatíveis com a tolerância.
De acordo com o gráfico 9, os resultados de medição III e VI representam não -
conformidade absoluta. Os resultados IV, V, VIII e IX não podem ser vistos como aprovados ou
não - conformes, não são conclusivos. O resultados de medição I, II e VII representam
conformidade incontestável. Para limitar o número de resultados não conclusivos, os
equipamentos de ensaio deverão ser escolhidos tal que a sua exatidão seja pequena quando
comparada aos limites de especificação; porém, nesta especificação, não se pode deixar de
analisar o aspecto custo - benefício.
I
II
IIIIV
V
VI
VII
VIII
IX
LSE
LIE
67
8 RESULTADOS E DISCUSSÕES
8.1 MEDIÇÃO DA MASSA ESPECÍFICA DA GASOLINA
Foi realizado um estudo preliminar da variação da massa específica de uma gasolina em
função do tempo, para o estabelecimento do plano de amostragem dos dados experimentais
utilizados nesta dissertação. Neste estudo, três operadores, durante o período de três dias,
realizaram cinco repetições diárias das medições da massa específica de uma amostra de gasolina
de acordo com a norma ASTM D 1298 –05. Os dados destas medições preliminares são
apresentados na tabela 10.
Tabela 10- Resultados preliminares da massa específica (g/cm³) da amostra a 20°C.PRIMEIRO DIA
Medições Operador1 operador2 operador31 0,7426 0,7426 0,74262 0,7426 0,7426 0,74263 0,7427 0,7426 0,74274 0,7427 0,7427 0,74275 0,7427 0,7428 0,7427
Média 0,7427 0,7427 0,7427Desvio-Padrão 0,000055 0,000089 0,000055
SEGUNDO DIAMedições Operador1 operador2 operador3
1 0,7430 0,7430 0,74302 0,7430 0,7432 0,74303 0,7431 0,7431 0,74314 0,7434 0,7433 0,74325 0,7432 0,7433 0,7433
Média 0,7431 0,7432 0,7431Desvio-Padrão 0,00017 0,00013 0,00013
TERCEIRO DIAMedições Operador1 operador2 operador3
1 0,7433 0,7433 0,74332 0,7433 0,7434 0,74343 0,7434 0,7435 0,74344 0,7434 0,7435 0,74345 0,7436 0,7436 0,7435
Média 0,7434 0,7435 0,7434Desvio-Padrão 0,00012 0,00011 0,00007
68
A avaliação dos dados preliminares apresentados na tabela 11 evidenciou que os desvios -
padrão diários e as médias diárias de cada conjunto dos resultados preliminares são homogêneos
entre si, para uma probabilidade de abrangência de 95%, visto que as condições críticocalculado FF ≤
e criticocalculado tt ⟨ são atendidas, respectivamente.
Tabela 11- Fcalculado, Fcrítico, tcalculado e tcrítico para avaliação dos desvios - padrão e médias diárias dos resultadospreliminares da massa específica da amostra a 20°C.
Dia Fcalculado Fcrítico tcalculado tcrítico
1 2,67 6,39 0,90 2,182 1,65 6,39 0,89 2,183 3,00 6,39 1,50 2,18
Porém a tabela 12 mostra que os desvios - padrão combinados diários não são
homogêneos entre si para uma probabilidade de abrangência de 95%, visto que neste caso a
condição críticocalculado FF ≤ não é atendida; conseqüentemente, o cálculo do desvio - padrão
combinado (sp) não pode ser efetuado.
Tabela 12- Fcalculado e Fcrítico para avaliação dos desvios - padrão combinado diários dos resultados preliminaresda massa específica da amostra a 20°C.
Dia sp Fcal(12;12;95%) Ftab(12;12;95%)1 0,0000682 0,000145 4,49 2,623 0,000102
Deste modo não é possível a realização da comparação das médias diárias, porque uma das
variáveis das equações 8 e 8a é o desvio padrão combinado dos conjuntos.
A causa da diferença entre desvios padrão combinados diários foi porque utilizou-se
somente uma amostra, onde ocorreram freqüentes manipulações para as séries de repetições das
medições realizadas. Em conseqüência deste fato a amostra teve perdas de frações leves,
originando ao longo de oito dias uma variação na massa específica de aproximadamente 0,1% .
69
Esta variação da massa especifica da amostra que é apresentada no gráfico 10, sugeriu a
reestruturação do plano de amostragem proposto inicialmente.
Gráfico 10 – Estudos preliminares da variação da massa específica de uma amostra com o tempo.
Em função da variação em função do tempo da massa específica de uma amostra; uma
mistura de várias gasolinas foi distribuída em 18 frascos de um litro identificados com o nome de
cada operador e posteriormente acondicionados numa geladeira. As dezoito amostras foram
distribuídas igualmente para três técnicos de laboratório. Cada técnico realizou diariamente três
medições de massa específica por amostra durante o período de seis dias; objetivando atenuar
problemas de manipulação cada amostra era descartada após uma série de três medições. Os
técnicos que realizaram as medições receberam treinamento na metodologia de estabelecimento
da confiabilidade metrológica de um resultado. O resultado de medição da massa específica de
cada amostra foi obtido utilizando-se um densímetro e um termômetro calibrados, seguindo
rigorosamente as recomendações da norma ASTM D 1298 -05. As medições foram realizadas no
LABCOM - Laboratório de Combustíveis e Derivados de Petróleo da Escola de Química da
0,7427
0,7431
0,7434
0,7426
0,7427
0,7428
0,7429
0,7430
0,7431
0,7432
0,7433
0,7434
0,7435
16/10/05 17/10/05 18/10/05 19/10/05 20/10/05 21/10/05 22/10/05 23/10/05 24/10/05 25/10/05 26/10/05
Data
Mas
sa E
spec
ífica
(g/c
m³)
70
Universidade Federal do Rio de Janeiro. Objetivando fatores bem similares de correção da massa
específica de cada amostra para a temperatura nominal para 20oC, todas as medições foram
realizadas à temperatura de 18±0,5oC. Esta ação objetivou que todas as medições de cada
operador fossem obtidas respeitando-se, da melhor forma possível, as condições de
repetitividade, de modo a possibilitar a utilização da metodologia de implantação da
confiabilidade metrológica proposta nesta dissertação . As correções dos valores medidos da
massa específica a 18±0,5oC para a temperatura de 20°C foram realizadas de acordo com as
recomendações das Tabelas de Correção das Densidades e dos Volumes dos Produtos de
Petróleo, 1970. Aos resultados experimentais obtidos, serão aplicadas todas as etapas da
metodologia proposta nessa dissertação para a validação e estabelecimento da respectiva
confiabilidade metrológica do resultado de medição da massa específica da gasolina, levando-se
em conta os limites de tolerância da norma ASTM D 1298 -05. Após esta etapa será estimada a
incerteza de medição seguindo as recomendações do Guia para a Expressão da Incerteza de
Medição/2003 (clássico e simulado), e também do método de Monte Carlo, avaliando-se a
diferença entre os valores de incerteza dos três procedimento.
71
Conforme descrição da metodologia acima , os resultados obtidos da massa específica das
amostras são mostrados na tabela 13.
Tabela 13- Resultados da massa específica (g/cm³) das amostras a 20°C.PRIMEIRO DIA QUARTO DIA
Medições operador1 operador2 Operador3 Medições operador1 operador2 operador31 0,7472 0,7472 0,7474 1 0,7474 0,7473 0,74732 0,7473 0,7474 0,7475 2 0,7473 0,7474 0,74753 0,7474 0,7473 0,7473 3 0,7472 0,7472 0,7474
Média 0,7473 0,7473 0,7474 Média 0,7473 0,7473 0,7474Desvio-Padrão 0,00010 0,00010 0,00010 Desvio-Padrão 0,00010 0,00010 0,00010
SEGUNDO DIA QUINTO DIAMedições operador1 operador2 Operador3 Medições operador1 operador2 operador3
1 0,7474 0,7472 0,7473 1 0,7474 0,7473 0,74742 0,7473 0,7473 0,7472 2 0,7473 0,7474 0,74753 0,7472 0,7474 0,7474 3 0,7472 0,7472 0,7473
Média 0,7473 0,7473 0,7473 Média 0,7473 0,7473 0,7474Desvio-Padrão 0,00010 0,00010 0,00010 Desvio-Padrão 0,00010 0,00010 0,00010
TERCEIRO DIA SEXTO DIAMedições operador1 operador2 Operador3 Medições operador1 operador2 operador3
1 0,7472 0,7474 0,7474 1 0,7474 0,7472 0,74742 0,7473 0,7472 0,7475 2 0,7473 0,7474 0,74753 0,7474 0,7473 0,7473 3 0,7472 0,7473 0,7473
Média 0,7473 0,7473 0,7474 Média 0,7473 0,7473 0,7474Desvio-Padrão 0,00010 0,00010 0,00010 Desvio-Padrão 0,00010 0,00010 0,00010
72
8.2 AVALIAÇÃO DOS RESULTADOS
8.2.1 Avaliação diária dos desvios - padrão (Repetitividade)
Conforme descrito no item 4.1 desta dissertação, o estudo da compatibilidade entre os
desvios padrão diários das amostras (repetitividade) é apresentado na tabela 14.
Tabela 14 - Estudo da compatibilidade entre dos desvios padrão diários das amostras.Comparação dos desvios-padrão diáriosDia Fcal Ftab(95%,2;2)
Desvio-padrão diárioscombinados
1 0,00012 0,00013 0,00014 0,00015 0,00016
1,00 19
0,0001
Em todos os dias tabeladocalculado FF ≤ para as amostras diárias. Conclui-se, então, que há
homogeneidade entre os desvios - padrão diários das amostras, para uma probabilidade de 95%.
A norma ASTM D 1298-05 estabelece os limites de tolerância de repetitividade e
reprodutibilidade para a medição da massa específica para Líquidos Transparentes de Baixa
Viscosidade, conforme tabela 15.
Tabela 15 - Limites de tolerância da repetitividade e reprodutibilidade, de acordo com a norma ASTM D 1298 -05
Produto GrandezaTemperatura°C
(°F) Unidades Repetitividade Reprodutibilidade
kg/m3 0,5 1,2MassaEspecífica kg/L ou g/mL 0,0005 0,0012Densidade
-2 a 24,5(29 a76) Nenhuma 0,0005 0,0012
LíquidosTransparentes
de BaixaViscosidade API (42 a 78) °API 0,1 0,3
73
O gráfico 11 em conjunto com a tabela 14 mostra que as repetitividades diárias das
amostras são compatíveis para uma probabilidade de 95% e estão contidas no respectivo
intervalo de tolerância especificado pela norma ASTM D 1298 -05.
Gráfico 11 – Estudo da repetitividade em função do limite de tolerância da norma ASTM D 1298 -05.
O gráfico 11 pode se estabelecer como uma ferramenta de controle da qualidade da
medição. Ou seja, medições conformes seriam aquelas cujos respectivos valores de
repetitividades estejam contidos no intervalo de tolerância citado pela norma.
Observa-se também no gráfico 11, que em relação ao valor do limite de tolerância da
norma ASTM D 1298 -05, conforme a tabela 15, que os desvios - padrão combinados referentes
à repetitividade podem ser considerados constantes em função do tempo, indicando, assim que o
processo de medição está sob controle quanto a esta respectiva característica metrológica.
74
8.2.2 Avaliação dos desvios - padrão entre dias ( Reprodutibilidade)
A tabela 16 apresenta os valores dos desvios - padrão combinados diariamente, onde se
observa que os mesmos são homogêneos entre si, visto que tabeladocalculado FF ≤ .
Tabela 16- Estudos da Compatibilidade entre Desvios Padrão DiáriosCombinação de
Dias Fcal Ftab(95%) sp
1,2 1,00 4,28 0,000101,2,3 1,00 4,00 0,00012
1,2,3,4 1,44 3,87 0,000131,2,3,4,5 1,67 3,84 0,00013
1,2,3,4,5,6 1,80 3,81 0,00014
Onde sp é o desvio padrão combinado dos dias.
A tabela 16 e o gráfico 12 mostram que os desvios - padrão combinados diários estão
contidos no respectivo intervalo de tolerância especificado pela norma ASTM D 1298 -05.
Gráfico 12 – Reprodutibilidade em relação à tolerância da norma ASTM D 1298 -05.
75
Observa-se também no gráfico 12 que, em relação ao valor do limite tolerância da norma
ASTM D 1298 -05, conforme a tabela 15, os desvios - padrão combinados entre dias referentes à
reprodutibilidade podem ser considerados constantes em função do tempo. Isto indica que o
processo de medição está sob controle quanto a esta respectiva característica metrológica.
8.2.3 Avaliação do tipo de distribuição para cada amostra
Como citado em 4.2 deste trabalho, a condição para que sejam aplicados os métodos de
inferência estatísticos paramétricos, é que os dados amostrais provenham de uma população
distribuída normalmente.
8.2.3.1 Teste de Shapiro - Wilks
De acordo com a metodologia descrita no item 4.2, a tabela 17 apresenta os valores
calculados da estatística W do teste de Shapiro – Wilks e seus respectivos valores críticos Wc,
conforme tabela no Anexo C, para uma probabilidade de 95%.
Tabela 17 - Valores calculados e críticos da estatística do teste de Shapiro – Wilks (W e Wc).respectivamente
operador 1 operador 2 operador 3DIA W Wc W Wc W Wc
123456
1,000 0,767 1,000 0,767 1,000 0,767
Pode-se observar que todos os valores calculados de W são maiores do que os valores
críticos Wc, indicando que todas as amostras de cada operador seguem a distribuição normal.
76
8.2.4 Aplicação dos critérios de rejeição
Como os dados de todas as amostras seguem a distribuíção normal, os critérios de rejeição
de Dixon e Grubbs’ serão aplicados.
8.2.4.1 Critério de Dixon
Conforme metodologia descrita no item 4-3-1, a tabela 18 apresenta as estatísticas rij
calculadas e rij tabeladas para os valores máximos e mínimos de todas as amostras.
Tabela 18 - Estatísticas rij calculadas e rij críticas para os valores máximos e mínimos de todas as amostrasrij calculadaDIA operador
xn x1
rij críticas
121312231233124312531263
0,500 0,500 0,941
Observa-se que as estatísticas calculadas para os valores mínimo e máximo de cada
amostra são para a probabilidade de 95%, menores que os rij críticas, concluindo-se, então, que
nenhum dos valores de cada amostra é rejeitado.
77
8.2.4.2 Critério de Grubbs’
Conforme procedimento descrito no item 4.3.2, a tabela 19 apresenta os valores das
estatísticas G calculadas com os respectivos valores críticos de G, Anexo E, para os valores
máximos e mínimos de cada amostra.
Tabela 19 - Valores das estatísticas G calculadas com seus respectivos valores críticos.GcalculadaDIA operador
xn x1
Gcrítico
121312231233124312531263
1,000 1,000 1,155
Observa-se que as estatísticas calculadas G para os valores mínimo e máximo de cada
amostra são menores que os G críticos para uma probabilidade de 95%, levando a conclusão que
nenhum dos valores das amostras é rejeitado.
78
8.2.5 Avaliação diária das médias
A tabela 20 apresenta os valores do limites inferior (LI) e superior (LS) dos intervalos de
confiança das diferenças entre as médias diárias de cada amostra conforme o item 4.4, como
também os valores de t de Student calculados e críticos (Anexo F) para uma probabilidade de
95%.
Tabela 20- Limites dos intervalos de confiança e valores de t de Student calculados e críticos.DIA LI LS tcalculado tcritico
1 -1,0E-04 3,00E-04 1,2252 -2,0E-04 2,00E-04 0,0003 -1,0E-04 3,00E-04 1,2254 -2,0E-04 2,00E-04 0,0005 -1,0E-04 3,00E-04 1,2256 -1,0E-04 3,00E-04 1,225
2,447
Conclui-se que as médias diárias de cada amostra são homogêneas entre si para
probabilidade de 95%, visto que os limites dos intervalo de confiança das diferenças entre elas
contém o valor zero. A mesma conclusão é obtida na comparação entre os valores de tcrítico e
tcalculado porque em todos os dias a condição criticocalculado tt ⟨ é sempre satisfeita .
8.2.6 Avaliação das médias entre dias
A tabela 21 apresenta os valores dos limites inferior (LI) e superior (LS) dos intervalos de
confiança das diferenças das médias entre dias.
79
Tabela 21- Limites Inferior e superior dos intervalos de confiança das diferenças entre médias diárias comrespectivos t .
Combinação de Dias LI LS tcalculado tcritico
1,2 -1,7E-04 0,471 0,707 4,3031,2,3 -8,6E-05 0,408 0,340 2,101
1,2,3,4 -7,8E-05 0,385 0,503 2,0641,2,3,4,5 -8,1E-05 0,373 0,417 2,042
1,2,3,4,5,6 -9,1E-05 0,365 0,208 2,028
Pode-se observar que os intervalos das diferenças entre as médias diárias contém o valor
Zero, como também os valores de tcalculado < tcritico , indicando que as médias entre dias são
homogêneas entre si para uma probabilidade de 95%.
A norma ASTM D 1298-05 não apresenta limites de tolerância para a tendência, porém a
norma ASTM D4052-05, a qual trata da medição da massa específica da gasolina com
densímetro digital apresenta o referido valor. Esta norma é mais restritiva, definindo um limite
de tolerância para a tendência de 0,0006g/cm³.
O gráfico 13 mostra que todas as diferenças das médias entre dias estão contidas no
intervalo de tolerância para a tendência estabelecido pela norma ASTM D4052-05.
80
Gráfico 13 – Diferença das médias entre dias e o limite de tolerância da norma ASTM D 4052-05.
8.2.7 INCERTEZA DE MEDIÇÃO
8.2.7.1 Definição do mensurando
Geralmente uma norma não retrata perfeitamente o mensurando quando se objetiva estimar
a sua incerteza de medição. Nestes casos, um bom entendimento da medição do mensurando
possibilita a dedução de uma equação que de alguma maneira tenha uma abrangência onde todas
as suas possíveis grandezas de base e fontes de incertezas sejam levadas em conta.
Logo, observando o procedimento de ensaio e também a metodologia de cálculo da massa
específica da gasolina a 20°C recomendada pelas Tabelas de Correção das Densidades e dos
Volumes dos Produtos de Petróleo, 1970, a equação proposta para a medição da massa específica
de uma gasolina pode ser expressa conforme a equação 30.
( ) ( )[ ]
−
−⋅−+=
12
)1(20)2(201)1(20
320
)/(ρρ
ρρρρρρ medido
Ccmgo
(30)
81
onde:
=Co20
ρ massa específica do produto a 20oC;
=)1(20ρ 0,7893 g/cm³ (massa específica tabelada);
medidaρ = 0,7852 g/cm³ (massa específica medida pelo densímetro na temperatura de 260C);
=1ρ 0,785 g/cm³ (massa específica tabelada);
=2ρ 0,786 g/cm³ (massa específica tabelada);
=)2(20ρ 0,7903 g/cm³ (massa específica tabelada).
8.2.7.2 Diagrama causa - efeito
Na representação do diagrama causa - efeito para a estimativa da incerteza de medição da
massa específica da gasolina, além das grandezas de base, devem também ser consideradas as
fontes de incerteza referentes à reprodutibilidade do laboratório no método de medição avaliada,
e também as repetições de medições efetuadas na amostra. Desta forma, o diagrama causa -
efeito proposto é apresentado na esquema 4:
Estimativa
Estimativa
Certificado
)2(20ρ
C020ρ
medidaρ )1(20ρ
1ρ2ρ ReprodutibilidadeTemperatura
Estimativa
EstimativaEstatísticaCertificado
Amostra
Estatística
Esquema 4 – Diagrama causa e efeito da incerteza da massa específica de uma gasolina.
82
8.2.7.3 Avaliação das incertezas - padrão
Com exceção das incertezas referentes à reprodutibilidade do método de medição e das
repetições de medição da massa específica na amostra, cujas avaliações de incerteza - padrão são
do tipo A, o diagrama causa - efeito mostra que todas as outras avaliações de fontes de incerteza
são do tipo B.
8.2.7.3.1 Incerteza referente à reprodutibilidade do método
Neste estudo de caso a avaliação da incerteza referente à reprodutibilidade é calculada a
partir do desvio - padrão combinado dos seis dias de medição. Segundo o Guia, a estimativa de
incerteza neste caso é definida pela equação 31.
t
pilidadereprodutib n
su =
(31)
Onde:
=ps 0,00014 g/cm³ (desvio - padrão combinado referente à reprodutibilidade dada na
tabela 16)
=tn 54 (número total de medições referente aos seis dias)
83
Deste modo, a estimativa da incerteza referente ao desvio - padrão combinado das dezoito
amostras é:
353 /1090,1/54
00014,0 cmgxcmgu ilidadereprodutib−==
8.2.7.3.2 Incerteza referente às repetições das medições na amostra
A avaliação da incerteza referente ao conjunto de repetições das medições na amostra é
definida pelo desvio padrão da sua respectiva média. A estimativa da incerteza referente às
medições realizada em uma amostra é definida pela equação 32.
i
iAmostra n
su =(32)
onde:
=is 0,00010 g/cm³ (desvio - padrão das repetições de medições em cada amostra);
=in 3 (número de repetições de medições em cada amostra).
Deste modo no estudo de caso a incerteza referente à amostra fica:
353 /108,5/3
0001,0 cmgxcmguAmostra−==
84
8.2.7.3.3 Incertezas referentes à )1(20ρ , 1ρ , 2ρ e )2(20ρ
As avaliações das incertezas - padrão referentes a )1(20ρ , 1ρ , 2ρ e )2(20ρ são estimadas a
partir do desvio-padrão de uma distribuição retangular cujo intervalo é definido pela resolução
dos seus respectivos valores apresentados nas Tabelas de Correção das Densidades e dos
Volumes dos Produtos de Petróleo, 1970. Logo, segundo o Guia, estas estimativas da incerteza
são definidas pela equação 33,
3au
i=ρ
(33)
onde:
=a resolução dos valores tabelados das massas específicas.
Então, as estimativas das incertezas referentes às grandezas de entrada )1(20ρ , 1ρ ,
2ρ e )2(20ρ são:
353 /1077,5/3
0001,0 cmgxcmgui
−==υ
8.2.7.3.4 Incerteza referente à medidaρ
A avaliação da incerteza referente à medidaρ é calculada a partir da incerteza expandida
declarada no certificado de calibração do densímetro utilizado na medição. Segundo o Guia, este
tipo de estimativa da incerteza é definido pela equação 18 , onde =U 0,0003 g/cm³ e =k 2.
85
Deste modo, no caso estudado, a incerteza referente à medidaρ é:
343 /105,1/2
0003,0 cmgxcmgu medido−==ρ
8.2.7.3.5 Incerteza referente à temperatura
A avaliação da incerteza referente à temperatura é calculada a partir da incerteza expandida
declarada no certificado de calibração do termômetro utilizado na medição. Semelhantemente à
estimativa da incerteza do certificado do densímetro, o cálculo da incerteza referente à
temperatura é realizado pela equação 18, onde, neste caso, U = 0,12 °C e =k 2 .
Logo,
CCu ooaTemperatur 06,0
212,0
==
8.2.7.4 Coeficientes de sensibilidade referentes às fontes de incertezas
Os coeficientes de sensibilidade da medição da massa específica da gasolina a 20 °C, em
relação às fontes de entrada )1(20ρ , 1ρ , 2ρ e )2(20ρ e medidoρ , com aplicação dos valores citados
no item 8.2.7.1 desta dissertação são, respectivamente, definidos e calculados pelas equacões:
86
8,0112
2
)1(20
200=
−
−−=
∂
∂
ρρρρ
ρ
ρmedidaC (34)
8,0)()(
1 )1(20)2(20212
2
1
200=−⋅
−
−−=
∂
∂ρρ
ρρρρ
ρ
ρ medidaC (34a)
2,0)()( )1(20)2(202
12
1
2
200=−⋅
−
−=
∂
∂ρρ
ρρρρ
ρ
ρmedidaC (34b)
2,0)( 2
12
1()20
)2(20
200=
−
−=
∂
∂
ρρ
ρρ
ρ
ρ medidaC (34c)
112
1()20)2(20200=
−
−=
∂
∂
ρρ
ρρ
ρ
ρ
medida
C (34d)
A grandeza temperatura não figura na equação 30 que calcula a massa específica da
gasolina a 20 °C. Em relação ao cálculo do coeficiente de sensibilidade da massa específica em
referente à temperatura, utilizou-se neste caso os dados citados nas Tabelas de Correção das
Densidades e dos Volumes dos Produtos de Petróleo, 1970. Com estes dados foi elaborado o
gráfico 14.
87
Gráfico 14 - Variação da massa específica da gasolina em função da temperatura .
No gráfico 14 é apresentada a função que define a variação da massa específica em relação
à temperatura com o seu respectivo coeficiente de regressão (R²) igual a 0,9996. A equação
apresentada pode ser descrita pela equação 35:
baCo +⋅= θρ
20 (35)
onde:
=Co20
ρ massa específica da gasolina a 20 °C;
=a 0,0007 g/cm³/°C (coeficiente angular da reta);
=b 0,7705 g/cm³ (coeficiente linear da reta);
=θ temperatura em °C.
Deste modo, o coeficiente de sensibilidade da massa específica em função da temperatura é
definido e calculado pela equação 36.
88
CcmgaC
0
320 /0007,0
0==
∂
∂
θ
ρ(36)
8.2.7.5 Componentes de incerteza
Os valores apresentados na tabela 22 referem-se ao cálculo das componentes de incerteza
de medição da massa específica de uma gasolina, conforme a equação 20 do item 5.4.3.5.
Tabela 22- Componentes de incerteza de medição da massa específica de uma gasolinaFonte de Incerteza Componente (g/cm³)
Reprodutibilidade doMétodo 1,91E-05
Amostra- Repetição 5,77E-05)1(20ρ 4,62E-05
1ρ 4,62E-05
2ρ 1,15E-05
)2(20ρ 1,15E-05
medidoρ - Densímetro 1,50E-04Temperatura 4,20E-05
8.2.7.5.1 Combinação das incertezas
Conforme descrito no item 5.4.3.6.1, aplicando-se a equação 21, o valor da incerteza
combinada calculada neste estudo de caso é 1,803E-04 g/cm³.
8.2.7.5.2 Balanço das incertezas
Em todo cálculo de estimativa da incerteza deve-se sempre elaborar um gráfico onde
podem ser observados, de maneira rápida, clara e objetiva, as fontes que predominam na
incerteza de medição de um mensurando. Isto é bastante importante porque se os limites
tolerância de um processo necessitarem de uma otimização o gráfico indicará rapidamente de
89
forma orientada quais são as fontes prioritárias para a melhoria de sua exatidão de forma a
atender os limites otimizados de tolerância. O gráfico 15 apresenta a variância combinada e as
suas componentes (uma para cada fonte de medição) do resultado de medição da massa
específica da gasolina.
0,00E+00 5,00E-09 1,00E-08 1,50E-08 2,00E-08 2,50E-08 3,00E-08 3,50E-08
ρ20(1)
Densímetro
ρ1
ρ20(2)
ρ2
Reprodutibilidade
Amostra Repetição
Temperatura
Variância Combinada
Font
es d
e in
cert
eza
Variância (g/cm³)²
Gráfico 15 – Variância combinada e suas componentes da medição da massa específica da gasolina.
Neste estudo de caso observa-se no gráfico 15 que o valor preponderante na variância
combinada é aquele referente ao certificado do densímetro utilizado na medição. A incerteza
referente à reprodutibilidade do método, componente que constará em qualquer medição de
massa específica realizada pelo laboratório, é cerca de 1,1% da variância combinada.
90
8.2.7.6 Método simulado
Foi citado anteriormente no item 5.5 que existem também duas outras formas alternativas
para a combinação das incertezas - padrão. Uma destas metodologias é aplicada no estudo de
caso desta dissertação, ou seja, o método simulado. Conforme descrito no item 5.5.1, aplicando-
se os valores das grandezas citados no item 8.2.7.1 desta dissertação na equação 30 tem-se o
seguinte valor da massa específica da gasolina :
=Co20
ρ 0,7895 g/cm³
Adicionando-se a incerteza a cada respectivo valor da grandeza de entrada, tem-se as
equações e os novos valores calculados do mensurando:
( ) ( )[ ]
−
+−⋅−++=
12
)1(20)1(20)2(201)1(20)1(20
)()(
ρρ
ρρρρρρρρ
uu medido
i=0,789537 g/cm³ (37)
( ) ( )[ ]
−
−⋅−++=
12
)1(20)2(201)1(20
)(ρρ
ρρρρρρρ medidomedido
ii
u =0,7896500 g/cm³ (38)
( ) ( )[ ]
+−
−⋅+−+=
)()(
112
)1(20)2(2011)1(20 ρρρ
ρρρρρρρ
uumedido
iii=0,7894614 g/cm³ (39)
( ) ( )[ ]
−
−+⋅−+=
12
)1(20)2(20)2(201)1(20
)(ρρ
ρρρρρρρ
umedidoiv
=0,7895024 g/cm³ (40)
( ) ( )[ ]
−+
−⋅−+=
122
)1(20)2(201)1(20 )( ρρρ
ρρρρρρ
umedido
v =0,7894976 g/cm³(41)
A tabela 23 apresenta os resultados dos cálculos de ρi conforme as equações 37 a 41 e suas
respectivas diferenças em relação a C020
ρ , a qual foi calculada de acordo a equação 30. Na
tabela também constam incertezas referentes as seguintes fontes: reprodutibilidade , temperatura
91
e o número de repetições realizadas para uma medição particular, as quais não são contempladas
na equação 30.
Tabela 23- Resultados dos cálculos de ρi e suas respectivas diferenças em relação a C020
ρ .
ρi Valores (g/cm³) Diferenças (g/cm³)
C020ρ 0,7895 -
ρi(uρ20(1)) 0,7895368 4,62E-05ρii(uρ(1)) 0,7896500 4,90E-05ρiii(uρ(2)) 0,7894614 1,09E-05
ρiv(uρ20(2)) 0,7895024 1,15E-05ρiv(uρmedida) 0,7894976 1,50E-04
Reprodutibilidade do Método - 1,91E-05Amostra- Repetição - 5,77E-05
Temperatura - 4,20E-05Incerteza Combinada - 1,810E-04
8.2.7.7 Comparação entre os valores obtidos pelas metodologias clássica e simulada
O valor apresentado no item 8.2.7.5.1 desta dissertação da incerteza combinada calculada
pelo método clássico (1,803E-04 g/cm³), comparado àquele apresentado na tabela 22 da
incerteza combinada ,calculada pela metodologia de simulação numérica (1,810E-04 g/cm³),
diferem entre si em relação à C020
ρ em torno de 0,9 ppm.
92
8.2.7.8 Cálculo dos graus de liberdade
O número dos graus de liberdade efetivos da incerteza combinada )( 20ρcu , conforme o
item 5.4.3.7, no estudo de caso desta dissertação, é definido pela equação 43.
1901054,51006,1
18
15
1
4
4
==−
−
∑ xx
ν(y)u
(y)u=ν
N
=i i
i
ceff (43)
Este número de graus de liberdade para uma probabilidade de abrangência igual 95%
corresponde a um coeficiente de abrangência ( k ) igual a 1,972.
8.2.7.9 Incerteza expandida
Com o uso da equação 26, tem-se a Incerteza expandida ( U ) é igual a:
1,972*1,803E-04 g/cm³ = 3,6E-04g/cm³
A tabela 24 apresenta a compilação de todos os valores das componentes da estimativa da
incerteza no resultado de medição da amostra de gasolina do estudo de caso.
93
Tabela 24- Compilação de todas as componentes de incerteza do estudo de caso.
Fontes de Incerteza Valor Distribuição Divisor Coef. deSensibilidade
Incertezag/cm³
Graus deliberdade
Lim Inf da densidadecorrigida )1(20ρ
0,0001g/cm³ retangular 3 0,8 4,62E-05 ∞
Certificado dodensímetro medidaρ
0,0003g/cm³ normal 2 1 1,50E-04 ∞
Limite inferior dadensidade observada
1ρ0,0001g/cm³ retangular 3 0,8 4,62E-05 ∞
Limite superior dadensidade corrigidapara 200C )2(20ρ
0,0001g/cm³ retangular 3 0,2 1,15E-05 ∞
Limite superior dadensidade observada
2ρ0,0001g/cm³ retangular 3 0,2 1,15E-05 ∞
Certificado decalibração dotermômetro
0,120C normal 2 0,0007(g/cm³)C-1 4,20E-05 ∞
Amostra 0,0001g/cm³ normal 3 1 5,77E-05 2
Reprodutibilidade 0,000019g/cm³ normal 1 1 2,01E-05 ∞
IncertezaCombinada normal 1,80E-04 190
IncertezaExpandida
(95%:k=2,06)normal 3,6E-04 190
8.2.7.10 Estimativa da incerteza pelo método de Monte - Carlo
Foi estimada a incerteza de medição da massa específica da gasolina do estudo de caso,
conforme metodologia citada no item 6.1, também pelo o método de Monte Carlo, utilizando o
software de cálculo “Crystal Ball” citado na referência HERRADOR, GONZÁLEZ, 2004. O
resultado final da incerteza expandida foi obtido após 100000 iterações .
94
Gráfico 16 - Intervalo de incerteza obtido e que se refere a quatro desvios – padrão (gráfico gerado pelosoftware Crystal Ball citado na referência Herrador, González).
O gráfico 16 apresenta o intervalo de incerteza correspondente a quatro desvios - padrão,
cujos limites inferior e superior são iguais respectivamente a 0,789151 g/cm³ e 0,789825 g/cm³.
Deste modo, a incerteza expandida (U) para dois desvios - padrão eqüivale à metade do intervalo
é igual a 3,37E-04 g/cm³.
A tabela 25 apresenta as estatísticas da simulação(média, mediana, assimetria e curtose)
cujos valores ratificam que a distribuíção originada do mensurando após 100000 iterações é
normal.
Tabela 25 - Estatísticas da simulaçãoMédia (g/cm³) 0,789500
Mediana (g/cm³) 0,789500assimetria 0,04
curtose 3,0
Prob
abili
dade
100.000 iterações 334 rejeitadosCarta de freqüência
Freqüência
Confiança de 95% de 0,789151180 a 0,789825546 g/cm³
Estimativa : Mensurando
95
8.2.7.11 Comparação entre as estimativas de incerteza obtidas pelos métodos ISO GUM
95, Simulado e Monte- Carlo
A tabela 26 apresenta as incertezas expandidas (U95%) do resultado da medição da massa
específica da amostra de gasolina do estudo de caso desta dissertação, seguindo as metodologias
Clássica (Guia), o método alternativo segundo EURACHEM/CITAC-2000 e o método de
Simulação de Monte–Carlo.
Tabela 26 - Incertezas combinada e expandida conforme ISO GUM 95, EURACHEM/CITAC -2000 esimulação de Monte Carlo.
Incerteza ISO GUM 95(g/cm³)
EURACHEM(g/cm³)
Monte – Carlo(g/cm³)
Combinada 1,8E-04 1,8E-04 1,7E-04Expandida 3,6E-04 3,6E-04 3,4E-04
Observando-se a tabela 26, verifica-se que a diferença máxima entre os valores das
incertezas é aproximadamente 25 ppm em relação ao valor de massa específica da amostra de
gasolina deste estudo de caso.
8.3 AVALIAÇÃO DA ADEQUAÇÃO DO INTERVALO DE INCERTEZA DA MASSA
ESPECÍFICA DA GASOLINA EM RELAÇÃO AOS LIMITES DE TOLERÂNCIA DA
NORMA ASTM D 1298 -05
Conforme citado no item 7.1 desta dissertação para que a incerteza expandida de medição
de um resultado seja compatível com a tolerância estabelecida por uma norma, o seu intervalo
deve estar contido naquele estabelecido pelos limites de tolerância da respectiva norma.
No estudo apresentado observa-se que o valor da incerteza expandida 3,6E-04 g/cm³ está
compatível com os limites de repetitividade (0,0005 g/cm³) e de reprodutibilidade (0,0012g/cm³),
tolerâncias estabelecidas pela norma ASTM D 1298 -05 e apresentados na tabela 15.
96
A norma ASTM D 1298-05, no seu item 5.1 cita, que a medição com boa exatidão da
massa específica de petróleo e seus derivados é necessária durante o processo de transferência de
custódia.
Desta forma então, contabilizou-se neste trabalho os números do desperdício ocasionados a
partir da incerteza de medição da massa específica da gasolina chegando-se a um prejuízo
econômico. Por exemplo, com a incerteza de medição estimada no estudo de caso desta
dissertação (3,60E-04g/cm³), abastecendo-se diariamente 500 veículos tanque, cada qual com
tanque de 32 m³ , ao final de um ano o desperdício chega a aproximadamente US$ 1.000.000.
(COUTO, P ; GUILHERMINO, I, 2001). Convém observar que este cálculo do desperdício teve
como base o abastecimento diário de 500 veículos tanque. Porém para a avaliação do valor do
desperdício um pouco mais realística, podem ser observadas as 24289 verificações de veículos
tanque realizadas ao longo do ano de 2002 citadas no trabalho de Da Silva, M. E. (2004).
Por sua vez a tabela 27 apresenta valores percentuais em relação à variância combinada de
todas as componentes de incerteza do resultado de medição da massa específica da gasolina.
Tabela 27- Contribuições das componentes de incerteza de medição da massa específica da gasolinaFonte de Incerteza Valor PercentualReprodutibilidade do
Método 1,1
Amostra- Repetição 10,3)1(20ρ 6,6
1ρ 6,6
2ρ 0,4
)2(20ρ 0,4
medidoρ -Densímetro 69,2Temperatura 5,4
Incerteza Combinada 100
A tabela 27 mostra que a contribuição de incerteza preponderante é aquela referente ao
densímetro utilizado, cerca de 69,2% da variância combinada.
97
9 CONCLUSÕES
• O ISO GUM 95 além de harmonizar o cálculo da estimativa da incerteza dos resultados,
possibilitando a comparação entre eles, se estabelece como uma ferramenta poderosa no
auxílio da especificação da instrumentação adequada à tolerância de um processo. Esta outra
aplicação do guia é demostrada a partir do estudo sobre a instrumentação adequada ao
processo de engarrafamento do gás nitrogênio, apresentado no item 5.1 desta dissertação.
• A técnica estatística para o estabelecimento da confiabilidade metrológica aqui apresentada,
aplicada em conjunto com os limites recomendados por uma norma, se estabelece como uma
ferramenta bastante poderosa para o controle da qualidade da medição do laboratório a
qualquer instante do processo de medição.
• Após a determinação de uma incerteza de medição deve-se sempre interpretar o seu valor
objetivando analisar diversos fatores tais como : o aspecto custo - benefício , a adequação à
tolerância de uma norma específica , as prioridades de um processo específico de medição,
etc.
• Principalmente em Química, onde o valor relativo do mensurando é bem pequeno, é
importante uma interpretação da incerteza de medição do resultado porque sem esta
avaliação poderá ocorrer uma decisão equivocada.
• O estabelecimento da confiabilidade metrológica dos dados experimentais na medição da
massa específica da gasolina obtidos pelo LABCOM - Laboratório de Combustíveis e
Derivados de Petróleo da Universidade Federal do Rio de Janeiro mostram que as medições
estão sob controle, visto que as médias e os desvios - padrão ao longo do tempo estão
estabilizados, e seus respectivos valores estão contidos no intervalo de tolerância da norma.
98
• A massa específica da gasolina é uma grandeza que regula um processo de transferência de
custódia ; porém, o desperdício ocasionado pela incerteza do seu resultado de medição é
elevado.
• O valor preponderante na incerteza de medição da massa específica da gasolina é aquele
referente ao densímetro utilizado recomendado pela norma ASTM D 1298-05; deste modo
em função do desperdício do alto capital ocasionado pela incerteza de medição; justifica-se
um investimento de recursos para o desenvolvimento de um densímetro de melhor qualidade
metrológica.
• Utilizando-se um densímetro de melhor exatidão do aquele recomendado pela norma ASTM
D 1298 -05, deve-se realizar um trabalho objetivando a sua revisão quanto à otimização dos
seus limites de exatidão especificados.
• Os resultados das três metodologias para a estimativa da incerteza de medição da massa
específica da gasolina diferem entre si em no máximo 25 ppm. Este valor é muito menor do
que 630 ppm e 1500 ppm, os quais equivalem, respectivamente, às razões entre os limites de
repetitividade e reprodutibilidade da norma ASTM D1298-95 e o valor da massa específica
da gasolina.
• Como não existe diferença significativa entre os valores obtidos pelas metodologias,
qualquer uma delas pode ser utilizada para a estimativa da incerteza de medição da massa
específica de uma gasolina.
99
10 RECOMENDAÇÕES
Em função das situações e discussões apresentadas, recomenda-se que um Laboratório deve
assumir também outras atividades, além daquelas que normalmente são de sua
responsabilidade, por exemplo:
• Atuar de forma marcante no auxílio da definição da especificação adequada da
instrumentação do seu respectivo processo, objetivando atenuar o sub -
dimensionamento ou superdimensionamento da instrumentação a ser utilizada;
• Avaliar o impacto das incertezas das grandezas que interferem no processo específico,
de acordo com a sua respectiva tolerância, objetivando uma qualidade adequada e
competitividade do produto;
• Revisão das suas normas específicas quanto à sua tolerância em relação às incertezas
de medição praticadas, conforme recomendações do Guia para expressão da Incerteza
de Medição, 2003; visando a atenuação do desperdício;
• Fomentar a sua participação em comparações interlaboratoriais, ferramenta importante
para a ratificação da qualidade do laboratório.
Para que os produtos nacionais tenham qualidade e preços competitivos, com conseqüente
aumento do saldo positivo da balança comercial do País, a confiabilidade metrológica dos
resultados de medição de acordo com a NBR ISO/IEC 17025 é uma das bases para se
evidenciar e ratificar esta Qualidade em atendimento às normas da família ISO 9000.
O resultado de medição é um parâmetro de comercialização, então no processo de
globalização de mercados os blocos econômicos devem exercer todos os esforços para a
100
existência de um mútuo reconhecimento, principalmente entre os seus Sistemas
Metrológicos.
O ISO GUM 95 é um documento muito recente em relação a um grande número de normas
existentes, e certamente muitas delas não contemplam os seus conceitos; conseqüentemente,
estas normas deverão ser reavaliadas objetivando a sua reformulação, ratificação ou
otimização de tolerâncias, tendo como base a estimativa da incerteza de medição do seu
respetivo mensurando.
A técnica estatística apresentada nesta dissertação para evidenciar a confiabilidade
metrológica, pode também ser aplicada para estabelecer, a partir dos dados de laboratório, os
limites de tolerância/especificação de uma norma específica.
101
REFERÊNCIAS
AMERICAN SOCIETY FOR TESTING AND MATERIALS STANDARDS. Standard TestMethod for Density, Relative Density (Specific Gravity), or API Gravity of CrudePetroleum and Liquid Petroleum Products by Hydrometer Method. Designation: Manual ofPetroleum Measurement Standards(MPMS).2005.6p.(ASTM 1298-05)
______.Standard Test Method for Density and Relative Density of Liquids by DigitalDensity Meter. Designation : D 4052-96. (reapproved 2002).5p.(ASTM D 4052-02):
______.Manual on Quality Control of Materials. Special Technical Publication 15-C.American Society for Testing and MaterialsDesignation. January 1951.136p.
ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS. Requisitos gerais para acompetência de laboratórios de ensaio e calibração. Rio de Janeiro: ABNT, 2005. 31p.(ABNTISO/IEC 17025:2005)
______.Guia para a Expressão da Incerteza de Medição. ISO GUM 95. Terceira EdiçãoBrasileira Guide to the Expression of Uncertainty in Measurement. Rio de Janeiro :ABNT ,INMETRO. Edição Revisada. Agosto de 2003.120p.
CONSELHO NACIONAL DO PETRÓLEO.INSTITUTO DE PESOS E MEDIDAS. Tabelas deCorreção das Densidades e dos Volumes dos Produtos de Petróleo.1970.Petróleo BrasileiroS.A. (PETROBRAS)
EURACHEM/CITAC GUIDE CG 4.Quantifying Uncertainty in Analytical Measurement.English Edition. Second Edition. 2000.126p.ISBN 0-948926-15-5.
EURACHEM/CITAC GUIDE. Quantifying Uncertainty in Analytical Measurement; EnglishEdition; First Edition.1995, ISBN 0-948926-08-2.
INSTITUTO NACIONAL DE METROLOGIA, NORMALIZAÇÃO E QUALIDADEINDUSTRIAL (INMETRO).Vocabulário internacional de termos fundamentais e gerais demetrologia 3.ed. Rio de Janeiro, 2003.75p.ISBN 85-87090-90-9.
______.Versão Brasileira do Documento de referência EA-4/02.( Referência Original doEditor: EAL-R2); Expressão da Incerteza de Medição na Calibração- Expression of the
102
Uncertainty of Measurement in Calibration. Publicação INMETRO, Programa RH Metrologia eda Sociedade Brasileira de Metrologia. Primeira Edição- janeiro de 1999
______.Quadro Geral de Unidades de Medida. Resolução do CONMETRO nº12/1988.Segunda Edição 2000
______.Procedimentos para solicitar autorização de uso de Sistemas de Medição dePetróleo , Derivados e Álcoois. NIE 047. Rev.00.agosto 2003.09 p.
______.Vocabulário Internacional de Termos Fundamentais e Gerais de Metrologia –VIM. Segunda Edição.Brasília.2000.75 p.
INTERNACIONAL ORGANISATION FOR STANDARDIZATION. Accuracy (trueness andprecision) of Measurement Methods and Results. General principles and definitions).Part1(ISO 5725-1:1994)
_______.Accuracy (trueness and precision) of Measurement Methods and Results. Basicmethod for the Determination of Repeatability and Reprodutibility of a StandardMeasurement Method.Part2 (ISO 5725-2:1994)
_______.Accuracy (trueness and precision) of Measurement Methods and Results.Intermediate Measures of Precision of a Standard Measurement Method.Part3 (ISO 5725-3:1994)
_______.Accuracy (trueness and precision) of Measurement Methods and Results. BasicMethods for the Determination of the Trueness of a Standard Measurement method.Part4(ISO 5725-4:1994)
_______.Accuracy (trueness and precision) of Measurement Methods and Results. Use inPractice of Accuracy Values.Part6 (ISO 5725-6:1994)
103
______.Geometrical Product Specifications (GPS) Inspection by measurements ofworkpieces and measuring equipment. Decision rules for proving conformance or non-conformance with specification.Part1 ( ISO 142153-1:1998)
_______.Statistics - Vocabulary and Symbols - Probability and general statisticalterms.Part1 (ISO 3534-1:1993)
_______.Statistical Methods for use in Proficiency testing by interlaboratory Comparisons- (ISO 13528:2005)
_______.Statistics - Vocabulary and Symbols - Statistical quality control.Part2 (ISO3534-2:1993)
_______.Statistics - Vocabulary and Symbols - Design of experiments.Part3 (ISO3534-3:1999)
SENAI/ FIESP/CIESP/SESI/IRS/ Secretaria de Comunicação Social. País do Desperdício. SérieTerra à Vista. Produção Cândida Luz Liberato e TVN. Direção Edson Luiz Ferreira. Duração 18min. Sinopse
ÁVILA, A.K.; ARAUJO, T. O.; BORGES, R. M. H.; COUTO, P;. ROSIAS, M. F.; ROCHA,O.G.F.; VAITSMAN, D. S. ; DIAS, V. Evaluation of uncertainty sources associated withtoxic trace element concentrations in rice” Accreditation and Quality Assurance. Journalfor Quality, Comparability and Reliability in Chemical Measurement. 2004. Publisher: Springer-Verlag GmbH ISSN: 0949-1775 1432-0517 (Online) DOI: 10.1007/s00769.
ÁVILA, A.K.; ARAÚJO, T. O ; PEREIRA, L. J .R.; FERREIRA, P. L. S; COUTO, P.; COUTO,R .S.; BORGES, R.M.H. Ensaio de Proficiência: Uma Poderosa Ferramenta para osLaboratórios Nacionais. IV Congresso Latino Americano de Metrologia - 9-12/nov/2004-Fozdo Iguaçu -Paraná- Brasil.
ÁVILA, A.K.; BORGES, R. M.H ; COUTO, P.; ROSIAS, M.F.G.; ROCHA, O. G. F.;VAITSMAN, D. S.; DIAS, V. Uncertainties sources evaluation associated to metalsdetermination in rice. International Measurement Evaluation Program (IMEP) 19.2003– IRRM-Belgium.
104
ÁVILA, A.K.; ARAÚJO, T. O.; COUTO, P.; BORGES, R. M. H. Comparação da Estimativade Incerteza de Medição na Determinação de Cobre por Espectrometria de AbsorçãoAtômica com Chama por Diluíção Gravimétrica e Volumétrica. 2004. Revista Analytica.Jun./Jul. 2004.
ÁVILA, A..K.; ARAÚJO T. O.; COUTO, P.; BORGES, R.M.H.; ComparaçãoInterlaboratorial de Constituintes Menores e Traços em Soro Humano. Estimativa daIncerteza de Medição.2004.Revista Analytica- Out./Nov2004.Número 13.
BORGES, R.M.H.; COUTO, P.; LEMOS, I.M.G.; FRANCO, A. P.; VIEIRA, A.T.; RIBEIRO,R. C.; SILVA, F. R.; GOMES, E. G.; PINHEIRO, A. P. G.; COUTO, R. S.; FRAGA, I. C. S.;ANTUNES, A. M. S.; d’AVILA, L. A. Development of software to calculate the uncertaintyof pH and conductivity measurements for alcohol fuel. 2003.Metrologia 2003.Toulon .França.
BORGES, R. M. H.; GUILHERMINO, I.; COUTO, P.; FRAGA, I. C. S.; FRANCO, A. P.;RIBEIRO, R. C.; SILVA, F. R..; GOMES, E. G.; PINHEIRO, A. P. G.; COUTO, R. S.;ANTUNES, A. M. S.; d’AVILA, L. A. Avaliação da Incerteza de Medição de pH em ÁlcoolCombustível.2003.Metrologia 2003.Recife- PE.
COUTO, P.; OLIVEIRA, J. S.; CINELLI, L. R. Algumas considerações sobre asMetodologias de Cálculo da Estimativa da Incerteza de Medição citadas no ISO GUM95.2002.Metrosul 2002.Curitiba –PR.
COUTO, P.; GUILHERMINO, I. Uncertainty of Measurement Results in Fuel Analysis.2002. RETERM - Revista de Engenharia Térmica, edição especial 2002, Vol.2. p38 -43
COUTO, P.; LEMOS, I. M. G. Incerteza de Medição nos Resultados de Análises deCombustíveis e Lubrificantes.2001. Primeiro Congresso Brasileiro de P&D em Petróleo e Gás-Nov./2001-Universidade Federal do Rio Grande do Norte -UFRN -SBQ Regional RN, Natal.
COUTO, P.; MONTEIRO, L.C. A Função de um Laboratório de Metrologia de acordo como Contexto da Globalização. 2000. Congresso de Metrologia 2000- Dez./2000- São Paulo.
COUTO, P.; JUNQUEIRA, P. Importância da criação de um Laboratório de Metrologia naIndústria.1994.Revista INMETRO. Vol.3 abr./jun. 1994.
105
COUTO, P.; VALENTE, J. C.; CRUZ, J.C.; CRUZ, U.C.; JUNQUEIRA, P. Curso deConfiabilidade Metrológica e sua Importância na Garantia da Qualidade. 1991. SouzaMarques- RJ, 1991
COX, M.; HARRIS, P. Accreditation Quality Assurance. Vol.8. 2003. 375 – 379p
CROSBY, N. T.; DAY, J. A.; HARDCASYLE, W. A.; HOLCOMBE, D.G.; TREBLE, R. D.Quality in the Analytical Chemistry Laboratory .Jonh Willey & Sons.1995.307p
DAMASCENO, J. C.; BORGES, R. M. H.; COUTO, P.; FRAGA, I.C. S.; BORGES, P. P.;ORDINE, A. P. Estimation of Primary pH Measurement Uncertainty using Monte Carlosimulation. 2006.Metrologia 43 - 2006. p.306-310
Da SILVA, M. E. Garantia metrológica na medição de volume: uma proposta demetodologia de atuação. 2004 . 118 p. Dissertação ( Mestrado em Sistemas de Gestão)-CentroTecnológico, Universidade Federal Fluminense, Niterói, Rio de Janeiro, 2004.
FERNANDES, F; ROLLI, C. Caderno Dinheiro. Folha de São Paulo. 23/Set./2001
FRAGA, I. C. S.; GETROUW, M. A.; BORGES, P. P.; DAMASCENO, J. C.; COUTO, P.;COUTO, R. S.; BORGES, R. M. H.; ORDINE, A. P. Atividades do Inmetro visando àConfiabilidade das Medições de Condutividade Eletrolítica. 2004. IV Congresso LatinoAmericano de Metrologia 9-12/Dez./2004 Foz do Iguaçu- Paraná- Brasil.
FRAGA, I. C. S.; GETROUW, M. A.; COUTO, P.; COUTO, R. S. Avaliação daConfiabilidade Metrológica da Medição de Condutividade em SoluçãoPadrão.2003.Metrologia 2003 –Recife –PE
FRAGA, I. C. S.; COUTO, P.; PEREIRA, L. J. R.; GETROUW, M. A.; BORGES, R. M. H.Avaliação Metrológica da Calibração de Medidores de Condutividade. 2002. Metrosul –Setembro/2002
FRAGA, I .C .S.; COUTO, P.; PEREIRA, L J R; GETROUW, M. A.; BORGES, R. M.H.Confiabilidade Metrológica de Algumas soluções tampão para a medição de pHcomercializadas no Brasil. 2002.Congresso Brasileiro de Química – Set.2002.
106
FRAGA, I. C. S.; COUTO, P.; RIBEIRO, R.; SOUZA, V. Confiabilidade Metrológica deAlgumas Soluções Tampão utilizadas para a Medição de pH.2002.Enqualab.jul.2002.SP
FROTA, M.N., VALCOV, L.; CALDAS, R. Programa R H Metrologia. Documento Básico-Rio de Janeiro. 1999. Stamppa. 90p.
FROTA, M.N., VALCOV, L.; CALDAS, R. Programa R H Metrologia e avaliação da fase I.Documento Básico- Rio de Janeiro. 1999. Stamppa. 108p.
HERRADOR, A.M.; GONZÁLEZ, G. A.; Evaluation of Measurement Uncertainty inanalytical assays by means of Monte Carlo simulation. abril 2004- Talanta 64 (2004) 415-422
JÚNIOR, J.J.P.S.; FILHO, D.M.E.S.; RODRIGUES, C.R.C.; BARBOSA, A.P.F.; COUTO, P.;CINELLI, L.R. Utilização de duas Metodologias de cálculo da estimativa da incerteza demedição citadas no ISO GUM 95 , para determinação do volume de um vaso usado nacalibração de medidores de vazão. 2005.ENQUALAB-2005.Encontro para a Qualidade deLaboratórios Rede Metrológica do Estado de São Paulo – REMESP 07 a 09 de junho de 2005,São Paulo, Brasil
KU, H. H. Precision Measurement and Calibration . NBS Special Publication 300-Volume 1.United States Department of Commerce – National Bureau Of Standards – February 1969. 425p
MACHADO, S .C.; COUTO, P.; GUILHERMINO, I .; BORGES, R.H.; ANTUNES, A.M.S.;d’AVILA, L.A. Estimativa de Cálculo de Incerteza de Medição para o ensaio de destilaçãode óleo diesel automotivo pelo método ASTM D86-02 com Destilador manual.2003.Metrologia 2003 – Recife- PE
MASSART, D.L.; VANDEGINSTE, B. M. G.; BUYDENS, L. M. C.; JONG, S.; LEWI. P. J.;SMEYERS-VERBEKE, J. Handbook of Chemometrics and Qualimetrics. Part A. Volume20A. Elsevier Science B.V. 1997.867p
MILLER, J .C.; MILLER, J .N. Statistics for Analytical Chemistry. Jonh Willey &Sons.1986.202p.
MOITA NETO, J.; MARINHO, L. A. Reologia do líquido da castanha de caju.Departamentode Química - Universidade Federal do Piauí - 64.049-550 - Teresina – Piauí.
107
MONDELO, R.A. Desperdício abocanha 40% do PIB nacional. Revista Isto É. Edição 1660.
MONTGOMERY, D.C. Introdução ao Controle Estatístico da Qualidade. Quarta Edição.Livros Técnicos e Científicos Editora S. A. 2003.513p.
MONTGOMERY, D .C.; RUNGER, G.C. Estatística Aplicada e Probabilidade paraEngenheiros Segunda Edição. Livros Técnicos e Científicos Editora S. A. 2003.461p
NATRELA, M.G. Experimental Statistics. National Bureau of Standards Handbook 91.1963.
ROYSTON, J.P. An Extension of Shapiro and Wilk’s W Test for Normality to LargeSamples. Appl Statisc (1982), 31, No 2, pp.115-124
SHAPIRO, S.S.; WILK, M .B. An analysis of variance test for normality (complete samples)Biometrika (1965),52,3 and 4,p.591
TAYLOR, J.K. Quality Assurances of Chemical Measurements. Lewis Publishers. 1987.328p
TRIOLA, M. F. Introdução à Estatística. Sétima Edição. Livros Técnicos e Científicos EditoraS.A.1999.410p
WESLEY BARNES, J. Statistical Analysis for Engineeers and Scientists. A computerApproach. McGraw-Hill Companies. February 1994.396p
108
APÊNDICES
109
APÊNDICE 1 – Impacto do erro da medição de pressão na comercialização de cilindros de
50L de nitrogênio a 19,6 MPa na temperatura 21°C.
50 L x 0,005 m3/L = 0,25 m3/cilindro
0,25 m3/cilindro x 1000 cilindros = 250 m3/dia
250 m3 x 20 dias = 5000 m3/mês
V(50 l; 19 MPa; 25o
c) = 10,2 m3=> volume de gás num cilindro de 50 l
Número de cilindros comprometidos = 5000 m3 = 490 cilindros 10,2 m3
% Produção diária = 490 x 100 =49% 1000
0,005 m³/l
110
APÊNDICE 2 – Planilha para a elaboração do gráfico 2 - Adequação da instrumentação ao
processo de engarrafamento de gases
INCERTEZA (%) INCERTEZA TOTAL DOPROCESSO
Pressão Temperatura Volume %0,1 0,5 1 1,12
0,25 0,5 1 1,150,5 0,5 1 1,221 0,5 1 1,502 0,5 1 2,293 0,5 1 3,204 0,5 1 4,155 0,5 1 5,12
222)( VTPc uuuprocessou ++=
onde:
uc(processo) = Incerteza combinada do processo de engarrafamento
u(p) = Incerteza na medição de pressão
u(T) = Incerteza na medição de temperatura
u(V) = Incerteza na medição de volume
111
APÊNDICE 3 - Planilha para a elaboração dos gráficos 5, 6 e 7.
Incerteza da massaFontes Valor Unidade
u1m (Resolução) 0,05 mgu2m (Peso Padrão) 0,01 mg
u3m (Graf Controle) 0,07 mgum 0,087 mg
23
22
21 mmmm uuuu ++=
onde:
um = Incerteza combinada da massa
u1m = Incerteza referente à resolução da balança
u2m = Incerteza referente ao peso padrão
u3m = Incerteza referente ao gráfico de controle
Incerteza do volumeFontes Valor Unidade
u1v (Repetição) 0,0038 mlu2v (Decl Fabricante) 0,087 ml
u3v (Temperatura) 0,079 mlu4v(Coef Expans Volumétrica) 0,0022 ml
uv 0,12 ml
24
23
22
21 VVVVV uuuuu +++=
onde:
uV = Incerteza combinada do volume
u1V = Incerteza referente à repetição
u2V = Incerteza referente à declaração do fabricante
112
u3V = Incerteza referente à temperatura
u4V = Incerteza referente ao coeficiente de expansão volumétrica
Incerteza da massa molecularFonte Valor UnidadeuCarbono 5,77E-04 g/mol
uHidrogênio 4,04E-05 g/moluOxigênio 1,73E-04 g/moluPotassio 5,77E-05 g/mol
u(C8H5O4K) 0,0046752 g/mol
2222)458( KOHCKOHC uuuuu +++=
onde:
u(C8H5O4K) = Incerteza combinada da massa molecular
u(C8) = Incerteza referente ao elemento carbono
u(H5) = Incerteza referente ao elemento hidrogênio
u(O4) = Incerteza referente ao elemento oxigênio
u(K) = Incerteza referente ao elemento potássio
113
APÊNDICE 4 - Planilha para a elaboração do gráfico
Incerteza da forçaFonte Valor Unidade
u1m(F) 9,30341E-05 Nu2m(F) 4,90333E-05 Nua(F) 1,00E-04 Nuc(F) 1,45E-04 N
)()()()( 222
21 FuFuFuFu ammc ++=
onde:
uc(F) = Incerteza combinada a força
u1m(F) = Incerteza na força referente à repetição das leituras de massa
u2m(F) = Incerteza na força referente ao certificado da balança
ua(F) = Incerteza na força referente à aceleração
114
ANEXOS
115
ANEXO A – PONTOS PERCENTUAIS fα,ν1, ν2 DA DISTRIBUIÇÃO F
(Impressão em separado)
116
ANEXO B – COEFICIENTES ( an-i+1) DO TESTE W PARA A NORMALIDADE(Fonte SHAPIRO, S.S.; WILK, M .B., 1965)
ni 2 3 4 5 6 7 8 9 101 0,7071 0,7071 0,6872 0,6646 0,6431 0,6233 0,6052 0,5888 0,57392 - 0,0000 0,1677 0,2413 0,2806 0,3031 0,3164 0,3244 0,32913 - - - 0,0000 0,0875 0,1401 0,1743 0,1976 0,21414 - - - - - 0,0000. 0,0561 0,0947 0,12245 - - - - - - - 0,0000 0,0399
ni 11 12 13 14 15 16 17 18 19 201 0,5601 0,5475 0,5359 0,5251 0,5150 0,5056 0,4968 0,4886 0,4808 0,47342 0,3315 0,3325 0,3325 0,3318 0,3306 0,3290 0,3273 03253 0,3232 0,32113 0,2260 0,2347 0,2412 0,2460 0,2495 0,2521 0,2540 0,2553 0,2561 0,25654 0,1429 0,1586 0,1707 0,1802 0,1878 0,1939 0,1988 0,2027 0,2059 0,20855 0,0695 0,0922 0,2099 0,1240 0,1353 0,1447 0,1524 0,1587 0,1641 0,16866 0,0000 0,0303 0,0539 0,0727 0,0880 0,1005 0,1109 0,1197 0,1271 0,13347 0,0000 0,0240 0,0433 0,0593 0,0725 0,0837 0,0932 0,10138 0,000 0,0196 0,0359 0,0496 0,0612 0,07119 0,0000 0,0163 0,0303 0,0422
10 - 0,0000 0,0140
ni 21 22 23 24 25 26 27 28 29 301 0,4643 0,4590 0,4542 0,4493 0,450 0,4407 0,4366 0,4328 0,4291 0,42542 0,3185 0,3156 0,3126 0,3098 0,3069 03047 0,3018 0,2992 0,2968 0,29443 0,2578 0,2571 0,2563 0,2554 0,2543 0,2533 0,2522 0,2510 0,2499 0,24874 0,2119 0,2131 0,2138 0,2145 0,2148 0,2151 0,2152 0,2151 0,2450 0,21485 0,1736 0,1764 0,1787 0,1807 0,1822 0,01836 0,1848 0,1857 0,1864 0,18706 0,1399 0,1443 0,1480 0,1512 0,1539 0,1563 0,1584 0,1601 0,1616 0,16307 0,1092 0,1150 01201 0,1245 0,1283 0,1316 0,1346 0,1372 0,1395 0,14158 0,0804 0,0878 0,0941 0,0997 0,1046 0,1089 0,1128 0,1162 0,1192 0,12199 0,0530 0,0618 0,0696 0,0764 0,0823 0,0876 0,0923 0,965 0,1002 0,1036
10 0,0263 0,0368 0,0459 0,0539 0,0610 0,0672 0,0728 0,0778 0,0822 0,086211 0,0000 0,0122 0,0228 0,0321 0,0403 0,0476 0,0540 0,0598 0,0650 0,069712 0,0000 0,0107 0,0200 0,0284 0,0358 0,0424 0,0483 0,053713 0,0000 0,0094 0,0178 0,0253 0,0320 0,038114 0,0000 0,0084 0,0159 0,022715 0,0000 0,0076
117
ANEXO B – COEFICIENTES (an-i+1) DO TESTE W PARA A NORMALIDADE –CONTINUAÇÃO
(Fonte SHAPIRO, S.S.; WILK, M .B., 1965)
ni 31 32 33 34 35 36 37 38 39 401 0,4220 0,4188 0,4156 0,4127 0,4096 0,4068 0,4040 0,4015 0,3989 0,39642 0,2921 0,2898 0,2876 0,2854 0,2834 0,2813 0,2794 0,2774 0,2755 0,27373 0,2475 0,2463 0,2451 0,2439 0,2427 0,2415 0,2403 0,2391 0,2380 0,23684 0,2145 0,2141 0,2137 0,2132 0,2127 0,2121 0,2116 0,2110 0,2104 0,20985 0,1874 0,1878 0,1880 0,1882 0,1883 0,1883 0,1883 0,1881 0,1880 0,18786 0,1641 0,1651 0,1660 0,1667 0,1673 0,1678 0,1683 0,1686 0,1689 0,16917 0,1433 0,1449 0,1463 0,1475 0,1487 0,1496 0,15105 0,1513 0,1520 0,15268 0,1243 0,1265 0,1284 0,1301 0,1317 0,1331 0,1344 0,1356 0,1366 0,13769 0,1066 0,1093 0,1118 0,1140 0,1160 0,1179 0,1196 0,1211 0,1225 0,1237
10 0,0899 0,0931 0,0961 0,0988 0,1013 0,1036 0,1056 0,1075 0,1092 0,110811 0,0739 0,0777 0,0812 0,0844 0,0873 0,09000 0,0924 0,0947 0,0967 0,098612 0,0585 0,0629 0,0669 0,0706 0,0739 0,0770 0,0798 0,0824 0,0848 0,087013 0,0435 0,0485 0,0530 0,0572 0,0610 0,0645 0,0677 0,0706 0,0733 0,075914 0,0289 0,0344 0,0395 0,0441 0,0484 0,0404 0,0559 0,0592 0,0622 0,065115 0,0144 0,0206 0,0262 0,0314 0,0361 0,0287 0,0444 0,0481 0,0515 0,054616 0,0000 0,0068 0,0131 0,0187 0,0239 0,0172 0,0331 0,0372 0,0409 0,044417 0,0000 0,0062 0,0119 0,0057 0,0220 0,0264 0,0305 0,034318 0,0000 0,0110 0,0158 0,0203 0,024419 0,0000 0,0053 0,0101 0,014620 0,0000 0,0049
ni 41 42 43 44 45 46 47 48 49 501 0,3940 0,3917 0,3894 0,3872 0,3850 0,3830 0,3808 0,3789 0,3770 0,37512 0,2719 0,2701 0,2684 0,2667 0,2651 0,2635 0,2620 0,2604 0,2589 0,25743 0,2357 0,2345 0,2334 0,2323 0,2313 0,2302 0,2291 0,2281 0,2271 0,22604 0,2091 0,2085 0,2078 0,2072 0,2065 0,2058 0,2052 0,2045 0,2038 0,20325 0,1876 0,1874 0,1871 0,1868 0,1865 0,1862 0,1859 0,1855 0,1851 0,18476 0,1693 0,1694 0,1695 0,1695 0,1695 0,1695 0,1695 0,1693 0,1692 0,16917 0,1531 0,1535 0,1539 0,1542 0,15145 0,1548 0,1550 0,1551 0,1553 0,15548 0,1384 0,1392 0,1398 0,1405 0,1410 0,1514 0,1420 0,1423 0,1427 0,14309 0,1249 0,1259 0,1269 0,1278 0,1286 0,1293 0,1300 0,1306 0,1312 0,1317
10 0,1123 0,1136 0,1149 0,1160 0,1170 0,1180 0,1189 0,1197 0,1205 0,121211 0,1004 0,1020 0,1035 0,1049 0,1062 0,1073 0,1085 0,1095 0,1105 0,111312 0,0891 0,0909 0,0927 0,0943 0,0959 0,0972 0,0986 0,0998 0,1010 0,102013 0,0782 0,0804 0,0824 0,0842 0,0860 0,0876 0,0892 0,0906 0,0919 0,093214 0,0677 0,0701 0,0724 0,0745 0,0765 0,0783 0,0801 0,0817 0,0832 0,084615 0,0575 0,0602 0,0628 0,0651 0,0673 0,0694 0,0713 0,0731 0,0748 0,076416 0,0476 0,0506 0,0534 0,0560 0,0584 0,0607 0,0628 0,0648 0,0667 0,068517 0,0379 0,0411 0,0442 0,0471 0,0497 0,0522 0,0546 0,0568 0,0588 0,060818 0,0283 0,0318 0,0352 0,0383 0,0412 0,0439 0,0465 0,0489 0,0511 0,053219 0,0188 0,0227 0,0263 0,0296 0,0328 0,0357 0,0385 0,0411 0,0436 0,045920 0,0094 0,0136 0,0175 0,0211 0,0245 0,0277 0,0307 0,0335 0,0361 0,038621 0,0000 0,0045 0,0087 0,0126 0,0163 0,0197 0,0229 0,0259 0,0288 0,031422 0,0000 0,0042 0,0081 0,0118 0,0153 0,0185 0,0215 0,024423 0,0000 0,0039 0,0076 0,0111 0,0143 0,017424 0,0000 0,0037 0,0071 0,010425 0,0000 0,0035
118
ANEXO C – PONTOS PERCENTUAIS DO ENSAIO W(Fonte SHAPIRO, S.S.; WILK, M .B., 1965)
Níveln 0,01 0,02 0,05 0,10 0,50 0,90 0,95 0,98 0,993 0,753 0,756 0,767 0,789 0,959 0,998 0,999 1,000 1,0004 0,687 0,707 0,748 0,792 0,935 0,987 0,992 0,996 0,9975 0,686 0,715 0,762 0,806 0,927 0,979 0,986 0,991 0,9936 0,713 0,743 0,788 0,826 0,927 0,974 0,981 0,986 0,9897 0,730 0,760 0,803 0,838 0,928 0,972 0,979 0,985 0,9888 0,749 0,778 0,818 0,851 0,932 0,972 0,978 0,984 0,9879 0,764 0,791 0,829 0,859 0,935 0,972 0,978 0,984 0,986
10 0,781 0,806 0,842 0,869 0,938 0,972 0,978 0,983 0,98611 0,792 0,817 0,850 0,876 0,940 0,973 0,979 0,984 0,98612 0,805 0,828 0,859 0,883 0,943 0,973 0,979 0,984 0,98613 0,815 0,837 0,866 0,889 0,945 0,974 0,979 0,984 0,98614 0,825 0,846 0,874 0,895 0,945 0,975 0,980 0,984 0,98615 0,835 0,855 0,881 0,901 0,950 0,975 0,980 0,984 0,98716 0,844 0,863 0,887 0,906 0,952 0,976 0,981 0,985 0,98717 0,851 0,869 0,892 0,910 0,954 0,977 0,981 0,985 0,98718 0,858 0,874 0,897 0,914 0,956 0,978 0,982 0,986 0,98819 0,863 0,879 0,901 0,917 0,957 0,978 0,982 0,986 0,98820 0,868 0,884 0,905 0,920 0,959 0,979 0,983 0,986 0,98821 0,873 0,888 0,908 0,923 0,960 0,980 0,983 0,987 0,98922 0,878 0,892 0,911 0,926 0,961 0,980 0,984 0,987 0,98923 0,881 0,895 0,914 0,928 0,962 0,981 0,984 0,987 0,98924 0,884 0,898 0,916 0,930 0,963 0,981 0,984 0,987 0,98925 0,888 0,901 0,918 0,931 0,964 0,981 0,985 0,988 0,98926 0,891 0,904 0,920 0,933 0,965 0,982 0,985 0,988 0,98927 0,894 0,906 0,923 0,935 0,965 0,982 0,985 0,988 0,99028 0,896 0,908 0,924 0,936 0,966 0,982 0,985 0,988 0,99029 0,898 0,910 0,926 0,937 0,966 0,982 0,985 0,988 0,99030 0,900 0,912 0,927 0,939 0,967 0,983 0,985 0,988 0,99031 0,902 0,914 0,929 0,940 0,967 0,983 0,986 0,988 0,99032 0,904 0,915 0,930 0,941 0,968 0,983 0,986 0,988 0,99033 0,906 0,917 0,931 0,942 0,968 0,983 0,986 0,989 0,99034 0,908 0,919 0,933 0,943 0,969 0,983 0,986 0,989 0,99035 0,910 0,920 0,934 0,944 0,969 0,984 0,986 0,989 0,99036 0,912 0,922 0,935 0,945 0,970 0,984 0,986 0,989 0,99037 0,914 0,924 0,936 0,946 0,970 0,984 0,987 0,989 0,99038 0,916 0,925 0,938 0,947 0,971 0,984 0,987 0,989 0,99039 0,917 0,927 0,939 0,948 0,971 0,984 0,987 0,989 0,99140 0,919 0,928 0,940 0,949 0,972 0,985 0,987 0,989 0,99141 0,920 0,929 0,941 0,950 0,972 0,985 0,987 0,989 0,99142 0,922 0,930 0,942 0,951 0,972 0,985 0,987 0,989 0,99143 0,923 0,932 0,943 0,951 0,973 0,985 0,987 0,990 0,99144 0,924 0,933 0,944 0,952 0,973 0,985 0,987 0,990 0,99145 0,926 0,934 0,945 0,953 0,973 0,985 0,988 0,990 0,99146 0,927 0,935 0,945 0,953 0,974 0,985 0,988 0,990 0,99147 0,928 0,936 0,946 0,954 0,974 0,985 0,988 0,990 0,99148 0,929 0,937 0,947 0,954 0,974 0,985 0,988 0,990 0,99149 0,929 0,937 0,947 0,955 0,974 0,985 0,988 0,990 0,99150 0,930 0,938 0,947 0,955 0,974 0,985 0,988 0,990 0,991
119
ANEXO D – VALORES CRÍTICOS DE rij(Fonte: NATRELA, 1963)
Estatística Número deobservações, n
Probabilidades
0.70 0.80 0.90 0.95 0.98 0.99 0.995
3 0.684 0.781 0.886 0.941 0.976 0.988 0.9944 0.471 0.560 0.679 0.765 0.846 0.889 0.926
r10 5 0.373 0.451 0.557 0.642 0.729 0.780 0.8216 0.318 0.386 0.482 0.560 0.644 0.698 0.7407 0.281 0.344 0.434 0.507 0.586 0.637 0.680
8 0.318 0.385 0.479 0.554 0.631 0.683 0.725r11 9 0.288 0.352 0.441 0.512 0.587 0.635 0.677
10 0.265 0.325 0.409 0.477 0.551 0.597 0.639
11 0.391 0.442 0.517 0.576 0.638 0.679 0.713r21 12 0.370 0.419 0.490 0.546 0.605 0.642 0.675
13 0.351 0.399 0.467 0.521 0.578 0.615 0.649
14 0.370 0.421 0.492 0.546 0.602 0.641 0.67415 0.353 0.402 0.472 0.525 0.579 0.616 0.64716 0.338 0.386 0.454 0.507 0.559 0.595 0.62417 0.325 0.373 0.438 0.490 0.542 0.577 0.60518 0.314 0.361 0.424 0.475 0.527 0.561 0.589
r22 19 0.304 0.350 0.412 0.462 0.514 0.547 0.57520 0.295 0.340 0.401 0.450 0.502 0.535 0.56221 0.287 0.331 0.391 0.440 0.491 0.524 0.55122 0.280 0.323 0.382 0.430 0.481 0.514 0.54123 0.274 0.316 0.374 0.421 0.472 0.505 0.53224 0.268 0.310 0.367 0.413 0.464 0.497 0.52425 0.262 0.304 0.360 0.406 0.457 0.489 0.516
120
ANEXO E – VALORES CRÍTICOS DE G (Fonte: MASSART et al, 1997)
Um Valor Dois Valores1-p
n 0,05 0,01 0,05 0,013 1,155 1,1554 1,481 1,496 0,0002 05 1,715 1,764 0,009 0,00186 1,887 1,973 0,0349 0,01167 2,020 2,139 0,0708 0,03088 2,126 2,274 0,1101 0,05639 2,215 2,387 0,1492 0,0851
10 2,290 2,820 0,1864 0,1150
121
ANEXO F – TABELA T DE STUDENT(Fonte: NATRELA, M.G., 1963)
df t.60 t.70 t.80 t.90 t.95 t.975 t.99 t.9951 .325 .727 1.376 3.078 6.314 12.706 31.821 63.6572 .289 .617 1.061 1.886 2.920 4.303 6.965 9.9253 .277 .584 .978 1.638 2.353 3.182 4.541 5.8414 .271 .569 .941 1.533 2.132 2.776 3.747 4.6045 .267 .559 .920 1.476 2.015 2.571 3.365 4.032
6 .265 .553 .906 1.440 1.943 2.447 3.143 3.7077 .263 .549 .896 1.415 1.895 2.365 2.998 3.4998 .262 .546 .889 1.397 1.860 2.306 2.896 3.3559 .261 .543 .883 1.383 1.833 2.262 2.821 3.250
10 .260 .542 .879 1.372 1.812 2.228 2.764 3.169
11 .260 .540 .876 1.363 1.796 2.201 2.718 3.10612 .259 .539 .873 1.356 1.782 2.179 2.681 3.05513 .259 .538 .870 1.350 1.771 2.160 2.650 3.01214 .258 .537 .868 1.345 1.761 2.145 2.624 2.97715 .258 .536 .866 1.341 1.753 2.131 2.602 2.947
16 .258 .535 .865 1.337 1.746 2.120 2.583 2.92117 .257 .534 .863 1.333 1.740 2.110 2.567 2.89818 .257 .534 .862 1.330 1.734 2.101 2.552 2.87819 .257 .533 .861 1.328 1.729 2.093 2.539 2.86120 .257 .533 .860 1.325 1.725 2.086 2.528 2.845
21 .257 .532 .859 1.323 1.721 2.080 2.518 2.83122 .256 .532 .858 1.321 1.717 2.074 2.508 2.81923 .256 .532 .858 1.319 1.714 2.069 2.500 2.80724 .256 .531 .857 1.318 1.711 2.064 2.492 2.79725 .256 .531 .856 1.316 1.708 2.060 2.485 2.787
26 .256 .531 .856 1.315 1.706 2.056 2.479 2.77927 .256 .531 .855 1.314 1.703 2.052 2.473 2.77128 .256 .530 .855 1.313 1.701 2.048 2.467 2.76329 .256 .530 .854 1.311 1.699 2.045 2.462 2.75630 .256 .530 .854 1.310 1.697 2.042 2.457 2.750
40 .255 .529 .851 1.303 1.684 2.021 2.423 2.70460 .254 .527 .848 1.296 1.671 2.000 2.390 2.660
120 .254 .526 .845 1.289 1.658 1.980 2.358 2.617∞ .253 .524 .842 1.282 1.645 1.960 2.326 2.576
df = graus de liberdade
122
ANEXO G – CARTA DE CONTROLE (Fonte: ASTM Manual on Quality Control of Materials, 1951)
Fatores para Cálculo de Limites de Controle 3 SIGMACarta para
MédiasCarta para Desvios Padrão Carta para Amplitudes
Fatores paraLimites deControle
Fatorespara Linha
Central
Fatores para Limites de Controle
Fatores paraLinha Central
Fatores paraLimites de Controle
n A A1 A2 C2 1/C2 B1 B2 B3 B4 d2 1/d2 d3 D1 D2 D3 D42 2,121 3,760 1,880 0,5642 1,7725 0 1,843 0 3,267 1,128 0,8865 0,853 0 3,686 0 3,2673 1,732 2,394 1,023 0,7236 1,3820 0 1,858 0 2,568 1,693 0,5907 0,888 0 4,358 0 2,5754 1,500 1,880 0,729 0,7979 1,2533 0 1,808 0 2,266 2,059 0,4857 0,880 0 4,698 0 2,2825 1,342 1,596 0,577 0,8407 1,1894 0 1,756 0 2,089 2,326 0,4299 0,864 0 4,918 0 2,1156 1,225 1,410 0,483 0,8686 1,1512 0,026 1,711 0,030 1,970 2,534 0,3946 0,848 0 5,078 0 2,0047 1,134 1,277 0,419 0,8882 1,1259 0,105 1,672 0,118 1,882 2,704 0,3698 0,833 0,205 5,203 0,076 1,9248 1,061 1,175 0,373 0,9027 1,1078 0,167 1,638 0,185 1,815 2,847 0,3512 0,820 0,387 5,307 0,136 1,8649 1,000 1,094 0,337 0,9139 1,0942 0,219 1,609 0,239 1,761 2,970 0,3376 0,808 0,546 5,394 0,184 1,81610 0,949 1,028 0,308 0,9227 1,0837 0,262 1,584 0,284 1,716 3,078 0,3249 0,797 0,687 5,469 0,223 1,77711 0,905 0,973 0,285 0,9300 1,0753 0,299 1,561 0,321 1,679 3,173 0,3152 0,787 0,812 5,534 0,256 1,74412 0,866 0,925 0,266 0,9359 1,0684 0,331 1,541 0,354 1,646 3,258 0,3069 0,778 0,924 5,592 0,284 1,71613 0,832 0,884 0,249 0,9410 1,0627 0,359 1,523 0,382 1,618 3,336 0,2998 0,770 1,026 5,646 0,308 1,69214 0,802 0,848 0,235 0,9453 1,0579 0,384 1,507 0,406 1,594 3,407 0,2935 0,762 1,121 5,693 0,329 1,67115 0,775 0,816 0,223 0,9490 1,0537 0,406 1,492 0,428 1,572 3,472 0,2880 0,755 1,207 5,737 0,348 1,65216 0,750 0,788 0,212 0,9523 1,0501 0,427 1,478 0,448 1,552 3,532 0,2831 0,749 1,285 5,779 0,364 1,63617 0,728 0,762 0,203 0,9551 1,0470 0,445 1,465 0,466 1,534 3,588 0,2787 0,743 1,359 5,817 0,379 1,62118 0,707 0,738 0,194 0,9576 1,0442 0,461 1,454 0,482 1,518 3,640 0,2747 0,738 1,426 5,854 0,392 1,60819 0,688 0,717 0,187 0,9599 1,0418 0,477 1,443 0,497 1,503 3,689 0,2711 0,733 1,490 5,888 0,404 1,59620 0,671 0,697 0,180 0,9619 1,0396 0,491 1,433 0,510 1,490 3,735 0,2677 0,729 1,548 5,922 0,414 1,58621 0,655 0,679 0,173 0,9638 1,0376 0,504 1,424 0,523 1,477 3,778 0,2647 0,724 1,606 5,950 0,425 1,57522 0,640 0,662 0,167 0,9655 1,0358 0,516 1,415 0,534 1,466 3,819 0,2618 0,720 1,659 5,979 0,434 1,56623 0,626 0,647 0,162 0,9670 1,0342 0,527 1,407 0,545 1,455 3,858 0,2592 0,726 1,710 6,006 0,443 1,55724 0,612 0,632 0,157 0,9684 1,0327 0,538 1,399 0,555 1,445 3,895 0,2567 0,712 1,759 6,031 0,452 1,54825 0,600 0,619 0,153 0,9696 1,0313 0,548 1,392 0,564 1,435 3,931 0,2544 0,709 1,804 6,058 0,459 1,541
n = Número de observações na amostra