.

D.1 Konzepte zur Beurteilung von Erwartungswerten anhand von Stichproben

Eine normalverteilte Zufallsgröße X ~ N(μ ;σ ) hat die Verteilungsfunktion

(D1)

und den Erwartungswert

Eine lognormal verteilte Zufallsgröße Y ~ Ln(μ ;σ ) hat die Verteilungsfunktion

(D3)

und den Erwartungswert

In der Praxis können für die Erwartungswerte (D2) bzw. (D4) jedoch nur Schätzungen auf der Basis von Stichproben (Messwerten) vorgenommen werden. Die in Anhang C erläuterten Methoden zur Schätzung der Verteilungsparameter μ und σ sind dafür eine wesentliche Basis.

Nachfolgend wird angenommen, dass mögliche Störungen der Normal- bzw. Lognormalverteilung durch Ausreißer (oder Störungen der Lognormalverteilung durch einen konstanten Untergrund c) bereits separiert wurden. Hier werden deshalb nur Schätzungen zum Erwartungswert für "reine" normal bzw. lognormal verteilte Zufallsgrößen betrachtet.

Zur Beurteilung des Erwartungswertes einer Zufallsgröße anhand von Stichproben können im Prinzip zwei unterschiedliche Konzepte und entsprechende Kenngrößen genutzt werden. Sehr oft wird der Erwartungswert nur auf der Basis so genannter Punktschätzer E_n beurteilt. Der bekannteste Punktschätzer ist der arithmetische Mittelwert E_n^(AM) der n Stichprobenwerte. Er hängt nicht von der Art der statistischen Verteilung ab. Für normal verteilte Zufallsgrößen stimmt er mit dem so genannten Maximum-Likelihood-Schätzer E_n^(ML) überein, der sich für beide Verteilungsarten durch Einsetzen der Schätzwerte μ_n und σ_n der Verteilungsparameter in die Formeln (D2) bzw. (D4) ergibt (siehe [D1]):

Die Schätzwerte (D5) und (D6) sind ebenfalls Zufallsgrößen, da sie aus zufällig gewonnenen Stichprobenwerten resultieren. Sie liegen umso wahrscheinlicher in der Nähe des (wahren, aber immer unbekannten) Erwartungswertes E, je größer der Stichprobenumfang n ist. Die zufälligen Abweichungen der Schätzwerte E_n vom wahren Erwartungswert E können besonders im Fall der Lognormalverteilung (D3) bei größeren Werten von σ so groß sein, dass die auf der Grundlage von Punktschätzern getroffenen Aussagen den realen Gegebenheiten nicht mehr gerecht werden [D2].

Will man anhand von Stichproben mit einer bestimmten Sicherheit beurteilen, wie groß der wahre Wert von E sein könnte, so ist das Konzept der Konfidenzgrenzen zu verwenden, mit dem für E eine "Intervallschätzung" vorgenommen wird. Hierbei wird eine obere Konfidenzgrenze bestimmt, die mit einer vorzugebenden Wahrscheinlichkeit P (dem Vertrauensniveau) größer als E ist, bzw. eine untere Konfidenzgrenze, die mit der Wahrscheinlichkeit P kleiner als E ist. Im Umweltschutz wird ein Vertrauensniveau von P = 0,95 i. Allg. als ausreichend sicher angesehen und hier nachfolgend als "vorgegeben" betrachtet.

In Abschnitt D.2 wird auf die Berechnung von Konfidenzgrenzen zum Erwartungswert von normal verteilten Zufallsgrößen eingegangen. In Abschnitt D.3 werden die zur Berechnung von Konfidenzgrenzen für den Erwartungswert von lognormal verteilten Zufallsgrößen benötigten Beziehungen erläutert. Eine detailliertere Darstellung und mathematische Ableitung dieser Beziehungen ist in [D2) enthalten. Zur Theorie der Konfidenzgrenzen linearer Funktionen des Er-wartungswertes und der Varianz von normal verteilten Zufallsgrößen sei auf [D3] hingewiesen.

Tabelle D1: Perzentile t_n-1;P der t-Verteilung für Stichprobenumfänge n von 6 bis 100 für P = 0,95

D.2 Berechnung von Konfidenzgrenzen zum Erwartungswert normal verteilter Zufallsgrößen

Zur Berechnung von Konfidenzgrenzen für den Erwartungswert E = µ normal verteilter Zufallsgrößen wird die folgende Stichprobenfunktion betrachtet:

(D7)

Sie hat die Verteilungsdichte

(D8)

die als t-Verteilung (bzw. Student-Verteilung) mit n - 1 Freiheitsgraden bezeichnet wird. Mit den für eine Stichprobe ermittelten Schätzwerten µ_n und σ _n wird die für den wahren Erwartungswert µ verbleibende Unsicherheit durch die t-Verteilung quantifiziert; denn gemäß (D7) ist

(D9)

Aus der Verteilungsfunktion

(D10)

werden hierzu die Perzentile t_n-1;P der t-Verteilung berechnet,

Aus den Symmetrieeigenschaften von (D8) folgt: }

Für Stichprobenumfänge n von 4 bis 100 sind die Perzentile t_n-1;P zum Vertrauensniveau von P = 0,95 in der Tabelle D1 angegeben. Der Abschnitt D.3 enthält außerdem eine analytische Näherung für die Stichprobenumfänge n von 8 bis 10.000, mit der die Perzentile t_n-1;P hinreichend genau berechnet werden können.

Die Konfidenzgrenzen zum Erwartungswert E = µ der Normalverteilung lassen sich dann gemäß Gl. (D9) mit den aus der Stichprobe gewonnenen Schätzwerten µ_n und σ _n und den Perzentilen t_n-1;P mit den folgenden Formeln berechnen:

obere Konfidenzgrenze

(D13a)

untere Konfidenzgrenze

(D13b)

D.3 Berechnung von Konfidenzgrenzen für den Erwartungswert lognormal verteilter Zufallsgrößen

Die Konfidenzgrenzen für den Erwartungswert E = exp [μ + σ ²/2] der Lognormalverteilung können in der folgenden Form dargestellt werden (siehe [D2]):

Die von n, P und σ_n abhängigen Funktionen B(n; P; σ _n) und B(n; 1-P; σ _n) werden als Konfidenzfaktoren zur oberen/unteren Konfidenzgrenze der Schätzung des Erwartungswertes E der lognormal verteilten Zufallsgröße Y auf Basis der Stichprobe {y}_n bezeichnet. Für die gilt die Beziehung

(D15)

wobei die Funktion v^(n;P)( σ _n) die Lösung der folgenden Integralgleichung für v ist:

(D16)

(in (D16) wurde für v^(n;P) (σ _n) vereinfachend nur das Symbol "v" geschrieben). Eine analytische Lösung der Gl. (D16) existiert nur für den Fall n = 3 (der aber praktisch nicht von Interesse ist); für n ≥ 4 muss die Gl. (D16) numerisch gelöst werden .

Zur Berechnung der Konfidenzgrenzen (D14) können die Konfidenzfaktoren B(n; P; σ_n) bzw. B(n; 1-P; σ_n) zum Vertrauensniveau P = 0,95 den in den Abbildungen D1 bzw. D2 dargestellten Nomogrammen entnommen werden. Für genauere Berechnungen wird die nachfolgende analytische Näherung aus [D2) empfohlen. Diese Approximation hat die Form

(D17)

(D18)

Für sehr kleine Stichprobenumfänge n von 4 bis 8 sind die Koeffizienten t_n-1;P (Perzentile der t-Verteilung) zusammen mit den Koeffizienten b_n;P und d_n;Pi (i = 1 bis 3) in Tabelle D2 aufgeführt. Für n ≥ 8 werden nachfolgend polynomiale Approximationen für diese Koeffizienten angegeben, die eine hohe Genauigkeit haben.

Die Abhängigkeit der gemäß (D17)/(D18) benötigten fünf Koeffizienten t_n-1;P, b_n;P;iund d_n;P,i (i = 1 bis 3) vom Stichprobenumfang n kann für n ≥ 8 sehr genau durch Polynome der Variablen

approximiert werden:

(D20a)

(D20b)

(D20c)

Für n von 8 bis 10.000 wurden die Koeffizienten t_n-1;P, b_n;P;iund d_n;P,i (i = 1 bis 3) gemäß (D20) in Polynome 4. Ordnung von L_n = log(n) entwickelt (K = 4), wobei zum Erreichen dieser geringen Ordnung und einer hohen Genauigkeit der Berechnung der Konfidenzfaktoren (D17) die Bereiche "kleine Stichproben" mit n von 8 bis 20 (entspricht L_n von 0,9 bis 1,3), "mittel-große Stichproben" mit n von 20 bis 100 (entspricht L_n von 1,3 bis 2) und "große bis sehr große Stichproben" mit n von 100 bis 10.000 (entspricht L_n von 2 bis 4) separat angepasst wurden.

Die Tabelle D3 enthält die Koeffizienten τ _P;k, β_P;k und δ _P;i;k von (D20) für P = 0,95, die zur Berechnung der Konfidenzfaktoren für die obere Konfidenzgrenze benötigt werden. In Tabelle D4 sind die Koeffizienten für P = 0,05 zur Berechnung von unteren Konfidenzgrenzen angegeben.

Mit der Approximation (D17) bis (D20) und den Koeffizienten der Tabellen D2 bis D4 können die Konfidenzfaktoren B(n; P; σ_n) und B(n; 1-P; σ_n) zum Vertrauensniveau von P = 0,95 für den praktisch relevanten Bereich von σ_n ≤; 5 und 4 ≤; n ≤; 10.000 mit sehr hoher Genauigkeit berechnet werden.

Die maximalen Fehler liegen für n = 4 bei 2,3 % (wird erreicht bei σ_n = 0,6), für n = 5 bei 1,3 % (wird erreicht bei σ_n = 0,8) und ansonsten durchgehend unter 1 % der exakten Werte. Diese Genauigkeit ist für praktische Anwendungen ausreichend.

Abbildung D1a: Verlauf der Funktion B(n; P; σ _n) für P = 0,95 und σ_n von 0,1 (untere Kurve) bis 2,5 (obere Kurve) in Schritten von 0,1 (σ_n mit vielfachen von 0,5 sind fett hervorgehoben) für Stichprobenumfänge n von 3 bis 200

Abbildung D1b: Verlauf der Funktion B(n; P; σ_n) für P = 0,95 und σ_n von 0,1 (untere Kurve) bis 2,5 (obere Kurve) in Schritten von 0,1 (σ_n mit Vielfachen von 0,5 sind fett hervorgehoben) für Stichprobenumfänge n von 200 bis 1.000

Abbildung D1c: Verlauf der Funktion B(n; P; σ_n) für P = 0,95 und σ_n von 0,1 (untere Kurve) bis 2,5 (obere Kurve) in Schritten von 0,1 (σ_n mit Vielfachen von 0,5 sind fett hervorgehoben) für Stichprobenumfänge n von 1.000 bis 10.000

Abbildung D2a: Verlauf der Funktion B(n; 1-P; σ_n) für P = 0,95 und σ_n von 0,1 (obere Kurve) bis 2,5 (untere Kurve) in Schritten von 0,1 (σ_n mit Vielfachen von 0,5 sind fett hervorgehoben) für Stichprobenumfänge n von 3 bis 200

Abbildung D2b: Verlauf der Funktion B(n; 1-P; σ_n) für P = 0,95 und σ_n von 0,1 (obere Kurve) bis 2,5 (untere Kurve) in Schritten von 0,1 (σ_n mit Vielfachen von 0,5 sind fett hervorgehoben) für Stichprobenumfänge n von 200 bis 1.000

Abbildung D2c: Verlauf der Funktion B(n; 1-P; σ_n) für P = 0,95 und σ_n von 0,1 (obere Kurve) bis 2,5 (untere Kurve) in Schritten von 0,1 (σ_n mit Vielfachen von 0,5 sind fett hervorgehoben) für Stichprobenumfänge n von 1.000 bis 10.000

Tabelle D2: Koeffizienten t_n-1;P, b_n;P und d_n;P;i (i = 1 bis 3) für 4 ≤; n ≤; 8 (sehr kleine Stichproben)

Tabelle D3: Koeffizienten τ_P;k, β_P;k und δ _P;i;k (i = 1 bis 3) mit K = 4 für P = 0,95 zur Berechnung der oberen Konfidenzgrenze (D14a) gemäß (D17) bis (D20)

Tabelle D4: Koeffizienten τ_P;k, β_P;k und δ _P;i;k (i = 1 bis 3) mit K = 4 für P = 0,05 zur Berechnung der unteren Konfidenzgrenze (D14b) gemäß (D17) bis (D20)

D.4 Literatur

[D1] Rinne, H.
Taschenbuch der Statistik
Verlag Harri Deutsch, Thun und Frankfurt am Main, 1997

[D2] Barthel, R.
Statistische Auswertung von Stichproben lognormal verteilter Größen für realistisch-konservative radioökologische Bewertungen,
in: Aktuelle und zukünftige Aufgaben in der Radioökologie - Klausurtagung des Ausschusses "Radioökologie" der Strahlenschutzkommission am 25./26. Juli 2001; Veröffentlichungen der Strahlenschutzkommission Band 49, S. 207 - 280,
Urban & Fischer, München, Jena, 2003

[D3] Land, C.E.
Confidence intervals for linear functions of the normal mean and variance
The Annals of Mathematical Statistics 42 (1971), pp. 1187 - 1205

.

Bei der Berechnung von Konfidenzgrenzen zum Erwartungswert lognormal verteilter Größen ist es wichtig, mögliche Störungen zu identifizieren und für die Schätzung der Verteilungsparameter zu separieren. In Abschnitt E.1 wird anhand simulierter Daten gezeigt, dass eine Unterlassung des Ausreißertestes oder der Ermittlung eines in den Messwerten enthaltenen konstanten Untergrundes zu erheblichen Fehlern führen kann. In Abschnitt E.2 wird der Effekt der Nutzung von Mischproben verdeutlicht, wozu ebenfalls auf simulierte Daten zurückgegriffen wird. Danach wird die Bedeutung dieser Aspekte für radiologische Bewertungen von Rückständen mit erhöhter spezifischer Aktivität natürlicher Radionuklide anhand von realen Messergebnissen demonstriert (Abschnitt E.3).

E.1 Einfluss von Störungen durch Ausreißer und Untergrundwerte auf die Berechnung von Konfidenzgrenzen des Erwartungswertes lognormal verteilter Zufallsgrößen

E.1.1 Analyse der ungestörten Stichprobe

Aus einer lognormal verteilten (ungestörten) Grundgesamtheit

wurde eine zufällige Stichprobe vom Umfang n = 20 gewonnen. Die nach der Größe geordneten Einzelwerte y dieser Stichprobe sind in Tabelle E1 aufgeführt. Mit (E1) folgt gemäß Gl. (C10) für den (wahren) Erwartungswert E:

(E2)

Die in Tabelle E1 angegebenen Werte können (versehen mit der Einheit Bq/g) als Stichprobe für die spezifische Aktivität eines Rückstandes angesehen werden, für den die Einhaltung einer Überwachungsgrenze von C = 1 Bq/g zu überprüfen ist (Y = C_Ra226 = C_U238max; C_Th232max < 0,2 Bq/g). Bei Kenntnis des wahren Erwartungswertes der spezifischen Aktivität Gl. (E2) wäre die Einhaltung der Bedingung (1) der StrlSchV Anlage XII Teil B Nr. 1 nachgewiesen. Mit der Stichprobe {y}₂₀ aus Tabelle E1 ergibt sich jedoch zunächst eine andere Bewertung.

Zur Berechnung der oberen Konfidenzgrenze des Erwartungswertes UL_r sei zunächst festgestellt, dass für alle Einzelproben konkrete Messwerte vorliegen (n_e = 0 und damit auch n* = 0). Aus dem in Abbildung E1 dargestellten Q-Q-Plot ist zu erkennen, dass die Stichprobe {y}₂₀ einer lognormal verteilten Grundgesamtheit zuzuordnen ist. Das Bestimmtheitsmaß R²_(Ln) = 0,977 liegt deutlich über dem Wert, der sich bei Annahme einer Normalverteilung ergeben würde (R²_(N) = 0,761).

Zur vereinfachten Schätzung der oberen Konfidenzgrenze UL resultiert nach Gl. (12) die Prüfgröße

Gemäß Tabelle 2 und Gl. (13) ist y_<19> = 2,179 ein einfacher Schätzer zur oberen Konfidenzgrenze UL des Erwartungswertes. Da mit diesem Wert die relevante Überwachungsgrenze überschritten wird, ist eine genauere Berechnung der oberen Konfidenzgrenze erforderlich.

Tabelle E1: Einzelwerte y der zufälligen Stichprobe {y}₂₀ der Lognormalverteilung Gl. (E1)

i	y	i	y	i	y	i	y
1	0,018	6	0,151	11	0,434	16	0,817
2	0,030	7	0,165	12	0,464	17	0,842
3	0,054	8	0,166	13	0,489	18	1,261
4	0,070	9	0,210	14	0,690	19	2,179
5	0,117	10	0,326	15	0,746	20	2,501

Abbildung E1: Q-Q-Plot für die Logarithmen x = ln(y) der Daten aus Tabelle E1

 

Tabelle E2: Statistische Kennwerte zur Stichprobe aus Tabelle El (n = 20; P = 0,95)

na	c	μ n	σ n	G1	Gn	Gn;a=0,01	En(AM)	En(ML)	E(n;1-P)	E(n;P)
0	0	-1,242	1,359	2,042	1,589	2,884	0,587	0,727	0,404	1,929

Abbildung E2: Schätzung des Untergrundwertes c_R durch Bestimmung des Maximums des Bestimmtheitsmaßes R²(c) für die Stichprobe aus Tabelle E1

 

Abbildung E3: Schätzung des Untergrundwertes c_S durch Bestimmung des Nulldurchgangs der Schiefe S(c) für die Stichprobe aus Tabelle E1

 

In Tabelle E2 sind die Ergebnisse der Parameterschätzung, die nach dem Teilschema (Abbildung 2) unter der Annahme einer Störung durch einen konstanten Untergrundwert c vorgenommen wurde, zusammengefasst. Aus den Abbildungen E2 und E3 ist jedoch ersichtlich, das mit c = 0 zu rechnen ist. Aus dem G_RUBBS-Test folgt, dass die Extremwerte y, und y_<20> keine Ausreißer sind (die nach Gl. (C26) berechneten Prüfwerte G₁ und G₂₀ sind kleiner als der kritische Wert g_20;0,01)

Zur Tabelle E2 ergeben sich folgende Anmerkungen:

• Die Stichprobe enthält keine Ausreißer und keinen konstanten Untergrund.
• Die Parameter μ und σ der Verteilung (E1) wurden relativ gut bestimmt. Die Überschätzung von μ (μ ₂₀ > μ ) und Unterschätzung von σ (σ ₂₀ < σ ) führen insgesamt zu einer Unterschätzung des (wahren) Erwartungswertes E durch den ML-Schätzer (E_n^(ML) < E) um ca. 4 %. Durch den arithmetischen Mittelwert E_n^(AM) wird E um ca. 23 % unterschätzt.
• Die obere Konfidenzgrenze zum Erwartungswert UL = E^(20,0,95) = 1,93 (der Wert liegt in diesem Beispiel unter dem Wert der vereinfachten Schätzung von y_<19> = 2,18) ist größer als die Überwachungsgrenze; die untere Konfidenzgrenze LL = E_20;0,05) =0,40 und der Punktschätzer E_n^(ML) = 0,73 liegen jedoch darunter.

Gemäß Gesamtschema zum Nachweis der Einhaltung von Überwachungsgrenzen ist der Schluss zu ziehen, dass die Überschreitung der Überwachungsgrenze C durch UL_r eine Folge der statistischen Unsicherheiten sein könnte. Der Stichprobenumfang von n = 20 könnte für den großen σ-Wert der Verteilung (Schätzwert σ_n = 1,36) und dem geringen Abstand des Erwartungswertes E (Punktschätzer E_n^(ML) = 0,73) von der Überwachungsgrenze C = 1 für eine "repräsentative Schätzung" des Erwartungswertes zu klein sein. Folglich sollte der Stichprobenumfang erhöht werden oder eine Analyse von Mischproben erfolgen. Dies wird in Abschnitt E.2 weiterverfolgt. Hier sollen zunächst die Auswirkungen von Störungen der Stichprobe diskutiert werden.

E.1.2 Auswirkungen eines extrem kleinen Messwertes

Zur Veranschaulichung der Auswirkungen sowie der Identifikation und Separation eines Ausreißers sei folgende Stichprobe betrachtet:

{z}20 mit z = 0,002 und z = y für i = 2 bis 20 mit y aus Tabelle E1.

(E3)

Die Stichprobe (E3) entspricht also bis auf den kleinsten Wert z_<1>, der Stichprobe der im vorigen Abschnitt betrachteten Stichprobe {y}₂₀. Der Wert z_<1> = 0,002 wurde willkürlich gewählt. Der in Abbildung E4 dargestellte Q-Q-Plot für die Stichprobe (E3) lässt vermuten, dass der Extremwert z_<1> ein Ausreißer ist. Eine genaue Prüfung mit dem G_RUBBS-Test ist somit unbedingt erforderlich.

Für die Definition der Verteilungsart bewirkt die mit E3 gegenüber der ursprünglichen Stichprobe aus Tabelle El vorgenommene Substitution des kleinsten Stichprobenwertes keine Änderung. Die vereinfachte Schätzung der oberen Konfidenzgrenze zum Erwartungswert ergibt den gleichen Wert UL = z_<19> = 2,179. In Tabelle E3 sind die Ergebnisse der Parameterschätzungen sowie der Berechnung der Punktschätzer E_n^(AM) und E_n^(ML) und der Konfidenzgrenzen des Erwartungswertes zum Vertrauensniveau P = 0,95 zusammengestellt. Die in der zweiten Zeile für E_n^(ML)E^(n;1-P)und E^(n;P) angegebenen Werte wurden unter der falschen Voraussetzung berechnet, dass die Stichprobe keinen Ausreißer enthält. Für den Untergrund folgt auch nach Separation des Ausreißers c = 0.

Zur Tabelle E3 ergeben sich folgende Anmerkungen:

• Die Stichprobe enthält einen Ausreißer und keinen konstanten Untergrund. Qualitativ sind die zur Tabelle E2 getroffenen Feststellungen zu wiederholen. Für die obere Konfidenzgrenze ist nun jedoch die Formel (24a) anzuwenden, womit sich ein Wert von UL = 1,575 ergibt. Für die weitere Bewertung resultieren aus den Beziehungen (24b) und (29) die Werte LL = 0,398 und PL = 0,672. Daraus könnte eine Prognose zur Erhöhung des Stichprobenumfangs erfolgen.
• Ohne die Identifikation (und Separation) des Ausreißers z_<1> = 0,002 hätten sich jedoch völlig andere Schlussfolgerungen ergeben. Infolge der signifikanten Überschätzung von σ läge bereits der Punktschätzer E_n^(ML) über der Überwachungsgrenze, so dass eine sinnvolle Prognose zur Erhöhung des Stichprobenumfangs nicht möglich wäre.

Tabelle E3: Statistische Kennwerte zur Stichprobe Gl. (E3) (P = 0,95)

na	c	μ n	σ n	G1	Gn	Gn;α=0,01	E n(AM)	En(ML)	E(n;1-P)	E(n;P)
0	0	-1,352	1,652	2,943	1,373	2,884	0,586	1,0131	0,470*	3,9721
1	0	-1,096	1,224	1,968	1,644	2,854	0,616	0,707	0,419	1,658

*) berechnet unter der falschen Annahme n_a = 0

Abbildung E4: Q-Q-Plot für die Logarithmen x = ln(z) der Stichprobe Gl. (E3)

 

• Im Vergleich zu Tabelle E2 ergibt sich das scheinbar paradoxe Ergebnis, dass die Reduzierung eines Wertes (von y_<1>, = 0,018 auf z_<1> = 0,002) größere Schätzwerte für den Erwartungswert auf der Basis des Punktschätzers E_n^(ML) und der oberen Konfidenzgrenze E^(n;P) bewirken. Die Ursache ist die Erhöhung des Schätzwertes für σ_n, die eine Vergrößerung sowohl von E_n^(ML) als auch des Konfidenzfaktors B(n; P; σ _n) bewirkt (siehe Gl. (22), (23a) und Abbildung D1a).

Dieses Beispiel verdeutlicht die Wichtigkeit der Durchführung des Ausreißertestes. Hierzu ist noch anzumerken, dass die für den G_RUBBS-Test empfohlene Irrtumswahrscheinlichkeit von Α = 0,01 sehr klein ist und zur Folge hat, dass einige Ausreißer nicht erkannt werden. Wäre z.B. mit z_<1> = 0,003 gerechnet worden, so hätte sich beim ersten Durchlauf der Parameterschätzung mit μ _n = -1,332 und σ _n = 1,591 sowie E^(n;P) = 3,360 qualitativ ein ähnliches Resultat ergeben. Mit G₁ = 2,814 wäre z_<1> jedoch nicht als Ausreißer klassifiziert worden.

In solchen Fällen sollte der Ausreißertest mit der Irrtumswahrscheinlichkeit σ = 0,05 wiederholt werden. Mit g_20;0,05 = 2,557 wäre der Verdacht gegeben, dass es sich bei z_<1> = 0,003 um einen Ausreißer handelt, nach dessen Separation mit den Schätzwerten der dritten Zeile von Tabelle E3 eine sinnvolle Prognose zur Erhöhung des Stichprobenumfangs vorgenommen werden könnte. Diese zur Prognose einer Erhöhung des Stichprobenumfangs betrachtete Vorgehensweise steht auch nicht im Widerspruch zu der Empfehlung, dass für den Nachweis der Einhaltung von Überwachungsgrenzen bzw. des Dosisrichtwertes der StrlSchV zur Berechnung von Konfidenzgrenzen des Erwartungswertes der spezifischen Aktivität nur solche Extremwerte als Ausreißer separiert werden sollten, die den GRUBBS-Test bei einer Irrtumswahrscheinlichkeit von α = 0,01 nicht bestehen.

E.1.3 Auswirkungen eines Untergrundwertes

Zur Veranschaulichung der Auswirkungen eines konstanten Untergrundwertes sei die folgende Stichprobe betrachtet:

z = 0,2 + y (i = 1 bis 20) mit y aus Tabelle E1

(E4)

Die Stichprobe (E4) entspricht also bis auf den hinzugefügten Untergrundwert von c = 0,2 der ursprünglichen Stichprobe aus Abschnitt E.1.1. Der Wert c = 0,2 wurde willkürlich gewählt. Der in Abbildung E5 dargestellte Q-Q-Plot für die Stichprobe (E4) lässt vermuten, dass die Werte einen konstanten Untergrund enthalten.

Die Abbildungen E6 und E7 zeigen die Schätzung von c mit den in Abschnitt C.4 von Anhang C erläuterten Methoden der Maximierung des Bestimmtheitsmaßes R²(c) im Q-Q-Plot und der Suche der Nullstelle der Schiefe S(c).

Gemäß Gl. (C40) wird für den Untergrund der Mittelwert der beiden Schätzungen angesetzt:

In Tabelle E4 sind die Ergebnisse der Parameterschätzung sowie der Berechnung der Punktschätzer E_n^(AM) und E_n^(ML) und der Konfidenzgrenzen des Erwartungswertes zum Vertrauensniveau P = 0,95 zusammengestellt, wobei in den drei letzten Spalten jeweils der Wert c des konstanten Untergrundes zur besseren Vergleichbarkeit der Ergebnisse hinzugefügt wurde, so dass bereits die Werte für PL, LL bzw. UL angegeben sind; siehe Gl. (24) und (29). Die in der zweiten Zeile angegebenen Werte wurden unter der falschen Annahme berechnet, dass die Stichprobe Gl. (E4) keinen konstanten Untergrund enthält.

Tabelle E4: Statistische Kennwerte zur Stichprobe Gl. (E4) (P = 0,95)

na	c	μ n	σ n	G1	Gn	gn;α=0,01	E n(AM)	En(ML)	c+E(n;1-P)	c+E(n;P)
0	0	-0,526	0,747	1,335	2,035	2,884	0,787	0,781*	0,586*	1,149*
0	0,173	-1,066	1,158	1,747	1,722	2,884	0,787	0,846	0,590	1,597
*) berechnet unter der falschen Annahme c = 0

Abbildung E5: Q-Q-Plot für die Logarithmen x = ln(z) der Stichprobe Gl. (E4)

Zur Tabelle E4 ergeben sich folgende Anmerkungen:

• Wenn keine Bestimmung und Separation des in den Stichprobenwerten enthaltenen konstanten Untergrundes vorgenommen wird, resultieren erhebliche Fehleinschätzungen zu den Parametern μ (Überschätzung) und σ (Unterschätzung). Im Vergleich zur ursprünglichen Stichprobe führt dies zu einer relativ starken Verringerung der oberen Konfidenzgrenze für den Erwartungswert, UL = c + E^(n;P) (hier mit n_a = 0), was paradox erscheint, da alle Stichprobenwerte um 0,2 vergrößert wurden. Dies ist aber die Folge der starken Abnahme des Konfidenzfaktors B(n; P; σ_n) für kleinere Werte von σ_n.
• Die Berechnung des Untergrundwertes ergab im hier betrachteten Beispiel mit 0,173 eine leicht unter dem wahren Wert von c = 0,2 liegende Schätzung. Dies erklärt die Abweichungen von den entsprechenden, um 0,2 erhöhten Werten von Tabelle E2.
• Die Separation des Untergrundwertes führt bzgl. der Bewertung der Einhaltung der Überwachungsgrenze und einer Prognose für die hierzu erforderliche Erhöhung des Stichprobenumfangs qualitativ zu ähnlichen Ergebnissen wie die ursprüngliche Stichprobe von Tabelle El.

Abbildung E6: Schätzung des Untergrundwertes c_R durch Bestimmung des Maximums des Bestimmtheitsmaßes R²(c) für die Stichprobe Gl. (E4)

 

Abbildung E7: Schätzung des Untergrundwertes c_S durch Bestimmung des Nulldurchgangs der Schiefe S(c) für die Stichprobe Gl. (E4)

weiter .