Wahrscheinlichkeitstheorie
Vorbemerkungen
Die Wahrscheinlichkeitstheorie ist ein mathematisches Modell zur Beschreibung von und zum quantitativen Schlussfolgern über Zufallsvorgänge der Wirklichkeit (Abbildung 1). Unter Zufallsvorgängen verstehen wir dabei alle Phänomene, die von uns nicht mit absoluter Sicherheit vorhergesagt werden können, deren Ergebnis also mit Unsicherheit behaftet ist. Offensichtliche und vertraute Beispiele für Zufallsvorgänge sind das Werfen eines Würfels oder einer Münze. Allerdings ist der Begriff des Zufallsvorgangs und damit der Anwendungsbereich der Wahrscheinlichkeitstheorie als sehr viel weiter gefasst zu verstehen. Nicht mit vollständiger Sicherheit vorhersagbar und damit mit Unsicherheit behaftet sind zum Beispiel auch der Ausgang einer Wahl, das morgige Wetter, der Messwert einer Elektroenzephalographie-Elektrode zu einem bestimmten Zeitpunkt oder der Effekt einer Psychotherapieintervention auf den Gesundheitszustand einer Patientin. Beginnt man darüber nachzudenken, welche Phänomene der Wirklichkeit mit Unsicherheit behaftet sind, so fällt es schwer, nichttriviale Phänomene anzugeben hinsichtlich deren Ergebnis man vollständige Sicherheit besitzt.
Als mathematisches Modell von Zufallsvorgängen erlaubt die Wahrscheinlichkeitstheorie insbesondere das vernunftbasierte, quantitative Schlussfolgern über Zufallsvorgänge. Dies schlägt sich primär in der sogenannten Wahrscheinlichkeitsrechnung nieder. Quantitative Schlussfolgerungen der Wahrscheinlichkeitsrechnung haben beispielsweise folgende Form: Wenn ich annehme, dass das Ereignis \(A\) mit Wahrscheinlichkeit \(p_1\) und das Ereignis \(B\) mit Wahrscheinlichkeit \(p_2\) eintritt, dann ergibt sich ein Ereignis \(C\) eine Wahrscheinlichkeit von \(p_3\). Dabei ist der Schluss auf die Wahrscheinlichkeit von \(C\) logisch-mathematisch abgesichert, in dem gleichen Sinn, wie zum Beispiel logisch-mathematisch abgesichert ist, dass \(1+1=2\) ist. Ob die Annahmen hinsichtlich der Wahrscheinlichkeiten von \(A\) und \(B\) aber den Gegebenheiten des Zufallsvorgangs in der Wirklichkeit entsprechen, darüber macht die Wahrscheinlichkeitstheorie keine Aussagen.
Die Wahrscheinlichkeitstheorie selbst bedient sich dabei der mathematischen Theorie der Mengen und Funktionen. Spätestens seit Kolmogoroff (1933) herrscht dabei ein axiomatischer Zugang vor: Man fragt in der Wahrscheinlichkeitstheorie selbst nicht, was denn eine Wahrscheinlichkeit sei oder inwieweit die Vorhersagen der Wahrscheinlichkeitstheorie mit der Wirklichkeit übereinstimmen, sondern versucht, ein in sich schlüssiges formal-mathematisches System von unbegründeten, aber intuitiv plausiblen, Grundannahmen und ihren Folgerungen zu entwickeln. Ausgangspunkt dieser Entwicklung ist das Wahrscheinlichkeitsraummodell eines Zufallsvorgangs, das wir in 19 Wahrscheinlichkeitsräume einführen werden. In der Tat gibt es neben dem formal-mathematischen System der Wahrscheinlichkeitstheorie bis heute mathematisch-philosophische Diskussionen darüber, was genau denn unter dem Begriff der “Wahrscheinlichkeit eines Ereignisses” zu verstehen ist. Dabei sind grob gesagt zwei etwas gegensätzliche Interpretationen vorherrschend, zum einen die sogenannte Frequentistische Interpretation als prototypisches Beispiel realistischer Interpretationen, zum anderen die sogenannte Bayesianische Interpretation als allgemeine Form sogenannter evidenztieller Interpretationen. Für eine genauere Übersicht verschiedener Interpretationen des Wahrscheinlichkeitsbegriffs, siehe Tabelle 1 nach Hájek (2019).
| Interpretation | Intuition | Anwendungsfeld | Probleme | Referenzen |
|---|---|---|---|---|
| Endlich Frequentistisch | Die Wahrscheinlichkeit einer Münze, Kopf zu zeigen, entspricht der relativen Häufigkeit der Münze, bei endlich vielen Beobachtungen Kopf zu zeigen. | – | Bei einmaligem Münzwurf ergibt sich keine sinnvolle Prädiktion, Wahrscheinlichkeiten ändern sich je nach Beobachtungsreihe, sind also nicht eindeutig definiert. | Venn (1876) |
| Unendlich Frequentistisch | Die Wahrscheinlichkeit einer Münze, Kopf zu zeigen, entspricht der relativen Häufigkeit der Münze, bei unendlich vielen Beobachtungen Kopf zu zeigen. | Frequentistische Inferenz | Es gibt keine unendlichen Beobachtungsreihen, bei endlich vielen Münzwürfen ist die Wahrscheinlichkeit eines Ereignisses nicht definiert. | Reichenbach (1949) von Mises (1951) |
| Propensitär | Die Wahrscheinlichkeit einer Münze, Kopf zu zeigen, entspricht ihrer inhärenten physischen Neigung im Schwerefeld der Erde Kopf zeigend zu landen. | Kausale Inferenz | Zusammenhang zu relativen Häufigkeiten oder physikalischen Theorien nicht unmittelbar klar. | Peirce (1957) Popper (1959) Gillies (2000) |
| Klassisch | In Abwesenheit weiterer Information sind die Wahrscheinlichkeiten einer Münze, Kopf oder Zahl zu zeigen, gleich. | Glücksspiele, Lehrbücher | Beschränkung auf endliche Ergebnisräume | Laplace (1814) Jaynes (1968) |
| Subjektiv | Die Wahrscheinlichkeit einer Münze, Kopf zu zeigen, entspricht dem subjektiven Grad der Unsicherheit, dem ein Beobachter dem Ausgang eines Münzwurfs zuweist. | Bayesianische Inferenz | Keine prinzipielle Beschränkung auf axiomatisch valide Wahrscheinlichkeiten | De Finetti (1975) |
| Epistemisch | Die Wahrscheinlichkeit einer Münze, Kopf zu zeigen, entspricht dem subjektiven Grad der Unsicherheit, dem ein rationaler Beobachter dem Ausgang eines Münzwurfs zuweist. | Bayesianische Inferenz | Zusammenhang zu relativen Häufigkeiten oder physikalischen Theorien nicht unmittelbar klar | Ramsey (1926) Jeffreys (1939) Savage (1954) |
Nach der Frequentistischen Interpretation ist die Wahrscheinlichkeit eines Ereignisses die idealisierte relative Häufigkeit, mit der ein Ereignis unter den gleichen äußeren Bedingungen einzutreten pflegt. Zum Beispiel ist die Frequentistische Interpretation der Aussage “Mit einer Wahrscheinlichkeit von 1/6 zeigt der Würfel im nächsten Wurf eine 2” die folgende: “Wenn man einen Würfel unendlich oft werfen würde und dabei die relative Häufigkeit des Ereignisses, dass der Würfel eine 2 zeigt, bestimmen würde, dann wäre diese relative Häufigkeit gleich 1/6”. Man beachte bei dieser Interpretation, dass man de-facto die Wahrscheinlichkeit eines Ereignisses nicht empirisch bestimmen kann, da man einen Würfel nicht unendlich oft werfen kann. Natürlich kann man die Wahrscheinlichkeit in dieser Interpretation aber empirisch schätzen. Schätzvorgänge selbst wiederrum sind allerdings kein Teil der Wahrscheinlichkeitstheorie, sondern der Inferenz.
Nach der Bayesianischen Interpretation ist die Wahrscheinlichkeit eines Ereignisses der Grad der Sicherheit, den eine Beobachterin aufgrund ihrer subjektiven Einschätzung der Lage dem Eintreten des Ereignisses zumisst. Zum Beispiel ist die Bayesianische Interpretation der Aussage “Mit einer Wahrscheinlichkeit von 1/6 zeigt der Würfel im nächsten Wurf eine Zwei” dann etwa die folgende: “Basierend auf meiner eigenen und der tradierten Erfahrung mit dem Werfen eines Würfels bin ich mir zu 16.6% sicher, dass der Würfel beim nächsten Wurf eine Zwei zeigt.”
In Modellen von tatsächlich zumindest unter ähnlichen Umständen wiederholbaren Zufallsvorgängen wie dem Werfen eines Würfels ist der Unterschied zwischen Frequentistischer und Bayesianischer Interpretation oft eher subtil. Es gibt aber wie oben angedeutet viele Zufallsvorgänge, die mit Wahrscheinlichkeiten beschrieben werden können, bei denen aufgrund ihrer Einmaligkeit eine Frequentistische Interpretation nicht angemessen ist. Zum Beispiel machen Aussagen der Form “Die Wahrscheinlichkeit dafür, dass die weltweiten Hitzerekorde im Jahr 2023 nicht auf den Klimawandel zurückzuführen sind, ist kleiner als 0.01” (vgl. Philip et al. (2020)) nur unter der Bayesianischen Interpretation Sinn, da es sich bei den Wetteraufzeichnungen des Jahres 2023 um ein einmaliges, nicht wiederholbares Ereignis handelt.
Obwohl also die Interpretation des Begriffes der Wahrscheinlichkeit durchaus nicht eindeutig ist, unterscheiden sich die formalen Definitionen und Rechenregeln für Wahrscheinlichkeiten nicht. Sowohl die Frequentistische als auch die Bayesianische Inferenz haben mit der Wahrscheinlichkeitstheorie ein identisches mathematisches Bezugssystem und gemeinsames Fundament. Im Wesentlichen unterscheidet sich diese Tatsache nicht so sehr von vielen anderen Formen der mathematischen Modellierung. Beispielsweise kann die Ableitung einer Funktion als die Geschwindigkeit eines Objekts oder als die Wachstumsrate einer Bakterienpopulation interpretiert werden. Obwohl sich diese Phänomene intuitiv sehr stark in Bezug auf die Realität unterscheiden, ist das logische Schlussfolgern über beide Phänomene im Bereich der Mathematik identisch.