Denotationelle Semantik

Sei ${\displaystyle {\mathcal {Z}}}$ die Menge aller möglichen Zustände. Die Wirkung, die eine Anweisung ${\displaystyle \ A}$ auf einen Zustand hat, ist formal gesprochen eine Abbildung

${\displaystyle f[A]\colon {\mathcal {Z}}\rightarrow {\mathcal {Z}}}$,

die einem Zustand ${\displaystyle z\in {\mathcal {Z}}}$ einen Folgezustand ${\displaystyle z'\in {\mathcal {Z}}}$ zuordnet.

${\displaystyle \ f}$ bezeichnet die semantische Funktion und ordnet jedem Anweisungskonstrukt eine Bedeutung zu, indem sie eine Zustandsänderung des Programms bewirkt.

Nachfolgend wird die Wirkung der wichtigsten Kontrollstrukturen einer Programmiersprache auf einen Zustand untersucht.

• Die Bedeutung der leeren Anweisung ${\displaystyle \ null}$:

${\displaystyle f[null](z)\ =\ z}$.

Die leere Anweisung, angewendet auf einen Zustand ${\displaystyle \ z}$, verändert den Zustand nicht.

• Die Semantik einer Anweisungsfolge kann folgendermaßen beschrieben werden:

${\displaystyle f[A_{1},A_{2}](z)\ =\ f[A_{2}](f[A_{1}](z))}$.

Die Bedeutung dieser Befehlssequenz ist die Wirkung von ${\displaystyle \ A_{2}}$ angewendet auf den Zustand, der sich ergibt, nachdem ${\displaystyle \ A_{1}}$ auf ${\displaystyle \ z}$ ausgeführt wurde.

• Für die Wirkung einer Zuweisung auf einen Zustand gilt:

${\displaystyle f[x:=E](z)\ =\ {\begin{cases}\bot ,&\mathrm {wenn} \ [E](z)=\bot \\z',&\mathrm {sonst} \end{cases}}}$

Das Programm terminiert nicht (${\displaystyle \ \bot }$), wenn die Anweisung (oder der Ausdruck) ${\displaystyle \ [E]}$ angewendet auf Zustand ${\displaystyle \ z}$ nicht terminiert. In allen anderen Fällen geht das Programm in einen Zustand ${\displaystyle \ z'}$ über.

• Für die zwei-seitige Alternative gilt:

${\displaystyle f[if\ B\ then\ C_{1}\ else\ C_{2}](z)={\begin{cases}f[C_{1}](z),&\mathrm {wenn} \ B[z]=true\\f[C_{2}](z),&\mathrm {wenn} \ B[z]=false\\\bot ,&\mathrm {sonst} \end{cases}}}$.

Der Folgezustand entspricht ${\displaystyle \ [C_{1}]}$ angewendet auf ${\displaystyle \ z}$, wenn ${\displaystyle \ B[z]=true}$. Wenn ${\displaystyle \ B[z]=false}$, so wird der nachfolgende Zustand durch ${\displaystyle \ [C_{2}]}$ angewendet auf ${\displaystyle \ z}$ bestimmt. In allen anderen Fällen terminiert das Programm nicht.

• Die Bedeutung der Wiederholung definiert sich rekursiv zu:

${\displaystyle f[while\ B\ do\ L](z)={\begin{cases}z,&\mathrm {wenn} \ [B](z)=false\\\bot ,&\mathrm {wenn} \ [B](z)=\bot \ \lor \ [L](z)=\bot \\f[while\ B\ do\ L]([L](z)),&\mathrm {sonst} \end{cases}}}$.

Falls ${\displaystyle \ [B](z)=false}$, so bewirkt die While-Anweisung keine Zustandsänderung.

Wenn ${\displaystyle \ [B](z)=\bot }$ oder ${\displaystyle \ [L](z)=\bot }$, so terminiert das gesamte Programm nicht.

In allen anderen Fällen wird erneut die Wiederholungsanweisung ${\displaystyle \ [while\ B\ do\ L]}$ auf den Zustand angewendet, der sich nach Ausführung von ${\displaystyle \ [L](z)}$ ergibt.

Durch diese rekursive Definition kann man nicht auf die Wirkung dieser Anweisung schließen. Man ist daher am Fixpunkt der Funktion interessiert, der die Semantik der While-Schleife beschreibt.

Der Fixpunkt der Funktion, die die Semantik der While-Schleife beschreibt, wird nachfolgend anhand eines einfachen Beispiels erläutert.

${\displaystyle \ while\ x\not =y\ do\ y:=y+1}$

Solange ${\displaystyle x}$ ungleich ${\displaystyle y}$, wird der Wert der Variablen ${\displaystyle y}$ um 1 erhöht.

Um den Fixpunkt dieser Gleichung zu bestimmen, bedient man sich des Tarskischen Fixpunktsatzes. Dieser Satz besagt, dass für eine geordnete Menge ${\displaystyle \ {\mathcal {M}}}$, welche ein kleinstes Element besitzt, und eine streng monotone Funktion, welche ${\displaystyle \ {\mathcal {M}}}$ auf sich selbst abbildet, ein kleinster Fixpunkt existiert.

Damit der Satz angewendet werden kann, muss zuerst eine geordnete Menge für das Beispiel definiert werden.

Sei ${\displaystyle w\colon (\mathbb {Z} \times \mathbb {Z} )\rightarrow (\mathbb {Z} \times \mathbb {Z} )}$ die partielle Funktion der While-Schleife aus dem Beispiel. Diese bildet einen Zustand, bestehend aus der Belegung ${\displaystyle (x,y)}$ für die gleichnamigen Variablen, in einen anderen Zustand mit der Variablenbelegung ${\displaystyle (x',y')}$ ab. Die Variablen ${\displaystyle x}$ und ${\displaystyle y}$ sind dabei ganzzahlig.

Sei nun ${\displaystyle {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}}$ die Menge aller partiellen Funktionen ${\displaystyle \ w}$.

Die partielle Ordnung ${\displaystyle \sqsubseteq }$ für zwei partielle Funktionen ${\displaystyle \ w}$, ${\displaystyle \ w'\in {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}}$ sei wie folgt definiert:

${\displaystyle \ w\sqsubseteq w'\Leftrightarrow \operatorname {dom} (w)\subseteq \operatorname {dom} (w')\wedge (w(x,y)=(x',y')\Rightarrow w'(x,y)=(x',y'))}$.

Die partielle Abbildung ${\displaystyle \ w}$ ist kleiner/gleich ${\displaystyle \ w'}$ genau dann, wenn der Definitionsbereich von ${\displaystyle \ w}$ eine Teilmenge des Definitionsbereichs von ${\displaystyle \ w'}$ ist. Zudem muss gelten, dass wenn ${\displaystyle \ w(x,y)}$ eine Zustandsänderung nach ${\displaystyle \ (x',y')}$ bewirkt, auch Funktion ${\displaystyle \ w'(x,y)}$ nach ${\displaystyle \ (x',y')}$ abbildet.

Das kleinste Element der Menge ${\displaystyle {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}}$ ist die nirgends definierte Funktion ${\displaystyle \bot }$.

Um den Satz von Tarski verwenden zu können, fehlt nun noch eine streng monotone Funktion, die ${\displaystyle {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}}$ auf sich selbst abbildet. Dazu wird eine Funktion ${\displaystyle \ f}$ definiert:

${\displaystyle \ f\colon {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}\rightarrow {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}}$.

Laut obigen Beispiel gilt für ${\displaystyle \ f}$:

${\displaystyle \ f(w)(x,y)={\begin{cases}(x,y),&\mathrm {wenn} \ x=y\\w(x,y+1),&\mathrm {sonst} \end{cases}}}$.

Weiterhin sei:

${\displaystyle \ w_{n+1}=f(w_{n})\ \forall n\in \mathbb {N} }$.

Nun sind alle Voraussetzungen des Fixpunktsatzes erfüllt, es existiert ein Fixpunkt.

Den Fixpunkt berechnet man durch Grenzwertbildung der Funktion ${\displaystyle \ f}$.

Um auf den Grenzwert schließen zu können, beginnt man mit dem Ausrechnen einzelner Funktionswerte.

• ${\displaystyle \ w_{0}(x,y)=\bot }$, da ${\displaystyle \ w_{0}}$ das kleinste Element der Menge ${\displaystyle {\mathcal {P}}_{(\mathbb {Z} \times \mathbb {Z} )}}$ ist.

• ${\displaystyle \ w_{1}(x,y)}$ ist laut Definition der Funktion ${\displaystyle \ f}$:

${\displaystyle \ w_{1}(x,y)=f(w_{0})(x,y)={\begin{cases}(x,y),&\mathrm {wenn} \ x=y\\w_{0}(x,y+1)=\bot ,&\mathrm {sonst} \end{cases}}}$.

• ${\displaystyle \ w_{2}(x,y)}$ ergibt sich zu:

${\displaystyle \ w_{2}(x,y)=f(w_{1})(x,y)={\begin{cases}(x,y),&\mathrm {wenn} \ x=y\\w_{1}(x,y+1)={\begin{cases}(x,y+1),&\mathrm {wenn} \ x=y+1\\\bot ,&\mathrm {sonst} \end{cases}}\end{cases}}}$.

• Für ${\displaystyle \ w_{n}}$ kann formuliert werden:

${\displaystyle \ w_{n}(x,y)=f(w_{n-1})(x,y)={\begin{cases}(x,x),&\mathrm {wenn} \ x-(n-1)\leq y\leq x\\\bot ,&\mathrm {sonst} \end{cases}}}$.

Der Grenzwert ${\displaystyle \ w_{\infty }=w_{n}\ \forall \ n\in \mathbb {N} }$ sei nun:

${\displaystyle w_{\infty }(x,y)={\begin{cases}(x,x),&\mathrm {wenn} \ -\infty \leq y\leq x\\\bot ,&\mathrm {sonst} \end{cases}}}$.

Für den Fixpunkt muss nun gelten, dass ${\displaystyle \ f(w_{\infty })(x,y)=w_{\infty }(x,y)}$.

${\displaystyle \ f(w_{\infty })(x,y)={\begin{cases}(x,y),&\mathrm {wenn} \ x=y\\w_{\infty }(x,y+1)={\begin{cases}(x,x),&\mathrm {wenn} \ -\infty \leq y<x\\\bot ,&\mathrm {sonst} \end{cases}}\end{cases}}}$.

Dies kann umgeformt werden zu:

${\displaystyle \ f(w_{\infty })(x,y)={\begin{cases}(x,x),&\mathrm {wenn} \ -\infty \leq y\leq x\\\bot ,&\mathrm {sonst} \end{cases}}}$.

Somit gilt ${\displaystyle \ f(w_{\infty })(x,y)=w_{\infty }(x,y)}$. Der Fixpunkt ist gefunden. Die Bedeutung der While-Schleife aus dem Beispiel ergibt sich aus dem Fixpunkt. Die Schleife terminiert, wenn ${\displaystyle \ y\leq x}$, und liefert das Tupel ${\displaystyle \ (x,x)}$. Falls ${\displaystyle \ y>x}$, so terminiert die Schleife nicht.

• Peter Schroeder-Heister: Semantik, denotationelle, in: Jürgen Mittelstraß (Hrsg.): Enzyklopädie Philosophie und Wissenschaftstheorie. 2. Auflage. Band 7: Re - Te. Stuttgart, Metzler 2018, ISBN 978-3-476-02106-9, S. 341–342 (untechnische allgemeine Beschreibung; mit Literaturverzeichnis)