Die denotationelle Semantik (Funktionensemantik) ist in der Theoretischen Informatik eine von mehreren Möglichkeiten, eine formale Semantik für eine formale Sprache zu definieren. Die formale Sprache dient hierbei als mathematisches Modell für eine echte Programmiersprache. Somit kann die Wirkungsweise eines Computerprogramms formal beschrieben werden.
Konkret kann man etwa bei einer gegebenen Belegung für Eingabevariablen das Endergebnis für eine Menge von Ausgabevariablen mit der denotationellen Semantik berechnen. Es sind auch allgemeinere Korrektheitsbeweise möglich.
Bei der denotationellen Semantik werden partielle Funktionen verwendet, die Zustandsräume aufeinander abbilden. Ein Zustand ist hier eine Belegung von Variablen mit konkreten Werten. Die denotationelle Semantik wird induktiv über die syntaktischen Anweisungskonstrukte der formalen Sprache definiert. Abhängig von der gewünschten Programmsemantik werden die partiellen Funktionen gewählt.
Neben der denotationellen Semantik gibt es auch die operationelle Semantik und die axiomatische Semantik, um die Semantik von formalen Sprachen zu beschreiben.
Sei [math]\mathcal{Z}[/math] die Menge aller möglichen Zustände. Die Wirkung, die eine Anweisung [math]\ A[/math] auf einen Zustand hat, ist formal gesprochen eine Abbildung
die einem Zustand [math]z\in\mathcal{Z}[/math] einen Folgezustand [math]z'\in\mathcal{Z}[/math] zuordnet.
[math]\ f[/math] bezeichnet die semantische Funktion und ordnet jedem Anweisungskonstrukt eine Bedeutung zu, indem sie eine Zustandsänderung des Programms bewirkt.
Nachfolgend wird die Wirkung der wichtigsten Kontrollstrukturen einer Programmiersprache auf einen Zustand untersucht.
Der Fixpunkt der Funktion, die die Semantik der While-Schleife beschreibt, wird nachfolgend anhand eines einfachen Beispiels erläutert.
Um den Fixpunkt dieser Gleichung zu bestimmen, bedient man sich des Tarskischen Fixpunktsatzes. Dieser Satz besagt, dass für eine geordnete Menge [math]\ \mathcal{M}[/math], welche ein kleinstes Element besitzt, und eine streng monotone Funktion, welche [math]\ \mathcal{M}[/math] auf sich selbst abbildet, ein kleinster Fixpunkt existiert.
Damit der Satz angewendet werden kann, muss zuerst eine geordnete Menge für das Beispiel definiert werden.
Sei [math]w\colon(\mathbb{Z}\times\mathbb{Z})\rightarrow(\mathbb{Z}\times\mathbb{Z})[/math] die partielle Funktion der While-Schleife aus dem Beispiel. Diese bildet einen Zustand, bestehend aus der Belegung [math](x,y)[/math] für die gleichnamigen Variablen, in einen anderen Zustand mit der Variablenbelegung [math](x',y')[/math] ab. Die Variablen [math]x[/math] und [math]y[/math] sind dabei ganzzahlig.
Sei nun [math]\mathcal{P}_{(\mathbb{Z}\times\mathbb{Z})}[/math] die Menge aller partiellen Funktionen [math]\ w[/math].
Die partielle Ordnung [math]\sqsubseteq [/math] für zwei partielle Funktionen [math]\ w[/math], [math]\ w' \in \mathcal{P}_{(\mathbb{Z}\times\mathbb{Z})}[/math] sei wie folgt definiert:
Die partielle Abbildung [math]\ w[/math] ist kleiner/gleich [math]\ w'[/math] genau dann, wenn der Definitionsbereich von [math]\ w[/math] eine Teilmenge des Definitionsbereichs von [math]\ w'[/math] ist. Zudem muss gelten, dass wenn [math]\ w(x,y)[/math] eine Zustandsänderung nach [math]\ (x',y')[/math] bewirkt, auch Funktion [math]\ w'(x,y)[/math] nach [math]\ (x',y')[/math] abbildet.
Das kleinste Element der Menge [math]\mathcal{P}_{(\mathbb{Z}\times\mathbb{Z})}[/math] ist die nirgends definierte Funktion [math]\bot[/math].
Um den Satz von Tarski verwenden zu können, fehlt nun noch eine streng monotone Funktion, die [math]\mathcal{P}_{(\mathbb{Z}\times\mathbb{Z})}[/math] auf sich selbst abbildet. Dazu wird eine Funktion [math]\ f[/math] definiert:
Laut obigen Beispiel gilt für [math]\ f[/math]:
Weiterhin sei:
Nun sind alle Voraussetzungen des Fixpunktsatzes erfüllt, es existiert ein Fixpunkt.
Den Fixpunkt berechnet man durch Grenzwertbildung der Funktion [math]\ f[/math].
Um auf den Grenzwert schließen zu können, beginnt man mit dem Ausrechnen einzelner Funktionswerte.
Der Grenzwert [math]\ w_{\infty} = w_n \ \forall \ n \isin \mathbb{N}[/math] sei nun:
Für den Fixpunkt muss nun gelten, dass [math]\ f(w_{\infty})(x,y)=w_{\infty}(x,y)[/math].
Dies kann umgeformt werden zu:
Somit gilt [math]\ f(w_{\infty})(x,y)=w_{\infty}(x,y)[/math]. Der Fixpunkt ist gefunden. Die Bedeutung der While-Schleife aus dem Beispiel ergibt sich aus dem Fixpunkt. Die Schleife terminiert, wenn [math]\ y \le x[/math], und liefert das Tupel [math]\ (x,x)[/math]. Falls [math]\ y \gt x[/math], so terminiert die Schleife nicht.es:Semántica denotacional