Ein neuronales Netzwerk ist ein Programm, das die Funktionsweise eines Gehirns nachahmt. Es besteht aus verschiedenen Knoten (Neuronen), die Informationen von anderen Neuronen oder von außen aufnehmen, modifizieren und als Ergebnis ausgeben. Die Neuronen sind jeweils durch sogenannte Kanten verbunden, die eine Gewichtung haben. Die Gewichtung bestimmt, wie stark das Signal eines Neurons das nächste Neuron beeinflusst.

Ein neuronales Netzwerk kann unterschiedliche komplexe Aufgaben aus den Bereichen Statistik, Informatik und Wirtschaft lösen, indem es aus Daten Muster erkennt und Vorhersagen macht. Dazu muss es zuerst lernen, wie die Daten zusammenhängen. Das Lernen erfolgt durch einen Optimierungsprozess, bei dem die Gewichte der Kanten so angepasst werden, dass der Fehler zwischen der Ausgabe des Netzwerks und der gewünschten Ausgabe minimiert wird.

Es gibt verschiedene Arten von neuronalen Netzwerken, die sich in ihrer Struktur und ihrem Lernverfahren unterscheiden. Ein einfaches Beispiel ist das Perceptron, das nur aus einer Eingabeschicht und einer Ausgabeschicht besteht. Ein komplexeres Beispiel ist das Convolutional Neural Network (CNN), das mehrere Schichten hat und speziell für die Bilderkennung geeignet ist. Ein CNN besteht aus einer Folge von Convolutional Layers, die jeweils eine Reihe von Filtern anwenden, um lokale Merkmale aus den Eingabebildern zu extrahieren. Die Filter werden durch Lernen angepasst, um die relevantesten Merkmale zu erkennen. Nach jeder Convolutional Layer folgt in der Regel eine Pooling Layer, die die Größe der Merkmalskarten reduziert und so die Rechenkosten senkt und das Überanpassen vermeidet. Die letzte Schicht eines CNN ist eine Fully Connected Layer, die alle Merkmale zu einem Vektor zusammenfasst und eine Klassifikation oder Regression durchführt. Ein weiteres Beispiel ist das Recurrent Neural Network, das eine Rückkopplung hat und sich an vorherige Eingaben erinnern kann.