Backpropagation

Bildnachweis: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

Backpropagation ist eine Methode zum Trainieren neuronaler Netze. Dabei wird die Ausgabe des Modells mit der richtigen Antwort verglichen, der Fehler berechnet und dieser Fehler anschließend rückwärts durch das Netzwerk geleitet, um dessen interne Einstellungen anzupassen. Anhand zahlreicher Beispiele verbessert sich das Modell nach und nach. Backpropagation ist eine der Schlüsseltechniken hinter dem modernen Deep Learning.

Bag-of-Words

Bildquelle: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

„Bag-of-Words“ ist eine einfache Methode zur Darstellung von Text für das maschinelle Lernen. Dabei werden Grammatik und Wortreihenfolge ignoriert und lediglich gezählt, welche Wörter vorkommen. Beispielsweise können „KI hilft Unternehmen“ und „Unternehmen helfen der KI“ in einem Bag-of-Words-Modell sehr ähnlich aussehen. Es ist weniger ausgefeilt als moderne Sprachmodelle, aber bei einigen Aufgaben der Textklassifizierung dennoch nützlich.

Basismodell

Bildquelle: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

Ein Basismodell ist ein KI-Modell, das auf einem umfangreichen Datensatz trainiert wurde, aber noch nicht für einen bestimmten Anwendungszweck spezialisiert ist. Beispielsweise kann ein allgemeines Sprachmodell darauf trainiert werden, Texte vorherzusagen, und später so verfeinert werden, dass es als hilfreicher Assistent, juristischer Zusammenfasser oder Programmierwerkzeug dient. Das Basismodell bildet die Grundlage, auf der spezialisiertere Systeme aufgebaut werden.

Bayesianische KI

Bildquelle: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

Die Bayes’sche KI nutzt Wahrscheinlichkeiten, um Unsicherheiten zu bewerten. Anstatt nur eine einzige Antwort zu liefern, kann ein Bayes’scher Ansatz seine Einschätzungen aktualisieren, sobald neue Erkenntnisse vorliegen. Dies ist in der Medizin, bei Prognosen, bei der Spam-Erkennung und bei der Risikoanalyse nützlich. Die Grundidee ist bekannt: Wenn neue Informationen auftauchen, revidieren wir unsere Einschätzung dessen, was wir für wahrscheinlich halten.

Beam-Search

Bildnachweis: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

Beam Search ist eine Technik, die zum Einsatz kommt, wenn KI-Systeme Sequenzen wie Texte oder Übersetzungen generieren. Anstatt jedes Mal nur das wahrscheinlichste nächste Wort auszuwählen, hält das Modell mehrere mögliche Optionen offen und untersucht diese. Dies kann das Endergebnis verbessern. Es ist ein bisschen so, als würde man mehrere mögliche Routen in Betracht ziehen, bevor man sich für die beste Reise entscheidet.

BERT

Bildnachweis: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

BERT ist ein einflussreiches Sprachmodell, das bereits vor der aktuellen Welle großer dialogorientierter KI-Tools entwickelt wurde. Es half Computern dabei, Texte zu verstehen, indem es Wörter im Kontext aus beiden Richtungen betrachtete, anstatt sie einfach nur von links nach rechts zu lesen. BERT wurde häufig bei Such-, Klassifizierungs- und Sprachverständnisaufgaben eingesetzt. Es ebnete den Weg für fortgeschrittenere Sprachmodelle.

Verzerrung

Bildquelle: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

Im Bereich der KI kann der Begriff „Voreingenommenheit“ verschiedene Bedeutungen haben. Im technischen Sinne kann er sich auf in ein Modell eingebaute Annahmen beziehen. Im sozialen Sinne bezieht er sich auf unfaire oder verzerrte Ergebnisse, die Menschen oder Gruppen betreffen. Beide Bedeutungen sind von Bedeutung. Ein nützliches KI-System benötigt die richtigen technischen Annahmen, muss jedoch schädliche soziale Voreingenommenheit vermeiden.

Big Data

Bildnachweis: Zur Verfügung gestelltes Bild; Autor: Stephen Whitelaw;

Big Data bezeichnet extrem große, komplexe oder sich schnell verändernde Datensätze, mit denen herkömmliche Methoden nur schwer zurechtkommen. KI hat enorm von Big Data profitiert, da sich viele Systeme des maschinellen Lernens verbessern, wenn sie mit mehr Beispielen trainiert werden. Allerdings sind mehr Daten nicht immer besser. Daten von schlechter Qualität, verzerrte oder irrelevante Daten können nach wie vor zu einer schlechten KI führen.