Der Hauptunterschied zwischen halb- und vollüberwachtem maschinellem Lernen besteht darin, dass letzteres nur mit vollständig gelabelten Datensätzen trainiert werden kann, während ersteres sowohl gelabelte als auch nicht gelabelte Datenproben im Trainingsprozess verwendet. Halbüberwachte Lerntechniken modifizieren oder ergänzen einen überwachten Algorithmus – in diesem Zusammenhang der „Basislerner“ genannt – um Informationen aus nicht gelabelten Beispielen einzubeziehen. Gelabelte Datenpunkte werden verwendet, um die Vorhersagen des Basislerners zu untermauern und dem Lernproblem eine Struktur zu geben (z. B. wie viele Klassen es gibt und welche grundlegenden Eigenschaften sie haben).

Das Ziel beim Training eines jeden Klassifizierungsmodells ist es, eine genaue Entscheidungsgrenze zu erlernen: eine Linie – oder, bei Daten mit mehr als zwei Dimensionen, eine „Oberfläche“ oder Hyperebene – trennt Datenpunkte einer Klassifizierungskategorie von Datenpunkten, die zu einer anderen Klassifizierungskategorie gehören. Obwohl ein vollüberwachtes Klassifizierungsmodell technisch gesehen eine Entscheidungsgrenze mit nur wenigen gelabelten Datenpunkten erlernen kann, ist die Verallgemeinerbarkeit auf reale Beispiele unter Umständen nicht gegeben, so dass die Vorhersagen des Modells unzuverlässig sind.

Der klassische „Halbmond“-Datensatz veranschaulicht die Unzulänglichkeiten überwachter Modelle, die sich auf zu wenige gelabelte Datenpunkte stützen. Obwohl die „richtige“ Entscheidungsgrenze jeden der beiden Halbmonde trennen würde, ist es wahrscheinlich, dass ein überwachtes Lernmodell die wenigen verfügbaren gelabelten Datenpunkte überanpasst. Die nicht gelabelten Datenpunkte vermitteln eindeutig hilfreichen Kontext, aber ein herkömmlicher überwachter Algorithmus kann nicht gelabelte Daten nicht verarbeiten.

Im Gegensatz zum halbüberwachten (und vollüberwachten) Lernen werden bei unüberwachten Lernalgorithmen weder gelabelte Daten noch Verlustfunktionen verwendet. Unüberwachtes Lernen vermeidet jeglichen „Ground Truth“-Kontext, anhand dessen die Modellgenauigkeit gemessen und optimiert werden kann.

Ein zunehmend verbreiteter halbüberwachter Ansatz, insbesondere für große Sprachmodelle, ist das „Vortraining“ von Modellen durch unüberwachte Aufgaben, bei denen das Modell sinnvolle Repräsentationen von nicht gelabelten Datensätzen lernen muss. Wenn solche Aufgaben eine „Ground Truth“ und eine Verlustfunktion beinhalten (ohne manuelle Datenkommentierung), werden sie als selbstüberwachtes Lernen bezeichnet. Nach einer anschließenden „überwachten Feinabstimmung“ mit einer kleinen Menge gelabelter Daten können vortrainierte Modelle oft eine Leistung erreichen, die mit vollüberwachten Modellen vergleichbar ist.

Methoden des unüberwachten Lernens können zwar in vielen Szenarien nützlich sein, aber aufgrund des fehlenden Kontexts sind sie für eine eigenständige Klassifizierung schlecht geeignet. Nehmen wir beispielsweise den Fall, wie ein typischer Clustering-Algorithmus, bei dem Datenpunkte basierend auf ihrer Nähe zueinander in eine vorgegebene Anzahl von Clustern gruppiert werden, den Halbmond-Datensatz behandeln würde.

Sowohl halb- als auch selbstüberwachtes Lernen zielen darauf ab, den Bedarf an großen Mengen an gelabelten Daten zu umgehen – aber während halbüberwachtes Lernen einige gelabelte Daten beinhaltet, sind selbstüberwachte Lernmethoden wie Autoencoder wirklich unüberwacht.

Während überwachtes (und halbüberwachtes) Lernen eine externe „Ground Truth“ in Form von gelabelten Daten erfordert, leiten selbstüberwachte Lernaufgaben die Ground Truth aus der zugrundeliegenden Struktur von nicht gelabelten Proben ab. Viele selbstüberwachte Aufgaben sind für sich genommen nicht nützlich: Ihr Nutzen liegt darin, dass sie Modellen Datenrepräsentationen beibringen, die für nachfolgende „nachgelagerte Aufgaben“ nützlich sind. Daher werden sie oft als „Voraufgaben“ bezeichnet.

In Kombination mit überwachten nachgelagerten Aufgaben sind selbstüberwachte Voraufgaben somit Teil eines halbüberwachten Lernprozesses: eine Lernmethode, die sowohl gelabelte als auch nicht gelabelte Daten für das Modelltraining verwendet.

Eine notwendige Bedingung für halbüberwachtes Lernen (SSL) ist, dass die nicht gelabelten Beispiele, die für das Modelltraining verwendet werden, für die Aufgabe, für die das Modell trainiert wird, relevant sein müssen. Formaler ausgedrückt erfordert SSL, dass die Verteilung p(x) der Eingabedaten Informationen über die posteriore Verteilung p(y|x) enthalten muss: Das heißt, die bedingte Wahrscheinlichkeit, dass ein gegebener Datenpunkt (x) zu einer bestimmten Klasse (y) gehört. Wenn man also zum Beispiel nicht gelabelte Daten verwendet, um einen Bildklassifikator zu trainieren, der zwischen Bildern von Katzen und Bildern von Hunden unterscheiden kann, sollte der Trainingsdatensatz sowohl Bilder von Katzen als auch von Hunden enthalten – und Bilder von Pferden und Motorrädern sind nicht hilfreich.

Eine 2018 durchgeführte Studie zu Algorithmen des halbüberwachten Lernens ergab zwar, dass „eine Erhöhung der Menge an nicht gelabelten Daten die Leistung von SSL-Verfahren tendenziell verbessert“, aber auch, dass „das Hinzufügen von nicht gelabelten Daten aus einem nicht passenden Klassensatz Leistung im Vergleich zur Verwendung keinerlei nicht gelabelter Daten sogar beeinträchtigen kann.“ ¹

Die Grundbedingung, dass p(x) eine sinnvolle Beziehung zu p(x|y) hat, führt zu mehreren Annahmen über die Natur dieser Beziehung. Diese Annahmen sind die treibende Kraft hinter den meisten, wenn nicht allen SSL-Methoden: Im Allgemeinen beruht jeder halbüberwachte Lernalgorithmus darauf, dass eine oder mehrere der folgenden Annahmen explizit oder implizit erfüllt sind.

Die Cluster-Annahme besagt, dass Datenpunkte, die zum selben Clustergehören – eine Gruppe von Datenpunkten, die einander ähnlicher sind als anderen verfügbaren Datenpunkten – auch zur selben Klasse gehören.

Obwohl sie manchmal als eigenständige Annahme betrachtet wird, wurde die Clustering-Annahme von van Engelen und Hoos auch als „eine Verallgemeinerung der anderen Annahmen“ beschrieben.² Nach dieser Auffassung hängt die Bestimmung von Datenpunktclustern davon ab, welcher Begriff von Ähnlichkeit verwendet wird: Die Gleichmäßigkeitsannahme, die Annahme niedriger Dichte und die Mannigfaltigkeitsannahme nutzen jeweils einfach eine andere Definition dessen, was einen „ähnlichen“ Datenpunkt ausmacht.

Die Gleichmäßigkeitsannahmen besagen, dass, wenn zwei Datenpunkte, x und x', im Eingaberaum – der Menge aller möglichen Werte für x – nahe beieinander liegen, ihre Label y und y' identisch sein sollten.

Diese Annahme, die auch als Kontinuitätsannahme bekannt ist, gilt für die meisten überwachten Lernverfahren: Klassifizierer lernen beispielsweise während des Trainings eine sinnvolle Annäherung (oder „Repräsentation“) an jede relevante Klasse. Sobald sie trainiert sind, bestimmen sie die Klassifizierung neuer Datenpunkte anhand der Repräsentation, der sie am ehesten ähneln.

Im Kontext von SSL hat die Gleichmäßigkeitsannahme den zusätzlichen Vorteil, dass sie transitiv auf nicht gelabelte Daten angewendet wird. Stellen Sie sich ein Szenario mit drei Datenpunkten vor:

• ein gelabelter Datenpunkt, x₁
• ein nicht gelabelter Datenpunkt, x₂, der sich in der Nähe von x₁befindet
• ein weiterer nicht gelabelter Datenpunkt, x₃, der sich in der Nähe von x₂ befindet, aber nicht in der Nähe von x₁

Die Gleichmäßigkeitsannahme besagt, dass x₂ dasselbe Label wie x₁ haben sollte. Sie sagt uns auch, dass x₃ das gleiche Label wie x₂ haben sollte. Daher können wir davon ausgehen, dass alle drei Datenpunkte dasselbe Label haben, da das Label von x₁ aufgrund der Nähe von x₃ zu x₂ transitiv auf x₃ übertragen wird.

Die Annahme der geringen Dichte besagt, dass die Entscheidungsgrenze zwischen den Klassen nicht durch Regionen mit hoher Dichte verlaufen sollte. Anders ausgedrückt: Die Entscheidungsgrenze sollte in einem Bereich liegen, der wenige Datenpunkte enthält.

Die Annahme der geringen Dichte kann als eine Erweiterung der Cluster-Annahme (ein Cluster von Datenpunkten mit hoher Dichte repräsentiert eine Klasse und nicht die Grenze zwischen den Klassen) und der Gleichmäßigkeitsannahme (wenn mehrere Datenpunkte nahe beieinander liegen, sollten sie ein gemeinsames Label haben und somit auf der gleichen Seite der Entscheidungsgrenze liegen) betrachtet werden.

Dieses Diagramm veranschaulicht, wie die Annahmen der Gleichmäßigkeit und der geringen Dichte zu einer weitaus intuitiveren Entscheidungsgrenze führen können, als dies mit überwachten Methoden möglich wäre, die nur die (sehr wenigen) gelabelten Datenpunkte berücksichtigen können.

Die Mannigfaltigkeitsannahme besagt, dass der höherdimensionale Eingaberaum mehrere niedrigdimensionale Mannigfaltigkeiten umfasst, auf denen alle Datenpunkte liegen, und dass Datenpunkte auf derselben Mannigfaltigkeit dasselbe Label haben.

Stellen Sie sich als intuitives Beispiel ein zu einer Kugel zusammengeknülltes Stück Papier vor. Die Position aller Punkte auf der kugelförmigen Oberfläche kann nur mit dreidimensionalen x-, y-, z- Koordinaten zugeordnet werden. Aber wenn diese zerknitterte Kugel jetzt wieder zu einem Blatt Papier zusammengedrückt wird, können dieselben Punkte jetzt mit zweidimensionalen x,y-Koordinaten abgebildet werden. Dies wird als Dimensionalitätsreduktion bezeichnet und kann mathematisch mit Methoden wie Autoencodern oder Konvolutionen erreicht werden.

Beim maschinellen Lernen entsprechen Dimensionen nicht den bekannten physikalischen Dimensionen, sondern jedem Attribut oder Merkmal von Daten. Beim maschinellen Lernen hat beispielsweise ein kleines RGB-Bild mit einer Größe von 32x32 Pixeln 3.072 Dimensionen: 1.024 Pixel, von denen jeder drei Werte (für Rot, Grün und Blau) hat. Der Vergleich von Datenpunkten mit so vielen Dimensionen ist eine Herausforderung, sowohl wegen der Komplexität und der erforderlichen Rechenressourcen als auch weil der größte Teil dieses hochdimensionalen Raums keine Informationen enthält, die für die jeweilige Aufgabe von Bedeutung sind.

Die Mannigfaltigkeitsannahme besagt, dass, wenn ein Modell die richtige Dimensionalitätsreduktionsfunktion lernt, um irrelevante Informationen zu verwerfen, verteilte Datenpunkte zu einer aussagekräftigeren Darstellung konvergieren, für die die anderen SSL-Annahmen zuverlässiger sind.

Während induktive Methoden darauf abzielen, einen Klassifikator zu trainieren, der den gesamten (gelabelten und nicht gelabelten) Eingaberaum modellieren kann, zielen transduktive Methoden nur darauf ab, Labelvorhersagen für nicht gelabelte Daten zu liefern. Die Algorithmen, die für das transduktive Lernen verwendet werden, sind weitgehend unabhängig von den Algorithmen, die von dem überwachten Klassifizierungsmodell verwendet werden, das mit diesen neu markierten Daten trainiert werden soll.

Label-Verbreitung ist ein auf einem Graphen basierender Algorithmus, der Label-Zuweisungen für nicht gelabelte Datenpunkte basierend auf ihrer relativen Nähe zu gelabelten Datenpunkten anhand der Gleichmäßigkeits- und Clusterannahme berechnet.

Die Intuition hinter dem Algorithmus ist, dass man einen vollständig verbundenen Graphen abbilden kann, in dem die Knoten alle verfügbaren Datenpunkte sind, sowohl gelabelte als auch nicht gelabelte. Je näher sich zwei Knoten auf einem ausgewählten Entfernungsmaß befinden, wie z. B. der euklidischen Entfernung (Link befindet sich außerhalb von ibm.com), desto stärker wird die Kante zwischen ihnen im Algorithmus gewichtet. Ausgehend von den gelabelten Datenpunkten werden die Label dann iterativ durch die benachbarten nicht gelabelten Datenpunkte weitergegeben, wobei die Gleichmäßigkeits- und Cluster-Annahmen berücksichtigt werden.

Aktive Lernalgorithmen automatisieren nicht das Labeln von Datenpunkten. Stattdessen werden sie in SSL verwendet, um zu bestimmen, welche nicht gelabelten Proben die hilfreichsten Informationen liefern würden, wenn sie manuell gelabelt werden.³ Der Einsatz von aktivem Lernen in halbüberwachten Umgebungen hat zu vielversprechenden Ergebnissen geführt. So wurde in einer kürzlich durchgeführten Studie festgestellt, dass die Menge der markierten Daten, die für ein effektives Training eines Modells zur semantischen Segmentierung erforderlich ist, mehr als halbiert werden konnte.⁴

Induktive SSL-Methoden können im Allgemeinen danach unterschieden werden, wie sie nicht gelabelte Daten integrieren: durch einen Pseudo-Labeling-Schritt, einen unbeaufsichtigten Vorverarbeitungsschritt oder durch direkte Einbindung in die Zielfunktion des Modells.

Eine relativ einfache Möglichkeit, bestehende überwachte Algorithmen auf eine halbüberwachte Umgebung zu erweitern, besteht darin, das Modell zunächst auf den verfügbaren gelabelten Daten zu trainieren – oder einfach einen geeigneten bereits vorhandenen Klassifikator zu verwenden – und dann Pseudo-Label-Vorhersagen für nicht gelabelte Datenpunkte zu erstellen. Das Modell kann dann erneut trainiert werden, indem sowohl die ursprünglich gelabelten Daten als auch die pseudo-gelabelten Daten verwendet werden, ohne zwischen den beiden zu unterscheiden.

Der Hauptvorteil von Wrapper-Methoden besteht neben ihrer Einfachheit darin, dass sie mit fast allen Arten von überwachten Basislernern kompatibel sind. Die meisten Wrapper-Methoden führen einige Regularisierungstechniken ein, um das Risiko der Verstärkung potenziell ungenauer Pseudo-Label-Vorhersagen zu verringern.
 

Selbsttraining
Selbsttraining ist eine grundlegende Wrapper-Methode. Es erfordert eher probabilistische als deterministische Pseudo-Label-Vorhersagen: z. B. ein Modell, das „85 Prozent Hund, 15 Prozent Katze“ ausgibt, anstatt einfach „Hund“ zu sagen.

Probabilistische Pseudo-Label-Vorhersagen ermöglichen es den Selbstlernalgorithmen, nur Vorhersagen zu akzeptieren, die eine bestimmte Vertrauensschwelle überschreiten, und zwar in einem Prozess, der der Entropieminimierung ähnelt.⁵ Dieser Prozess kann iterativ durchgeführt werden, um entweder den Pseudoklassifizierungsprozess zu optimieren oder eine bestimmte Anzahl von pseudo-gelabelten Proben zu erreichen.

Co-Training
Co-Training-Methoden erweitern das Konzept des Selbsttrainings, indem mehrere überwachte Basislerner trainiert werden, um Pseudo-Labels zuzuweisen.

Durch die Diversifikation soll die Tendenz verringert werden, schlechte Ausgangsprognosen zu verstärken. Daher ist es wichtig, dass die Vorhersagen der einzelnen Basislerner nicht stark miteinander korrelieren. Ein typischer Ansatz besteht darin, für jeden Klassifikator unterschiedliche Algorithmen zu verwenden. Eine andere Möglichkeit besteht darin, dass sich jeder Klassifikator auf eine andere Teilmenge der Daten konzentriert: bei Videodaten beispielsweise wird ein Basislerner auf visuelle Daten und der andere auf Audiodaten trainiert.

Im Gegensatz zu Wrapper-Methoden (und intrinsisch halbüberwachten Algorithmen), die gleichzeitig gelabelte und nicht gelabelte Daten verwenden, nutzen einige SSL-Methoden nicht gelabelte und gelabelte Daten in separaten Phasen: eine unüberwachte Phase der Vorverarbeitung, gefolgt von einer überwachten Phase.

Wie Wrapper-Methoden können solche Techniken im Wesentlichen für jeden überwachten Basislerner verwendet werden. Im Gegensatz zu den Wrapper-Methoden wird das überwachte „Hauptmodell“ jedoch letztlich nur auf ursprünglich (von Menschen kommentierten) gelabelten Datenpunkten trainiert.

Solche Vorverarbeitungstechniken reichen von der Extraktion nützlicher Merkmale aus nicht gelabelten Daten über das Vor-Clustern nicht gelabelter Datenpunkte bis hin zum „Vortraining“, um die Anfangsparameter eines überwachten Modells zu bestimmen (in einem Prozess, der den Voraufgaben beim selbstüberwachten Lernen ähnelt).
 

Cluster-then-Label
Eine einfache halbüberwachte Technik beinhaltet das Clustern aller Datenpunkte (sowohl gelabelte als auch nicht gelabelte) mithilfe eines unbeaufsichtigten Algorithmus. Unter Ausnutzung der Clustering-Annahme können diese Cluster dazu verwendet werden, ein unabhängiges Klassifizierungsmodell zu trainieren – oder, wenn die gelabelten Datenpunkte in einem bestimmten Cluster alle derselben Klasse angehören, die nicht gelabelten Datenpunkte zu pseudo-labeln und ähnlich wie bei Wrapper-Methoden vorzugehen.

Wie das Beispiel der „Halbmonde“ weiter oben in diesem Artikel zeigt, können einfache Methoden (wie K-Nearest-Neighbors) unzureichende Vorhersagen liefern. Verfeinerte Clustering-Algorithmen wie DBSCAN (das die Annahme der geringen Dichte umsetzt)⁶ haben eine höhere Zuverlässigkeit erreicht.

Vortraining und Merkmalsextraktion
Unüberwachtes (oder selbstüberwachtes) Vortraining ermöglicht es den Modellen, nützliche Repräsentationen des Eingaberaums zu erlernen, wodurch die Menge an gelabelten Daten reduziert wird, die für die Feinabstimmung eines Modells mit überwachtem Lernen erforderlich sind.

Ein gängiger Ansatz besteht darin, ein neuronales Netzwerk, oft ein Autoencoder, zu verwenden, um eine Einbettung oder Merkmalsdarstellung der Eingabedaten zu lernen – und diese erlernten Merkmale dann zu verwenden, um einen überwachten Basislerner zu trainieren. Dies bringt oft eine Dimensionsreduktion mit sich und hilft dabei, die Mannigfaltigkeitsannahme zu nutzen.

Einige SSL-Methoden leiten nicht gelabelte Daten direkt in die Zielfunktion des Basislerners ein, anstatt nicht gelabelte Daten in einem separaten Pseudo-Labeling- oder Vorverarbeitungsschritt zu verarbeiten.
 

Halbüberwachte Support-Vektor-Maschinen
Wenn Datenpunkte verschiedener Kategorien nicht linear trennbar sind – wenn keine gerade Linie die Grenze zwischen den Kategorien sauber und genau definieren kann – ordnendie SVM-Algorithmen (Support Vector Machine) Daten einem höherdimensionalen Merkmalsraum zu, in dem die Kategorien durch einen Hyperplan e getrennt werden können. Bei der Bestimmung dieser Entscheidungsgrenze maximieren SVM-Algorithmen die Marge zwischen der Entscheidungsgrenze und den nächstgelegenen Datenpunkten. Dies wendet praktisch die Annahme der geringen Dichte an.

In einer überwachten Umgebung bestraft eine Regularisierungsbedingung den Algorithmus, wenn gelabelte Datenpunkte auf die falsche Seite der Entscheidungsgrenze fallen. In halbüberwachten SVMs (S3VMs) ist dies für nicht gelabelte Datenpunkte (deren Klassifizierung unbekannt ist) nicht möglich – daher bestrafen S3VMs auch Datenpunkte, die innerhalb der vorgeschriebenen Marge liegen.

Intrinsisch halbüberwachte Deep-Learning-Modelle
Eine Vielzahl von neuronalen Netzwerkarchitekturen wurde für das halbüberwachte Lernen angepasst. Dies wird durch Hinzufügen oder Ändern der Verlustbedingungen erreicht, die in diesen Architekturen üblicherweise verwendet werden, um die Einbeziehung von nicht gelabelten Datenpunkten in das Training zu ermöglichen.

Zu den vorgeschlagenen halbüberwachten Deep-Learning-Architekturen gehören Leiternetzwerke,⁷ Pseudo-Ensembles,⁸ zeitliches Ensembling,⁹ und ausgewählte Modifikationen an Generative Adversarial Networks (GANS).¹⁰