Was ist Transferlernen?

Transferlernen hat viele Anwendungen, von der Lösung von Regressionsproblemen in der Data Science bis hin zum Training von Deep Learning-Modellen. Angesichts der großen Datenmengen, die für die Erstellung von tiefen neuronalen Netzwerken benötigt werden, ist sie für letztere besonders interessant.

Herkömmliche Lernprozesse erstellen für jede neue Aufgabe ein neues Modell, das auf den verfügbaren markierten Daten basiert. Das liegt daran, dass herkömmliche Algorithmen für maschinelles Lernen davon ausgehen, dass Trainings- und Testdaten aus demselben Funktionsraum stammen. Wenn sich also die Datenverteilung ändert oder das trainierte Modell auf einen neuen Datensatz angewendet wird, muss der Benutzer ein neues Modell von Grund auf neu trainieren, selbst wenn er eine ähnliche Aufgabe wie das erste Modell versucht (z. B. Stimmungsanalyse-Klassifikator für Filmkritiken im Vergleich zu Songkritiken). Algorithmen des Transferlernens hingegen nehmen bereits trainierte Modelle oder Netzwerke als Ausgangspunkt. Es wendet dann das Wissen des Modells, das in einer ursprünglichen Ausgangsaufgabe oder -daten (z. B. Klassifizierung von Filmkritiken) gewonnen wurde, auf eine neue, aber verwandte Zielaufgabe oder -daten (z. B. Klassifizierung von Songkritiken) an.³

• Rechenkosten. Transferlernen reduziert die erforderlichen Rechenkosten für die Erstellung von Modellen für neue Probleme. Durch die Wiederverwendung von angelernten Modellen oder Netzwerken für eine andere Aufgabe können Benutzer die Trainingszeit für das Modell, die Trainingsdaten, die Prozessoreinheiten und andere Rechenressourcen reduzieren. Zum Beispiel kann eine geringere Anzahl von Epochen – d. h. Durchläufen durch einen Datensatz – erforderlich sein, um eine gewünschte Lernrate zu erreichen. Auf diese Weise kann Transferlernen Modelltrainingsprozesse beschleunigen und vereinfachen.
  
  
• Größe des Datensatzes. Das Transferlernen hilft insbesondere dabei, die Schwierigkeiten bei der Beschaffung großer Datensätze zu verringern. Zum Beispiel benötigen große Sprachmodelle (LLMs) große Mengen an Trainingsdaten, um eine optimale Leistung zu erzielen. Die Qualität öffentlich verfügbarer Daten kann begrenzt und die Erstellung ausreichender manuell beschrifteter Daten zeitaufwändig und teuer sein.
  
  
• Verallgemeinerbarkeit. Während das Transferlernen die Modelloptimierung unterstützt, kann es die Verallgemeinerbarkeit eines Modells weiter erhöhen. Da beim Transferlernen ein bestehendes Modell mit einem neuen Datensatz neu trainiert wird, besteht das neu trainierte Modell aus Wissen, das aus mehreren Datensätzen gewonnen wurde. Es wird potenziell eine bessere Leistung bei einer größeren Vielfalt von Daten zeigen als das ursprüngliche Basismodell, das nur auf einer Art von Datensatz trainiert wurde. Transferlernen kann daher die Überanpassung hemmen.⁴

Natürlich kann der Wissenstransfer von einem Bereich in einen anderen die negativen Auswirkungen von Daten schlechter Qualität nicht ausgleichen. Vorverarbeitungstechniken und Feature-Engineering, wie z.B. Datenerweiterung und Merkmalsextraktion, sind auch bei der Anwendung des Transferlernen weiterhin notwendig.

Es ist weniger so, dass das Transferlernen Nachteile mit sich bringt, als dass es potenzielle negative Folgen hat, die aus seiner falschen Anwendung resultieren. Transferlernen funktioniert am besten, wenn drei Bedingungen erfüllt sind:

• beide Lernaufgaben sind ähnlich
  
  
• Die Datenverteilungen von Ausgangs- und Zieldatensätzen variieren nicht allzu stark
  
  
• Auf beide Aufgaben kann ein vergleichbares Modell angewendet werden

Wenn diese Bedingungen nicht erfüllt sind, kann sich das Transferlernen negativ auf die Modellleistung auswirken. In der Literatur wird dies als negativer Transfer bezeichnet. In der laufenden Forschung werden verschiedene Tests vorgeschlagen, um festzustellen, ob Datensätze und Aufgaben die oben genannten Bedingungen erfüllen und somit nicht zu einem negativen Transfer führen.⁵ Der Ferntransfer ist eine Methode, die entwickelt wurde, um einen negativen Transfer zu korrigieren, der aus einer zu großen Unähnlichkeit der Datenverteilungen von Ausgangs- und Zieldatensätzen resultiert.⁶

Beachten Sie, dass es keine weit verbreitete, standardisierte Metrik zur Bestimmung der Ähnlichkeit zwischen Aufgaben beim Transferlernen gibt. Eine Handvoll Studien schlägt jedoch verschiedene Bewertungsmethoden vor, um Ähnlichkeiten zwischen Datensätzen und Aufgaben des maschinellen Lernens und damit die Durchführbarkeit des Transferlernens vorherzusagen.⁷

Es gibt drei ähnliche Praktiken oder Unterkategorien des Transferlernens. Ihre Unterscheidung voneinander – wie auch die des Transferlernens im Allgemeinen – resultiert größtenteils aus den Veränderungen in der Beziehung zwischen der Ausgangsdomain, der Zieldomain und den zu erledigenden Aufgaben.⁸

• Induktiver Transfer. Dies ist der Fall, wenn die Ausgangs- und die Zielaufgaben unterschiedlich sind, unabhängig von Unterschieden oder Ähnlichkeiten zwischen den Ziel- und Ausgangsdomänen (also Datensätzen). Dies kann sich in Computer-Vision-Modellen äußern, wenn Architekturen, die für die Merkmalsextraktion auf großen Datensätzen vortrainiert wurden, dann für das weitere Training auf eine spezifische Aufgabe, wie die Objekterkennung, übernommen werden. Das Multitasking-Lernen, bei dem zwei verschiedene Aufgaben (z.B. Bildklassifizierung und Objekterkennung) gleichzeitig auf demselben Datensatz gelernt werden, kann als eine Form des induktiven Transfers betrachtet werden.⁹
  
  
• Unüberwachtes Lernen Dies ähnelt dem induktiven Transfer, da die Ziel- und Ausgangsaufgaben unterschiedlich sind. Bei dem induktiven Transfer werden die Ausgangs- und/oder Zieldaten jedoch oft gekennzeichnet. Wie der Name schon sagt, wird das unbeaufsichtigte Transferlernen nicht beaufsichtigt, d. h. es gibt keine manuell markierten Daten.¹⁰ Im Vergleich dazu kann das induktive Transferlernen als überwachtes Lernen betrachtet werden. Eine gängige Anwendung von unbeaufsichtigtem Lernen ist die Betrugserkennung. Durch die Identifizierung gemeinsamer Muster in einem unbeschrifteten Transaktionsdatensatz kann ein Modell weiter lernen, abweichendes Verhalten als möglichen Betrug zu erkennen.
  
  
• Transduktiver Transfer. Dies ist der Fall, wenn die Ausgangs- und die Zielaufgabe identisch sind, aber die Datensätze (oder Domänen) unterschiedlich sind. Konkret sind die Ausgangsdaten in der Regel beschriftet, während die Zieldaten nicht beschriftet sind. Die Domänenanpassung ist eine Form des transduktiven Lernens, da sie das Wissen, das bei der Durchführung einer Aufgabe in einer Datenverteilung gewonnen wurde, auf die gleiche Aufgabe in einer anderen Datenverteilung anwendet.¹¹ Ein Beispiel für transduktives Transferlernen ist die Anwendung eines Textklassifizierungsmodells, das auf Restaurantkritiken trainiert und getestet wurde, um Filmkritiken zu klassifizieren.

Transferlernen unterscheidet sich von Feinabstimmung. Beide verwenden zwar bereits vorhandene Modelle für maschinelles Lernen, anstatt neue Modelle zu trainieren. Aber damit enden die Ähnlichkeiten schon. Die Feinabstimmung bezieht sich auf den Prozess des weiteren Trainings eines Modells auf einem aufgabenspezifischen Datensatz, um die Leistung bei der ursprünglichen, spezifischen Aufgabe, für die das Modell erstellt wurde, zu optimieren. So kann man beispielsweise ein Modell für die allgemeine Objekterkennung erstellen, indem man umfangreiche Datensätze wie COCO oder ImageNet verwendet und das resultierende Modell dann auf einem kleineren, beschrifteten Datensatz speziell für die Autoerkennung trainiert. Auf diese Weise kann der Benutzer ein Objekterkennungsmodell für die Autoerkennung verfeinern. Im Gegensatz dazu bedeutet Transferlernen, dass Benutzer ein Modell an ein neues, verwandtes Problem anpassen, und nicht an dasselbe.

Es gibt viele Einsatzmöglichkeiten des Transferlernens in der realen Welt des maschinellen Lernens und der künstlichen Intelligenz. Entwickler und Data Scientists können Transferlernen für eine Vielzahl von Aufgaben einsetzen und es mit anderen Lernansätzen wie dem Reinforcement Learning kombinieren.