Finetuning beziehungsweise Feinabstimmung kann man durchführen, um ein vortrainiertes KI-Modell auf ein bestimmtes Fachgebiet zu spezialisieren. Im Finetuning-Prozess werden die Gewichte und Parameter des vortrainierten Modells anhand der spezifischen Trainingsdaten angepasst. In der Regel werden nur wenige Schichten des Modells freigegeben, während die früheren Schichten, die bereits ein allgemeines Verständnis der Sprache oder der Muster gelernt haben, beibehalten werden. Dadurch wird verhindert, dass das Modell seine bereits erlernten Fähigkeiten verliert, während es sich auf die neue Aufgabe spezialisiert. Da Entwickler beim Finetuning ein KI-Modell nicht von Grund auf trainieren müssen, spart dies Zeit, Rechenressourcen und Daten. Im Gegensatz zum Prompt Engineering führt Finetuning zu langfristigen Änderungen des KI-Modells.
Weiterführender Artikel:
Basiswissen zu Künstlicher Intelligenz (KI), generativer KI und Finetuning.
