Maschinelles Lernen durch Funktionsrekonstruktion mit verallgemeinerten dünnen Gittern

Abstract

Diese Arbeit beschäftigt sich mit einem neuen Ansatz für das Klassifikationsproblem beim Maschinellen Lernen durch Funktionsrekonstruktion. Es basiert auf dem Zugang des Regularisierungsnetzwerks, aber im Gegensatz zu anderen Methoden, die Ansatzfunktionen verwenden die Datenpunkten zugeordnet sind, wird nun ein so genanntes dünnes Gitter im üblicherweise hochdimensionalen Datenraum zur Diskretisierung der Minimierungsaufgabe benutzt. Genauer gesagt, wird die Dünngitterkombinations-Methode verwendet, bei der das Klassifikationsproblem auf einer bestimmten Folge konventioneller Gitter mit uniformer Maschenweite in jeder Koordinatenrichtung diskretisiert und gelöst wird. Die Dünngitterlösung wird dann durch Linearkombination aus den Lösungen dieser verschiedenen Gitter erhalten.<br /> Dieser Ansatz ermöglicht ein maschinelles Lernverfahren, welches linear in der Zahl der Datenpunkte skaliert, aber trotzdem eine nichtlineare Funktion darstellt. Allerdings ist die Zahl der behandelbaren Dimensionen bei diesem Ansatz auf Grund einer exponentiellen Abhängigkeit der Komplexität von der effektiven Dimension des Problems beschränkt. In vielen Praxisanwendungen ist die Dimension des resultierenden Problems, gegebenenfalls nach einigen Vorverarbeitungsschritten, moderat, die Menge der Daten ist aber üblicherweise sehr groß. Diese Art Anwendungen stellen die typischen Anwendungsgebiete für das in dieser Arbeit vorgestellte neue Lernverfahren dar. Das Verfahren wird auf eine Reihe von Benchmark-Datenstzen angewandt, die dabei erzielten Resultate sind mit denen der besten maschinellen Lernverfahren vergleichbar.<br /> Weiterhin wird in der vorliegenden Arbeit aufbauend auf neueren Arbeiten eine dimensionsadaptive Kombinationstechnik zur Funktionsrekonstruktion für Klassifikations- und Regressionsprobleme im maschinellen Lernen vorgestellt. Experimente mit der dimensionsadaptiven Kombinationstechnik zeigen deren grundsätzlichen Möglichkeiten im Bereich des maschinellen Lernens.