Benchmark verschiedener Kolmogorov-Arnold-Netzwerk Architekturen beim Forecasting von Zeitreihen

Beginn: Ab sofort

Erstbetreuer: Prof. Dr. Heisenberg

Zweitbetreuer: Dr. Akdag

Niveau: Masterarbeit

Problemstellung:
Kolmogorov-Arnold Networks (KANs) stellen eine neuartige Architekturklasse dar, die die universelle Approximierbarkeit mathematisch fundiert abbildet – und dies auf effiziente Weise durch nichtlineare Basisfunktionen pro Eingabe. Erste Anwendungen zeigen vielversprechende Ergebnisse im Bereich komplexer Regressionen und Systemidentifikation.
Für Zeitreihen-Forecasting stellt sich nun die Frage, ob KANs – im Vergleich zu klassischen Deep Learning Architekturen wie LSTM und Foundation Models – vergleichbare Performanz liefern können. Besonders spannend ist dies bei schwierigen Langzeitprognosen oder stark verrauschten Signalen.
Ziel der Arbeit:
Ziel dieser Masterarbeit ist ein systematischer Benchmark verschiedener KAN-Architekturen im Vergleich zu etablierten Forecasting-Modellen. Eine Masterarbeit ist zu diesem Thema schon gelaufen und auf deren Source Code kann aufgebaut werden. Im Detail sollen in dieser Arbeit:
  • mehrere verschiedene KAN-Implementierungen evaluiert und ihre Hyperparameter optimiert werden,
  • neben den in der vorigen Arbeit verglichenen Ansätzen nun auch Foundation Models getestet werden,
  • auf standardisierten Forecasting-Datensätzen (z.B. Electricity, Traffic, Exchange) trainiert,
  • und per Zeitreihenklassifikation besondere Merkmale der Zeitreihen untersucht werden, die potenziell für ein besonderes Performanzverhalten verantwortlich sein können.
Ergänzend soll in den Vergleich die Modellgröße, Trainingsdauer und das spezielle Overfitting-Verhalten aufgenommen werden.
Voraussetzungen:
Sehr gute Kenntnisse in Python und Deep Learning Frameworks (z.B. PyTorch) sind notwendig. Erste Erfahrung mit Forecasting-Modellen ist hilfreich. Die vorangegangene Masterarbeit inkl. Source Code wird zur Vorbereitung zur Verfügung gestellt.

Kolmogorov Arnold Network Beispiel