Few-Shot Anomaliedetektion in Zeitreihen mit LLMs

Beginn: Ab sofort

Erstbetreuer: Dr. Akdag

Zweitbetreuer: Prof. Dr. Heisenberg

Niveau: Bachelor- oder Masterarbeit

Problemstellung:
Die Detektion von Anomalien in Zeitreihen ist ein zentrales Problem in Bereichen wie Industrie 4.0, Energieüberwachung oder IoT. Klassische Methoden basieren oft auf statistischen Modellen. Ziel dieser Arbeit ist es, die Stärke von Large Language Models (LLMs) in der Zeitreihenvorhersage für die Anomalieerkennung zu untersuchen. Dies wurde mit SigLLM schon als Zero-Shot Methode verwendet (Paper), wobei die Effizienz durch ein fine tuning mit wenigen Beispielen (Few-Shot) noch nicht hinreichend untersucht wurde.
Vorarbeiten:
  • SigLLM bietet eine Schnittstelle, um Zeitreihendaten zur Anomaliedetektion zu nutzen und ist als Open-Source-Implementierung verfügbar.
  • Benchmarks und Datensets für die Anomalieerkennung in Zeitreihen existieren.
  • Hugging Face stellt eine Vielzahl vortrainierter LLMs, Fine-Tuning-Frameworks sowie einen Einführungskurs in LLMs und deren Nutzung bereit.
Offene Aufgaben:
  • Aufbereitung eines geeigneten Datensatzes zum fine tuning der LLMs.
  • Fine tuning der vortrainierten LLMs (z.B. via Hugging Face) mit verschiedenen Techniken.
  • Vergleich verschiedener Few-Shot-Strategien.
  • Anwendung der Anomaliedetektion auf Zeitreihen.
  • Evaluierung der Detektionsleistung mittels geeigneter Metriken.
  • Optional: Recherche und Entwicklung einer Methodik, um Zeitreihen von Bildern mit LLMs zu analysieren.
Ziel der Arbeit ist es, das Potenzial moderner Large Language Models für die Anomalieerkennung in Zeitreihendaten systematisch zu untersuchen. Durch den Vergleich verschiedener LLM-Architekturen und Fine-Tuning-Techniken mit etablierten Verfahren soll bewertet werden, ob LLMs – insbesondere im Few-Shot-Setting – eine effektive Alternative für datenarme Szenarien darstellen.
Interessiert?
Wenn Sie sich für Zeitreihenanalyse, moderne Sprachmodelle und innovative Methoden der Anomalieerkennung interessieren, bietet diese Arbeit eine spannende Gelegenheit, aktuelle Forschung mit praxisrelevanten Anwendungen zu verbinden. Sie arbeiten mit realen Daten und hochaktuellen LLM-Technologien, deren Ergebnisse sowohl wissenschaftlich als auch industriell nutzbar sind.