IP Datalake

IP Datalake

Wie kann man große Datenmengen in Virtueller Realität sichtbar und begreifbar machen?

Im Wintersemester 2020/21 wurde dazu das Projekt "Datalake" unter der Leitung von Prof. Ingrid Scholl (Visualisierung) und Prof. Dr. Ingo Elsen (Big Data) als Interdisziplinäres Projekt für Studierende der Informatik und Elektrotechnik konzipiert. Die Idee dabei ist, wie man große Datenmengen in Virtueller Realität sichtbar und begreifbar machen kann. Kann ich in meinen Daten spazieren gehen und dabei ganz nebenbei wichtige Informationen und Datenzusammenhänge visuell erkennen? 

6 Studierende aus der Informatik und Elektrotechnik entwickelten im Wintersemester 2020/21 einen ersten Prototypen für die HTC Vive, der im Sommersemester 2021 von dem Informatikstudenten Sebastian Scheibe weiter entwickelt wurde. Die Studierenden erstellten einen digitalen Zwilling des H-Gebäudes des Campus Eupener Straße der FH Aachen mit Navigations- und Interaktionsmöglichkeiten in Virtueller Realität. Die Datengewinnung erfolgte aus  energiearmen Sensorsystemen, die im H-Gebäude an mehreren Plätzen installiert wurden. Sensordaten wie Temperatur, Luftfeuchtigkeit, Luftdruck, Datum und Zeit werden kontinuierlich in eine Datenbank gestreamt. Diese Daten werden während der VR-Applikation in Echtzeit abgefragt und in 2D wie auch in 3D visualisiert.

Ein erster Spaziergang durch die Daten ist nun möglich in VR.

Alles in einem Video

Zu dem IP Datalake gibt es auch ein Video, dass die wichtigsten Funktionen und Features zeigt. Dieses Video ist hier auf YouTube abrufbar.

Virtueller Zwilling des H-Gebäudes

Da sich die Sensoren im H-Gebäude der FH-Aachen befinden, lag es nahe, das Gebäude auch im virtuellen Raum abzubilden. Dazu wurde ein virtueller Zwilling des ersten und zweiten Stockwerks aus dem Grundriss des Gebäudes erstellt und anschließend mit Möbeln, Pflanzen, Lampen und Türen gefüllt, die den echten ähneln und so den virtuellen Zwilling realistischer machen. Die Räume im Gebäude können betreten werden und sind wie im echten Gebäude mit Schildern beschriftet.

Navigation

Um auch Nutzern ohne direkte Ortskenntnis die Möglichkeit zu geben, die diversen Räume des Gebäudes zu finden, wurde eine Navigation implementiert. Hierzu wird in einem Menü das erste und zweite Stockwerk inklusive aller Räume angezeigt, in denen sich ein Sensor befindet. Der Nutzer kann dann einen Raum auswählen und wird anschließend über Pfeile auf dem Boden zum gewählten Raum geführt.

Fortbewegung und Umsehen in VR

Die Fortbewegung in VR (engl. locomotion) ist ein wichtiger Teil der Anwendung und ermöglicht dem Nutzer, sich in der virtuellen Umgebung bewegen und umsehen zu können. Daher bietet die Anwendung mehrere Möglichkeiten, die als kontinuierlich (engl. continous) und nicht kontinuierlich (engl. non-continous) beschrieben werden können.

Neben der reinen Fortbewegung dienen die nicht kontinuierlichen Optionen zur Prävention von Übelkeit. Bei Nutzer, die sich das erste Mal oder selten in VR befinden, kann eine kontinuierliche Fortbewegung aufgrund der fehlenden Rückmeldung des Bewegungssinns bzw. Innenohrs zu besagter Übelkeit führen, da sich der Nutzer an sich nicht bewegt und der visuelle Eindruck nicht zum physischen passt.

Zu den Optionen gehören:

  • Fortbewegung
    • mit Joystick (kontinuierlich)
    • Teleportation (nicht kontinuierlich)
  • Umsehen
    • mit Joystick (kontinuierlich)
    • Snap-Turning (nicht kontinuierlich)

Visualisierungsebene

Für die Darstellung der Graphen wurde ein eigener, offener Raum erstellt. Dieser bietet im Gegensatz zu den meist kleineren Räumen im Gebäude ausreichen Platz für diverse Visualisierungen. In der Visualisierungsebene befindet sich neben einer Tür zum Verlassen der Ebene ein interaktives Modell des echten Sensors, welcher geöffnet werden kann und die inneren Bauteile des Sensors zeigt und erläutert. Ebenfalls sichtbar sind der erste und zweite Stock des Gebäudes, dessen Räume und Raumnummern. Je nach gewählten Raum für die Visualisierungen werden diese farblich hervorgehoben.

Visualisierungen

2D Visualisierung

Da die 2D Visualisierung in Form eines Liniendiagramms wohl eine der bekanntesten Darstellungsformen ist, lag es nahe, diese auch in dieser Anwendung zu implementieren. Es ergeben sich daraus die klassischen Möglichkeiten eines Liniendiagramms und es ist daher beispielsweise möglich, mehrere Räume anhand ihres Temperaturverlaufs miteinander zu vergleichen und so unterschiede schnell zu erkennen.

Neben der Darstellung als Liniendiagramm können die Daten auch als Streudiagramm (engl. Scatter-Plot) dargestellt werden. Hierbei können die Abhängigkeiten zwei unterschiedlicher Merkmale (z.B. Temperatur und Luftfeuchtigkeit) dargestellt werden.

Einstellungsmöglichkeiten der 2D Visualisierung:

  • Visualisierungstyp (Standard, Scatter-Plot)
  • Datenpunktgröße (Scatter-Plot)
  • Startzeit/-datum
  • Endzeit/-datum
  • Y-Achsenskalierung
  • Achsenbeschriftung
  • Koordinatengitter

3D Visualisierung

Die 3D Visualisierung unterscheidet sich hauptsächlich in der zusätzlichen Zeitachse. Hierbei werden die Mittelwerte zu jeder Uhrzeit eines jeden Tages im ausgewählten Zeitraum dargestellt. Dadurch können Unterschiede in den Daten einfach und schnell erkannt und mit anderen Räumen oder Tagen verglichen werden. Weiterhin ermöglicht dies eine weitere Darstellungsmöglichkeit, die über eine einfache Darstellung als Linie hinausgeht. Die Darstellung als Mesh stellt den Verlauf der Daten in einer fortlaufenden Fläche dar und vereinfacht den Vergleich unterschiedlicher Daten weiter.

Eine Darstellung als Streudiagramm (engl. Scatter-Plot) ist hier ebenfalls möglich. Zusätzlich zu der bereits genannten dritten Achse können hier auch die zeitliche Beziehung zwischen den einzelnen Datenpunkten dargestellt werden. Dadurch kann der Verlauf und die Abhängigkeit der Daten zueinander besser beobachtet und eventuelle Schlussfolgerungen einfacher gezogen werden. Zusätzlich ist es möglich (sofern die Anwendung mit SteamVR oder auf der Powerwall verwendet wird), mit den Datenpunkten zu interagieren und so alle Daten zu dem berührten Punkt einzusehen.

Einstellungsmöglichkeiten der 3D Visualisierung:

  • Visualisierungstyp (Standard, Scatter-Plot)
  • Dartsellung (Linie, Punkte, Mesh)
  • Meshdarstellung (Linien, Fläche, Fläche und Linien)
  • Datenpunktbeziehungen darstellen
  • Interaktive Datenpunkte
  • Startzeit/-datum
  • Endzeit/-datum
  • Größe anpassen
  • Y-Achsenskalierung
  • Achsenbeschriftung
  • Koordinatengitter

Multiuser

Die Powerwall ermöglicht es mehreren Nutzern, gleichzeitig Inhalte in 3D zu betrachten. Damit dies auch ohne eine Powerwall möglich ist, wurde eine Multiuser Funktion implementiert. Diese ermöglicht das Erstellen und Verwalten virtueller Instanzen sowie virtuelle Treffen zur Betrachtung der Sensordaten. Da eventuell nicht jeder Nutzer Zugriff auf das Netzwerk der FH-Aachen besitzt, werden die Sensordaten vom Raumbesitzer abgefragt und an alle Nutzer in der gleichen Instanz verteilt.

Außerdem ist es möglich, die Perspektive eines anderen Nutzers anzunehmen und so dessen Aktionen und Sicht selbst wahrzunehmen. So ist es beispielsweise möglich, dass mehrere Nutzer an der Powerwall die Sicht eines Nutzer mit einem interaktiveren VR Headset (im Vergleich zur Powerwall) betrachten. So können die Vorteile eines VR Headsets und der Powerwall kombiniert werden.

Platformunabhängige Anwendung

Zum Start des Projekts konnte die Anwendung nur in Kombination mit SteamVR und einem kompatiblen VR Headset bestehend aus HMD und Controllern verwendet werden. Mittlerweile ist es möglich die Anwendung nicht nur mit SteamVR sondern auch auf der Powerwall und ohne VR System zu verwenden. Hierzu erkennt die Anwendung, welche Systeme vorhanden sind und entscheidet dann, in welchem Modus diese starten muss.