Virtuelle Integration von Datenquellen mit einer Graph-Datenbank (Projekt ArcoFaMa) Prof. Dr. Petra Sauer Dipl.-Inf. Frank Herrmann M.Sc. Jan Matusewicz 19.03.2014 Fossgis 2014 Folie 1 Ausgangssituation beim Botanischen Garten Berlin 19.03.2014 43 ha Gartenfläche 17.000 m2 unter Glas (Schau- und Anzuchtgewächshäuser) Ca. 4000 Bäume 22.000 Pflanzenarten (wiss. Datenbank der Pflanzensammlung) Be- und Entwässerungssystem z.T. noch aus den Gründungsjahren 1899 (Fördermenge ca. 80 – 130 Tsd. m3 / Jahr) 300 CAD-Dateien mit Gartenbau- und bewirtschaftungsrelevanten Objekten Aufwendige Sanierung des „Großen Tropenhauses“ (2006-2009) z.T. unter Einsatz von 3D-Gebäudemodellen Fossgis 2014 Folie 2 Geoinformation im Kontext des Botanischen Gartens 19.03.2014 Fossgis 2014 Folie 3 Geoinformation im Kontext des Botanischen Gartens 19.03.2014 Fossgis 2014 Folie 4 Geoinformation im Kontext des Botanischen Gartens 19.03.2014 Fossgis 2014 Folie 5 Geoinformation im Kontext des Botanischen Gartens 19.03.2014 Fossgis 2014 Folie 6 Geoinformation im Kontext des Botanischen Gartens 4000 Bäume in Baumdatenbank 19.03.2014 Fossgis 2014 Folie 7 Geoinformation im Kontext des Botanischen Gartens Entfernung zu Baum 10? Genauer Standort ? Weg zum Ausgang ? Nächster Hydrant ? 19.03.2014 Fossgis 2014 Folie 8 Geoinformation im Kontext des Botanischen Gartens 300 CAD-Dateien 19.03.2014 Fossgis 2014 Folie 9 Projekt ArcoFaMa: Zielstellung und Ansatz Ziel Geometrien und Geodaten aus proprietärem CAD-Format in offenes, interoperables Format überführen Geodaten u.a. für das Facility Management nutzbar machen Integration mit Datenbeständen des Botanischen Gartens (BGBM) Problematik überwiegend isolierte Datenhaltung von Geo- und FM-Daten Überwiegend isolierte Datenhaltung von Geo- und BGBM-Daten Ansatz Regelbasierte Transformation von Geodaten aus CAD-Daten Einheitliche Datenhaltung in Geodatenbank Aufbau einer Integrationsplattform, um heterogene Daten gemeinsam zu verarbeiten Entwicklung von Anwendungen, die die Integrationsplattform nutzen 19.03.2014 Fossgis 2014 Folie 10 Informationsintegration Herausforderungen Verteilung der Datenquellen Autonomie der Datenquellen Beachtung der Heterogenität Zugriff über Browser und/ oder mobiles Endgerät (App) externe Dienstleister mobiler Zugriff für Mitarbeiter Wissenschaftler und Besucher Datenmodell (relational, OO, XML) Zugriff über Standard-CAFM-Programm interne Mitarbeiter externe Dienstleister über Web-Portal des CAFM-Systems ArcoFaMa Integrationsschicht (Umkreissuche; Routenplanung; Kartenvisualisierung) Strukturell (Schema) CAFM (WaveFM) … BoGART Dokumente (Excel, CAD,…) Transform. z.B. über FME 3DCityDB BIM-Server Import über IFC 11 19.03.2014 Fossgis 2014 Folie 11 Informationsintegration Entscheidungen Zugriff über Browser und/ oder mobiles Endgerät (App) Virtuelle Integration Verknüpfte Informationen verbleiben in den ursprünglichen Datenbanken Anfrageschnittstellen nutzen Keine schreibenden Zugriffe auf Datenquellen Metadatenbasierter Ansatz externe Dienstleister mobiler Zugriff für Mitarbeiter Wissenschaftler und Besucher Zugriff über Standard-CAFM-Programm interne Mitarbeiter externe Dienstleister über Web-Portal des CAFM-Systems ArcoFaMa Integrationsschicht (Umkreissuche; Routenplanung; Kartenvisualisierung) CAFM (WaveFM) … BoGART Dokumente (Excel, CAD,…) Transform. z.B. über FME 3DCityDB BIM-Server Import über IFC 12 19.03.2014 Fossgis 2014 Folie 12 Metadaten Informationen zur Beschreibung anderer Daten Im Kontext einer Integrationsplattform: Welche Datenquellen sind verfügbar? Wie erreicht man diese Datenquellen? (Technologie, Zugriff) Wie sind die Datenquellen strukturiert? (Abbildung) Wie können die Datenquellen miteinander verknüpft werden? (Klassifizierung Knoten / Kanten) Welche impliziten Daten können mit einbezogen werden? (Informationsanreicherung) Notwendigkeit des Einsatzes eines effizienten Datenspeichers mit flexiblen Verwaltungsfunktionalitäten 19.03.2014 Fossgis 2014 13 Graph Datenbanken Property-Graphen kombinieren mehrere Besonderheiten: Knoten verfügen über Eigenschaften (Schlüssel–Werte-Paare) Kanten sind gerichtet und verfügen über einen Namen Kanten können über weitere Eigenschaften verfügen Property-Graphen sind gewichtete, gerichtete und benannte Multigraphen Hypergraphen erlauben die Verbindung von Knoten mit mehr als einer Kante M/N – Abbildungen können somit vereinfacht dargestellt werden 19.03.2014 Fossgis 2014 14 Graph Datenbanken Prozessierung der Daten Native Processing Engine – beherrscht indexfreie Adjazenz Wesentliches Merkmal der effizienten Prozessierung Knoten haben direkten Verweis auf den Nachbarknoten Kein ‚Nachschlagen‘ in einem globalen Index nötig Großer Geschwindigkeitsvorteil gegenüber non native Graph-DB Neo4j ist bezüglich der Speicherung und Prozessierung eine native Graph-Datenbank 19.03.2014 Fossgis 2014 15 Graph Datenbanken Neo4j – Open-Source-Graph-DB Native Processing Engine – beherrscht indexfreie Adjazenz Seit 2003 in Entwicklung, Firma Neo Technology Implementiert in der Programmiersprache Java Version 1.0 im Jahre 2010, aktuell Version 2.0.1 Eigens entwickelter Persistenzmechanismus für die Speicherung und Verwaltung Persistenzschicht nutzt per Java NIO Blöcke fester Größe zur Speicherung von Knoten und Kanten 19.03.2014 Fossgis 2014 16 Graph Datenbanken Neo4j – Open-Source-Graph-DB Unterstützt Transaktionen per JTA, vollständige ACID Eigenschaften / Garantien Atomarität, Konsistenz, Isoliertheit ,Dauerhaftigkeit Datenzugriff per Java API Abfragesprache Cypher Traverser Framework REST Schnittstelle Abfrage, Verwaltung und Visualisierung über eine Webapplikation 19.03.2014 Fossgis 2014 17 Metadatengraph 19.03.2014 Fossgis 2014 18 Geo-Datenbank Postgresql / Postgis Räumlicher Datentyp Geometry (Geography) Abfrage nach Geometrietyp und SRID (Koordinatenreferenzsystem) Eigenschaften werden im Knoten gespeichert Geometrietyp (POINT, POLYGON etc.) SRID Tabellenknoten hält die BoundingBox-Parameter Identifikation möglicher Relationen über Tabellen hinweg Gleichheit der SRID und Geometrietyp Überschneidung/Überlappung der von den BoundingBoxen abgedeckten Zonen 19.03.2014 Fossgis 2014 19 Metadaten-Graph 19.03.2014 Fossgis 2014 20 Metadaten-Graph 19.03.2014 Fossgis 2014 21 Technologien und Werkzeuge Integrationsplattform Mobile Apps Datenaustausch mit proprietären Anwendungen (FM) Fachdaten Webservices AXIS2 Webfrontend interaktives Infoportal Karten wms/wfs GeoServer/GeoTools JAVA Datenbankzugriff JDBC 19.03.2014 Fossgis 2014 22 Eingesetzte Produkte / Software-Komponenten CAFM-System Wave Facilities (Loy und Hutz) Industry Foundation Classes (IFC 4) CityGML 2.0 ArcoFaMa Integrationsplattform OGC-Services (WebMapService, WebFeatureService) GeoServer (www.geoserver.org) NoSQL-Datenbank Neo4j (Metadaten) JSON (Webservices) Tomcat 6 Verknüpfte Datenquellen PostGIS 2.0.4 – 3DCityDB-Schema Software zur Konvertierung FME (Feature Manipulation Engine); Safe Software Inc. (Transformation) PostgreSQL 9.3 (Geodatenbank) – Schnittstellenstandards BIM-Server 1.2 (www.bimserver.org ) BoGart-Datenbank (MS SQL-Server) OpenJump (Java GIS – Rotation, Koordinationssystem) GrassGIS 7 (Koordinatenumrechnung) Wave Facilities-Datenbank (MS SQLServer) 19.03.2014 Fossgis 2014 Folie 23 Fazit Umfangreiche Aufgabenstellung Umfangreiche empirische Untersuchungen Best Practice – Ansätze finden Baustellen : Transformation CAD-Daten / CityGML Anbindung FM-Daten im IFC-Format Weiterentwicklung Integrationsplattform 19.03.2014 Fossgis 2014 Folie 24 Kontaktdaten M.Sc. Benjamin Peris Hochschule für Technik und Wirtschaft Berlin Tel. +49 30 5019 3630 [email protected] Dipl.-Ing. und Dipl.-Kfm. (FH) Karsten Schomaker Botanischer Garten und Botanisches Museum Berlin-Dahlem Freie Universität Berlin [email protected] www.bgbm.org Prof. Dr. Petra Sauer Beuth Hochschule für Technik Berlin Tel. +49 30 4504 2691 [email protected] Dipl.-Inform. (FH) Thomas Kalweit Aviant GmbH [email protected] http://www.aviant.de/ Holger Fell Fell & Kernbach GmbH [email protected] http://www.fell-kernbach.de/ Prof. Dr.-Ing. Markus Krämer Hochschule für Technik und Wirtschaft Berlin Tel. +49 30 5019 4236 [email protected] Dipl.-Inform. (FH) Frank Herrmann Beuth Hochschule für Technik Berlin Tel. +49 30 / 4504-3880 [email protected] 19.03.2014 Fossgis 2014 Folie 25