Skip to main content
All Posts By

Kilian Grünhagen

Kilian Grünhagen is a Technical Solution Specialist and BI Consultant at Scalefree. A Certified Data Vault 2.0 Practitioner (CDVP2), he specializes in building cloud based enterprise data warehouses using Google BigQuery and dbt. Kilian combines his background in Business Informatics with deep expertise in GDPR-compliant data modeling and multi cloud systems across Azure, AWS, and GCP.

WhereScape Best Practices für Effizienz und Effektivität

Data Vault 2.0 Architecture and WhereScape - best practices

Einleitung

Im schnelllebigen Datenmanagement sind Effizienz und Effektivität von zentraler Bedeutung. Durch den Einsatz von Automatisierungstools wie WhereScape bei Data-Warehousing-Lösungen lässt sich der Mehrwert für Stakeholder erheblich steigern. Um das volle Potenzial von WhereScape auszuschöpfen und Ihre Arbeitsabläufe zu optimieren, ist die Einhaltung bewährter Best Practices unerlässlich. In diesem Artikel behandeln wir zentrale Strategien, um die Effizienz und Effektivität bei der Arbeit mit WhereScape 3D und RED zu maximieren.

Data Vault 2.0 Architecture and WhereScape - best practices

Data-Vault-Standards

Die Implementierung der Data-Vault-2.0-Methodik erfordert die Einhaltung etablierter Standards, um Konsistency, Skalierbarkeit und Wartbarkeit der Data-Warehouse-Lösung zu gewährleisten. Nachfolgend beschreiben wir wesentliche Aspekte der Data-Vault-Standards, die präzise definiert und konsequent befolgt werden sollten:

1. Hashing-Standards:
Definieren Sie den Hash-Algorithmus zur Generierung von Hash Keys und legen Sie Eingabe- und Ausgabeformate fest, um die Kompatibilität zu gewährleisten.

2. Load Date Timestamp (LDTS) – CDC vs. Full Load:
Bestimmen Sie den Ansatz zur Erfassung des LDTS sowie dessen Granularität für eine präzise Nachverfolgung der Data Lineage.

3. Namenskonventionen (Präfix/Suffix):
Etablieren Sie einheitliche Namenskonventionen für Data-Vault-Objekte, um die Lesbarkeit der Modelle zu verbessern.

4. Ghost Records:
Fügen Sie Ghost Records zu Satelliten-Entitäten hinzu, damit Equal Joins bei Ad-hoc-Abfragen auf den Raw Vault möglich sind.

Die Einhaltung der Data-Vault-2.0-Standards ist entscheidend für die Gewährleistung von Kompatibilität und Interoperabilität mit anderen Systemen. Anpassungen in WhereScape können erforderlich sein, um diesen Standards zu entsprechen. Abweichungen sollten jedoch stets sorgfältig evaluiert und dokumentiert werden.

WhereScape-Architektur-Setup

Die Einrichtung der WhereScape-Umgebung erfordert eine sorgfältige Planung, um effiziente Entwicklungs- und Deployment-Prozesse zu gewährleisten. Zu den wesentlichen Überlegungen für eine effektive Architektur gehören:

1. Mehrere Umgebungen für RED:
Konfigurieren Sie separate Umgebungen innerhalb von WhereScape RED, um Entwicklungs-, Test- und Produktionsphasen sauber zu trennen.

2. Empfohlenes Setup:
Streben Sie eine Struktur an, die aus mindestens vier Instanzen besteht: Entwicklung (dev), Test (test), Prä-Produktion (preprod) und Produktion (prod).

3. Die Rolle von WhereScape 3D verstehen:
Betrachten Sie WhereScape 3D als dediziertes Entwicklungs- und Design-Tool zur Erstellung und Änderung von Data-Vault-Modellen.

4. Klarer Entwicklungs- und Deployment-Pfad:
Setzen Sie einen strukturierten Prozess für Entwicklung und Deployment durch, der für das Modell-Design konsequent bei WhereScape 3D beginnt.

Die klare Abgrenzung der Aufgabenbereiche zwischen den Umgebungen von WhereScape 3D und RED ist entscheidend, um die Datenkonsistenz zu wahren und Entwicklungsrisiken zu minimieren.

Customizations in WhereScape

Gehen Sie bei individuellen Anpassungen (Customizations) vorsichtig vor, um die Stabilität und Wartbarkeit Ihrer Data-Warehouse-Lösung nicht zu gefährden. Wichtige Grundsätze sind:

1. Erstellen Sie immer zuerst Kopien:
Erstellen Sie Kopien der ursprünglichen Komponenten, bevor Sie Anpassungen vornehmen. So vermeiden Sie das unbeabsichtigte Überschreiben von Out-of-the-Box-Komponenten (OOTB).

2. Vermeiden Sie Over-Engineering:
Halten Sie Anpassungen so einfach wie möglich, um Komplexität und zukünftigen Wartungsaufwand zu minimieren.

3. Best Practices von Data Vault 2.0 einhalten:
Konzentrieren Sie sich auf die Bereitstellung von geschäftlichem Mehrwert und befolgen Sie die Data-Vault-2.0-Best-Practices, um Skalierbarkeit und Flexibilität zu sichern.

Das Vermeiden fehlerhafter Praktiken wie etwa das Zusammenführen von Stages für Hubs, Links oder Satelliten aus einer einzelnen Quelltabelle – ist essenziell für die Aufrechterhaltung der Systemkonsistenz.

Best Practices für den Job-Scheduler

Ein effizientes Job Scheduling ist entscheidend für die Maximierung der Performance des Data Warehouse. Wichtige Praktiken zur Optimierung des Schedulings mit WhereScape sind:

1. Nutzen Sie Load Parallelism:
Aktivieren Sie das parallele Laden für verschiedene Komponenten, um die Arbeitslast optimal auf die verfügbare Hardware zu verteilen.

2. Hardware-Ressourcen verstehen:
Analysieren Sie die verfügbaren Hardware-Komponenten genau, um den Load Parallelism effektiv abzustimmen.

3. Konfigurationsoptionen gezielt testen:
Nehmen Sie ein Feintuning der Job-Ausführung vor, basierend auf den verfügbaren Hardware-Ressourcen und spezifischen Auslastungsmerkmalen.

4. Vermeiden Sie verschachtelte Jobs (Nested Jobs):
Minimieren Sie verschachtelte Jobs, um eine optimale Performance und Ressourcenauslastung sicherzustellen.

Indem Sie diese Best Practices befolgen, schöpfen Sie das volle Potenzial des parallelen Ladens im WhereScape Scheduler aus und beschleunigen Ihre Data-Vault-Ladeprozesse nachhaltig.

Allgemeine Tipps für WhereScape

Zusätzlich zu den spezifischen Best Practices helfen Ihnen die folgenden Tipps, Ihre Effizienz im täglichen Umgang mit WhereScape zu steigern:

1. Keine Soft Business Rules in WhereScape 3D anwenden:
Binden Sie Soft Business Rules in WhereScape RED statt in 3D ein, um Übersichtlichkeit und Konsistenz zu wahren.

2. Projekte und Gruppen nutzen:
Organisieren und verwalten Sie Ihre Entwicklungsaufgaben effektiv mithilfe von Projekten in WhereScape RED sowie Gruppen in 3D und RED.

3. Inhalte gründlich für Deployments vorbereiten:
Validieren Sie Inhalte sorgfältig, bevor Sie Änderungen oder Updates von WhereScape 3D nach WhereScape RED deployen.

4. Dokumentation zu WhereScape 3D und RED nutzen:
Prüfen Sie regelmäßig die offizielle Dokumentation von WhereScape, um die Funktionsweisen der Plattform vollumfänglich zu nutzen.

Durch die Integration dieser Empfehlungen in Ihren Workflow steigern Sie Ihre Produktivität bei der Arbeit mit WhereScape nachhaltig.

Fazit

Die Arbeit mit WhereScape bietet vielfältige Möglichkeiten, die Entwicklung von Data Warehouses zu optimieren und Mehrwerte schneller bereitzustellen. Durch die Einhaltung bewährter Best Practices sowie das Etablieren einer Kultur der kontinuierlichen Verbesserung können BI-Entwickler Komplexitäten souverän meistern, Innovationen vorantreiben und nachhaltige Ergebnisse für Unternehmen und Stakeholder erzielen. Wenn Sie mehr über Best Practices für WhereScape erfahren möchten und wissen wollen, wie Sie Data Vault 2.0 erfolgreich implementieren, empfehlen wir unseren aktuellen Workshop „Data Vault 2.0 Automation with WhereScape“.