Data Engineering

Spark – Fehler mit UTF8 Kodierung im Docker Image

Spark – Fehler mit UTF8 Kodierung im Docker Image

Hung ManhMar 24, 20244 min read

Im Deutschen gibt es Sonderzeichen, die als Umlaute bekannt sind, unter anderem z.B. ä, ü, ö. Wenn das System nicht korrekt eingestellt ist, kann die Kodierung dieser Zeichen zu einem Informationsverlust führen. Sehen wir uns ein praktisches Beispiel an, bei…

dummy-img

Python – Pass by object: Praktische Fallstricke

Hung ManhSep 19, 20233 min read

Innerhalb einer Schleife habe ich mehrfach auf ein Objekt in einem Dictionary zugegriffen, es transformiert und visualisiert. Die Absicht war, dass alle Transformationen voneinander isoliert bleiben sollten. Was aber tatsächlich passierte, war, dass sich diese Transformationen aufgrund von Pythons “Pass…

Doppelte Schlüssel bei der Erstellung einer Json aus einem Python Dict

Doppelte Schlüssel bei der Erstellung einer Json aus einem Python Dict

Hung ManhJan 25, 20232 min read

TLDR: Ein dictionary in json behandelt alle Schlüssel als String, während ein Python Dictionay nicht nur zwischen dem Inhalt, sondern auch dem Datentyp unterscheidet (siehe Stackoverflow). Wenn man ein Dictionary in einem json speichert und das Dictionary daraus wieder lädt,…

Superset Guest Token mit Python erstellen, um Superset Dashboard zu embedden

Superset Guest Token mit Python erstellen, um Superset Dashboard zu embedden

Hung ManhDec 30, 20224 min read

Das große Ziel ist es, ein Superset Dashboard in einer Webanwendung z.B. in REACT einzubetten. Um das zu erreichen, muss unter anderem ein Guest Token (Service Account) erstellt werden. Da dieser Prozess (meiner Meinung nach) nicht ganz ausreichend gut dokumentiert…

Airflow – “Fill Dagbag” dauert zu lange

Airflow – “Fill Dagbag” dauert zu lange

Hung ManhDec 14, 20224 min read

TLDR: Es ist möglich, DAGs mit nur einem Skript dynamisch zu erstellen. Bei der Ausführung der Tasks wird jedoch das ursprüngliche DAG-Skript noch einmal geparset. Dies führt zu unnötigen Parsing-Iterationen von DAGs, die nicht zum aktuellen Task zugehörig sind. Beobachtung:…

Migration von Kubernetes in ein VCN Natives Cluster in der OCI

Migration von Kubernetes in ein VCN Natives Cluster in der OCI

Hung ManhDec 2, 20223 min read

Euer managed Kubernetes Cluster in der OCI könnte eine kleine Anzeige besitzen, die besagt, dass eine “Migration erforderlich” ist. Das liegt daran, dass in früheren Releases (vor dem 16. März die der Kubernetes API-Endpunkt von der Container Engine zwar bereitgestellt,…

Statistiken, Statistiken, Statistiken!

Statistiken, Statistiken, Statistiken!

Hung ManhFeb 3, 20223 min read

Wir hatten eine moderat komplexe Query, die ca. 270000 Zeilen umfasste, allerdings über eine Stunde lief. Nachdem Statistiken zu der darunterliegenden Tabelle aktualisiert wurden, lief die Query in nur 4 Sekunden durch. Die Query sah etwa wie folgt aus: WITH…

Kubernetes pod steckt im pending Status fest. Nodes had no available volume.

Kubernetes pod steckt im pending Status fest. Nodes had no available volume.

Hung ManhJan 30, 20222 min read

Beobachtung Ein deployter Pod steckt im Status “pending” fest. Mit Hilfe des Befehls describe pod sehen wir folgende Warnung: Warning FailedScheduling [..] 0/3 nodes are available: 3 node(s) had no available volume zone. Was ist passiert? Wir wollten eine Sicherung…

Airflow Tasks werden nicht zur spezifizierten Zeit ausgeführt

Airflow Tasks werden nicht zur spezifizierten Zeit ausgeführt

Hung ManhDec 9, 20214 min read

Wir haben ein Problem beobachtet, bei denen unsere Dags nicht zur spezifizierten Zeit, sondern konsistent zu einer scheinbar zufälligen Zeit ausgeführt wurden. Erwartetes Verhalten: Wir haben eine Jobkette bestehend aus drei Dags, die täglich eingeplant sind auch hintereinander laufen sollten.…

dummy-img

Anbinden von Block volume an eine VM Instanz in der OCI

Hung ManhSep 22, 20214 min read

Im Rahmen meines Forschungsseminars und zu Testzwecken, wollte ich die auf der Oracle Cloud Infrastructure (OCI) kostenlos zur Verfügung stehenden Produkte nutzen, um einige Tests durchzuführen. Hierbei ergaben sich allerdings einige, eigentlich triviale Probleme, bei der Anbindung eines zusätzlichen Block…

hungsblog | Nguyen Hung Manh | Dresden
Nach oben scrollen