Ugrás a fő tartalomra

Bejegyzések

DeltaTable alapok (PySpark)

 DeltaTable alapok (PySpark) 1. Alapelvek (Principles) Delta Lake nem egy új fájlformátum: Nem egyedi bináris struktúra, hanem standard, oszlopalapú Parquet fájlok és egy tranzakciós napló ( _delta_log ) összessége. ACID tranzakciók garantálása: Atomicitás: A módosítás vagy teljes egészében befejeződik, vagy egyáltalán nem (nincs félbehagyott állapot). Konzisztencia: Nincsenek piszkos olvasások (dirty reads), a sémaszabályok mindig érvényesülnek. Izoláció: Párhuzamos írások és olvasások nem zavarják egymást (optimista párhuzamosság-vezérlés). Tartósság: A sikeres tranzakció azonnal perzisztenssé válik a felhőtárhelyen. Parquet megváltoztathatatlansága (Immutability): A meglévő Parquet adatfájlok tartalma közvetlenül sosem írható felül. 2. Működési Minták (Patterns) Írási műveletek: INSERT: Létrehoz egy új part-*.parquet fájlt, majd bejegyzi a tranzakciót egy sorszámozott .json naplófájlba. UPDATE / DELETE (Copy-on-Write minta): A módosítandó rekordokat tartalmazó Parquet ...