Internetinis JSON į „BigQuery“ schemų keitiklis
Supaprastinkite duomenų saugyklų darbo eigą naudodami mūsų JSON į „BigQuery“ schemų įrankį. Rankinis lentelių schemų apibrėžimas „Google BigQuery“ gali užimti daug laiko ir būti klaidų kupinas, ypač naudojant įdėtuosius duomenis. Šis įrankis leidžia įklijuoti JSON objektą arba JSON schemą ir akimirksniu sugeneruoti galiojantį „BigQuery JSON“ schemos failą, paruoštą naudoti „Google Cloud Console“, CLI arba API.
Kodėl verta konvertuoti JSON į „BigQuery“ schemą?
„Google BigQuery“ reikalauja konkretaus schemos formato, kad būtų galima apibrėžti lentelių struktūrą. Jei importuojate didelius duomenų rinkinius, teisinga schema yra labai svarbi duomenų vientisumui ir užklausų našumui.
Lentelių apibrėžimų automatizavimas
Nesvarbu, ar dirbate su plokščiaisiais failais, ar giliai įterptais JSON įrašais, mūsų įrankis analizuoja duomenų tipus ir struktūras, kad sukurtų gamybai paruoštą schemą. Tai panaikina poreikį rankiniu būdu rašyti ilgus name, typeir modelaukų masyvus.
Tvarkyti sudėtingus įdėtuosius duomenis
„BigQuery“ palaiko RECORD(struktūros) ir REPEATED(masyvo) režimus. Mūsų konverteris išmaniai atpažįsta šias struktūras jūsų JSON faile ir susieja jas su tinkamais „BigQuery“ įdėtaisiais tipais, kad jūsų reliaciniai duomenys išliktų puikiai sutvarkyti.
Pagrindinės mūsų keitiklio savybės
Mūsų įrankis sukurtas taip, kad atitiktų šiuolaikinių duomenų inžinerijos vamzdynų reikalavimus GCP aplinkoje.
1. Pažangus tipo aptikimas
Keitiklis automatiškai susieja standartinius JSON tipus su „BigQuery“ duomenų tipais:
string→STRINGnumber(sveikasis skaičius) →INTEGER/INT64number(dešimtainis) →FLOAT64/NUMERICboolean→BOOLISO 8601 strings→TIMESTAMParbaDATE
2. Režimo aptikimo palaikymas
Mūsų variklis atpažįsta skirtumą tarp pavienių objektų ir masyvų. Jis automatiškai priskiria REQUIRED, NULLABLE, arba REPEATEDrežimą pagal jūsų JSON schemos apribojimus arba masyvų buvimą jūsų pavyzdiniuose duomenyse.
3. Paruoštas naudoti išvesties formatas
Išvestis generuojama kaip standartinis JSON masyvas, kurio tikisi „BigQuery“. Kurdami lentelę „BigQuery“ vartotojo sąsajoje, galite ją nukopijuoti tiesiai į skyrių „Redaguoti kaip tekstą“.json arba išsaugoti kaip komandos failą bq load.
Kaip konvertuoti JSON į „BigQuery“
Įveskite savo duomenis: į įvesties laukelį įklijuokite JSON objekto pavyzdį arba galiojančią JSON schemą.
Analizuoti: įrankis akimirksniu analizuoja struktūrą ir identifikuoja laukus.
Generuoti: išvesties lange peržiūrėkite sugeneruotą „BigQuery“ schemą.
Kopijuoti ir diegti: Norėdami pritaikyti schemą savo „Google Cloud“ projektui, naudokite mygtuką „Kopijuoti“.
Techninis atvaizdavimas: JSON ir „BigQuery“ tipai
Darbas su nuliniais ir pasirenkamaisiais laukais
„BigQuery“ sistemoje laukai yra NULLABLEnumatytieji. Mūsų konverteris atsižvelgia į jūsų JSON schemos requiredypatybes, kad pažymėtų konkrečius laukus kaip REQUIRED„BigQuery“, ir padeda išlaikyti griežtus duomenų kokybės standartus.
Plokštinimas ir įdėjimas
Pagal numatytuosius nustatymus šis įrankis išsaugo įdėtąją JSON struktūrą naudodamas tipą RECORD. Tai yra rekomenduojamas metodas, leidžiantis „BigQuery“ išnaudoti galingas analitines galimybes dirbant su pusiau struktūrizuotais duomenimis.
Dažnai užduodami klausimai(DUK)
Ar galiu naudoti išvestį su bqkomandinės eilutės įrankiu?
Taip! Tiesiog išsaugokite išvestį kaip schema.jsonir naudokite ją savo komandoje:bq make --schema schema.json mydataset.mytable
Ar šis įrankis palaiko „BigQuery“ GEOGRAPHYarba BYTEStipus?
Jei jūsų JSON schema nurodo šiuos formatus arba jei pavyzdiniai duomenys atitinka konkrečius šablonus, įrankis bandys juos susieti. Tačiau visada galite rankiniu būdu redaguoti labai specifinių duomenų tipų išvestį.
Ar mano duomenys įkeliami į kokį nors serverį?
Ne. Visa konvertavimo ir duomenų analizė atliekama lokaliai jūsų naršyklėje naudojant „JavaScript“. Jūsų jautrios duomenų struktūros niekada nepalieka jūsų kompiuterio.