在线 JSON 到 BigQuery Schema 转换器
使用我们的JSON 转 BigQuery Schema工具,简化您的数据仓库工作流程。手动定义 Google BigQuery 表架构既耗时又容易出错,尤其是在处理嵌套数据时。此工具允许您粘贴 JSON 对象或 JSON Schema,并立即生成有效的 BigQuery JSON Schema 文件,该文件可在 Google Cloud Console、CLI 或 API 中使用。
为什么要将 JSON 转换为 BigQuery Schema?
Google BigQuery 要求使用特定的模式格式来定义表结构。如果您要导入大型数据集,那么正确设置模式对于数据完整性和查询性能至关重要。
自动定义表格
name无论您处理的是平面文件还是嵌套很深的 JSON 记录,我们的工具都会分析数据类型和结构,从而生成可用于生产环境的模式。这省去了手动编写冗长的`<type>`、type`<type>` 和`<field> ` 字段数组的麻烦mode。
处理复杂的嵌套数据
BigQuery 支持RECORD结构体(struct) 和REPEATED数组(array) 模式。我们的转换器能够智能识别 JSON 中的这些结构,并将它们映射到正确的 BigQuery 嵌套类型,从而确保您的关系数据保持完美组织状态。
我们的转换器的主要特点
我们的工具旨在满足 GCP 上现代数据工程管道的需求。
1. 智能类型检测
转换器会自动将标准 JSON 类型映射到 BigQuery 的数据类型:
string→STRINGnumber(整数)→INTEGER/INT64number(十进制)→FLOAT64/NUMERICboolean→BOOLISO 8601 strings→TIMESTAMP或DATE
2. 支持模式检测
我们的引擎能够识别单个对象和数组之间的区别。它会根据您的 JSON Schema 约束或示例数据中是否存在数组,自动分配 `<object>` REQUIRED、 `<object> NULLABLE` 或 ` <object>` 模式。REPEATED
3. 即用型输出格式
输出结果为 BigQuery 所期望的标准 JSON 数组。您可以将其直接复制到BigQuery 用户界面中创建表时的“以文本方式编辑”.json部分,或者将其保存为文件以供bq load命令使用。
如何将 JSON 转换为 BigQuery
输入数据:将示例 JSON 对象或有效的 JSON Schema 粘贴到输入框中。
分析:该工具可立即解析结构并识别字段。
生成:在输出窗口中查看生成的 BigQuery 架构。
复制并部署:使用“复制”按钮获取架构并将其应用到您的 Google Cloud 项目。
技术映射:JSON 与 BigQuery 类型
处理空值和可选字段
在 BigQuery 中,字段NULLABLE默认是可见的。我们的转换器会遵循您的 JSON Schemarequired属性,将特定字段标记为REQUIREDBigQuery 中的可见字段,从而帮助您维护严格的数据质量标准。
扁平化与嵌套
默认情况下,此工具会使用类型声明来保留 JSON 的嵌套结构RECORD。这是 BigQuery 处理半结构化数据时,充分利用其强大分析功能的推荐方法。
常见问题解答(FAQ)
bq我可以使用命令行工具来执行该输出吗?
是的!只需将输出结果保存schema.json并在命令中使用它即可:bq make --schema schema.json mydataset.mytable
这个工具支持 BigQuery 的GEOGRAPHY数据BYTES类型吗?
如果您的 JSON Schema 指定了这些格式,或者示例数据遵循特定模式,该工具将尝试进行映射。但是,您始终可以手动编辑输出,以适应高度特定的数据类型。
我的数据是否上传到了任何服务器?
不。所有转换和数据分析均在您的浏览器中使用 JavaScript 本地执行。您的敏感数据结构绝不会离开您的计算机。