blocks|key|609096|text|在BigQuery命令行中，如果json文件位于GCS上，则用模式自动检测加载JSON数据在一个命令中为您执行2%2B3操作。|type|unstyled|depth|inlineStyleRanges|entityRanges|offset|length|data|609097|从AirFlow文档来看，GoogleCloudStorageToBigQueryOperator似乎也在做同样的事情。我检查了它的来源，它简单地调用了BigQuery+load+api。我相信它会做你想做的。|style|BOLD|609098|当不清楚每个参数的含义时，可以使用参数名搜索BigQuery作业api。|609099|例如，要在任务列表中实现1，只需指定：|609100|write_disposition+(string)+-如果表已经存在，则为写处理。|609101|但是，为了知道需要作为write_disposition传递哪些字符串，您必须搜索BigQuery文档。|609102|📷|atomic|609103|​|609104|entityMap|0|LINK|mutability|MUTABLE|url|https://cloud.google.com/bigquery/docs/loading-data-cloud-storage-json#loading_json_data_with_schema_auto-detection|1|https://airflow.apache.org/integration.html#id123|2|https://airflow.apache.org/_modules/airflow/contrib/operators/gcs_to_bq.html#GoogleCloudStorageToBigQueryOperator|3|https://cloud.google.com/bigquery/docs/reference/rest/v2/jobs#configuration.load|4|IMAGE|IMMUTABLE|imageUrl|https://developer.qcloudimg.com/http-save/yehe-900000/0ca43c1acc4c26ba4a4e06c6b0a7dd71.png|imageAlt^0|U|F|0|0|2D|8|D|10|1|1U|2|2|0|M|D|3|0|0|0|16|0|0|0|1|4|0|0^^$0|@$1|2|3|4|5|6|7|1E|8|@]|9|@$A|1F|B|1G|1|1H]]|C|$]]|$1|D|3|E|5|6|7|1I|8|@$A|1J|B|1K|F|G]]|9|@$A|1L|B|1M|1|1N]|$A|1O|B|1P|1|1Q]]|C|$]]|$1|H|3|I|5|6|7|1R|8|@]|9|@$A|1S|B|1T|1|1U]]|C|$]]|$1|J|3|K|5|6|7|1V|8|@]|9|@]|C|$]]|$1|L|3|M|5|6|7|1W|8|@$A|1X|B|1Y|F|G]]|9|@]|C|$]]|$1|N|3|O|5|6|7|1Z|8|@]|9|@]|C|$]]|$1|P|3|Q|5|R|7|20|8|@]|9|@$A|21|B|22|1|23]]|C|$]]|$1|S|3|T|5|6|7|24|8|@]|9|@]|C|$]]|$1|U|3|-4|5|6|7|25|8|@]|9|@]|C|$]]]|V|$W|$5|X|Y|Z|C|$10|11]]|12|$5|X|Y|Z|C|$10|13]]|14|$5|X|Y|Z|C|$10|15]]|16|$5|X|Y|Z|C|$10|17]]|18|$5|19|Y|1A|C|$1B|1C|1D|-4]]]]

From BigQuery commandline, if your json file is on GCS, then <a href="https://cloud.google.com/bigquery/docs/loading-data-cloud-storage-json#loading_json_data_with_schema_auto-detection" rel="nofollow noreferrer">Loading JSON data with schema auto-detection</a> does 2 + 3 for you in one command.

Looking at AirFlow document, <a href="https://airflow.apache.org/integration.html#id123" rel="nofollow noreferrer">GoogleCloudStorageToBigQueryOperator</a> seems doing the same thing. I checked its <a href="https://airflow.apache.org/_modules/airflow/contrib/operators/gcs_to_bq.html#GoogleCloudStorageToBigQueryOperator" rel="nofollow noreferrer">source</a>, it simply call BigQuery load api. I believe it will do what you want.

When it is unclear what each argument means, you can search <a href="https://cloud.google.com/bigquery/docs/reference/rest/v2/jobs#configuration.load" rel="nofollow noreferrer">BigQuery Jobs api</a> using argument name.

E.g., to achieve 1 in your task list, you only need to specify:

write_disposition (string) – The write disposition if the table already exists.

But in order to know what string you need to pass as write_disposition, you have to search on BigQuery document.
<a href="https://i.stack.imgur.com/50Nrf.png" rel="nofollow noreferrer"><img src="https://i.stack.imgur.com/50Nrf.png" alt="enter image description here"></a>

blocks|key|2791530|text|气流可以自动做到这一点。如果需要，create_disposition参数将创建表。autodetect参数可以完全满足您的需要。这是为气流1.10.2。|type|unstyled|depth|inlineStyleRanges|offset|length|style|CODE|BOLD|entityRanges|data|2791531|GCS_to_BQ+=+GoogleCloudStorageToBigQueryOperator(
++++task_id='gcs_to_bq',
++++bucket='test_bucket',
++++source_objects=['folder1/*.csv',+'folder2/*.csv'],
++++destination_project_dataset_table='dest_table',
++++source_format='CSV',
++++create_disposition='CREATE_IF_NEEDED',
++++write_disposition='WRITE_TRUNCATE',
++++bigquery_conn_id='bq-conn',
++++google_cloud_storage_conn_id='gcp-conn',
++++autodetect=True,+#+This+uses+autodetect
++++dag=dag
)|code-block|syntax|javascript|2791532|entityMap^0|H|I|16|A|1W|8|0|0^^$0|@$1|2|3|4|5|6|7|N|8|@$9|O|A|P|B|C]|$9|Q|A|R|B|C]|$9|S|A|T|B|D]]|E|@]|F|$]]|$1|G|3|H|5|I|7|U|8|@]|E|@]|F|$J|K]]|$1|L|3|-4|5|6|7|V|8|@]|E|@]|F|$]]]|M|$]]

Airflow can do this automatically. The <code>create_disposition</code> parameter creates the table if needed. And the <code>autodetect</code> parameter does exactly what you need. This is for Airflow 1.10.2.

<pre><code>GCS_to_BQ = GoogleCloudStorageToBigQueryOperator(
 task_id='gcs_to_bq',
 bucket='test_bucket',
 source_objects=['folder1/*.csv', 'folder2/*.csv'],
 destination_project_dataset_table='dest_table',
 source_format='CSV',
 create_disposition='CREATE_IF_NEEDED',
 write_disposition='WRITE_TRUNCATE',
 bigquery_conn_id='bq-conn',
 google_cloud_storage_conn_id='gcp-conn',
 autodetect=True, # This uses autodetect
 dag=dag
)
</code></pre>

First, I get all data using MySQL query from production database then store that data as <code>NEW LINE DELIMITED JSON</code> in google cloud storage, what I want to do is:
 1. check if the table exists
 2. if the table doesn't exist, create the table using autodetect schema
 3. store data

All of this will be scheduled in airflow. What really confused me is number <code>2</code>, how can I do this in Python ? or can Airflow do this automatically?

Bigquery : Create table if not exist and load data using Python and Apache AirFlow

翻译质量差，导致语言生硬或混乱。

没有提供实际的解决方法或示例。

解答不清晰，无法理解或解决问题。

页面排版不美观，阅读体验差。

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

首先，我从生产数据库中使用MySQL查询获取所有数据，然后将这些数据作为NEW LINE DELIMITED JSON存储在Google云存储中，我想做的是：检查表是否存在如果表不存在，则使用自动检测模式创建表存储数据所有这些都将安排在气流中。真正让我困惑的是数字2，我如何在Python中做到这一点？或者气流能自动做到...

问Bigquery :如果不存在创建表，并使用加载数据
EN

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问Bigquery :如果不存在创建表，并使用加载数据EN

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问Bigquery :如果不存在创建表，并使用加载数据
EN