在Spark中,当编码时Row模式未知时,可以使用withColumn
方法将一个字符串列与Row
对象合并以创建新的DataFrame
。
下面是一个示例代码:
from pyspark.sql import SparkSession
from pyspark.sql import Row
from pyspark.sql.types import StructType, StructField, StringType
# 创建SparkSession
spark = SparkSession.builder.appName("Merge String with Row").getOrCreate()
# 示例数据
string_data = "Hello,World"
row_data = Row(name="John", age=30)
# 创建DataFrame的Schema
schema = StructType([
StructField("name", StringType(), True),
StructField("age", StringType(), True)
])
# 创建原始DataFrame
df = spark.createDataFrame([row_data], schema)
# 将字符串与Row合并,并创建新的DataFrame
new_df = df.withColumn("message", string_data)
# 显示新的DataFrame
new_df.show()
上述代码中,首先通过Row
对象创建了一个原始的DataFrame
(df)。然后,使用withColumn
方法将字符串列(message)与Row
对象中的列合并,创建了一个新的DataFrame
(new_df)。最后,使用show
方法显示了新的DataFrame
内容。
此方法适用于在编码时未知Row
模式的情况下,将字符串与Row
合并以创建新的Spark DataFrame
。
没有搜到相关的沙龙
领取专属 10元无门槛券
手把手带您无忧上云