spark如何连接mysql数据库-开发者知识库平台

spark如何连接mysql数据库

mysql spark

1031

2024/4/14 19:49:53

栏目: 云计算

在Spark中连接MySQL数据库有两种方式：

使用JDBC连接：

import org.apache.spark.sql.SparkSession

val spark = SparkSession.builder()
  .appName("MySQLExample")
  .getOrCreate()

val url = "jdbc:mysql://hostname:port/databaseName"
val table = "tableName"
val properties = new Properties()
properties.put("user", "username")
properties.put("password", "password")

val df = spark.read.jdbc(url, table, properties)
df.show()

使用MySQL Connector for Apache Spark：

首先需要在spark-submit命令中添加MySQL Connector的jar包路径：

spark-submit --jars /path/to/mysql-connector-java.jar --class your_class your_jar.jar

然后在代码中使用MySQL Connector连接MySQL数据库：

import org.apache.spark.sql.SparkSession

val spark = SparkSession.builder()
  .appName("MySQLExample")
  .getOrCreate()

val url = "jdbc:mysql://hostname:port/databaseName"
val table = "tableName"
val properties = new Properties()
properties.put("user", "username")
properties.put("password", "password")

val df = spark.read.format("jdbc")
  .option("url", url)
  .option("dbtable", table)
  .option("user", properties.getProperty("user"))
  .option("password", properties.getProperty("password"))
  .load()

df.show()

以上是两种连接MySQL数据库的方式，可以根据需要选择适合自己的方法。

辰迅云「云服务器」，即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘，价格低至29元/月。点击查看>>

spark如何连接mysql数据库

最新知识库

相关标签