Я знаю, что в Spark 1.5 и выше есть функция current_timestamp, но мы все еще на 1.4. Как добавить столбец в DataFrame, для которого задана «текущая временная метка»?
df.withColumn("date_inserted", ????)
Я знаю, что в Spark 1.5 и выше есть функция current_timestamp, но мы все еще на 1.4. Как добавить столбец в DataFrame, для которого задана «текущая временная метка»?
df.withColumn("date_inserted", ????)
Простой литерал временной метки должен помочь:
df.withColumn(
"date_inserted",
lit(java.sql.Timestamp.from(java.time.Instant.now)))