一、DDL数据定义 1、创建数据库 1)创建一个数据库,数据库在 HDFS 上的默认存储路径是/user/hive/warehouse/*.db。 hive (default)> create database db_hive; 2)避免要创建的数据库已经存在错误,增加 if not exists ...
分类:
其他好文 时间:
2021-07-26 16:38:58
阅读次数:
0
1、显示图标添加图标以后,把PaintStyle属性修改为CaptionGlyph2、实现鼠标移到上方显示文本内容(1)静态添加设置SuperTip属性,点击“...”输入标题和要显示的内容(2)动态添加https://www.cnblogs.com/DoNetCShap/archive/2012/ ...
2.1 数据集 目标 知道数据集的分为训练集和测试集 会使用sklearn的数据集 2.1.1 可用数据集 Kaggle网址:https://www.kaggle.com/datasets UCI数据集网址: http://archive.ics.uci.edu/ml/ scikit-learn网址 ...
分类:
其他好文 时间:
2021-07-19 16:53:01
阅读次数:
0
数据积压指的是消费者因为一些外部的IO、一些比较耗时的操作(full GC--stop the world),就会造成消息在partition中一直存在得不到消费,就会产生数据积压。 所以需要监控系统(kafka的监控系统Eagle),如果出现这种情况,需要尽快处理,虽然后续的spark strea ...
分类:
其他好文 时间:
2021-07-13 17:40:18
阅读次数:
0
一.简介 xgboost在集成学习中占有重要的一席之位,通常在各大竞赛中作为杀器使用,同时它在工业落地上也很方便,目前针对大数据领域也有各种分布式实现版本,比如xgboost4j-spark,xgboost4j-flink等。xgboost的基础也是gbm,即梯度提升模型,它在此基础上做了进一步优化 ...
分类:
编程语言 时间:
2021-07-05 19:03:36
阅读次数:
0
Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本文是系列第九篇,介绍 horovod on spark 如何启动。 ...
分类:
其他好文 时间:
2021-07-05 17:30:40
阅读次数:
0
import com.hankcs.hanlp.HanLPimport org.apache.spark.rdd.RDDimport org.apache.spark.{SparkConf, SparkContext}import scala.collection.immutable.StringO ...
分类:
其他好文 时间:
2021-07-02 16:33:14
阅读次数:
0
import org.apache.spark.SparkConfimport org.apache.spark.streaming.{Seconds, StreamingContext}// 创建一个本地模式的StreamingContext, 两个工作线程, 1s的批处理间隔//Master要求 ...
分类:
其他好文 时间:
2021-07-02 16:32:11
阅读次数:
0
【推荐系统算法实战】 基于网页的 Notebook:Zeppelin 交互式数据分析 如果有一个工具,可以让你在同一个Web页面上写Shell代码,Python代码,Scala代码,你想要么? 如果还可以执行PySpark代码和Spark代码呢?心动了吗? 如果还可以写Hive-SQL,Spark- ...
分类:
编程语言 时间:
2021-07-02 15:35:46
阅读次数:
0
情景介绍: python连接sqlserver2019 附加数据库 按照网上的各种修改,都不管用 连接字符串: sqlserver2019的数据库 修改:加上前缀 ...
分类:
数据库 时间:
2021-07-01 17:26:53
阅读次数:
0