码迷,mamicode.com
首页 >  
搜索关键字:spark shell    ( 34921个结果
Dos基本命令
常用的Dos命令 打开cmd的几种方式 通过window菜单,找到w分类里面的windows系统里面的命令提示符 通过windows键+R 按住shift+右键,点击powershell窗口 打开文件管理器 在目录上输入cmd加空格 Dos命令 切换系统盘 系统盘: 查看当前目录下的所有文件 dir ...
分类:其他好文   时间:2020-10-29 09:39:01    阅读次数:19
源码编译搭建Spark3.x环境
Spark源码编译官方文档:https://spark.apache.org/docs/latest/building-spark.html用于编译源码的机器最好满足如下配置:CPU>=4核内存>=8G首先安装好JDK、Scala和Maven,由于安装都比较简单,本文就不演示了,我这里使用的JDK、Scala和Maven版本如下:[root@spark01~]#java-version
分类:其他好文   时间:2020-10-27 11:54:44    阅读次数:43
吴忠办吴忠证UUX
办吴忠证〖溦: bzs8777〗哪里办吴忠证件〖電/溦:182.1648.9071同号〗本地办理各类.证.件《诚.信.第一/专.业.定.制》自从数据源读取数据,到最终写出数据到表,无处不是使用Spark RDD作为主要数据结构,甚至连普通的工具类,都使用Spark API实现,可以说Hudi就是用S ...
分类:其他好文   时间:2020-10-27 11:31:30    阅读次数:27
spark sql 判断一列是否包含某字符
spark sql 的function中有一个 instr 可以判断其中一列是否是另外一列的子字符 新增字段 判断一个字段是否包含另一个字段的字符串,如果包含值为1否则是0 Df.withColumn("newColumn",when(instr(col("aColumn"),col("bColum ...
分类:数据库   时间:2020-10-27 10:54:18    阅读次数:55
12.shell脚本批量创建和删除用户
思路:先判断用户是否存在,如果存在用for命令进行批量创建。1.批量创建用户#!/bin/bashpass_num=`awk-F":"‘{print$1}‘/etc/passwd|grep"user_0[0-9]"|wc-l`#wc-l统计/etc/passwd用户数量if[$pass_num-eq0];then#判断是否为零,为0则创建foriin`seq-w009`#for循环创建0-9个用户
分类:系统相关   时间:2020-10-26 11:01:19    阅读次数:28
在 html 中调用 electron 的函数 主进程的函数 nodejs
html是在renderer进程。如果要调用主进程需要用remote <input type="button" value="cache" onclick="getCache()"> <script> const { remote, ipcRenderer, shell } = require('e ...
分类:Web程序   时间:2020-10-24 11:52:29    阅读次数:74
Spark ML 之 ALS内存溢出的解决办法
原帖:https://blog.csdn.net/Damonhaus/article/details/76572971 问题:协同过滤 ALS算法。在测试过程中遇到了内存溢出的错误 解决办法1:降低迭代次数,20次 -> 10次 val model = new ALS().setRank(10).s ...
分类:其他好文   时间:2020-10-24 09:45:55    阅读次数:24
Centos8部署Ceph集群对接OpenStack(U版本)
简介Linux持续不断进军可扩展计算空间,特别是可扩展存储空间,Ceph最近加入到Linux中令人印象深刻的文件系统备选行列,它是一个分布式文件系统,能够在维护POSIX兼容性的同时加入了复制和容错功能Ceph生态系统架构可以划分为四部分:1、Clients:客户端(数据用户)2、cmds:Metadataservercluster,元数据服务器(缓存和同步分布式元数据)3、cosd:Object
分类:其他好文   时间:2020-10-22 23:13:23    阅读次数:52
bat脚本之启动MySQL服务
@echo off :: 获取管理员权限 %1 mshta vbscript:CreateObject("Shell.Application").ShellExecute("cmd.exe","/c %~s0 ::","","runas",1)(window.close)&&exit @echo b ...
分类:数据库   时间:2020-10-22 22:34:44    阅读次数:33
两个实用的shell脚本实例
今天主要分享两个shell脚本实例,内容不重要,重点是看如何去实现。 1. 批量创建特殊要求用户 需求:批量创建10个系统帐号hwb01-hwb10并设置密码(密码为随机数,要求字符和数字等混合)。 脚本: #!/bin/bash ################################## ...
分类:系统相关   时间:2020-10-21 21:26:56    阅读次数:36
34921条   上一页 1 ... 58 59 60 61 62 ... 3493 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!