码迷,mamicode.com
首页 >  
搜索关键字:spark shell    ( 34921个结果
shell复制文件
命令+路径 #!/bin/bash # 需求:循环复制文件到集群所有节点的相同目录下 # 使用方式:脚本+需要复制的文件名称 #脚本编写大致步骤 #1 获取传入脚本的参数,参数个数 paramnum=$# if((paramnum==0)); then echo no args; exit; fi ...
分类:系统相关   时间:2020-07-01 23:53:45    阅读次数:86
linux之ssh服务(secure shell,安全外壳协议)
ssh是一个安全连接协议。 作用两个:1.远程连接协议,2.远程文件传输协议 协议默认端口为:22。 修改默认端口,再到ssh服务配置文件位置 vim /etc/ssh/ssh_config 这条命令就可以修改了。按下ESC键,再输入 :x 也可以退出vim。(和:q! 相同) 修改注意:1.端口号 ...
分类:系统相关   时间:2020-07-01 20:08:38    阅读次数:58
DataFrame DataSet Spark SQL学习
RDD加上结构,比如说类名,就可以变成DataFrame,DataFrame,将每一类同这一类的类名绑定在一起就可以称为DataSet. spark sql 就是来处理dataframe和dataset这样的结构数据的。 spark sql使用的时候需要提供spark session环境。 // S ...
分类:数据库   时间:2020-07-01 18:40:18    阅读次数:60
随堂练习 bash shell特性和I/O重定向及管道
history 命令语法格式 history [-e] [-d offset] [n] or history -anrw [filename] or history -ps arg [arg...] 选项 说明 -c 表示清空历史命令 -d,offset 删除历史中指定的第offset 个命令 n ...
分类:系统相关   时间:2020-07-01 12:52:43    阅读次数:56
Zookeeper概述、环境搭建及基本API使用和相关应用场景
一.Zookeeper基本概念 分布式系统是同时跨越多个物理主机,独立运行的多个软件所组成的系统。分布式系统的协调工作就是通过某种方式,让某个节点的信息能够同步和共享。这依赖于服务进程之间的通信。通信方式有两种: 通过网络进行信息共享 通过共享存储 Zookeeper是作为分布式系统的分布式协同服务 ...
分类:Windows程序   时间:2020-07-01 09:20:10    阅读次数:80
shell专题(三):Shell脚本入门
1.脚本格式 脚本以#!/bin/bash开头(指定解析器) 2.第一个Shell脚本:helloworld (1)需求:创建一个Shell脚本,输出helloworld 1111MicrosoftInternetExplorer402DocumentNotSpecified7.8 磅Normal0 ...
分类:系统相关   时间:2020-07-01 00:27:24    阅读次数:85
shell专题(四):Shell中的变量
4.1 系统变量 1. 常用系统变量 $HOME、$PWD、$SHELL、$USER等 2.案例实操 (1)查看系统变量的值 [atguigu@hadoop101 datas]$ echo $HOME /home/atguigu (2)显示当前Shell中所有变量:set [atguigu@hado ...
分类:系统相关   时间:2020-07-01 00:25:16    阅读次数:88
Shell百宝箱(后续会不断更新)
获取随机字符串或数字 随机获取8位字符串 # 方法一 echo $RANDOM |md5sum |cut -c 1-8 d2614e90 # 方法二 openssl rand -base64 4 6kLKvQ== # 方法3 cat /proc/sys/kernel/random/uuid |cut ...
分类:系统相关   时间:2020-06-30 22:26:01    阅读次数:99
shell编程grep命令和正则表达式
一、grep Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来。grep全称是Global Regular Expression Print,表示全局正则表达式版本,它的使用权限是所有用户。 grep命令的基本格式: grep [OPTIONS ...
分类:系统相关   时间:2020-06-30 20:40:27    阅读次数:52
03 . Shell数组和函数
Shell数组 简介 数组中可以存放多个值。Bash Shell 只支持一维数组(不支持多维数组),初始化时不需要定义数组大小(与 PHP 类似)。 与大部分编程语言类似,数组元素的下标由0开始。 Shell 数组用括号来表示,元素用"空格"符号分割开,语法格式如下: # array_name=(v ...
分类:编程语言   时间:2020-06-30 20:19:34    阅读次数:56
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!