如何解决pytorch 编译时CUDA版本与运行时CUDA版本不对应 在跑FPN模型时,发现本机是CUDA10.1,而pytoch==0.4.0,最高支持9.0,故安装CUDA9.0,用cuda-9.0的软连接代替cuda10.1来完成cuda版本的切换(不需要搞cudnn) 替换称cuda9.0后 ...
分类:
其他好文 时间:
2020-04-01 13:07:10
阅读次数:
727
RiceQuant米筐量化回测框架介绍 一、RiceQuant平台 + 网址:https://www.ricequant.com/welcome/ 二、策略创建流程 1.1 创建策略 1.2 策略界面 2 完成一个策略所需做的事 + 选择策略的运行基本条件: + 运行区间、初始资金 + 回测频率 + ...
分类:
其他好文 时间:
2020-04-01 12:49:39
阅读次数:
336
# 使用SparkSQL编写wordCount的词频统计 ## word.txt```hello hello scala sparkjava sql html java hellojack jack tom tom you he he sql``` ## spark 代码:```objec ...
分类:
数据库 时间:
2020-03-30 21:50:35
阅读次数:
213
我们已经在CentOS7中安装了spark,本节将展示如何在spark中通过scala方式交互的进行词频统计。 1 系统、软件以及前提约束 CentOS 7 64 工作站 作者的机子ip是192.168.100.200,主机名为danji,请读者根据自己实际情况设置 hadoop已经安装完毕并启动 ...
分类:
其他好文 时间:
2020-03-30 00:07:08
阅读次数:
103
1.框架选型 hadoop 3.1.3 hive 3.1.2 zookeeper 3.5.7 hbase 2.2.3 kafka_2.11 2.4.0 spark 2.4.5 bin hadoop2.7 2.安装前准备 1.关闭防火墙 2.安装 JDK 3.安装 Scala 4.配置ssh 免密 5 ...
分类:
其他好文 时间:
2020-03-30 00:06:39
阅读次数:
66
与Scala语言相比,Python有其独特的优势和广泛的应用,python调用接口,因此Spark也推出了PySpark,它在框架上提供了一个使用Python语言的接口,python接收post请求接口为数据科学家使用框架提供了方便。 ...
分类:
编程语言 时间:
2020-03-29 01:41:51
阅读次数:
92
本文参考 关于环境搭建,imooc上关于hadoop、hbase、spark等课程上有很多环境搭建的例子,但是有些并没有说明为什么选择这个的版本,我们知道这些开源的技术发展很快,所以有必要搞清楚如何对它们进行版本选择 环境 spark 2.2.0 + scala 2.11.8 + hbase1.3.... ...
分类:
其他好文 时间:
2020-03-28 13:35:54
阅读次数:
84
1、代码块:代码块里面,最后一哥代码块表达式的值,就是我们的返回值 2、1)for (j <- 表达式/数组、集合) 2)1 to 2 结果 1,2 3) 1 until 2 结果 1 4) scala中没有运算符,+,-,*只是一种方法 5)如果想把for循环的值返回去,需要关键字yield 返回 ...
分类:
其他好文 时间:
2020-03-27 00:43:07
阅读次数:
77
[toc] 1、前言 最近在学习大数据,之前用到了Eclipse,最近因为写Scala所以用到了这款编译器IntelliJ IDEA。出于学习的目的,顺便总结下,希望对你有所帮助~ 2、IntelliJ IDEA简介 IDEA 全称 IntelliJ IDEA,是java编程语言开发的集成环境。In ...
分类:
其他好文 时间:
2020-03-26 01:05:19
阅读次数:
141
Flink1.10版本支持SQLDDL的特性,本文章以从kafka消费数据,写入jdbc为例介绍整个流程。具体操作如下:1.下载flink1.10的安装包并解压:https://www.apache.org/dist/flink/flink-1.10.0/flink-1.10.0-bin-scala_2.11.tgz进入flink的lib目录,采用wget或是本地下载拷贝的方式下载依赖的conne
分类:
数据库 时间:
2020-03-25 10:31:34
阅读次数:
483