码迷,mamicode.com
首页 >  
搜索关键字:大数据 Spark 大数据开发    ( 18881个结果
递归(面试高频题)
递归(面试高频题) 就是一个方法,自身调用自身,但递归不适用于较大数据计算,会导致计算器内存不足从而崩溃 递归包含两个部分: 递归头:什么时候不调用自身方法。如果没有递归头,就会陷入死循环。 递归体:什么时候需要调用自身方法。 递归的算法公式 package weiwei.method;public ...
分类:其他好文   时间:2020-10-13 17:48:50    阅读次数:43
spring-boot-route(十四)整合Kafka
在上一章中SpringBoot整合RabbitMQ,已经详细介绍了消息队列的作用,这一种我们直接来学习SpringBoot如何整合kafka发送消息。 kafka简介 kafka是用Scala和Java语言开发的,高吞吐量的分布式消息中间件。高吞吐量使它在大数据领域具有天然的优势,被广泛用来记录日志 ...
分类:编程语言   时间:2020-10-13 17:35:42    阅读次数:33
2020 秋招 阿里巴巴大数据面试 带答案!
猫场面试题第 1 套 以下为我为大家整理的猫场面试题第一套,均为笔者自己参加面试或者一些读者分享给我的题目,保证真实和准确性。 1 框架部分 1.1 Spark 提交 job 流程 所谓提交流程,其实就是我们开发人员根据需求写的应用程序通过 Spark 客户端提交给 Spark 运行环境执行计算的流 ...
分类:其他好文   时间:2020-10-13 17:19:39    阅读次数:26
算法基础
算法基础 数据分析 数学基础 在进行算法建模时,深入了解数据情况,做各类探索性分析,统计建模等工作非常重要,这方面对一些数学基础知识有一定的要求,例如概率论,统计学等。这方面除了经典的数学教材,也可以参考更程序员向的《统计思维》,《贝叶斯方法》,《程序员的数学2》等书籍。 自我考核:理解实际项目中的 ...
分类:编程语言   时间:2020-10-10 17:55:27    阅读次数:24
redis集群扩容
1.集群的数据迁移 在工作中经常会遇到redis集群的扩容的场景,因为当一个集群服务器中的内存不够用无法支撑更大数据量的缓存或者并发量不够(个人理解),就会将原有的集群扩展。集群扩容需要将集群中原有的master节点上的槽位以及数据迁移到新加入的master节点上。 每个槽都把要里面的数据迁移完才能 ...
分类:其他好文   时间:2020-10-09 21:40:42    阅读次数:46
前浪:传统数据中心的网络模型
个推运维平台高级网络工程师山川随着互联网公司规模的扩大,企业对成本控制和数据安全的需求越来越高,大部分公司往往会自建机房,而非租用云服务器。个推在互联网数据中心(InternetDataCenter,简称IDC)网络规划和运营方面也经历了几次的迭代和变迁,同时,我们也对数据中心网络发展的历程进行了总结。我们将围绕IDC网络运营规划的基本要求、传统PC时代的网络架构、移动互联网和大数据时代的IDC网
分类:其他好文   时间:2020-10-09 21:23:35    阅读次数:21
初识Hadoop
大数据是指无法在一定时间范围内用常规软件工具进行处理和分析的数据集合,需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能的海量、高增长率和多样性的信息资产
分类:其他好文   时间:2020-10-08 18:36:53    阅读次数:17
spark之 连接SQL和HIVE
一、连接SQL package com.njbdqn.linkSql import java.util.Properties import org.apache.spark.sql.SparkSession import org.apache.spark.sql._ object LinkSql { ...
分类:数据库   时间:2020-10-06 20:52:59    阅读次数:35
SparkStreaming+Kafka
Receiver Direct offset注意点 ...
分类:其他好文   时间:2020-10-06 20:46:36    阅读次数:26
大数据学习16_shuffle阶段&求共同好友项目实战
shuffle阶段 概念 shule 是 Mapreduce 的核心,它分布在 Mapreduce 的 map 阶段和 reduce 阶段。一般把从 Map 产生输出开始到 Reduce 取得数据作为输入之前的过程称作 shule。 一张图看懂Mapreduce全过程 概念解释 Collect阶段 ...
分类:其他好文   时间:2020-10-05 21:45:42    阅读次数:32
18881条   上一页 1 ... 35 36 37 38 39 ... 1889 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!