码迷,mamicode.com
首页 >  
搜索关键字:大数据 hadoop apark flume kafka    ( 29364个结果
一次线上kafka消费问题排查
业务使用maxwell监听数据库的binlog日志,然后发送到kafka,经过这些日志进行业务逻辑的处理。 问题:线上的这段业务没有进行执行。 猜测1、由于前段时间进行了数据库表的字段转移,把两个字段从上层表order下放到了下层表advert,以为是这段代码进行改写的时候没能覆盖逻辑。 看了代码之 ...
分类:其他好文   时间:2021-06-11 18:59:01    阅读次数:0
易电务配电运维人的日常,一般人学不来!
无人化的值守,其实质并非真正无人,而是基于大数据物联网等手段,将分布在配电室内的各类传感器、采集与通信设备,将各种电气信号、运行参数和环境数据传送到基于云平台的监控中心,对用户配电室进行远程、集中、实时监控。而在每个变电站/配电室中,不再设置值守人员,从而节约配电室的人力成本投入。 ...
分类:其他好文   时间:2021-06-11 18:33:34    阅读次数:0
使用Python操作Kafka:KafkaProducer、KafkaConsumer
其实很早就是用kafka了,但是一直都用的非常简单,最近写一个小功能的时候又要用到kafka,于是就花点时间好好看了一下网上关于kafka的一些文档和博客,发现了一个很不错的博客,做个记录和分享。 原文链接: https://www.cnblogs.com/rexcheny/articles/946 ...
分类:编程语言   时间:2021-06-11 18:14:50    阅读次数:0
查漏补缺:备战2021年java后端Kafka高频面试题(含答案解析)
前言 Apache Kafka的受欢迎程度很高,Kafka拥有充足的就业机会和职业前景。此外,在这个时代拥有kafka知识是一条快速增长的道路 而且无论是作为面试官,还是应聘者,我都接触过很多Kafka面试题。而在最近面试了很多候选人,发现写了熟悉Kafka,但是对于Kafka相关的知识却是只知道大 ...
分类:编程语言   时间:2021-06-11 18:11:03    阅读次数:0
【Kafka】Kafka文件存储机制
一、文件存储 kafka 使用日志文件的方式来保存生产者和发送者的消息,每条消息都有一个 offset 值来表示它在分区中的偏移量。Kafka 中存储的一般都是海量的消息数据,为了避免日志文件过大,一个分片 并不是直接对应在一个磁盘上的日志文件,而是对应磁盘上的一个目录,这个目录的命名规则是<top ...
分类:其他好文   时间:2021-06-11 17:32:01    阅读次数:0
大数据开发-Spark Join原理详解
数据分析中将两个数据集进行 Join 操作是很常见的场景。在 Spark 的物理计划阶段,Spark 的 Join Selection 类会根 据 Join hints 策略、Join 表的大小、 Join 是等值 Join 还是不等值以及参与 Join 的 key 是否可以排序等条件来选择最 终的 ...
分类:其他好文   时间:2021-06-10 18:28:12    阅读次数:0
Hadoop 数据迁移用法详解
数据迁移使用场景 冷热集群数据分类存储,详见上述描述. 集群数据整体搬迁.当公司的业务迅速的发展,导致当前的服务器数量资源出现临时紧张的时候,为了更高效的利用资源,会将原A机房数据整体迁移到B机房的,原因可能是B机房机器多,而且B机房本身开销较A机房成本低些等. 数据的准实时同步.数据的准实时同步与 ...
分类:其他好文   时间:2021-06-10 18:05:50    阅读次数:0
女朋友看了也懂的Kafka(下篇)
前言: 在上篇中我们了解了Kafka是什么,为什么需要Kafka,以及Kafka的基本架构和各自的作用是什么,这篇文章中我们将从kafka内部每一个组成部分去看kafka 是如何保证数据的可靠性以及工作机制。因为时间问题,或许排版多有瑕疵,有些内容未能做到详尽。待之后有空会前来填坑。话不多说,正片开 ...
分类:其他好文   时间:2021-06-10 17:56:07    阅读次数:0
PDO操作大数据对象
一般在数据库中,我们保存的都只是 int 、 varchar 类型的数据,一是因为现代的关系型数据库对于这些内容会有很多的优化,二是大部分的索引也无法施加在内容过多的字段上,比如说 text 类型的字段就很不适合创建索引。所以,我们在使用数据库时,很少会向数据库中存储很大的内容字段。但是,MySQL ...
分类:其他好文   时间:2021-06-09 10:39:11    阅读次数:0
小鼎量化机器人系统开发_小鼎量化交易机器人软件APP搭建
小鼎量化机器人系统开发 什么是量化交易机器人? 量化通过绑定你的交易所API权限,代替人工分析行情和策略,自动做单,解放你的双手和时间,你不需要做什么,只需要定期提走利润即可。 AI赋能24小时交易,机器人可以探测市场买入卖出大数据,融入各项技术指标,自动切入合理的买入卖出点位,并制订最优化的止盈止 ...
分类:移动开发   时间:2021-06-08 23:38:26    阅读次数:0
29364条   上一页 1 ... 5 6 7 8 9 ... 2937 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!