文章目录 安装步骤 1.前置步骤 2.修改host配置 3.配置环境变量 4.关闭102 103机子防火墙 5.配置时钟服务器 6.配置zookeeper 7.配置服务id映射 8.配置kafka单节点为多节点 9.ka…
标签:kafka
Kafka 读书-2:《The Kafka definitive guide》
构建数据管道 Kafka最主要的作用:解耦,异步,当做一个非常的大,可靠的buffer。因此构建数据管道时需要考虑的有: 时间性 可靠性 高吞吐量,尤其是高峰低谷交错 数据格式 安全 耦合:没有一个通用的数据管道,只是单…
Kafka Consumer消费能力较低时的解决方案
背景 随着业务的发展,项目组有大量的任务需要处理。 这些任务需要主要分为两种类型: 通过接口调用, 后台执行任务 通过调度系统定时执行 接口调用就需要执行任务不能阻塞, 不然系统的处理能力就会下降。任务调度系统需要在在一…
kafka Coordinator 源码分析-1
原文发表在 kafka Coordinator 源码分析-1 jefffrey.farbox.com Coordinator 负责管理组的状态以及 offset 的提交和持久化. 本文主要分析了 kafka 1.1.0…
spark与kafka集成
本文转载至Spark踩坑记–Spark Streaming+Kafka 前言 在WeTest舆情项目中,需要对每天千万级的游戏评论信息进行词频统计,在生产者一端,我们将数据按照每天的拉取时间存入了Kafka当…
最热门的13个Java微服务框架
曾经的服务器领域有许多不同的芯片架构和操作系统,经过长期发展,Java的“一次编译,到处运行”使得它在服务器领域找到一席之地,成为程序员们的最爱 本文,我们将和大家分享13个可靠的Java微服务架构 1、Spring B…
2019年java面试题总结——附有答案
能力有限望各位谅解,这些只是平常在学习的时候或者刷题的时候看到的,就随手记录了下来,不喜勿喷。配有答案,答案是自己总结的精简版,也许并不全面。要是把每道题的原理来一边太多了。此文章只针对面试过程中的临时发挥,用最精简的语…
6年资深开发带你10分钟了解Kafka ACL机制
1.概述 在Kafka0.9版本之前,Kafka集群时没有安全机制的。Kafka Client应用可以通过连接Zookeeper地址,例如zk1:2181:zk2:2181,zk3:2181等。来获取存储在Zookeep…
滴滴AI Lab招聘机器学习/高级算法工程师(20K-40K/月)
公司:滴滴 AI Lab 简历投递: yushenjie_i@didichuxing.com 主题注明姓名+联系电话+投递职位+景略集智 薪资区间:20k-40k/月 地址:北京市海淀区中关村软件园 机器学习工程师/专家…
重磅发布:Kafka迎来1.0.0版本,正式告别四位数版本号
编辑 | Natalie & Vincent AI前线出品| ID:ai-front AI 前线导语:“ Kafka 现在正式迎来了 1.0.0 版本”! Kafka 从首次发布之日起,已经走过了七个年头。从最开…
大数据需要学哪些内容掌握什么技能
第一阶段:静态网页基础(HTML+CSS) 1.难易程度:一颗星 2.技术知识点+阶段项目任务+综合能力 3.主要技术包括:html常用标签、CSS常见布局、样式、定位等、静态页面的设计制作方式等 第二阶段:JavaSE…
Librdkafka对Kafka Metadata的封装和操作
我们在之前的Kafka源码分析系列中介绍过kafka集群的metadata, 大家可以参考一下; 简单说, kafka集群的metadata包括: 所有broker的信息: ip和port; 所有topic的信息: to…