技术文章汇总 第21页

Flink Standalone模式部署集群是最简单的一种部署方式，不依赖于其他的组件，另外还支持YARN/Mesos/Docker等模式下的部署，这里使用的flink版本为最新的稳定版1.9.1版本，对应的Scala版本是2.11，二进制...

赞(0)站长2020-08-25阅读(685)

RabbitMQ是基于erlang开发的消息服务，官网为：https://www.rabbitmq.com，RabbitMQ要依赖erlang运行，所以要先安装erlang环境，rabbitmq可以用rpm或通用二进制包安装，这里使用二进制...

赞(0)站长2020-08-25阅读(646)

之前说过python confluent kafka客户端做kerberos认证的过程，如果使用kafka python客户端的话同样也可以进行kerberos的认证，具体的认证机制这里不再描述，主要叙述配置认证的过程 需要的模块有下面这些...

赞(0)站长2020-08-25阅读(763)

kafka的认证方式一般有如下3种： 1、 SASL/GSSAPI 从版本0.9.0.0开始支持 2、 SASL/PLAIN 从版本0.10.0.0开始支持 3、 SASL/SCRAM-SHA-256 以及 SASL/SCRAM-SHA-5...

赞(0)站长2020-08-25阅读(741)

上一篇文章写过centos 7下clickhouse rpm包安装和基本的目录结构，这里主要介绍clickhouse高可用集群的部署方案，因为对于默认的分布式表的配置，每个分片只有一份，这样如果挂掉一个节点，则查询分布式表的时候直接会报错，...

赞(0)站长2020-08-25阅读(818)

clickhouse是由俄罗斯Yandex公司开发的列式存储数据库，于2016年开源，clickhouse的定位是快速的数据分析，对于处理海量数据的情况性能非常好，在网上也有很多测试的案例，在大数据的情况下性能远超过其他数据库，并且不依赖于...

赞(0)站长2020-08-25阅读(683)

SeaweedFS是一个简单并且高度可扩展的分布式文件系统，可以存储数十亿的文件并且快速获得文件，特别适合于有效处理小文件，这里我们简称为weed，weed的主节点不管理文件元数据而是仅管理文件卷，这些文件卷服务器各自管理各自的元数据，所以...

赞(0)站长2020-08-25阅读(679)

　　RocketMQ是一款分布式消息系统，最初是由阿里巴巴消息中间件团队研发并大规模应用于生产系统，满足线上海量堆积的需求，在去年捐赠给Apache开源基金会，并列为孵化项目，今年成功的正式成为了apache顶级项目；早期阿里曾经基于Act...

赞(0)站长2020-08-25阅读(660)

　　之前写过kafka_2.9.2-0.8.2.2版本的安装，kafka在新的0.9版本以上改动比较大，配置和api都有很大更新，并且broker对应的partition支持多线程生产和消费，所以性能比之前好得多，比如老版本的kaf...

赞(0)站长2020-08-25阅读(775)

　　Spark on YARN的原理就是依靠yarn来调度Spark，比默认的Spark运行模式性能要好的多，前提是首先部署好hadoop HDFS并且运行在yarn上，然后就可以开始部署spark on yarn了，假设现在准备环境已经部...

赞(0)站长2020-08-25阅读(693)