mongodb是一个基于分布式文件存储的数据库。由 C++ 语言编写。旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。 MongoDB 是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,…
标签:org
hadoop-java客户端搭建&WordCount
java客户端&开发环境搭建 win7下开发环境配置 1 先官网下hadop,然后配置HADOOP_HOME. 2 用csdn下的包替换HADOOP_HOME里的bin目录 此文件已经存于网盘 要注意版本对应. …
Spark:读取mysql数据作为DataFrame
读取mysql数据作为DataFrame import java.text.SimpleDateFormat import java.util.{Calendar, Date} import com.iptv.domai…
MongoDB存储String[]抛出异常org.bson.codecs.configuration.CodecConfigurationException: Can't find a codec for class [Ljava.lang.String;.
在存储String[] 到MongoDB的时候抛出了以下异常,最开始以为是传错了对象,后来才发现,是MongoDB的解码器不支持解析String数组导致的,必须将字符串数组转成List才可以。 org.bson.code…
MongoDB - 安装
1.Linux上安装MongoDB 1.1 使用yum方式安装 配置yum源 cat << EOF > /etc/yum.repos.d/mongodb-org-4.0.repo [mongodb-or…
ZooKeeper 分布式锁简单示例
分布式锁,在高并发场景下,集群中各机器之间只能有一个线程处理某个操作,这样和java同一进程下的锁,就不能解决了。就用到了不同机器之间的分布式锁。 package com.test; import java.io.IOE…
ubuntu-mongodb安装
添加源 sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv EA312927 添加列表 ubuntu12.04 echo "deb http…
关于spark-submit之后,报错NoClassDefFoundError
NoClassDefFoundError:org.apache.hadoop.hdfs.server.namenode.NameNode 这个问题,困扰了我五天时间,之前使用Eclispe打包之后,在云服务器上面运行。 …
hbase与客户端的通信过程解析
hbase通信主要涵盖了两个技术,一个是google的protobuf rpc通信框架,一个是java的NIO通信; 启动入口 org.apache.hadoop.hbase.regionserver.HRegionSe…
hbase shell前缀查询rowkey
scan 'JOB_INFO', {FILTER => org.apache.hadoop.hbase.filter.PrefixFilter.new(org.apache.hadoop.hbase.util.By…
spark PairRDD 键值对操作
CombineByKey 基于键聚合 这是最基本的聚合操作, 很多封装的函数都是基于它, 但能用更方便的函数就不要使用它. package cn.zb; import lombok.extern.slf4j.Slf4j;…
Spark Exceptions
Spark-Exceptions java.lang.NoClassDefFoundError: org/apache/spark/Logging spark_jar org.apache.spark.scheduler…