
scala
文章平均质量分 50
大壮vip
博学而笃志,切问而近思。
展开
-
【scalaRDD转df字段受限为22个】
一、背景1、在scala-2.10.x版本种,case class的元素超过22个以后即会编译报错2、有些业务场景下,需要超过22个元素的值二、如何解决Scala提供了解决方案,即使用类实现Product特质三、举例package com.ngaa.scala/** * @author Created by yangjf on 20180712. * ...翻译 2020-04-09 13:47:05 · 729 阅读 · 0 评论 -
cdh中使用flume+kafka+sparkstreaming做实时,开发环境demo(内附报错解决方案)
因为发现有人抄袭我的文章,所以有需要cdh版本做搭建的朋友在下方留言,我提供文档。原创 2019-05-23 18:06:52 · 667 阅读 · 5 评论 -
今天来看下sparkstreaming做一个简单的实时数据处理并且保存到mysql中
已经搞定了开发环境,很快需求就要下来.话不多说,我们开始配置一下先研究部分实时部分的代码逻辑,提供将来实时计算逻辑。[root@node1 ~]# cat kafka_output.sh for((i=0;i<=1000;i++));do echo "hello world haha haha hello haha haha kafka_test-"+$i>...原创 2019-05-27 17:13:40 · 2580 阅读 · 2 评论 -
CDH-Spark2-yarn-cluster开发
详细的文档在系列cdh搭建第一篇有详细的介绍,但是相关场景,觉得还是需在本篇做一下补充。。。spark2自定义安装 参考这篇文章 https://blog.youkuaiyun.com/Gavin_chun/article/details/78554277 一、下载 ...原创 2019-05-14 15:19:47 · 1348 阅读 · 0 评论 -
spark开发必备
本篇文章为自己总结,都是干货和精华。其中有许多文章引用,我直接粘贴在代码里,请注意。 1.idea集成开发环境https://blog.youkuaiyun.com/u012373815/article/details/532663012.报错:scala.Predef$.refArrayOps([Ljava/lang/Object;)Lscala/collection...原创 2019-01-23 15:17:33 · 897 阅读 · 0 评论 -
spark项目架构搭建开发文档
历时将近两个月,终于搞定了,自己尝试了设计、框架搭建、开发、自测等一系列,但是不总结就是瓜皮。所以将以本篇作为总结性文章,提醒未来的自己,更好的开发项目。 一、设计文档部分写代码之前,先想,从大往小了想。想的越仔细,将来坑越少,想的越仔细,那么开发的排期也就越明白。 首先调研,花了几天调研。调研邮件开始了,以及初步的设计图。数据开发流程1.搭建虚拟机测试环...原创 2019-01-23 15:00:40 · 3031 阅读 · 0 评论 -
你需要的,spark写pg报错:java.lang.IllegalArgumentException: Can't get JDBC type for null
首先来看报错信息看到google上有开发者阅读源码: 这是他的解决方案。其实意思就是说,你的空值插不进去,要重新将null做成数据插进去,比方说int需要插0,如果0已经有意义,那就-1呗。莫慌...原创 2018-11-05 15:12:15 · 6157 阅读 · 0 评论 -
exe4j完整用法
一、背景真的,我找了不下20篇,其他人都是说的坑。 二、错误一大票子人说个事情都说不清楚,那我来说,把这个彻彻底底的解决方案给出来,如果有用请留下你的支持,点个赞留个言啥的。谢谢!发现到了别人的电脑还不行,原来啊,jre根本打不进去,还是需要把jre带着才行。 三、解决办法如果你能听懂,请你这么做。就写相对路径然后你再你代码里面创建这个里...原创 2018-09-19 18:19:20 · 10336 阅读 · 4 评论 -
汉语排序-以及sbt依赖缺失办法
一、maven、sbt依赖首先分享一个maven、sbt依赖库的版本查询以及下载的地方。http://mvnrepository.com/artifact/com.belerweb/pinyin4j/2.5.0 二、sbt依赖 三、打包1.首先来看报错。Uncaught error from thread [AkkaActors-akka.actor.d...原创 2018-09-19 11:34:35 · 1111 阅读 · 0 评论 -
scala应用开发
上一篇知识储备的文章。https://blog.youkuaiyun.com/qq_33792843/article/details/82735787 Scala项目代码结构 关于代码结构,我想说项目的主题部分吧。一步一步来。因为签署了隐私协议,所以具体需求不能透露,以及涉及到业务的图片、代码都将被打上马赛克。 首先来看看主体akka部分代码。 以...原创 2018-09-17 14:06:03 · 2457 阅读 · 0 评论 -
scala项目开发知识储备
Scala项目预备 本文档写的很详细。因为工程量浩大,内容会涉及超级多的引用。本文档前部分详细描述基础知识,最后将引入实际需求应用。来说说为什么用scala我看spark源码,由scala开发,非常的优雅、简洁,是一个伟大而令人兴奋的语言。 一定程度上替代java开发,仅仅是一定程度上,任然有许多场景非java不可。请注意我的措辞,在一定场景中,scala开发比jav...原创 2018-09-17 13:40:04 · 4403 阅读 · 0 评论