怎么开发一个基于spark的web实时查询web程序

问题描述

如标题,公司想开发这样一个小程序,但是现在不知道从何下手,spark又没有提供接口可以在我的web应用程序里面直接调用,那意味着是不是我每次查询的时候,要把sql语句和对应的scala代码一起通过ssh提交到集群的主机上运行spark-shell命令,但是有几个地方想不明白1.这样执行的结果我怎么拿回来显示在web界面上?还是有其他的办法实现?2.我们有个功能点是机器学习所以会用到MLLib,每个流程点都需要提交查询一次,把结果拿一部分回来给用户看,并把结果作为下个流程节点的输入,那我的web程序怎么和集群沟通

解决方案

解决方案二:
楼主的问题是怎么解决的,我们现在也要这样来做,要怎么进行,能不能给小弟一点指导
解决方案三:

解决方案四:
参考一下apache的开源项目:apachelens
解决方案五:
楼主怎么弄得,能分享一下吗
解决方案六:
把web端的请求写入kafka,Spark读取kafka数据处理将后写入缓存数据库。

时间: 2024-10-14 23:23:36

怎么开发一个基于spark的web实时查询web程序的相关文章

如何基于Spark Streaming构建实时计算平台

1.前言 随着互联网技术的迅速发展,用户对于数据处理的时效性.准确性与稳定性要求越来越高,如何构建一个稳定易用并提供齐备的监控与预警功能的实时计算平台也成了很多公司一个很大的挑战. 自2015年携程实时计算平台搭建以来,经过两年多不断的技术演进,目前实时集群规模已达上百台,平台涵盖各个SBU与公共部门数百个实时应用,全年JStorm集群稳定性达到100%.目前实时平台主要基于JStorm与Spark Streaming构建而成,相信关注携程实时平台的朋友在去年已经看到一篇关于携程实时平台的分享:

使用Node.js开发一个基于JavaScript的RESTful应用

REST 风格几乎是为 HTTP 协议量身定做的,在 HTTP 协议中用 URI 来标识唯一的资源,用 GET.PUT.POST.DELETE 等动词来操作资源,HTTP 协议是无状态协议,可以通过 Cache 来提高性能.本文将使用 http://www.aliyun.com/zixun/aggregation/13375.html">Node.js 开发一个基于 JavaScript 的 RESTful 应用. 在 Web2.0 盛行的今天,作为一种可以运行在浏览器客户端的轻量级脚本语

请教各位,希望自己动手开发一个基于JAVE语言的,录入单据系统,希望可以有“自动完成”的等功能,选择什么AJAX框架

问题描述 希望开发一个基于JAVE语言的,录入单据系统,希望可以有"自动完成"的功能,还有一些工作流的代码(例如后工序审核)应该使用什么框架比较啊容易做到这些功能呢?有没视频提供一下学习,我是一个自学开发的初哥(有一点JAVA基础:主要希望实现的是把原来的桌面型的系统,开发成为用JAVA+AJAX造的网页型的单据管理系统) 解决方案 解决方案二:prototype或JQuery都行吧解决方案三:JQuery比较好一点,容易掌握学习prototype现在企业才用

使用WSAD开发一个基于BMP EJB的J2EE应用-用户注册及管理

一.引言 EJB1.1规范将EJB分为两种类型:会话bean 及 实体 Bean.会话 Bean是对业务过程的 封装,就象是一个动词,描述业务流程及方法;实体 Bean是对业务数据的封装,就象是一 个名词,描述了业务数据,它通常是数据库记录的对象体现. 实体 Bean 又分为CMP(Container Management Bean - 容器管理持久性)及BMP(Bean Management Bean - Bean管理持久性)两种类型.CMP封装了复杂的数据库存储机制,为我 们提供了数据记录的

动手开发一个名为“微天气”的微信小程序(上)

引言:在智能手机软件的装机量中,天气预报类的APP排在比较靠前的位置.说明用户对天气的关注度很高.因为人们无论是工作还是度假旅游等各种活动都需要根据自然天气来安排.跟着本文开发一个"微天气"小程序,方便微信网友随时查看天气. 接下来两天小编将同您一起开发一个"微天气"小程序,本文首先向大家介绍"微天气"的API与界面代码编写.本文选自<从零开始学微信小程序开发>. 在一套软件系统中,微信小程序通常是作为前端来使用的,一般还需要有后端的

我们公司要开发一个基于环信SDK的社交平台,有接活的吗

问题描述 要求 : 1.广州地区的.外地不考虑 2.有案例,利用环信开发过软件,可以给我看看 3.有时间开发,我们要的比较急 4.我们属于有一个创意想创业,所以不是行业APP,要需求报价的,要签保密协议.来公司详谈 符合以上条件的请加我QQ 联系我 1393153104, 焦先生.

公司要开发一个基于TCP/IP的手机增值系统,请问基于TCP/IP开发的框架都有什么用哪个好呢?

问题描述 解决方案 可以去了解一下Apache的Mina框架,专门开发基于TCP/IP和UDP/IP网络传输应用框架.现在大多数公司就是使用这个框架.我公司也是

程序外包(价格从优):开发一个基于IE的播放软件

问题描述 基于IE自主开发的播放插件,类似于http://www.izo.cn/上的所有功能1,支持普通播放软件的暂停.停止.播放等功能2,节目菜单支持搜索3,支持网站图标和文字广告4,自动调用数据库中指定直播节目请有类似开发经历的朋友和我联系QQ:5027693电话:13808072131 解决方案 解决方案二:flash?解决方案三:网络上到处都有阿...解决方案四:联系我,价格从低,呵呵││博客空间:││资源下载:││Email:loving-kiss@163.com[MSN也是这个]││

如何用C#开发一个基于http协议的发送邮件功能

问题描述 跪求各位大牛给点思路最好是能给个demo学习一下..........先谢谢 解决方案 解决方案二:邮件有邮件的协议,和http协议没什么关系.如果你想用C#开发邮件发送接收的软件,参考:,有讲解有代码.解决方案三:邮件发送这个我之前也做过不是代码是找了一段博客园的然后稍微修改一会也基本看懂了代码的话可以度以下基本就是发送人邮箱接收人或多个人的邮箱还有一个发送的服务具体环节印象不深了不过代码不长.如果想做的好看一段可以加入html标签可以控制样式和格式(⊙o⊙)哦