Eclipse远程调试Spark

修改配置文件

修改${spark_home}/bin/spark-class文件:

"$RUNNER" -Xmx128m -cp "$LAUNCH_CLASSPATH" org.apache.spark.launcher.Main -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8888 "$@"

参数说明:

  • -Xdebug 启用调试特性
  • -Xrunjdwp 启用JDWP实现,包含若干子选项:
  • transport=dt_socket JPDA front-end和back-end之间的传输方法。dt_socket表示使用套接字传输。
  • address=8888 JVM在8888端口上监听请求,这个设定为一个不冲突的端口即可。
  • server=y
    y表示启动的JVM是被调试者。如果为n,则表示启动的JVM是调试器。
  • suspend=y y表示启动的JVM会暂停等待,直到调试器连接上才继续执行。suspend=n,则JVM不会暂停等待。

启动Spark Application

eclipse将项目exportjar包,传到集群上使用spark-submit提交Application,可以看到在等待:

注意,传到集群上的代码要和本地一样!

在Eclipse设置远程调试的ip和port

  • Debug as
  • Debug Configurations
  • Remote Java Application
  • 配置ip和port
时间: 2024-12-03 19:53:20

Eclipse远程调试Spark的相关文章

使用Eclipse远程调试Java应用程序

远程调试对应用程序开发十分有用.例如,为不能托管开发平台的低端机器开发程序,或 在专用的机器上(比如服务不能中断的 Web 服务器)调试程序.其他情况包括:运行在内存 小或 CUP 性能低的设备上的 Java 应用程序(比如移动设备),或者开发人员想要将应用程 序和开发环境分开,等等. 先决条件 启动配置类型 启动配置 保存一 组用于启动程序的属性.启动配置类型是一种可以在 Eclipse 平台上启动的独特程序. 如果您还没安装该程序,请下载 Eclipse V3.4(Ganymede).在 G

《Spark大数据分析实战》——2.2节远程调试Spark程序

2.2 远程调试Spark程序 本地调试Spark程序和传统的调试单机的Java程序基本一致,读者可以参照原来的方式进行调试,关于单机调试本书暂不赘述.对于远程调试服务器上的Spark代码,首先请确保在服务器和本地的Spark版本一致.需要按前文介绍预先安装好JDK和Git. (1)编译Spark 在服务器端和本地计算机下载Spark项目. 通过下面的命令克隆一份Spark源码: git clone https:// github.com/apache/spark 然后针对指定的Hadoop版本

Eclipse远程调试出现“JDWP Transport dt_socket failed to initialize”如何解决

工作中经常需要使用Eclipse远程连接Tomcat,调试Web应用程序. eclipse远程调试Tomcat方法 1.Linux中配置tomcat在catalina.sh中添加如下 CATALINA_OPTS="-Xdebug  -Xrunjdwp:transport=dt_socket,address=8000,server=y,suspend=n"(不要换行,要在同一行) 2.Window中修改 catalina,bat文件,添加: Set  "CATALINA_OPT

Eclipse远程调试Weblogic运行的源代码

web|源代码 看过许多远程调试的例子,大多数都是针对tomcat或者jboss服务器的,很少能搜索到weblogic服务器的远程调试例子和文章,前些天在项目开发的时候尝试了一下,感觉十分得不错,拿出来跟大家分享一下,不过我要多罗嗦几句. 远程调试的好处:我们现在开发的模式大多是本机用eclipse集成source管理环境,集成ant的编译环境,用weblogic插件集成运行环境,基本上一个eclipse又当爹又当妈的,这样的好处就是开发环境配置集中,普通的程序员只要按步骤做就可以了,开发步骤简

Eclipse远程调试WebSphere Application Server

我们用 Eclipse 开发 Web 项目时,多会用某个插件(如 MyEclipse) 来对 Tomcat 中的应用进行单步调试.而要调试 WAS 下的应用,MyEclipse 也是可以的,但在 MyEclipse 中启动 WAS 比较慢,且需要在本地安装一个 WAS.再有便捷点的方法是用 WSAD (Websphere Studio Application Developer) 或它的升级版 RAD (Rational Application Developer),它们内置了对 WAS 很好的

Eclipse远程调试之服务器配置(1)

Eclipse的远程调试功能使用起来非常方便,可以极大提高查找和修复Bug的速度.除了Eclipse要建立远程调试的Profile,在服务器端也需要相应配置.下面一一列出.一.Tomcat5.51.Linux下catalina.sh中,加入如下配置:  JPDA_ADDRESS="9917"可以直接加在JPDA_ADDRESS注释的下面.9917是JPDA端口号,默认值是8000.startup.sh中,修改启动选项为jpda start,如下:  exec "$PRGDIR

Eclipse 远程调试

1.server的启动参数 启动参数中需要加入下行语句: -Xdebug -Xrunjdwp:transport=dt_socket,address=22260,server=y,suspend=n 参数解释见下: -XDebug 启用调试 -Xrunjdwp 加载JDWP的JPDA参考执行实例. transport  用于在调试程序和 VM 使用的进程之间通讯. dt_socket 套接字传输. server=y/n VM是否需要作为调试服务器执行. address=22260调试服务器监听的

eclipse远程调试weblogic发布的应用

问题描述 weblogic配置JAVA_DEBUG="-Xdebug-Xnoagent-Xrunjdwp:transport=dt_socket,address=30000,server=y,suspend=n"exportJAVA_DEBUGif["${WLS_REDIRECT_LOG}"=""];thenecho"StartingWLSwithline:"echo"${JAVA_HOME}/bin/java${J

Eclipse远程调试之服务器配置(2)

2 Resin对于Resin,可以自己写一个启动的脚本,启动Resin服务器.脚本内容如下:@echo offREM set JAVA_HOME=JDK或JRE的安装目录REM set PATH=%JAVA_HOME%/bin;%PATH% set RESIN_HOME=Resin的安装目录httpd -Xdebug -Xnoagent -Xrunjdwp:transport=dt_socket,server=y,suspend=n,address=12345