`
cloudeagle_bupt
  • 浏览: 538168 次
文章分类
社区版块
存档分类
最新评论

GraphX编译

 
阅读更多

编译版本为spark-1.5.0

由于机房机器不允许连外网进行下载编译,在本机上面安装了cygwin, maven, 修改maven的仓库位置使其放在D盘.


试了下sbt, 发现坑太多(防火墙问题,很多jar下不到,代理同样被学校的封死... ),由于这里只是轻微改动GraphX以便测试性能,因此直接使用spark源码目录下的make-distribution.sh来编译。当然直接使用mvn编译也可以。


./make-distribution.sh


注意,这里一开始指定-Dhadoop.version=1.2.1 结果死活说下不到hadoop-client-1.2.1.jar包,我手动下载放到repoisty里也没用,默认编译生成的jar包在spark-1.5.0\assembly\target\scala-2.10 下:

spark-assembly-1.5.0-hadoop2.2.0.jar


我安装的hadoop1.2.1, 被迫只能将其解压,将其中的改进后的Pregel.class文件替换原有的spark-assembly-1.5.0-hadoop1.2.1总的对应文件,再压缩spark-assembly-1.5.0-hadoop1.2.1目录, 命令:

进入spark-assembly-1.5.0-hadoop1.2.1目录(cygwin模式)

jar cvfspark-assembly-1.5.0-hadoop1.2.1.jar ./*

替换集群中的Spark目录的下lib中的spark-assembly-1.5.0-hadoop1.2.1.jar,测试,oK!

分享到:
评论

相关推荐

    graphx:给编译原理作业写的绘图语言解释器

    graphx给编译原理作业写的绘图语言解释器开发环境为:Fedora 20 + CodeBlocks 13.1(GCC)

    9.SparkGraphX介绍及实例.pdf

    2.Spark编译与部署(下)--Spark编译安装.pdf 2.Spark编译与部署(中)--Hadoop编译安装.pdf 3.Spark编程模型(上)--概念及SparkShell实战.pdf 3.Spark编程模型(下)--IDEA搭建及实战.pdf 4.Spark运行架构.pdf 5....

    编译原理 英文版

    编译原理 英文版

    metis-5.1.0-vc11up3-x64

    metis-5.1.0-vc11up3-x64 metis-5.1.0-vc11up3-x64 metis-5.1.0-vc11up3-x64

    Graph Matching Networks for Learning the Similarity of Graph Structured Objects

    每个图 G = (V, E) 被表示为节点 V 和边 E 的集合,每个节点 i∈V 都可以和特征向量 x_i 相关联,每条边 (i, j) ∈ E 都可以和特征向量 x_ij 关联起来。这些特征可以表示节点类型、边的方向等。如果一个节点或者一条...

    Spark_compile:通过maven编译之后的Spark原始码-源码通

    它还支持丰富的高级工具集,包括用于SQL和DataFrames的Spark SQL,用于机器学习的MLlib,用于图形处理的GraphX和用于流处理的Spark Streaming。 在线文件 您可以在和上找到最新的Spark文档,包括编程指南。 此自述...

    graph-anim:生成图形的 3D 动画

    该图必须指定为 igraph Graph 实例。 您可以指定一个 igraph 布局实例,或者让模块为您计算 3D 'fr' 布局。 您可以选择为顶点序列指定 'color' 和 'size' 属性。 输出是以 1 度为间隔的旋转 3D 视图的 .png 快照...

    Unity可视化剧情编译工具 xNode和Odin插件

    X Node, 这是个非常强大且直观的节点编辑器框架,提供了类似 Shader Graph等Unity内置系统的Graph和Node的自定义创建。 Odin是一个对编辑器进行拓展的插件,可以序列化各种数据,方便的制作出各种编辑器界面

    STM32F429 EMWIN GUI实战:实现GRAPH小工具【支持STM32F42X系列单片机】.zip

    STM32F429 EMWIN GUI实战。 项目支持STM32F42X系列单片机调测和移植。 项目代码可直接编译、运行。

    clang-callgraph:基于clang的工具,可从给定的C ++代码库生成调用图

    lang笔 ... 为任何基于make的编译链生成文件compile_commands.json的最简单方法是使用并使用bear make重新编译。 运行python脚本时,在解析所有代码库后,系统会提示您键入要获取其调用图的函数名称 例

    cpp-build-analyzer:使用C ++ Build Insights SDK分析MSVC C ++编译

    还显示模板实例化(如果存在): 生成文件包含图: 列出文件编译时间: 列出文件包含时间: 列出函数编译时间: 列出模板实例化时间:互动范例通过在Visual Studio 16.4(Visual Studio 2019)中以Debug|x64配置...

    dsp2812实验报告.doc

    5、编译 选择菜单"Project"的"Rebuild All"项,对当前工程中所有文件进行编译链接,形成输出文件,注意编译过程中CCS主窗 口下部的"Build"提示窗中显示编译信息,如给出的错误和警告的信息。如果程序存在错 误,可...

    wikipedia-separation:计算维基百科页面之间的分离程度

    通过在IntelliJ中打开build.gradle文件来加载存储库,这将加载所有依赖项(例如Spark,GraphX等) MySQL服务器,例如或 一个在MySQL数据库上运行MySQL查询的程序(例如 )。 该程序用于创建图形数据库所需的CSV文件...

    spark 高级数据分析 高清 书签

    , 扩展篇(第8~11章),主要讲解基于Spark核心的各种扩展及应用,包括SQL处理引擎、Hive处理、流式计算框架Spark Streaming、图计算框架GraphX、机器学习库MLlib等内容。通过阅读这部分内容,读者可以扩展实际项目...

    深入理解Spark 核心思想与源码分析

    , 扩展篇(第8~11章),主要讲解基于Spark核心的各种扩展及应用,包括SQL处理引擎、Hive处理、流式计算框架Spark Streaming、图计算框架GraphX、机器学习库MLlib等内容。通过阅读这部分内容,读者可以扩展实际项目...

    常见的Go代码实用代码

    目录简介: 浏览器包browser提供了与用户...importgraphutil包importgraphutil通过一种忽略测试的方式构建图形来增强“golang.org/x/tools/refactor/importgraph”。 indentwriter包实现了一个io。用指定数量的制表符

    dagger, Android和Java的快速依赖注入器.zip

    dagger, Android和Java的快速依赖注入器 匕首 2 Android和Java的快速依赖注入器。关于google的forkDagger 2是依赖注入的编译... Taking 1.x 以匕首为出发点,通过移除传统的objectgraph/注射器,消除了传统的/注射器

    twint-explorer:TWINT图形可视化器

    在Graph目录下,有Twint OSINT Explorer的源代码,将提供已编译的版本。 安装 依存关系 节点JS libsqlite3-dev libxss1 libx11-xcb-dev libxtst-dev libgconf-2-4 libnss3 libasound-dev 基于Debian / Ubuntu的...

    一个java正则表达式工具类源代码.zip(内含Regexp.java文件)

    * x The character x x 字符 x * \\ The backslash character \\ 反斜杠 * \0n The character with octal value 0n (0 ) \0n 十进制数 (0 ) * \0nn The character with ...

Global site tag (gtag.js) - Google Analytics