当前位置: 首页 > news >正文

一零二四、pyspark在jupyter中的完美运行

1、配置环境变量

(1)JAVA_HOME

(2)SPARK_HOME

(3)HADOOP_HOME

2、安装pyspark包

注意此处默认安装的是最新的pyspark包,最新的跑不起来,换为2.3.2 即可使用

org.apache.spark.api.python.PythonUtils.isEncryptionEnabled does not exist in the JVM

这个报错即需要将 pyspark 版本降为 2.3.2 完美运行

pip install pyspark==2.3.2

最好加上镜像源,会快很多

https://blog.csdn.net/m0_54925305/article/details/126596822?spm=1001.2014.3001.5501

3、初始化找到spark环境

py4j.protocol.Py4JError: org.apache.spark.api.python.PythonUtils.isEncryptionEnabled does not exist in the JVM

import findspark
findspark.init()

当然需要:(最好加上镜像源,会快很多)

pip install findspark

4、运行代码

import findspark
findspark.init()
from pyspark import SparkConf, SparkContext 
## 配置spark
sc.stop() #多次运行需要先停止再重新运行
sparkConf = SparkConf().setMaster("local[6]").setAppName("My App") #"spark://node1:7077"为主节点master的地址
sc = SparkContext(conf=sparkConf)
file = sc.textFile("E:\Python大数据分析程序\share\stu_Score.csv")
file.collect()

 可以随便找个数据读一下看看

ValueError: Cannot run multiple SparkContexts at once; existing SparkContext(app=PySparkShell, master=local[*]) created by <module> at /usr/local/spark/python/pyspark/shell.py:59 

出现这个错误是因为之前已经启动了SparkContext,所以需要先关闭spark,然后再启动。

也就是前面写的sc.stop()

步骤总结:

1、配置环境变量

2、安装pyspark包(2.3.2)

3、安装findspark包并在程序中加入 import findspark  findspark.init() 这两行代码

4、运行程序

相关文章:

  • Nginx监控模块
  • mybatis的test坑(不等于‘‘ 且 不等于0)
  • 使用IDEA快速部署到Docker云端
  • 全志T507 UART复用方法-飞凌嵌入式知识库
  • 【机器学习】过拟合和欠拟合怎么判断,如何解决?(面试回答)
  • 2022年数模国赛冲刺之模型复习2
  • 程序包lombok不存在,纠正网上错误答案
  • css知识点总结
  • 【Rust日报】2022-08-29 RLS 谢幕
  • 【Python黑科技】图片太大不能上传?三种压缩图片大小的方法(代码注释详细)
  • hadoop生态圈面试精华之Yarn
  • 阿里云:加大NoSQL数据库软硬件一体化技术自研
  • 机构用户注册/登录的设计
  • 面向对象-多态
  • C语言高级教程-C语言数组(二)
  • css选择器
  • extjs4学习之配置
  • flutter的key在widget list的作用以及必要性
  • JavaScript 基本功--面试宝典
  • LeetCode541. Reverse String II -- 按步长反转字符串
  • Linux编程学习笔记 | Linux多线程学习[2] - 线程的同步
  • Mysql数据库的条件查询语句
  • Redis在Web项目中的应用与实践
  • sessionStorage和localStorage
  • Xmanager 远程桌面 CentOS 7
  • 百度贴吧爬虫node+vue baidu_tieba_crawler
  • 面试遇到的一些题
  • 如何学习JavaEE,项目又该如何做?
  • 十年未变!安全,谁之责?(下)
  • 微信小程序实战练习(仿五洲到家微信版)
  • 微信小程序填坑清单
  • 一个6年java程序员的工作感悟,写给还在迷茫的你
  • 译自由幺半群
  • ​iOS安全加固方法及实现
  • ( 用例图)定义了系统的功能需求,它是从系统的外部看系统功能,并不描述系统内部对功能的具体实现
  • (博弈 sg入门)kiki's game -- hdu -- 2147
  • (四)c52学习之旅-流水LED灯
  • (算法)前K大的和
  • **python多态
  • .Net Core与存储过程(一)
  • .net FrameWork简介,数组,枚举
  • .NET LINQ 通常分 Syntax Query 和Syntax Method
  • .net mvc 获取url中controller和action
  • .NET 使用 JustAssembly 比较两个不同版本程序集的 API 变化
  • .NET/C# 中你可以在代码中写多个 Main 函数,然后按需要随时切换
  • .NET下的多线程编程—1-线程机制概述
  • .NET中使用Protobuffer 实现序列化和反序列化
  • /proc/interrupts 和 /proc/stat 查看中断的情况
  • @angular/cli项目构建--Dynamic.Form
  • [ 2222 ]http://e.eqxiu.com/s/wJMf15Ku
  • [2]十道算法题【Java实现】
  • [BJDCTF 2020]easy_md5
  • [BZOJ] 2044: 三维导弹拦截
  • [BZOJ1089][SCOI2003]严格n元树(递推+高精度)
  • [codeforces]Recover the String