首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

取代而非补充,Spark Summit 2014精彩回顾

Databricks Workspace由notebook、dashboard和一个job launcher组成: Notebook提供了丰富的界面,允许用户进行数据的发现和探索,交互式绘制结果,把整个工作流程变为脚本执行...目前,它支持流之间简单的查询以及流和结构化数据之间的相互操作,也支持在Catalyst的典型用法(LINQ表达式,SQL和DStream的结合)。...Xiangru详述了对稀疏数据的三个优化算法:在KMeans中计算两点的距离,在线性模型中计算梯度的总和,以及如何在SVD利用稀疏数据。 2....Databricks的Aaron Davidson:理解Spark的内部机制 Aaron的演讲主要是如何在实际应用中提高Spark核心性能。他详述了Spark RDD的执行模型和shuffle操作。...由于这些模型的迭代特性,它们非常适合Spark的计算模式,可以避免Hadoop输入/输出所带来的开销。

2.3K70

一文学会设置 Jupyter 主题与目录

来源/数据STUDIO 作者/云朵君 前两天因为某些原因,云朵君重装系统了,发现以前的一些设置都没有了,因为一些习惯,还是想恢复下以前的一些设置,设置Jupyter notebook 的主题,设置他的目录插件等...下面是官方的一些介绍,参考Jupyter notebook官方文档[1] Jupyter notebook将基于控制台的方法扩展到了一个全新的方向,提供了一个基于 Web 的应用程序,适用于捕获整个计算过程...Jupyter notebook结合了两个组件: Web 应用程序:一种基于浏览器的工具,用于交互式创作文档,这些文档结合了解释性文本、数学、计算及其丰富的媒体输出。...Notebook 文档:Web 应用程序中所有可见内容的表示,包括计算的输入和输出、解释性文本、数学、图像和对象的富媒体表示。...使用Markdown标记语言在浏览器编辑富文本,可以为代码提供注释,不限于纯文本。 能够使用 LaTeX 在 Markdown 单元格轻松包含数学符号,并由MathJax本地呈现。 ?

1.3K20
您找到你想要的搜索结果了吗?
是的
没有找到

机器学习新手必看:Jupyter Notebook入门指南

Jupyter Notebook 是一款开放源代码的 Web 应用程序,可让我们创建并共享代码和文档。 它提供了一个环境,你可以在其中记录代码,运行代码,查看结果,可视化数据并在查看输出结果。...我无法在电子邮件或博客上发布不同的单元格或代码块,对吧? 进入 Files 菜单,你会看到一个 Download As 选项: 你可以将你的 Notebook 保存为 7 个选项的任何一个。...你也可以使用 nbconvert 选项手动将你的 Notebook 转换为不同的格式, HTML 或 PDF。...在 JupyterLab ,你只需一个窗口即可安排 Notebook 的工作区域、终端、文本文件和输出!你要做的仅仅是将单元格拖放到你想要的位置。...你还可以通过实时预览功能来编辑常用文件格式, Markdown、CSV 和 JSON,以便在实际文件实时查看所发生的变化。

3.7K21

一文学会设置 Jupyter 主题与目录

前两天因为某些原因,云朵君重装系统了,发现以前的一些设置都没有了,因为一些习惯,还是想恢复下以前的一些设置,设置Jupyter notebook 的主题,设置他的目录插件等。...下面是官方的一些介绍,参考Jupyter notebook官方文档[1] Jupyter notebook将基于控制台的方法扩展到了一个全新的方向,提供了一个基于 Web 的应用程序,适用于捕获整个计算过程...Notebook 文档:Web 应用程序中所有可见内容的表示,包括计算的输入和输出、解释性文本、数学、图像和对象的富媒体表示。...使用Markdown标记语言在浏览器编辑富文本,可以为代码提供注释,不限于纯文本。 能够使用 LaTeX 在 Markdown 单元格轻松包含数学符号,并由MathJax本地呈现。...可以设置 markdown(文本单元格)和notebook(界面)的字体/字体大小。 调整单元格宽度(% 屏幕宽度)和行高。

1.6K40

一文学会设置 Jupyter 主题与目录

前两天因为某些原因,云朵君重装系统了,发现以前的一些设置都没有了,因为一些习惯,还是想恢复下以前的一些设置,设置Jupyter notebook 的主题,设置他的目录插件等。...下面是官方的一些介绍,参考Jupyter notebook官方文档[1] Jupyter notebook将基于控制台的方法扩展到了一个全新的方向,提供了一个基于 Web 的应用程序,适用于捕获整个计算过程...Notebook 文档:Web 应用程序中所有可见内容的表示,包括计算的输入和输出、解释性文本、数学、图像和对象的富媒体表示。...使用Markdown标记语言在浏览器编辑富文本,可以为代码提供注释,不限于纯文本。 能够使用 LaTeX 在 Markdown 单元格轻松包含数学符号,并由MathJax本地呈现。...可以设置 markdown(文本单元格)和notebook(界面)的字体/字体大小。 调整单元格宽度(% 屏幕宽度)和行高。

1.7K60

机器学习新手必看:Jupyter Notebook入门指南

Jupyter Notebook 是一款开放源代码的 Web 应用程序,可让我们创建并共享代码和文档。 它提供了一个环境,你可以在其中记录代码,运行代码,查看结果,可视化数据并在查看输出结果。...我无法在电子邮件或博客上发布不同的单元格或代码块,对吧? 进入 Files 菜单,你会看到一个 Download As 选项: 你可以将你的 Notebook 保存为 7 个选项的任何一个。...你也可以使用 nbconvert 选项手动将你的 Notebook 转换为不同的格式, HTML 或 PDF。...在 JupyterLab ,你只需一个窗口即可安排 Notebook 的工作区域、终端、文本文件和输出!你要做的仅仅是将单元格拖放到你想要的位置。...你还可以通过实时预览功能来编辑常用文件格式, Markdown、CSV 和 JSON,以便在实际文件实时查看所发生的变化。

5K40

机器学习新手必看:Jupyter Notebook入门指南

Jupyter Notebook 是一款开放源代码的 Web 应用程序,可让我们创建并共享代码和文档。 它提供了一个环境,你可以在其中记录代码,运行代码,查看结果,可视化数据并在查看输出结果。...我无法在电子邮件或博客上发布不同的单元格或代码块,对吧? 进入 Files 菜单,你会看到一个 Download As 选项: 你可以将你的 Notebook 保存为 7 个选项的任何一个。...你也可以使用 nbconvert 选项手动将你的 Notebook 转换为不同的格式, HTML 或 PDF。...在 JupyterLab ,你只需一个窗口即可安排 Notebook 的工作区域、终端、文本文件和输出!你要做的仅仅是将单元格拖放到你想要的位置。...你还可以通过实时预览功能来编辑常用文件格式, Markdown、CSV 和 JSON,以便在实际文件实时查看所发生的变化。

2.7K40

十大至简规则,用Jupyter Notebook写代码应该这样来

那么,尝试让 notebook 的每个单元格执行一个有意义的分析步骤,并且该步骤可以根据单元格的代码或周围的 markdown 描述很容易地理解。...规则 4:模块化代码 避免重复代码总是很好的做法,但是在 notebook ,复制一个单元格、调整几行、将生成的代码粘贴到新单元格或其他 notebook 并再次运行是特别容易的。...如果你要在其他项目或 notebook 重用代码,请考虑将其转换为模块、包或库,并遵循良好的软件开发实践(单元测试)。 模块化不仅节省空间,支持维护,调试方便,还使增加交互性变得更加简单。...始终在这些依赖项创建的环境工作,以确保不添加未记录的依赖项。 在 notebook ,你可以使用 notebook 的扩展( watermark)显式打印依赖项。...规则 9:允许阅读、运行和探索 notebook 如果你遵循了前面的规则,那么你的 notebook 应该能够捕获整个过程并易于阅读。但是其他人如何访问、运行和探索它们呢?

1.1K20

十大至简规则,用Jupyter Notebook写代码应该这样来

那么,尝试让 notebook 的每个单元格执行一个有意义的分析步骤,并且该步骤可以根据单元格的代码或周围的 markdown 描述很容易地理解。...规则 4:模块化代码 避免重复代码总是很好的做法,但是在 notebook ,复制一个单元格、调整几行、将生成的代码粘贴到新单元格或其他 notebook 并再次运行是特别容易的。...如果你要在其他项目或 notebook 重用代码,请考虑将其转换为模块、包或库,并遵循良好的软件开发实践(单元测试)。 模块化不仅节省空间,支持维护,调试方便,还使增加交互性变得更加简单。...始终在这些依赖项创建的环境工作,以确保不添加未记录的依赖项。 在 notebook ,你可以使用 notebook 的扩展( watermark)显式打印依赖项。...规则 9:允许阅读、运行和探索 notebook 如果你遵循了前面的规则,那么你的 notebook 应该能够捕获整个过程并易于阅读。但是其他人如何访问、运行和探索它们呢?

63840

数据分析篇 | 如何配置数据分析利器Jupyter Notebook

何在启动时指定目录? 如何安装扩展插件? 如何修改颜色主题? 如何让一个单元格显示多个输出? 如何不使用科学计数法显示数字? 如何添加与删除虚拟环境?...如何在启动时指定目录? 指定启动目录可以减少很多切换目录的麻烦操作,呆鸟以前写过一篇《1 分钟修改 Jupyter 启动文件夹》,已经介绍过,不在此赘述了。...字号 -dfs 9 输出内容字号 -ofs 8.5 Mathjax 字号 (%) -mathfs 100 页边距 -m auto 单元格宽 -cellw 980 单元格行高 -lineh 170 光标大小...如何让一个单元格显示多个输出? 正常情况下, 一个单元格只显示一个输出结果; ?...B 删除选中单元格:DD,即连续按两次 D 键 恢复删除的单元格:Z 复制选中单元格:C 剪切选中单元格:X 黏贴选中单元格:V 查找与替换内容:F 隐藏 / 显示输出内容:O 隐藏 / 显示代码行号:

2.2K30

Jupyter Notebook 使用手册

本文将指导您如何在本地计算机上设置Jupyter笔记本,以及如何开始使用它来执行Python程序。 什么是“笔记本(notebook)”?...记事本将代码及其输出集成到一个文档,该文档结合了可视化、叙述性文本、数学方程和其他富媒体。...在本例,您的内核是python3,这意味着您可以在代码单元编写Python代码。因为你最初的笔记本只有一个空单元格,所以它不能做任何事情。...要执行单元格,只需选择单元格并单击沿顶部按钮行的Run按钮。它在中间。如果你喜欢用键盘,你可以直接按 Shift+Enter. 当我运行上面的代码时,输出如下: ?...设置一个新的单元格标记,然后添加以下文字到单元格: ? 当你运行cell,输出应该是这样的: ? 在Markdown创建标头也非常简单。你只需要使用不起眼的#号。使用的#符号越多,标题越小。

3.3K20

如何安装,运行和连接到远程服务器上的Jupyter Notebook

通过遵循我们的如何在Ubuntu 18.04上安装Python 3和设置本地编程环境的教程的步骤1和2来完成此操作。...导航到http://localhost:8000之后,您将看到一个登录页面: 在顶部的密码或令牌字段,输入从服务器运行jupyter notebook输出显示的令牌: [I 20:35:17.004...或者,您可以从终端输出复制该URL并将其粘贴到浏览器的地址栏。 自动地,Jupyter笔记本将显示存储在运行它的目录的所有文件和文件夹。...单击Notebook Dashboard 右上角的New,然后单击Python 3,创建一个新的笔记本文件: 在此新笔记本,通过单击顶部导航栏上的“ 单元格” >“ 单元格类型” >“ Markdown...除了降价,此单元格类型还允许您在LaTeX编写方程式。

14.9K118

这件神器,每个 Python 学习者都值得一试

选第二个选项,它就将一步一步教你如何在自己的电脑上安装 Jupyter Notebook 本体。...】,或者按【Shift + 回车】组合键,该单元格里的代码将会被运行。 ? 运行之后的输出结果将会显示在单元格内容的正下方,然后输入光标就会跳转到下一个格子,方便你继续写更多的代码。...你在这个单元格输入 markdown 标记时,会自动解析成不同大小,不同格式的文字标记: ?...如果你想要改一改 markdown 文本,只需要双击单元格的文字,则编辑框又会重新出现。 04 编辑模式和命令模式 按照你选中一个单元格时的方式,单元格有两种不同的激活模式:编辑模式和命令模式。...如果你点击一个单元格的周边空白处或是输出部分,你选中的这个单元格就进入了命令模式,左边的指示条是蓝色: ?

88020

这件神器,每个 Python 学习者都值得一试

选第二个选项,它就将一步一步教你如何在自己的电脑上安装 Jupyter Notebook 本体。...,如果你选中它,上面还会有一个 Shutdown(关闭)按钮,你可以点击按钮来关闭一个运行notebook 文件。...运行之后的输出结果将会显示在单元格内容的正下方,然后输入光标就会跳转到下一个格子,方便你继续写更多的代码。当然,你随时可以点击上面的格子,修改或者添加更多的代码。...你在这个单元格输入 markdown 标记时,会自动解析成不同大小,不同格式的文字标记: 当你写完这些文本时,你可以“运行”这个单元格,或是按【Shift + 回车】快捷键,于是那些 markdown...如果你点击一个单元格的周边空白处或是输出部分,你选中的这个单元格就进入了命令模式,左边的指示条是蓝色: 如果你点击代码区域,则单元格就进入编辑模式,光标将在你点击的位置闪烁,而左边的指示条也变成绿色,

84540

想学spark但是没有集群也没有数据?没关系,我来教你白嫖一个!

然后我们点击邮件的链接设置密码就完成了。 配置环境 注册好了之后,我们就可以进行愉快地使用了。...等集群创建好了之后, 我们就可以创建notebook进行愉快地编码了。 我们点击home然后选择自己的账号,点击create notebook。 ?..." airportsFilePath = "/databricks-datasets/flights/airport-codes-na.txt" databricks的数据集都在databricks-datasets...我们读取完之后,notebook会非常友好地把字段的信息一并输出出来,我们可以看到字段的名称和它对应的类型。 ? 接下来要做的就很简单了,只需要将这两者关联到一起即可。...airports a on a.IATA = f.origin where a.State = 'WA' group by a.City, f.origin order by sum(f.delay) desc 输出的结果是这样的

1.3K40

7 个 Python 特殊技巧,有效提升数分效率!

Jupyter 的格式编排 5. Jupyter 快捷键 6. 在 Jupyter(或 IPython)中使一个单元同时有多个输出 7. 为 Jupyter Notebook 即时创建幻灯片 1....假设你花了一些时间清洗 notebook 的数据,现在你想在另一个 notebook 测试一些功能,那么你是在同一个 notebook 实现该功能,还是保存数据并在另一个 notebook 中加载数据呢...%%writefile:向文件写入单元格内容 在 notebook 写复杂函数或类,且想将其保存到专属文件时,该魔法命令非常有用。...在其他 notebook 也可以这样,只要与 utils.py 文件属于同一个目录即可。 4. Jupyter 的格式编排 这个工具很酷!...Esc + F:查找并替换代码(不包括输出)。 Esc + O:切换单元格输出。 选择多个单元格: Shift + Down 和 Shift + Up:选中下方或上方的单元格

1K20

7个Python特殊技巧,助力你的数据分析工作之路

Jupyter 的格式编排 5. Jupyter 快捷键 6. 在 Jupyter(或 IPython)中使一个单元同时有多个输出 7. 为 Jupyter Notebook 即时创建幻灯片 1....假设你花了一些时间清洗 notebook 的数据,现在你想在另一个 notebook 测试一些功能,那么你是在同一个 notebook 实现该功能,还是保存数据并在另一个 notebook 中加载数据呢...%%writefile:向文件写入单元格内容 在 notebook 写复杂函数或类,且想将其保存到专属文件时,该魔法命令非常有用。...在其他 notebook 也可以这样,只要与 utils.py 文件属于同一个目录即可。 4. Jupyter 的格式编排 这个工具很酷!...Esc + F:查找并替换代码(不包括输出)。 Esc + O:切换单元格输出。 选择多个单元格: Shift + Down 和 Shift + Up:选中下方或上方的单元格

1.2K10

7 个 Python 有用工具

Jupyter 的格式编排 5. Jupyter 快捷键 6. 在 Jupyter(或 IPython)中使一个单元同时有多个输出 7. 为 Jupyter Notebook 即时创建幻灯片 1....假设你花了一些时间清洗 notebook 的数据,现在你想在另一个 notebook 测试一些功能,那么你是在同一个 notebook 实现该功能,还是保存数据并在另一个 notebook 中加载数据呢...只需对任意可执行代码应用%%time 命令,你就可以得到如下输出: %%writefile:向文件写入单元格内容 在 notebook 写复杂函数或类,且想将其保存到专属文件时,该魔法命令非常有用...在其他 notebook 也可以这样,只要与 utils.py 文件属于同一个目录即可。 4. Jupyter 的格式编排 这个工具很酷!...Esc + F:查找并替换代码(不包括输出)。 Esc + O:切换单元格输出。 选择多个单元格: Shift + Down 和 Shift + Up:选中下方或上方的单元格

89520

7个Python特殊技巧,助力你的数据分析工作之路

Jupyter 的格式编排 5. Jupyter 快捷键 6. 在 Jupyter(或 IPython)中使一个单元同时有多个输出 7. 为 Jupyter Notebook 即时创建幻灯片 1....假设你花了一些时间清洗 notebook 的数据,现在你想在另一个 notebook 测试一些功能,那么你是在同一个 notebook 实现该功能,还是保存数据并在另一个 notebook 中加载数据呢...%%writefile:向文件写入单元格内容 在 notebook 写复杂函数或类,且想将其保存到专属文件时,该魔法命令非常有用。...在其他 notebook 也可以这样,只要与 utils.py 文件属于同一个目录即可。 4. Jupyter 的格式编排 这个工具很酷!...Esc + F:查找并替换代码(不包括输出)。 Esc + O:切换单元格输出。 选择多个单元格: Shift + Down 和 Shift + Up:选中下方或上方的单元格

97720

7大 Python 特殊技巧提升数据分析能力

假设你花了一些时间清洗 notebook 的数据,现在你想在另一个 notebook 测试一些功能,那么你是在同一个 notebook 实现该功能,还是保存数据并在另一个 notebook 中加载数据呢...%%writefile:向文件写入单元格内容 在 notebook 写复杂函数或类,且想将其保存到专属文件时,该魔法命令非常有用。...在其他 notebook 也可以这样,只要与 utils.py 文件属于同一个目录即可。 4. Jupyter 的格式编排 这个工具很酷!...在命令模式内,你可以使用方向键在 notebook 内进行导航。 在命令模式内: A 和 B:在当前单元格上方(Above)或下方(Below)插入新的单元格。...Esc + F:查找并替换代码(不包括输出)。 Esc + O:切换单元格输出。 选择多个单元格: Shift + Down 和 Shift + Up:选中下方或上方的单元格

74510
领券