SQL和Python几乎是当前数据分析师必须要了解的两门语言，它们在处理数据时有什么区别？本文将分别用MySQL和pandas来展示七个在数据分析中常用的操作，希望可以帮助掌握其中一种语言的读者快速了解另一种方法！
在Python中，pandas groupby()函数提供了一种方便的方法，可以按照我们想要的任何方式汇总数据。实际上，groupby()函数不仅仅是汇总。我们将介绍一个如何使用该函数的实际应用程序，然后深入了解其后台的实际情况，即所谓的“拆分-应用-合并”过程。
Pandas作为大数据分析最流行的框架之一。用好Pandas就像大数据工程师用好SQL用好Excel一样重要。如果你打算学习 Python 中的数据分析、机器学习或数据科学工具，大概率绕不开Pandas库。Pandas 是一个用于 Python 数据操作和分析的开源库。
这里介绍的方法与我们自学习外语的时候使用的方法是有共同之处的，例如我们要学习英语，可以使用以下三个关键的练习帮助我从笨拙地将中文单词翻译成英语，转变为直接用英语思考和回答（英语思维）。
大数据分析的必要部分是有效的总结：计算聚合，如sum()，mean()，median()，min()和max()，其中单个数字提供了大数据集的潜在本质的见解。在本节中，我们将探讨 Pandas 中的聚合，从类似于我们在 NumPy 数组中看到的简单操作，到基于groupby概念的更复杂的操作。
说明：有点忙，这本书最近更新慢了一些，抱歉！这部分仍免费呈现给有兴趣的朋友。附已发表内容链接：
在许多情况下，我们将数据分成几组，并在每个子集上应用一些功能。在应用中，我们可以执行以下操作：
Pandas是一个Python数据分析库，它为数据操作提供了高效且易于使用的工具，可以用于处理来自不同来源的结构化数据。Pandas提供了DataFrame和Series两种数据结构，使得数据操作和分析更加方便和灵活。本文将介绍Pandas的一些高级知识点，包括条件选择、聚合和分组、重塑和透视以及时间序列数据处理等方面。
Pandas[1]是用Python分析数据的工业标准。只需敲几下键盘，就可以加载、过滤、重组和可视化数千兆字节的异质信息。它建立在NumPy库的基础上，借用了它的许多概念和语法约定，所以如果你对NumPy很熟悉，你会发现Pandas是一个相当熟悉的工具。即使你从未听说过NumPy，Pandas也可以让你在几乎没有编程背景的情况下轻松拿捏数据分析问题。
链接：https://towardsdatascience.com/30-examples-to-master-pandas-f8a2da751fa4
最近经常看到各平台里都有Python的广告，都是对excel的操作，这里明哥收集整理了一下pandas对excel的操作方法和使用过程。本篇介绍 pandas 的 DataFrame 对列 (Column) 的处理方法。示例数据请通过明哥的gitee进行下载。
Polars[2]是Pandas最近的转世（用Rust编写，因此速度更快，它不再使用NumPy的引擎，但语法却非常相似，所以学习 Pandas 后对学习 Polars 帮助非常大。
在第一第二课已经讲了notebook的基础使用，python的基础语法及常用的数据结构及其运算，包括:
当今信息时代，数据堪称是最宝贵的资源。沿承系列文章，本文对SQL、Pandas和Spark这3个常用的数据处理工具进行对比，主要围绕数据查询的主要操作展开。
标题党一下，Python 程序员成千上万，当然有很多人学得会。这里说的“你”，是指职场中的非专业人员。 职场人员一般会用 Excel 处理数据，但也会有很多无助的情况，比如复杂计算、重复计算、自动处理等，再遇上个死机没保存，也常常能把人整得崩溃。如果学会了程序语言，这些问题就都不是事了。那么，该学什么呢？ 无数培训机构和网上资料都会告诉我们：Python! Python 代码看起来很简单，只要几行就能解决许多麻烦的 Excel 问题，看起来真不错。 但真是如此吗？作为非专业人员，真能用 Python 来协助我们工作吗？ 嘿嘿，只是看上去很美！ 事实上，Python 并不合适职场人员，因为它太难了，作为职场非专业人员的你就学不会，甚至，Python 的难度可能会大到让你连 Python 为什么会难到学不会的道理都理解不了的地步。
pandas作为Python数据分析的瑞士军刀，集成了大量实用的功能接口，基本可以实现数据分析一站式处理。前期，笔者完成了一篇pandas系统入门教程，也针对几个常用的分组统计接口进行了介绍，今天再针对groupby分组聚合操作进行拓展讲解。
Pandas 是在金融建模的背景下开发的，正如你所料，它包含一组相当广泛的工具，用于处理日期，时间和时间索引数据。日期和时间数据有几种，我们将在这里讨论：
在本章中，我们将学习如何在 Pandas 中使用不同种类的数据集格式。 我们将学习如何使用 Pandas 导入的 CSV 文件提供的高级选项。 我们还将研究如何在 Pandas 中使用 Excel 文件，以及如何使用read_excel方法的高级选项。 我们将探讨其他一些使用流行数据格式的 Pandas 方法，例如 HTML，JSON，PKL 文件，SQL 等。
要使Name列中的每个字符串都变为小写，选择Name列（参见数据选择教程），添加str访问器并应用lower方法。因此，每个字符串都被逐个转换。
讲故事是数据科学家必不可少的技能。为了传达想法和说服力，需要有效的沟通。美学可视化是实现这一目标的绝佳工具。在本文中，将介绍5种超越经典的可视化技术，这些技术可以使数据故事更加美观和有效。将在python中使用Plotly图形库（R中也可用），该库以最少的工作量提供了动画和交互式图。
会写python不难，写好却需要下一番功夫，上篇文章写了for循环的简单优化方法，原本想一鼓作气，梳理一下for循环优化的高级方法，但是梳理过程中发现for循环优化需要比较多的python基础知识，如果了解不透彻很难达到优化的效果，因此，笔者想用几个短篇先介绍一下python的常用包和方法，方便后续优化使用。
在本文中，我们将探讨如何在 Python 中使用 Plotly 创建人口金字塔。Plotly是一个强大的可视化库，允许我们在Python中创建交互式和动态绘图。
本文将尝试使用Python pandas读取来自同一文件的多个Excel工作表。我们可以通过两种方式来实现这一点：使用pd.read_excel()方法，并使用可选的参数sheet_name；另一种方法是创建一个pd.ExcelFile对象，然后解析该对象中的数据。
我们需要处理、分析和探索的大量数据;随着技术的进步，这个数字只会越来越大。现在，想象一下必须盯着电子表格中的数千行数据，试图找到隐藏的模式并追踪数字的变化。这就是数据可视化的切入点。拥有可视化的信息摘要比浏览电子表格更容易识别模式和趋势。由于数据分析的目的是获得见解和发现模式，将数据可视化将使其更有价值，更容易探索。不同类型的图表和图表使交流数据发现更快和更有效。
主要是对数据进行规范化的操作，将数据转换成“适当的”格式，以适用于挖掘任务及算法的需要。
上一篇文章一场pandas与SQL的巅峰大战中，我们对比了pandas与SQL常见的一些操作，我们的例子虽然是以MySQL为基础的，但换作其他的数据库软件，也一样适用。工作中除了MySQL，也经常会使用Hive SQL，相比之下，后者有更为强大和丰富的函数。本文将延续上一篇文章的风格和思路，继续对比Pandas与SQL，一方面是对上文的补充，另一方面也继续深入学习一下两种工具。方便起见，本文采用hive环境运行SQL，使用jupyter lab运行pandas。关于hive的安装和配置，我在之前的文章MacOS 下hive的安装与配置提到过，不过仅限于mac版本，供参考，如果你觉得比较困难，可以考虑使用postgreSQL，它比MySQL支持更多的函数(不过代码可能需要进行一定的改动)。而jupyter lab和jupyter notebook功能相同，界面相似，完全可以用notebook代替，我在Jupyter notebook使用技巧大全一文的最后有提到过二者的差别，感兴趣可以点击蓝字阅读。希望本文可以帮助各位读者在工作中进行pandas和Hive SQL的快速转换。本文涉及的部分hive 函数我在之前也有总结过，可以参考常用Hive函数的学习和总结。
第十章主要讲解的数据聚合与分组操作。对数据集进行分类，并在每一个组上应用一个聚合函数或者转换函数，是常见的数据分析的工作。
当以某种方式组合多个序列或数据帧时，在进行任何计算之前，数据的每个维度会首先自动在每个轴上对齐。 轴的这种无声且自动的对齐会给初学者造成极大的困惑，但它为超级用户提供了极大的灵活性。 本章将深入探讨索引对象，然后展示利用其自动对齐功能的各种秘籍。
表格是存储数据的最典型方式，在Python环境中没有比Pandas更好的工具来操作数据表了。尽管Pandas具有广泛的能力，但它还是有局限性的。比如，如果数据集超过了内存的大小，就必须选择一种替代方法。但是，如果在内存合适的情况下放弃Pandas使用其他工具是否有意义呢？
Python和R是数据科学生态系统中的两种主要语言。它们都提供了丰富的功能选择并且能够加速和改进数据科学工作流程。
如下销售数据中展现了三笔订单，每笔订单买了多种商品，求每种商品销售额占该笔订单总金额的比例。例如第一条数据的最终结果为：235.83 / (235.83+232.32+107.97) = 40.93%。
在了解Pandas之前，我很早就了解SQL，Pandas忠实地模拟SQL的方式使我很感兴趣。通常，SQL是供分析人员使用的，他们将数据压缩为内容丰富的报告，而Python供数据科学家使用的数据来构建（和过度拟合）模型。尽管它们在功能上几乎是等效的，但我认为这两种工具对于数据科学家有效地工作都是必不可少的。从我在熊猫的经历中，我注意到了以下几点：
对于来自SAS的潜在用户，本页面旨在演示如何在 pandas 中执行不同的 SAS 操作。
PySpark是一种适合在大规模数据上做探索性分析，机器学习模型和ETL工作的优秀语言。若是你熟悉了Python语言和pandas库，PySpark适合你进一步学习和使用，你可以用它来做大数据分析和建模。
之前和大家分享过一篇关于提速pandas的文章，主要是在pandas的具体操作用法上提出了一些改进，还在抱怨pandas运行速度慢？这几个方法会颠覆你的看法
pandas 在1.0版本发布后，更新频率非常高，今天我们看看关于频率统计的一个新方法。
与Excel相比，在Jupyter Notebook中逐行或逐组地查看数据集通常比较困难。一个有用的技巧是使用生成器并使用Ctrl + Enter而不是Shift + Enter来迭代地查看同一个单元格中的不同样本。
数据科学是一个跨学科领域，具有各种应用，并且在解决具有挑战性的社会问题方面具有巨大潜力。通过建立数据科学技能，您可以赋予自己参与和引领塑造您的生活和整个社会对话的能力，无论是与气候变化作斗争、推出多样性倡议，还是其他方面。
在Jupyter Notebook中通常很难像使用Excel一样难逐行或逐个组地浏览数据集。一个非常有用的技巧是使用 generator 生成器和Ctrl + Enter组合，而不是我们常规的Shift + Enter运行整个单元格。这样做就可以很方便地迭代查看同一单元格中的不同样本了。
本文介绍如何使用Python pandas库实现Excel中的SUMIF函数和COUNTIF函数功能。
对数据科学家来说，讲故事是一个至关重要的技能。为了表达我们的思想并且说服别人，我们需要有效的沟通。而漂漂亮亮的可视化是完成这一任务的绝佳工具。本文将介绍 5 种非传统的可视化技术，可让你的数据故事更漂亮和更有效。这里将使用 Python 的 Plotly 图形库（也可通过 R 使用），让你可以毫不费力地生成动画图表和交互式图表。
这是一个重要的话题，因为我们将在pandas中大量使用这些技术。Python列表索引和切片是指如何从列表或类似数组的对象中选择和筛选数据。这里讨论的技术也适用于元组。
关于这个问题，群里展开了激烈的讨论，最终经过梳理总结出了以下两个解决方法。一种是当做透视时直接使用参数margins，另一种是当无透视时手动造出汇总行。
Pandas是一个建立在NumPy之上的开源Python库。Pandas可能是Python中最流行的数据分析库。它允许你做快速分析，数据清洗和准备。Pandas的一个惊人之处是，它可以很好地处理来自各种来源的数据，比如:Excel表格、CSV文件、SQL文件，甚至是网页。
笔者最近需要使用pyspark进行数据整理，于是乎给自己整理一份使用指南。pyspark.dataframe跟pandas的差别还是挺大的。
在 Python 中，可以使用 pandas 和 numpy 等库对类似索引元素上的记录进行分组，这些库提供了多个函数来执行分组。基于相似索引元素的记录分组用于数据分析和操作。在本文中，我们将了解并实现各种方法对相似索引元素上的记录进行分组。
对数据集进行分类并对每个组应用函数，无论是聚合还是转换，都可能是数据分析工作流程的关键组成部分。加载、合并和准备数据集后，您可能需要计算组统计信息或可能需要为报告或可视化目的计算数据透视表。pandas 提供了一个多功能的groupby接口，使您能够以自然的方式切片、切块和总结数据集。
本文是【统计师的Python日记】第10天的日记 回顾一下： 第1天学习了Python的基本页面、操作，以及几种主要的容器类型。 第2天学习了python的函数、循环和条件、类。 第3天了解了Numpy这个工具库。 第4、5两天掌握了Pandas这个库的基本用法。 第6天学习了数据的合并堆叠。 第7天开始学习数据清洗，着手学会了重复值删除、异常值处理、替换、创建哑变量等技能。 第8天接着学习数据清洗，一些常见的数据处理技巧，如分列、去除空白等被我一一攻破 第9天学习了正则表达式处理文本数据 原文复习（点击
本文介绍了如何利用Python实现RFM分析。首先，介绍了RFM分析的基本概念，然后详细讲解了如何在Python中实现这个过程。主要包括计算RFM各项分值、归总RFM分值、根据RFM分值对客户分类以及具体的算法实现。最后，介绍了在Python中应用RFM分析的示例代码。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
