pybind11是一个轻量级的“Header-only”的库，它将C++的类型暴露给Python，反之亦然。主要用于将已经存在的C++代码绑定到Python。pybind11的目标和语法都类似于boost.python库。利用编译时的内省来推断类型信息。
最近在训练大规模数据时，遇到一个【添加复杂数据增强导致训练模型耗时长】的问题，在学习了 MMDetection 和 MMCV 底层关于 PyTorch 的 CUDA/C++ 拓展之后，我也将一些复杂数据增强实现了 GPU 化，并且详细总结了一些经验，分享此篇文章和工程，希望与大家多多交流。
IEG 自研引擎 CE 最早支持的脚本是 Lua, 在性能方面, Lua是有一定优势的. 但除此之外的工程组织, 以及现在即将面临的 AI 时代的语料问题, Lua 都很难很好的解决. 在这种情况下, 支持工程组织和语料更丰富的 Python, 就成了优先级较高的任务了. 由于Python的虚拟机以及相关的C API较复杂, 我们选择的方式是将 pybind11 - 一个Python社区知名度比较高, 实现质量也比较高的 Python 导出库与我们引擎的 C++ 反射适配的整合方式, 这样可以在工作量较小的情况下, 支持好 Python 脚本, 同时也能比较好的利用上引擎的C++反射实现. 在做好整合工作前, 我们肯定需要先较深入的了解 pybind11 的相关实现机制, 这也是本篇主要讲述的内容.
目前AI算法开发特别是训练基本都以Python为主，主流的AI计算框架如TensorFlow、PyTorch等都提供了丰富的Python接口。有句话说得好，人生苦短，我用Python。但由于Python属于动态语言，解释执行并缺少成熟的JIT方案，计算密集型场景多核并发受限等原因，很难直接满足较高性能要求的实时Serving需求。在一些对性能要求高的场景下，还是需要使用C/C++来解决。但是如果要求算法同学全部使用C++来开发线上推理服务，成本又非常高，导致开发效率和资源浪费。因此，如果有轻便的方法能将Python和部分C++编写的核心代码结合起来，就能达到既保证开发效率又保证服务性能的效果。本文主要介绍pybind11在腾讯广告多媒体AI Python算法的加速实践，以及过程中的一些经验总结。
可以把 pybind11 看成是一个胶水，它可以把 C/C++ 语言定义的对象，方便的导出成 python 认识的格式，这样 python 就能直接用了。
「上一篇教程：」 https://godweiyang.com/2021/03/18/torch-cpp-cuda
C/C++ 工程提供 Python 接口，有利于融合进 Python 的生态。现在 Python 在应用层，有其得天独厚的优势。尤其因为人工智能和大数据的推波助澜， Python 现在以及未来，将长期是最流行的语言之一。
> 系统模块就是一个python的程序脚本，专门提供给我们自己的程序使用。它们是在安装好python环境时，就已经存在的，需要的时候可以使用 import 导入到程序中使用。
当我们编写 C++ 库的封装器通常涉及使用一种跨语言的接口技术，比如使用C接口或者使用特定的跨语言库，比如SWIG（Simplified Wrapper and Interface Generator）或者Pybind11。这里我将简要介绍如何使用Pybind11来封装一个C++库，以便在Python中使用。
使用cython编译pyx文件输出c和h文件（带cdef public等定义才会输出头文件）,pyx添加
在正式开始前，我们需要了解 PyTorch 如何自定义module。这其中，最常见的就是在 python 中继承torch.nn.Module，用 PyTorch 中已有的 operator 来组装成自己的模块。这种方式实现简单，但是，计算效率却未必最佳，另外，如果我们想实现的功能过于复杂，可能 PyTorch 中那些已有的函数也没法满足我们的要求。这时，用 C、C++、CUDA 来扩展 PyTorch 的模块就是最佳的选择了。
它使用 xmake.lua 维护项目构建，相比 makefile/CMakeLists.txt，配置语法更加简洁直观，对新手非常友好，短时间内就能快速入门，能够让用户把更多的精力集中在实际的项目开发上。
python生成exe文件运行闪退解决方法： 使用pyinstaller生成.exe文件：
3. 打开pycharm的底部的【Terminal】输入：pyinstaller --console --onefile ······.py，
PyTorch 提供了大量与神经网络、任意张量代数、数据处理和其他目的相关的操作。然而，您可能仍然需要更定制化的操作。例如，您可能想使用在论文中找到的新型激活函数，或者实现您作为研究的一部分开发的操作。
2、安装Pyinstaller，在cmd窗口，输入指令“pip install pyinstaller”进行网络安装、等待并且确认pyinstaller安装完毕
大家好，我是Zheng_Bicheng。很高兴和大家分享黑客松比赛中“No.80瑞芯微RK3588：通过Paddle2ONNX打通5个飞桨模型的部署”任务的一些心得体会。 RKNPU2是瑞芯微Rockchip推出的针对RK356X/RK3588/RV1103/RV1106的C++推理工具。在参加黑客松比赛时，FastDeploy仓库[1]还没有集成RKNPU2的引擎。开发者需要使用RKNPU2从头编写代码。在参加完黑客松之后，我为FastDeploy仓库贡献了RKNPU2的后端推理引擎的代码，现在能直接使用FastDeploy快速开发基于RKNPU2的代码。本次教程将以贡献SCRFD模型[2]为例，教你如何给FastDeploy贡献代码。
为什么又要开一个新坑？原因是，最近在做的项目都是和MLIR有关，并且发现自己已经在MLIR的研发道路上越走越远了。刚刚好前段时间大家都在跟风各种GPT，就去看了看openai目前放出来的产品，无意间发现了triton这把瑞士军刀。其实早在一些年前就听过triton，那会的triton代码还没有被MLIR进行重构，代码内部的某些逻辑写的也没有看的很明白，结合"Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations"这篇论文其实也没有看出太多新的东西。这次在重新捡起来看的时候，发现其中很多不错的优化，其实还是抱着学习如何设计MLIR的Dialect来在GPU上生成高性能的代码为初衷，来对triton进行一个深入的分析。
SWIG (Simplified Wrapper and Interface Generator，简化封装和接口生成器) 是一个开源工具，用于将C/C++代码转换为各种高级编程语言的接口代码。它允许开发人员在Python等脚本语言中直接使用底层的C/C++代码，以提高开发效率和灵活性。
深度强化学习（Deep Reinforcement Learning，DRL）一直是近年来人工智能的一些重大突破的核心。然而，尽管 DRL 有了很大的进步，但由于缺乏工具和库，DRL 方法在主流解决方案中仍然难以应用。因此，DRL 仍然主要是以研究形式存在，并没有在现实世界看到许多采用机器学习的应用方案；而解决这个问题就需要更好的工具和框架。
RxSwift 是 Reactive Extensions 标准的 Swift 特定实现，它提供了 Observable 接口来表达计算的通用抽象。该项目旨在为 Rx API 提供真正以 Swift 为先的 API，并允许轻松地组合异步操作和数据流。其主要功能包括 KVO 观察、异步操作、UI 事件等各种数据流都统一封装成序列进行处理，使得 Rx 简单、优雅且强大。
Python作为一个解释器，一个程序，如果不导入任何外部模块或包，就做不了什么。理解Python如何导入模块和包将在几乎所有的场景中都很有帮助。
最近在浅尝Pytorch的源码，利用业余时间去品读品读，看着看着，第一次对Pytorch有了重新的认识。 原来现在Pytorch的版图是如此之大，Pytorch已经不是一年前的Pytorch了。
今天，PyTorch 1.5 宣布上线，此版本主要包括几个新的 API 的添加和改进。新版 PyTorch 包括对 C++前端的重大更新，用于计算机视觉模型的「channels last」存储格式，以及用于模型并行训练的分布式 RPC 框架的稳定版本。该版本还提供了针对自动求导机制中黑塞和雅可比的新 API，以及受 pybind 启发，允许用户创建自定义 C++类的一个 API。另外，torch_xla 已可在 PyTorch 1.5 版中使用，并在 1.5 版本中进行了测试，可提供成熟的 Cloud TPU 体验。
作为一名新手Python程序员，你首先需要学习的内容之一就是如何导入模块或包。但是我注意到，那些许多年来不时使用Python的人并不是都知道Python的导入机制其实非常灵活。在本文中，我们将探讨以下话题：
之前的文章中：Pytorch拓展进阶(一)：Pytorch结合C以及Cuda语言。我们简单说明了如何简单利用C语言去拓展Pytorch并且利用编写底层的.cu语言。这篇文章我们说明如何利用C++和Cuda去拓展Pytorch，同样实现我们的自定义功能。
作者｜Sam Liu，Second State 工程师，CNCF WasmEdge 维护者 & Miley Fu，CNCF 大使，WasmEdge DevRel
今天在研究PyTorch中Tensor的一些操作的时候，发现其底层Tensor的操作都是用C++写的，并使用pybind11进行C++和Python的桥接。所以，我就想着探索一下Python中如何调用C++代码？
作为 C++ 中与 Eigen 并驾齐驱的一大科学计算库， Armadillo 因其简单易用的特性深受广大程序员和科学家的喜爱，也获得了 Facebook、NASA、Boeing、Siemens、Deutsche Bank、MIT、 CMU、Stanford 等公司和高校的广泛使用。此外， Armadillo 的主作者和 Rcpp 的主作者联合开发了 RcppArmadillo，作为 R 语言中的主要科学计算库，在 Github 每月下载量高达 97.2 万次。除此以外，Armadillo 还在著名开源机器学习库 mlpack 中被用作主要的依赖库之一， 获得了极高的知名度。
最近因为工作需要，学习了一波CUDA。这里简单记录一下PyTorch自定义CUDA算子的方法，写了一个非常简单的example，再介绍一下正确的PyTorch中CUDA运行时间分析方法。
pip安装的话，找到自己安装python的路径，在安装路径下会有一个文件夹，比如我的安装路径是c盘
到目前为止，已经学过了如何在有漏洞的目标上获取立足点的方法，接下来将继续学习后渗透相关的知识，这一节就来学习学习 beacon 的管理、会话传递等。
Matterport3DSimulator 可以使用视觉信息（RGB-D 图像）开发与真实 3D 环境交互的 AI Agent，它主要应用于深度强化学习的研究以及自然语言处理和机器人技术的结合技术。
虚幻引擎已经拥有了蓝图和C++进行开发，为什么还需要Python呢？python相对蓝图和C++有什么优势呢？我认为有以下几点原因： 1、python语言入门简单 2、在虚幻中引入python，可以把海量python生态的库引入到虚幻，这大大加快了开发效率 3、python可以实现虚幻编辑器中自动化工作流程 4、Python目前已经成为制作流程和3D应用程序之间的互操作性的首选语言
模块，在Python可理解为对应于一个文件。在创建了一个脚本文件后，定义了某些函数和变量。你在其他需要这些功能的文件中，导入这模块，就可重用这些函数和变量。一般用module_name.fun_name，和module_name.var_name进行使用。这样的语义用法使模块看起来很像类或者名字空间，可将module_name 理解为名字限定符。模块名就是文件名去掉.py后缀。
这里有实战项目、入门教程、黑科技、开源书籍、大厂开源项目等，涵盖多种编程语言 Python、Java、Go、C/C++、Swift...让你在短时间内感受到开源的魅力，对编程产生兴趣！
1、os模块，和系统相关的，比如获取路径、目录、文件夹之类 常用方法： os.getcwd() #获取当前工作目录，即当前Python脚本工作的目录路径 os.rename('oldname','new')#重命名文件/目录 os.path.abspath(path) #返回path规范化的绝对路径，含文件名的 os.path.dirname(path) #获取文件所在的文件夹名称 os.chdir("dirname") #改变当前脚本的工作目录，相当于shell下的cd os.path.join(path
CDLL(“dll_name.dll”,winmode=0)加载dll，还有WINDLL、PYDLL
在大多数编排得好一点的脚本或者程序里面都有这段if __name__ == '__ main__ ': ，虽然一直知道他的作用，但是一直比较模糊，收集资料详细理解之后与大家分享。
Python作为解释型语言，发布即公开源码，虽然是提倡开源但是有些时候就是忍不住想打包成exe，不仅仅是为了对代码进行加密，而是为了跨平台。防止有些没有安装py环境的电脑无法运行软件。
多编程语言都有一个特殊的函数，当操作系统开始运行程序时会自动执行该函数。这个函数通常被命名为main()，并且依据语言标准具有特定的返回类型和参数。另一方面，Python解释器从文件顶部开始执行脚本，并且没有自动执行的特殊函数。
在Python中有一个概念叫做模块（module），这个和C语言中的头文件以及Java中的包很类似，比如在Python中要调用sqrt函数，必须用import关键字引入math这个模块，下面就来了解一下Python中的模块。 说的通俗点：模块就好比是工具包，要想使用这个工具包中的工具(就好比函数)，就需要导入这个模块 1、import 在Python中用关键字import来引入某个模块，比如要引用模块math，就可以在文件最开始的地方用import math来引入。 形如： importmodule1,m
1.import 模块名：导入模块中的所有内容（引入多个用逗号分隔） import random,time
如果你制作视频，一定会碰到配乐的问题。虽然网上找的一些免费配乐能勉强满足需求，但是如果有个专属的配乐生成器，根据你的视频画面生成对应配乐是不是不错呢？audiocraft 也许能帮助你，把相关画面用文本描述一下，它就能生成相对应的音乐。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
