TensorFlow tfjs 0.10.3 近日正式发布，新版本主要有以下改进内容，AI科技大本营对其编译如下。 ▌资源
多年来，Java 平台上运行的代码一直受益于自动向量化——HotSpot C2 编译器中的superword优化，将多个标量操作打包到 SIMD（单指令多数据）向量指令中。这很好，但是这些类型的优化有些脆弱，具有天然的复杂性限制，并且受到 Java 平台规范的约束（例如，浮点运算的严格排序）。这并不是说这样的优化不再有价值，只是在某些情况下，明确代码的形状可以获得明显更好的性能。Lucene 中支持向量搜索的低级底层操作就是这样一种情况。
lscpu命令从sysfs、/proc/cpuinfo、或者某些适用于特定架构的库中收集数据。命令的输出会以人类易读的方式展示如下信息：cpu、线程、核心、插槽和Non-Uniform MemoryAccess (NUMA)节点的数量，也有cpu共享缓存，cpu的族号，运行模式，处理指令的速度，大小端，步进等信息
该命令适用于所有Linux系统，会显示出完整的版本信息，包括Linux系统的名称，如Debian、Ubuntu、CentOS等，和对应的版本号，以及该版本的代号，例如在Debian 8中将会显示代号jessie。
原文链接:https://rumenz.com/rumenbiji/linux-lscpu.html
lscpu 命令显示有关 CPU 架构的信息 lscpu 命令安装： -bash: lscpu: command not found #Ubuntu apt-get install util-linux #CentOS yum install util-linux #Fedora dnf install util-linux #OS X brew install util-linux #Docker docker run cmd.cat/lscpu lscpu lscpu 命令补充说明： l
lscpu 命令显示有关 CPU 架构的信息 lscpu 命令安装： -bash: lscpu: command not found #Ubuntu apt-get install util-linux #CentOS yum install util-linux #Fedora dnf install util-linux #OS X brew install util-linux #Docker docker run cmd.cat/lscpu lscpu lscpu 命令补充说明：
在前面的一篇文章《TensorFlow.js 微信小程序插件开始支持 WebAssembly》中，我们谈到了 Tensorflow.js（tfjs） 的新后端 WebAssembly（WASM）。这篇文章进一步挖掘 tfjs WASM 后端的更多信息，并探讨一下 tfjs 为何要引入 WASM 后端。
最近公司给我们分配了2台虚拟机服务器用于强化学习训练，我们在虚拟环境中安装好了TensorFlow环境后，在import tensorflow时发现报了下面的错误：
lscpu 从伪文件系统（sysfs）、/proc/cpuinfo 和任何可用的特定体系架构库（如 Powerpc 上的 librtas）收集 CPU 架构信息。命令输出可读，也可用于分析。输出内容包括：CPU、线程、内核的数量，以及非统一存储器存取（NUMA）节点。此外还包括关于 CPU 高速缓存和高速缓存共享的信息，家族、模型、bogoMIPS、字节顺序和步进（stepping）。
Apache Hive是Hadoop之上最流行的数据仓库引擎。提升Hive性能的功能可以显著提高集群资源的整体利用率。Hive使用一连串的运算符来执行查询。这些运算符包括MapTask，ReduceTask或SparkTask，它们在查询执行计划中进行调度。以前这些运算符被设计为每次处理一行数据。一次处理一行导致运算符效率不高，因为需要许多虚函数调用来处理扫描的每一行。另外，如果运算符一次只处理一行，不能利用CPU的SIMD指令集（例如SSE或AVX）进行加速。本文主要介绍如何在Hive中利用基于SIMD的优化，使Apache Parquet表的查询运行效率提升26％以上。
最近业余时间做些创新探索，在微信小程序上实现找到纸或笔记本，定位，然后取到纸上的简笔画，之后进行简笔画识别，找到对应位置（之后可以在此位置上加载对应3d模型，实现ar效果, 对应ar官方案例：https://github.com/bbSpider/miniprogramThree）
指令是计算机程序给计算机处理器的命令。在最低级别上，每条指令是一个 0 和 1 的序列，描述了计算机要执行的物理操作。在计算机的汇编器语言中，每条语言语句一般对应一条处理器指令。CPU 依靠指令来计算和控制系统，指令执行能力是衡量 CPU 性能的重要指标。指令集也与 CPU 效率有密切关系。
最近公司给我们分配了2台虚拟机服务器用于强化学习训练，我们在虚拟环境中安装好了TensorFlow环境后，在import tensorflow时发现报了下面的错误： 于是我去Google搜索了下出现这个错误的原因，发现是因为我们服务器的CPU不支持AVX指令集导致的，而使用pip安装的TensorFlow需要依赖AVX指令集，为了确认我们的CPU是否真的不支持AVX指令集，我使用cat /proc/cpuinfo 命令查看了下目前CPU指令集支持情况，发现我们的CPU果然不支持AVX指令集。 又不支持
我们在网上可以看到大量优秀的摄影作品，如何利用机器从网上获取大量的图片，从中提取出最佳的摆拍姿势供拍照时参考？首先我们得有大量的优秀摄影图片。然后，需要思考如何获得摄影作品中人物姿势的数据？待下文慢慢道来：
宿主机：32g内存，8g swap，需要保证每台机器至少4g内存+8g swap，否则不能安装。。。
一些高性能计算应用需要CPU支持某些特性，如SSE4.2、 AVX、 AVX2、LZCNT、 FMA、 BMI等。OpenStack 默认的配置项为了保持虚拟机能够在不同的宿主机之间顺利迁移，没有特别指定CPU模式，而采用的是兼容模式。
我们知道，微信小程序由一个描述整体程序的 app 和多个描述各自页面的 page 组成。小程序主体部分由 app.js、app.json、app.wxss三个文件组成，页面 page 则通常包含 js、wxml、json、wxss 文件。这些文件都是文本文件，由微信小程序引擎解析并解释执行。
本文作者高洋，目前在商汤科技高性能计算组担任总监，对于并行计算颇有心得。本篇为高洋写给高性能并行计算的初学者，核心内容是教初学者用科学手段测量硬件的理论指标。有了这个指标，就能对硬件的能力上限有更深入了解，知道优化工作做到了什么程度，是否还有上升的空间。 此篇干货满满，如果你对高性能计算感兴趣，本篇绝对不可错过。 这个系列的第一篇文章，先谈点轻松的，常用CPU架构浮点峰值的理论计算和实测。做性能优化，先要知己知彼，了解自己优化的CPU的能力上限。这样优化做到什么程度，心里会有数。 本文只介绍Inte
选自Medium 作者：Mike Shi 机器之心编译 参与：Pedro、刘晓坤 Tensorflow.js 是一个能在你的浏览器里运行的全新深度学习库。本文将会介绍从原生 Tiny YOLO Darknet 模型到 Keras 的转换，再到 Tensorflow.js 的转换，如何利用其作一些预测，在编写 Tensorflow.js 遇到的一些问题，以及介绍使用联网摄像头/图像轻松地进行预测检测。 项目地址：https://github.com/ModelDepot/tfjs-yolo-tiny YOL
对每个人而言，真正的职责只有一个：找到自我。然后在心中坚守其一生，全心全意，永不停息。所有其它的路都是不完整的，是人的逃避方式，是对大众理想的懦弱回归，是随波逐流，是对内心的恐惧 ——赫尔曼·黑塞《德米安》
前文《[x86][linux]AVX512指令引起的进程crash》中，介绍了一次因为avx512指令导致的进程crash。
Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2大概意思是安装的tensorflow版本不支持cpu的AVX2编译 可能是因为安装时使用的pip install tensorflow ，这样默认会下载X86_64的SIMD版本。 查找解决办法后，有以下两种办法：
选自 Intel Blog 作者：Andres Rodriguez、Niveditha Sundaram Caffe2 作为 Caffe 重构出的深度学习框架，一经发布便引起了业内极大的关注。机器之心也对 Caffe2 进行了跟踪报道。昨日，英伟达的一篇技术博客让我们了解 Caffe2 结合 GPU 带来的性能提升。这篇文章对 Caffe2 在 CPU 的支持下带来的性能改进进行了介绍，希望能为大家应用该框架提供帮助。 每一天，在世界的各个角落都在产生越来越多的信息——文本、图片、视频等等。为了能让人们更好
众号回复：超级节点，获取入群方式。欢迎加入，前端玩转AI群，微信公众号回复：超级节点，获取入群方式。欢迎加入，前端玩转AI群，微信公众号回复：超级节点，获取入群方式。微信公众号回复：超级入群方式。
https://playground.tensorflow.org/ #tensorflow网页版 中文官方文档：http://cwiki.apachecn.org/pages/vie
安装TensorFlow（CPU版本），使用pip install tensorflow安装，安装一切顺利，但是在跑一个简单的程序时，遇到如下情况：
Linux 首席架构师，当今全球最著名程序员之一 Linus Torvalds 最近在邮件列表中的言论再次引起一片哗然。
在上期，我们为大家介绍了AWS的Nitro架构。Nitro架构实质上是利用Nitro Card和Nitro Hypervisor，创建一个资源池，Nitro Hypervisor向Nitro Card下发指令，Nitro Card实现虚拟机在宿主机上的创建，调度和销毁，从而实现宿主机上几乎所有的CPU和内存资源都可以用于售卖给租户。
本文翻译自：Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX AVX2
近日，天才程序员Justine Tunney发推表示自己更新了Llamafile的代码，
这个错误表示你的CPU支持AVX和AVX2指令集，但是你所使用的TensorFlow二进制文件没有被编译以支持这些指令集。 在这篇博客文章中，我们将介绍如何解决这个问题。
Chromium是一个伟大的、庞大的开源工程，很多值得我们学习的地方。 前面写道： 《跟Google学写代码–Chromium/base–stl_util源码学习及应用》 《跟Google学写代码–Chromium/base–windows_version源码学习及应用》 今天分享cpu相关的操作。 先看看这个枚举： enum IntelMicroArchitecture { PENTIUM, SSE, SSE2, SSE3, SSSE3, SSE41
爱可生 DBA 团队成员，擅长故障分析和性能优化，文章相关技术问题，欢迎大家一起讨论。
LiveVideoStack正在招募编辑/记者/运营，与全球顶尖多媒及技术专家和LiveVideoStack年轻的伙伴一起，推动多媒体技术生态发展。了解岗位信息请在BOSS直聘上搜索“LiveVideoStack”，或通过微信“Tony_Bao_”与主编包研交流。
当地时间6月22日，英特尔（Intel）官方宣布，美国能源部阿贡国家实验室已经完成基于英特尔CPU及GPU的新一代超算“Aurora”的安装工作，今年晚些时候上线后将提供超过2 exaflops（2百亿亿次计算每秒）的FP64浮点性能，将超越隶属于美国能源部橡树岭国家实验室的“Frontier”，有望成为全球第一台理论峰值性能超过2 exaflops的超级计算机。
由此可知，Intel i7-7700CPU支持AVX2指令集，但是不支持AVX-512指令集。 AVX512-IFMA为Intel AVX512指令集的一个extension扩展集，主要用于加速整数运算。 根据https://medium.com/@hdevalence/even-faster-edwards-curves-with-ifma-8b1e576a00e9 可知，其基于AVX512-IFMA的实现是AVX2速度的1.5倍。
英特尔开放式图像降噪是一个开源库，其中包含高性能、高质量的去噪滤波器，适用于使用光线追踪渲染的图像。
针对对一个问题，OpenCV开发包包含的东西太多了，大而全，而它们的项目可能需要只是一点点，需要的是小而精，其实这个很容易解决，这个就是要求做好OpenCV的模块裁剪与移植，通过CMake自己编译，关于这个问题，我也写过一篇文章来介绍，感兴趣可以点击这里：
前言：因为新型冠状病毒导致疫情，最近几日各种新闻和消息满天飞。疫情之下不易出行、不宜聚会；宜宅在家、宜阅读、宜学习、宜写代码。鉴于此，本系列第2篇提前发布。希望大家过一个充实的春节。
刘兆瑞，腾讯云高级研发工程师，负责腾讯明眸极速高清，画质重生等产品。专注于codec优化，画质增强等技术。 背景和问题 随着流量资费的降低和带宽的增加，视频成为人们获取信息越来越重要的方式，随之而来的是云点播、视频处理等视频相关业务的飞速发展，而视频转码平台作为云点播、视频处理的基础产品，面临着高并发、高 SLA、高压缩率等等多样的需求，面临着极大的挑战。 对于一般流程来说，我们面临着下面几个挑战和诉求： 不同的转码产品对核心数的需求不同，比如：极速高清、延时敏感的业务，需要大核心来保证复杂运算的稳定性，
通常我们运行TensorFlow会报告如下信息，意思是你的CPU支持AVX2指令集，但TensorFlow的二进制版本没有使用
正好可以趁这段时间学习学习，于是我还是沉下心搞了一下技术研究，接下来就说说从年前宅到现在折腾的东西吧。
以chatglm-6b的支持为例，函数入口在 https://github.com/ztxz16/fastllm/blob/master/src/models/chatglm.cpp#L626 ，这里的 input 就是输入的 context（string类型）。然后 https://github.com/ztxz16/fastllm/blob/master/src/models/chatglm.cpp#L633 这行代码对 input 进行 tokenizer encode并构造好inputIds，再构造好attentionMask之后就可以给Forward函数推理，拿到推理结果之后再使用tokenizer进行decode得到输出。
获取系统参数对性能测试至关重要，可以评估系统性能、资源利用率，有助于优化系统配置、调整资源分配，并发现潜在的性能瓶颈。本文将持续更新记录一些系统参数的查询方法。
11月10日消息，英特尔今天正式推出了全球首款配备 HBM 内存的 x86 CPU——Intel Xeon Max 系列CPU，其基于代号Sapphire Rapids-HBM芯片构建。同时，英特尔还推出了基于Ponte Vecchio构建的全新MAX系列GPU。英特尔表示，新产品将为美国能源部阿贡国家实验室的Aurora超级计算机提供动力。
这几天研究了一下FCN(全卷积网络)，由于电脑配置不够，用GPU训练直接报OOM（内存溢出）了， 于是转战CPU，当然，这样会很慢，之后会继续搞一下，减小一下网络的复杂度，对一些参数设置一波，看能不能正常跑下来。
作者 | 刘文志 责编 | 何永灿 随着深度学习（人工智能）的火热，异构并行计算越来越受到业界的重视。从开始谈深度学习必谈GPU，到谈深度学习必谈计算力。计算力不但和具体的硬件有关，且和能够发挥硬件能力的人所拥有的水平（即异构并行计算能力）高低有关。 一个简单的比喻是：两个芯片计算力分别是10T和 20T，某人的异构并行计算能力为0.8，他拿到了计算力为10T的芯片，而异构并行计算能力为0.4的人拿到了计算力为20T的芯片，而实际上最终结果两人可能相差不大。异构并行计算能力强的人能够更好地发挥硬件的能力，而
minbpe 是用于 LLM 分词中常用的字节对编码（BPE）算法的最小、干净代码。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
