首页
学习
活动
专区
圈层
工具
发布

#内存

从 TensorSharp 视角解读 Ternary Bonsai 2 27B:当 1.72 比特的权重遇上 Hadamard 变换

张善友

代价是内存占用不再等于文件体积:无损展开会增大量化负载,PQ2_0 约多 6%,PTQ1_0 约多 29%。这是用内存换兼容性的明确取舍。

5200

BinSentry 自研二进制哨兵调试引擎接口规范

王瑞MVP

BinSentry 二进制哨兵,由 LYSHARK 独立自研,是一款运行于 Windows 平台的二进制动态调试引擎。该调试引擎从零手写开发,C++ 代码 2 ...

9610

Spark引擎如何加速海量离线数据计算?Spark引擎怎样调优参数减少算力消耗?

数智小帮手209

很多企业把调参数和找瓶颈当成两件事——先把网上抄来的一堆参数往Spark配置里塞,再指望靠加大内存、调高并行度来解决跑得慢的问题。但现实是:参数调了一堆,任务还...

9310

云服务器跑大模型怎么选配置?从1.5B到70B的完整参考

gavin1024

显存/内存需求:模型加载时需要将参数载入内存。大致估算公式:模型占用 ≈ 参数量 × 2GB(以 4bit 量化估算)。例如 7B 模型量化后约需 4~6GB ...

15410

量化交易需要什么样的云服务器配置?选型指南

gavin1024

选择量化交易的云服务器配置,核心是"按需匹配"——根据你的使用场景来定,不必盲目追求高配。入门和中低频策略实盘,够稳即可,低配实例(1~2 核、2~4G 内存)...

16810

DBA 经验:MySQL性能最重要的参数只有2个!

静儿

在日常的MySQL性能优化工作中,面对几百个配置参数,常常让人眼花缭乱。但经过多年的实战经验,我发现真正起决定性作用的参数其实只有两个。

14510

光进存储时代:PCIe 走光纤,硬盘装激光 ——OCP APAC 2026 希捷与铠侠报告深度解读

光芯

2026年8月11-12日,OCP APAC峰会在中国台北召开,“用光突破存储与内存边界”成为本次峰会值得关注的技术方向之一。AI算力的爆发式增长,让传统电互联...

13710

Hot Chips 2026|谷歌第八代TPU(附完整报告)

光芯

✅推理(TPU‑8i):内存墙是最大瓶颈!MoE、AI智能体大量KV‑Cache,更看重片上高速缓存、内存带宽、低延迟网络,对原始算力要求反而次要。

23210

CPO/NPO/可插拔怎么选?从OCP短距光互联SROI白皮书看AI光互联落地路径(上)

光芯

与此同时,AI加速器本身也面临着严峻的“内存墙”与“带宽墙”双重约束。一方面,万亿参数模型的训练内存需求远超单卡HBM容量;另一方面,计算核心的算力增长远快于内...

20310

Everything这么快,Windows自带搜索​为啥做不到?

派大星的数据屋

而电脑自带的搜索会遍历磁盘去索引文件内容、属性等,这个过程非常浪费时间和内存资源。

13400

负载测试:压测指标怎么看,瓶颈怎么定位?

高级葡萄Ya

要测试出有没有发生内存泄漏,至少要进行多次压测(如 3-5 次),每轮压测结束都能正常回落,再次压测能再次上升。还要注意隐形泄漏,如果每轮压测内存占用不一样、差...

11610

服务上线前,怎么估算 Pod 资源

高级葡萄Ya

  再进行两轮不同并发的压测,比如 10 并发和 50 并发,然后计算单请求内存:单请求内存 = (50 并发内存 - 10 并发内存) / (50 - 10)

9800

Hermes Agent 入门(二):能做什么不能做什么?3 分钟摸清边界

用户12724357

本地模型:在自己电脑上跑模型,免费但需要好硬件(至少 16G 内存,需要有 GPU/NPU 才能流畅运行)。

16110

谈资AI:今日AI圈这4件事值得聊

用户12439631

3月31日,世界数据组织正式成立。这个全球性的数据治理机构,旨在协调各国数据标准、促进数据跨境流动,保护数据安全。

10310

Trl Training 实用指南

用户4482004

13010

Rust Pro 实用指南

用户4482004

13310

银狐病毒变异升级:仿冒钓鱼 + 无文件攻击的识别与处置

hollyx

无文件攻击的识别则聚焦内存与进程行为。这类攻击不写磁盘,而是滥用 PowerShell、WMI、.NET 等系统自带工具在内存中执行恶意代码,或通过进程注入把载...

20710

实战经验帖:本地跑 Qwen3.5 踩过的坑

掘金安东尼

最近在折腾一套本地 AI 工作流(数字员工 / MCP / Agent 自动化),从一开始盲目追大模型,到最后收敛到合理方案,中间踩了不少坑,本篇记录分享,各位...

16510

银狐病毒怎么防?拆解最新钓鱼变种与无文件攻击的识别方法

hollyx

EDR 高级威胁检测:识破无文件与内存攻击。 对于无文件攻击这类传统查杀难以覆盖的手法,iOA-EDR 通过全面覆盖 ATT&CK 攻击链路,精准识别钓鱼、勒索...

21610

从 Arrow 到 Iceberg 到 Polaris 到 Ossie:语义标准化的最后一块拼图

本体与AI

这个痛点被 Wes McKinney(Pandas 作者)看透了。他和一帮人搞了 Apache Arrow:一种跨语言、跨进程的列式内存格式。关键设计很聪明——...

13000
领券