首页
学习
活动
专区
圈层
工具
发布
首页标签高并发

#高并发

45. Async Engine 设计:构建高并发推理服务的核心

安全风信子

作者:HOS(安全风信子) 日期:2026-01-19 来源平台:GitHub 摘要: 本文深入剖析vLLM Async Engine的设计原理与实现细节...

8610

从雪崩到稳如磐石:电商秒杀热点库存更新的高并发优化实战全解析

用户7462196

高并发下的热点更新问题,本质是资源争用与流量洪峰的矛盾。试图让 MySQL 单点硬抗万级并发,无异于螳臂当车。真正的解法,在于分层卸载、分散竞争、异步兜底。

16810

一次高并发采集系统的架构设计评审记录

jackcode

评审主题:高并发数据采集系统设计 核心争议:当前采集失败率高,是代码质量问题,还是系统架构问题? 评审结论:这是一个典型的架构失配问题,而非代码层缺陷。

8310

从线程池到全局限流:并发失控的根因分析

jackcode

很多采集系统的并发失控,并不是因为工程师不知道要“控制并发”,而是因为并发从来没有被当成一种“平台级资源”来设计。

11110

从Java全栈工程师视角看微服务架构下的高并发优化

用魔法才能打败魔法

本文讲述了一位Java全栈工程师在互联网大厂面试中的技术问答过程,涵盖了JVM、Spring Boot、Vue3、微服务、Redis、安全框架及Kafka等多个...

10610

高并发API防护方案选型建议:腾讯云API安全全面护航

gavin1024

随着数字化转型加速,高并发场景下的API安全成为企业核心挑战。本文深入解析高并发API防护方案选型要点,重点推荐腾讯云API安全产品,涵盖其自动发现、限流防护、...

9710

高并发下如何防止重复下单?

苏三说技术

在电商系统的实战中,我见过太多因重复提交导致的资损事故——用户一次点击,系统却创建了多个订单,导致库存错乱、用户重复支付、客服投诉爆棚。

23910

当分层架构遇到极端高并发:飞猪为何在双11流量洪峰前选择“极致精简”?

深度学习与Python

自 7 月以来,随着飞猪深度融入阿里巴巴中国电商生态,淘宝首页增加飞猪的一级入口等,飞猪的整体流量实现快速增长。在众多营销玩法中,优惠券是承接核心用户流量、促进...

16310

高并发内存池(一):项目简介+定长内存池的实现

用户11719958

这个项目是实现一个高并发的内存池。它的原型是google的一个开源醒目tcmalloc,tcmalloc全称Thread-Caching Malloc,即线程缓...

11010

Go无锁编程:解锁高并发服务的性能密码

技术圈

在Go语言高并发开发领域,互斥锁(sync.Mutex)是解决资源竞争的基础工具,但在百万级 QPS 的微服务场景中,频繁的加锁解锁会引发上下文切换与锁竞争,成...

17210

Go语言Web开发:大材小用还是恰如其分?

技术圈

Go语言最大的优势在于其独特的并发编程模型。基于Goroutines和Channels的并发原语,使得编写高并发Web服务变得异常简单。Goroutines作为...

17910

Spring WebFlux:响应式编程正是现代高并发系统的解决方案!

技术圈

在当今高并发、大数据量的时代,传统的同步阻塞式Web框架逐渐暴露出性能瓶颈。Spring官方在Spring 5中推出了全新的响应式Web框架——WebFlux,...

31710

Go语言微服务框架选型指南,有没有你用过的?

技术圈

特点:自带代码生成工具goctl,支持一键生成Go代码。 适用场景:对性能要求高的高并发场景,特别是国内企业项目。

38110

Go语言高并发场景下HTTP连接池实战:参数配置与性能提升指南!

技术圈

在日常开发中,我们经常使用Go语言进行HTTP通信。但在高并发场景下,简单的http.Get()或http.Post()可能成为性能瓶颈。每次请求都建立新连接,...

21610

Netty 连接管理优化:如何支持 10万+ 并发连接?

Kiyra

在 IM 系统中,高并发连接是核心挑战。本文介绍 AQChat 如何通过 Netty 连接管理优化支持 10万+ 并发连接。

16210

每秒百万级消息处理?腾讯云CKafka专业版助你轻松应对高并发场景

gavin1024

13210

当“同时发生”成为攻击武器

Neolnfra

假设我们正在测试一个在线购物 Web 应用程序的安全性。这时可能会引出许多问题:我们能否用一张 10 美元的礼品卡支付 100 美元的商品?我们能否多次在购物车...

29120

并发控制的下一步:让系统自己决定速度

jackcode

我们会在配置文件里写下一个数字,比如 10、20、50,然后根据服务器配置或“经验”进行微调。这个阶段的并发模型有几个典型特征:

11210

仓颉并发集合实现:鸿蒙高并发场景的容器化解决方案

工藤学编程

在鸿蒙生态的高并发开发中,共享数据的安全访问是核心挑战之一。传统集合(如列表、映射)因未考虑并发场景,多协程同时操作时极易出现数据不一致问题。仓颉作为鸿蒙生态的...

11010
领券