首页
学习
活动
专区
圈层
工具
发布

硬盘太慢!内存太慢!网络太慢!全靠我来拯救!

浏览器缓存 浏览器面对的问题是网络访问的速度远远低于本地访问的速度,每次都访问网络开销太大。 于是它就请我增加了一个中间层:开辟“缓存”区域,缓存JS, HTML, CSS,图片等各种文件。 ?...当你在地址栏中输入网址,按回车以后 浏览器会使用Expires,max-age来查看本地缓存的内容是否失效,如果没有,就直接使用 2....如果没有,那就用本地缓存的文件,如果有更新,用服务器端最新的。 3. 当你用Ctrl + F5强制刷新的时候 不使用任何缓存,向服务器发出全新请求。...浏览器缓存和CDN是配合使用的, 浏览器的本地缓存失效以后,就需要向后端服务器来获取了,但是如果一个系统有CDN,那浏览器还可以就近访问CDN。...Linux Page Cache 在操作系统的世界中,时间是按纳秒,微秒为单位的,虽然内存和硬盘都在同一台机器中,没有网络开销,但是硬盘实在是太慢,比内存慢几万倍, 内存等不及。

1.5K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Mac 跑本地大模型太慢?MTP 这个开关一开,生成速度直接翻倍

    如果你用Mac跑过本地大模型,下面这个场景你一定不陌生:问它一个稍微复杂的问题,然后盯着屏幕,看字一个一个往外蹦。蹦到第十个字的时候,你已经想切回云端API了。...本地大模型默认是一个字一个字"现想现说"的,这个机制叫自回归生成。更扎心的是,它每蹦一个字,都要把整个模型的权重从显存里重新读一遍——GPU核心大部分时间都在等数据,算力利用率往往只有两三成。...这个技术叫MTP(Multi-TokenPrediction,多令牌预测),是这两年本地模型圈特别值得开的一个加速开关,实测生成速度能提升2倍左右,而且不用换显卡、不用换机器。...三步搞定oMLX是专为AppleSilicon打造的本地大模型推理服务器,基于苹果自家的MLX框架,菜单栏管理加网页面板,GitHub上已有2万多星。...如果觉得有用,欢迎关注我——这个账号专注Mac本地AI的实用玩法,不写水文,只讲能落地的方法。你的Mac是什么配置?开了MTP之后速度提升了多少?欢迎在评论区聊聊,一起交流调优心得。

    18700
    领券