• 登录账户
参与讨论

三途之河的渡船人

2018年2月4日 下午4:21    1,232 次浏览
                 兴趣 兴趣 动漫

参与讨论

(Participate in the discussion)

参与讨论

点击填写用户信息

没有发现评论

暂无评论

B分之A
这家伙很懒，什么都没写
文章 306
标签 444
说说 2
查看更多

目录 Toc.

       

    随机友链 Friends.

    • imbytecat   Deleted Site   大佬论坛   Albert_xwz   ZLA 小站   OneFour 查询   ZMTU   编程随想   夏槿的小屋   阿珏酱のBlog  
      查看全部 →

    说说 Notes.

    • 本站第300篇文章成就达成！

      2026年5月29日
      查看详情

    • 博客复活中...目前进度：

      √ 文章恢复

      □ 说说恢复

      √ 菜单恢复

      √ 社交链接恢复

      √ 分类目录恢复

      2026年2月5日
      查看详情
    好像就这么多
    B分之A
    这家伙很懒，什么都没写
    返回

    评论 Comments.

    • 口袋学堂
      2026年10月29日
      写得很清楚。顺便提一句，V1 引擎的调度器不再区分 prefill 和 decode 阶段，统一按每个请求的 num_computed_tokens 去追赶分配 token 预算，chunked prefill 也是默认开启的。读 scheduler 时可以留意一下这和 running first 是怎么结合的：running 里的请求先拿预算，剩下的预算再按块分给 waiting 里的长 prompt，这也能帮助理解 PD 分离为什么要把 prefill 单独拆出去。 对 vLLM 部署感兴趣的话，可以看看口袋学堂的 Production LLM Deployment: vLLM, FastAPI, Modal and AI Chatbot（Udemy 课程，带中英文字幕） https://www.koudaizy.com/tutorials/ai-in-production-a-crash-course-in-modal-cloud-for-llms-inference/
    • 1
      2026年10月25日
      能找到这域名的也是人才😋😋😋
    • 兴起百年
      2026年06月11日
      ollama发展越来越快了，我也在学习中，向博主学习
    • B分之A
      2026年06月09日
      @夏槿 哈哈，偶尔还是要学点新东西，折腾下

    关于 About.

    欢迎来到A/B（B分之A）的博客，除了B分之A以外，还有朹方project，笨蛋军团，打工战士...这些都是我的网名。 本站采用Wordpress+魔改主题搭建，站点的LOGO的人物是使用Nano Banana Pro生成的！是露米娅与铃羽的混合体。本博客已不稳定地运营12年。 毕业院校：SCUT 工作地：东莞，华为 QQ: 250614271 Wechat: aoverb tg: baitosenshi 邮箱: hiwu(a)vip.qq.com

    Copyright © 2014-2026 A/B's Blog

    粤ICP备2025369001号

    本站主题：iEmo魔改版