• 登录账户
  • V家

    • R.I.P wowaka

      2019年4月8日 560 次浏览

    • 来迟了,椎名,生日快乐

      2016年3月12日 1,523 次浏览

    • 【讣告】V家P主椎名もた于7月23日逝世,享年20岁

      2015年7月28日 1,394 次浏览

    好像就这么多
    B分之A
    这家伙很懒,什么都没写
    文章 306
    标签 444
    说说 2
    查看更多
       

    随机友链 Friends.

    • Albert_xwz   Hi, DIYgod   ZLA 小站   夏槿的小屋   Deleted Site   阿珏酱のBlog   OneFour 查询   ZMTU   imbytecat   大佬论坛  
      查看全部 →

    说说 Notes.

    • 本站第300篇文章成就达成!

      2026年5月29日
      查看详情
    • 博客复活中...目前进度:

      √ 文章恢复

      □ 说说恢复

      √ 菜单恢复

      √ 社交链接恢复

      √ 分类目录恢复

      2026年2月5日
      查看详情
    好像就这么多
    B分之A
    这家伙很懒,什么都没写
    返回

    评论 Comments.

    • 口袋学堂
      2026年10月29日
      写得很清楚。顺便提一句,V1 引擎的调度器不再区分 prefill 和 decode 阶段,统一按每个请求的 num_computed_tokens 去追赶分配 token 预算,chunked prefill 也是默认开启的。读 scheduler 时可以留意一下这和 running first 是怎么结合的:running 里的请求先拿预算,剩下的预算再按块分给 waiting 里的长 prompt,这也能帮助理解 PD 分离为什么要把 prefill 单独拆出去。 对 vLLM 部署感兴趣的话,可以看看口袋学堂的 Production LLM Deployment: vLLM, FastAPI, Modal and AI Chatbot(Udemy 课程,带中英文字幕) https://www.koudaizy.com/tutorials/ai-in-production-a-crash-course-in-modal-cloud-for-llms-inference/
    • 1
      2026年10月25日
      能找到这域名的也是人才😋😋😋
    • 兴起百年
      2026年06月11日
      ollama发展越来越快了,我也在学习中,向博主学习
    • B分之A
      2026年06月09日
      @夏槿 哈哈,偶尔还是要学点新东西,折腾下

    关于 About.

    欢迎来到A/B(B分之A)的博客,除了B分之A以外,还有朹方project,笨蛋军团,打工战士...这些都是我的网名。 本站采用Wordpress+魔改主题搭建,站点的LOGO的人物是使用Nano Banana Pro生成的!是露米娅与铃羽的混合体。本博客已不稳定地运营12年。 毕业院校:SCUT 工作地:东莞,华为 QQ: 250614271 Wechat: aoverb tg: baitosenshi 邮箱: hiwu(a)vip.qq.com

    Copyright © 2014-2026 A/B's Blog

    粤ICP备2025369001号

    本站主题:iEmo魔改版