内推 
 [微信图片_20251021122016_89_170] 
偷偷说一句：薪资不低于字节快手美团这几家砸钱砸的很凶的 
角色和团队介绍： 
作为大模型推理算法工程师（应届生），你将直接参与核心技术的研发，让百亿、千亿参数的大模型变得更快、更便宜、更易用。你将在一对一的导师指导下，学习并应用最前沿的推理算法优化技术，解决真实世界中的复杂工程问题，在这里，你将有机会深入vLLM内核，解决最极致的性能、吞吐与稳定性挑战。你的工作将直接推动大模型及其相关技术的发展，影响亿万用户的大模型体验。你的代码将服务于公司核心产品并且直接影响亿万用户的产品体验。 
岗位职责和内容： 
1. 模型推理与部署 

负责基于vLLM部署和优化各类主流及前沿的大语言模型支持将各类开源和自研的大语言模型
研究和落地Attention、并行等核心推理技术，显著提升服务吞吐量并降低延迟
设计和实现高可用、高扩展性的...