东东弗斯 (@eason33) 在 端侧大模型部署岗转行求教 中发帖
佬友们好,想向行业前辈请教转行端侧大模型部署岗的建议。
背景是985计算机本科+4年传统OS工作经历。目标是往AI部署方向转,就是大模型在端侧的部署优化。
了解下来,主要是基于各家芯片厂的SDK做适配优化工作,比如瑞芯微、地平线的工具链。
以下求教的具体问题:
本科进入这个行业有门槛吗,还是会卡硕士学位?
一些车厂的jd提到需要AI编译器和模型部署经验,从面试来说具体要到哪种程度,想准备一个对应的项目,求过来人指路。
除了部署,jd还说端侧LLM/VLM/VLA性能优化,具体需要掌握哪些技能?
有在自驾/机器人公司做端侧部署的佬友吗,求解答,感谢~