https://linux.do 论坛的话题更新通知频道。
have (@planbAbc) 在 请教大佬,模型私有化部署的显存怎么预估才有参考意义呢 中发帖

我是一个做方案的战五渣,模型啥都懂一点,但不深 

现在接触的很多项目,都要搞算力自己部署模型
项目给过来的需求都是:

模型是哪个
模型参数量多少
部署做什么量化
并发数多少
最长是多少k的会话


比如:

部署DeepSeek的v4 flash
参数量284B。
做FP/in8量化
并发100
会话上下文1M


模型部署大概需要300G显存,这个好预估,因为int8是接近1:1
但并发、上下文长度、KV缓存这些参数的显存消耗,怎么预估合适呢
并且首token的耗时,怎么预估和降低呢(听说融合部署会降低)

有大佬指教一下么,或者有没有什么skill可以参考的呢
炫个大鸡腿 (@zff) 在 双十一佬们有推荐的无线鼠标吗? 中发帖

主要是在mac上用,考虑官方的触控板或者是罗技master4,佬们有更好的推荐吗?
Coldwinds 在 GPT审批不是免费了吗 中发帖

怎么还一直提示权限审批额度不足。 
[image]
@figure 在 怎么才能让6.1-sol有opu5.5的前端审美 中发帖

两个都是用比较模糊的提示词,但是6.1sol做出来往往只考虑功能性,不考虑美观度啊,老掉牙的审美,而且也不参考其他部分的风格。 
opus5.5就好多了,感觉前端设计很优雅啊。
𝓵𝓮𝔃𝓲𝓼𝓱𝓮𝓷 (@lezishen) 在 OpenAI 宣布收购 AI 生物科技初创企业 Orchestra Bio 中发帖

[image] 
[image]
OpenAI 宣布收购 AI 生物科技初创企业 Orchestra Bio - IT之家
涅利娅 (@nelia) 在 退款到账27个小时了,我的Claude Max5x依旧能用 中发帖

字面意思。 
我没被封号,因为我物理地址在墙外,所以不用担心这个。
我觉得我用不上Max5x,所以用iPhone退款了,
到账的时候我已经用了两天了,但是依旧全额退款,一分钱也不少我,两万日元。
然后我发现,为啥钱都到账了,我账号还在,而且Max5x还在,还能用?
应该只是订单没刷新吧,我这么想着。
就这么等着,等着。
然后今天早上的时候,我觉得都过天了,应该会把我订阅给取消了吧。
但是,Max5x依旧能用。
所以我就试试看等24小时会怎么样,结果瞪了27个小时,Max5x还能用,还是没取消。
明明退款早就到账了啊!
xiangpini 在 飞鸟云是不是挂了 中发帖

今天中午所有节点都超时,官网也进不去了 
[image]
@wuhudsm 在 有佬知道Codex桌面版或者pi desktop中怎么让astra指挥deepseek干活呢?就是deepseek当子代理。 中发帖

有佬知道Codex桌面版或者pi desktop中怎么让astra指挥deepseek干活呢?就是deepseek当子代理写代码,astra来最终审核那种。
CGin 在 workbuddy封号了 中发帖

“displayMsg”:{“en”:“Your account has been restricted due to unusual activity”,“zh”:“账号存在异常行为,已被限制使用”,“zh-hant”:“帳號存在異常行為,已被限制使用”},“displayTips”:{“en”:“We detected unusual activity on this account. Submit feedback to appeal this restriction”,“zh”:“系统检测到该账号存在异常使用行为,如需申诉请提交反馈”,“zh-hant”:“系統偵測到此帳號存在異常使用行為,如需申訴請提交回饋”},“actions”:[“EDIT_INPUT”,“SUBMIT_FEEDBACK”]} 
我才刚用上啊 第一次反代 结果今天就被限制了 🤐
反代workbuddy 各位...
不二 (@boolen) 在 workbuddy反代是不是要死了 中发帖

首先声明,本人自用,主要是希望在cc和cx里面使用workbuddy里面的ds模型。但是发现今天各个插件都开始发声明不维护了。看来后面只能使用workbuddy客户端了,说实话真的没有反代到cc和cx里面好用啊。
[fa82df2642a3be50d5a42a90f4139926]
[image]
这一天终于还是到来了。估计后面就开始封号各种措施上演了吧。
sborne 在 要我说这claude风控也不咋地(叉腰) 中发帖

rt,我啥都没改,就在电脑上用claudedesktop俩月了,我直接问他,他都说我是在中国大陆的中国人,期间还多次提示你的地区不支持服务,也没把我咋滴,要我说,claude也就这样
haoranxxx 在 北京普通211研0选导师求助 中发帖

北京普通211硕士,读研目标优先就业,目前在几位导师之间纠结,想请教各位佬友该怎么选: 

偏纵向、需要发论文的导师:新开具身智能方向,课题组科研产出不错,但压力大,可外出实习机会少。个人顾虑,以211硕士背景,很难在具身智能这个就业赛道竞争到优质岗位;
​
横向项目为主的导师:工程项目多,但是不允许外出实习;
​
佛系老教授:无横向项目,基本放养不用去实验室,一篇会议即可毕业,研究方向为机械故障诊断;
​
佛系中年老师:同样放养、一篇会议论文达标毕业,方向是FPGA的AI硬件部署。

想问问哪一个选择对后续求职更加友好?北京普通211硕士,读研目标优先就业,目前在几位导师之间纠结,想请教各位佬友该怎么选:

偏纵向、需要发论文的导师:新开具身智能方向,课题组科研产出不错,但压力大,可外出实习机会少。个人顾虑,以211硕士背景,很难在具身智能这个就业赛道竞争到优质岗位;
​
横向...
@Fri1368 在 霸王茶姬小程序邀请两人, 领买一送一券 中发帖

23号可以使用, 仅限新品 
邀请两人, 另外一个人咋办 🤣
bo box 在 Deepseek Harness用着真舒服。个人感觉比Chatgpt好用。 中发帖

本来chatgpt折腾了几天项目的项目(啥结果都没干出来),不是干着干着就罢工,就是莫名卡着不动了,也不知道任务是不是还在进行中,实在忍受不了,今天一早,用deepseek harness 从头开始重构项目,速度又快又稳,一次没中断过,每一步都能看到它正在做什么。虽然不知道最终的结果怎么样,但至少它一直在给我反馈的体感真的让我觉得很舒服。 
[图片]
Byron (@user1949) 在 北欧之旅第三篇:终于到了锡切斯,日落好看得有点离谱 中发帖

半年前去西班牙,本来想去锡切斯,结果坐错车,误打误撞去了隔壁的小镇。上篇那家念念不忘的餐厅,就是这么发现的。 
这次吃完鱿鱼圈,我们终于到了锡切斯。下了火车也没什么计划,看地图发现离海边不远,那就往海边走吧。
从小镇的街巷里拐出来,眼前突然就是一整片海,而且刚好赶上日落。
[image]
[image]
那天的颜色浓得有点离谱。要不是自己站在那儿看着,我大概也会觉得是 AI 生成的,哈哈哈。
下面这些照片都是手机直出,没有调色和 PS。
[image]
[image]
我们就在海边站了差不多半小时,一直看到太阳完全落下,才慢慢往车站走。半年前没去成的这一站,总算补上了。
[image]
[image]
更多内容欢迎来逛我的博客:北欧之旅第三篇:锡切斯的落日
relax (@takeiteasy) 在 太开心,每天玩游戏,想要什么就指挥AI让他做出来。过几天帮邻居家的小学生也弄一套 中发帖

邻居家的小孩还问我传给他的软件怎么来的这么好用,我跟他说是AI写的。 😊,最近还写了不少小工具和脚本,好用到我不敢说是什么 🥺
十一 (@cherry_c) 在 我的dot怎么这么笨! 中发帖

同样一个问题,我去问dot,让他找我的会话记录里的一个东西,他找半天跟我说没找着;我新建聊天让大模型找,立马就给我找着了,为什么dot会这么笨! 
[f9a58e2bb1981f94f2a24138f22ed0bd]
[78eeb821b381196b6be01f236bc9234c]
@RedICe 在 26届双非一本国贸专业,感觉在北京完全找不到工作 中发帖

我对象毕业本来来的是北京一家广告公司的管培生,试用期还没过岗位的hc就被砍了,要求转到销售岗背指标,她就离职了。现在在看外贸和跨境电商相关的工作,感觉北京基本没什么岗位,比上海少太多了。是只有外贸行业这样吗,还是就是北京没什么好工作。