https://linux.do 论坛的话题更新通知频道。
王二狗 (@pupa)【学习笔记】显卡技术指标:显存、显存带宽和算力 中发帖

这几天在研究本地部署大模型,很是好奇怎么判断一个显卡能不能运行大语言模型(LLM,以下简称 LLM),如果能的话,怎么判断能运行多大的模型,吐字速度有多快?这个问题也可以等价为:显卡的技术参数到底代表了什么?花了点时间和查找了资料,有了这篇文章。这篇文章纯手打,也是现学现卖,如有错漏,欢迎指正。 
技术指标:显存、显存带宽和算力
简单来说,一个显卡重要的参数就三个:显存、显存带宽和算力。
算力
算力比较好理解,一般用每秒能运行多少次运算来衡量一个显卡的算力。常用的算力单位有 TOPS(每秒能够进行多少万亿次操作)和 FLOPS(每秒能够进行多少万亿次浮点运算),比如下图的 Jetson Orin Nano 系列:
[图片.png]
这里面的 8GB 型号的 67 TOPS,是指其最高可达到 67 TOPS 的 INT8 AI 性能。需要注意的是,TOPS / FLOPS 通常是理论...
Octopus (@Octopus_8)【上海五角场】AI全栈招聘 中发帖

[image] 
感兴趣的佬友可以私聊我或者发我简历:1308499763@qq.com
Jk (@Ldchdll)codex卡出翔了 中发帖

下午出现排队情况了,一直正在思考很长时间不动,有佬一样的吗
GemZ (@dbAlt)【有没有去的佬?】 中发帖

[0b9f1b0275bf274a0985924d74285e23] 
去的话只能周六去了
耄耋大帝 (@gwb)codex让电脑变得卡死了 中发帖

每次跑任务电脑都好卡,鼠标都有点划不动的感觉,看了下cpu和内存占用也不高,一半都没有,但就是卡,找不到原因,一关掉codex客户端瞬间流畅
Milocebybit 湾区开的卡有能薅的羊毛吗 中发帖

目前充了 100U,已经返了 10U。想问下还有什么活动可以薅吗? 
主要是想充 GPT,看了一下好像要累计消费 500U 才能做到 100% 返。大佬们一般都是怎么刷这个消费的?有没有比较划算的方法?
123nhh(我的状态:期待意外的每一天) (@123nhh)脑洞大开一下,为什么不开创一个“ci yuan”宇宙呢 中发帖

建议把token余额改为词元,把token改为词缘,把分词器叫作词原,训练数据叫词源,向量空间叫词园,把Agent叫词猿,最大上下文叫词远,思维链叫词圆,model list叫词苑 
token余额——词元:取“元”的意思,与“词语”的“词”进行组合,结合下来就是剩余的token
token——词缘:“缘”代表关联与概率联系,众所周知,llm本质上就是一个概率模型,用“缘”这个字就可以形容其关系
分词器——词原:取“原子”的含义,分词器将连续文本拆解为模型能够理解和处理的基本原子
训练数据——词源: “源”取 “数据源”之意,指模型回答所依赖的信息出处,模型的回答建立在已有语料与上下文信息之上()
向量空间——词园:园取自“园子”,抽象上延伸为一个“多维空间”,代表一个承载万物关系的空间
Agent——词猿: “猿”取类似猿猴灵长类演化、智慧萌芽的能力,暗指现在Agent的进化之...
@keen101claude max20x不耐用阿 中发帖

我用了research,用一次百分之十几的量没了。我勒个去。。。。,
豆豆 (@Mr.Wangg)家里宽带只有 IPv6 公网,公司只有 IPv4,如何让 NAS 域名在两种环境下都能访问? 中发帖

我目前的网络环境如下: 


公司网络:只有 IPv4。


家里 NAS:通过 Lucky 设置 DDNS,域名的 AAAA 记录解析到家宽的 IPv6 地址。


限制条件:家里的宽带没有公网 IPv4 地址。


因此出现的问题是:


在公司(IPv4-only 网络)无法直接访问家里的 NAS 域名。


使用 Cloudflare Tunnel 虽然能解决 IPv4 访问问题,但流量会绕到美国西海岸,延迟高达 500ms,带宽不稳定(10Mbps ~ 100Mbps)。


我不想花钱购买 VPS 或云服务器做中转。


希望能找到一种方案,让同一个域名在 IPv4 和 IPv6 环境下都能访问 NAS,最好能自动选择最优路径。


有没有更好的办法来实现这种双栈访问?而且不花一分钱
小匠 (@jixnhu)Windows上的记事本,现在支持md了 中发帖

不知道啥时候更新的,现在确实是支持了,虽然不大好看 
[1786439769606]
[1786439853203]
[1786439861028]
@MOYUN关于我的key被窃取一事,给各位佬提醒一下 中发帖

首先我之前有刷到过any的key被盗刷以及论坛中很多佬都出现过这些情况,所以提前设置了key限额没有被盗刷很多。 

我的公益站key可能泄露了


【警钟长鸣】被盗刷1000 关于key的安全问题


any账号被盗,谁给我偷跑几百元

等等
[image]
[image]
其实我还是很感谢公益的,主要any是我用的比较多也没出过啥事情的公益,所以一般还是信任的也不脱敏。
以下是我让gpt5.6sol追溯的泄露源头,当时换了个站,估计还是上游的问题,上游不确定性太大,敏感信息还是得脱敏再问 😭
[image]
[image]
ggbond9257 (@ggbond9527)opencode使用 中发帖

opencode容易奔溃的问题,大家有没有解决办法 
[image]
昔日织 (@xirizhi)大家现在 cn域名 一年续费多少元 中发帖

我是挂在阿里云下的,今天续了下36块,找了个cn注册多个价格更优口令,留在付款的页面一直等突然送了我一个2块的红包,就36了,但我很好奇大家cn域名续费是多少,我的另一个work域名一年也要38它没有优惠口令反而不如cn划算 
[6761fa07102cd82812c4f7a14a37d004]
拾雨 (@c519127)马斯克赞同 Cloudflare 预测:未来 5 年内 AI 流量将超人类互联网用量 1000 倍 中发帖

IT之家 8 月 11 日消息,全球首富埃隆 · 马斯克(Elon Musk)昨日(8 月 10 日)在X平台发布推文,力挺 Cloudflare 首席财务官托马斯 · 塞弗特(Thomas Seifert)观点,认为 AI 智能体流量将远远超过人类的互联网使用量。 
塞弗特观点认为在未来 5 年内,智能体 AI 创造的流量,可能超过人类创造流量的 1000 倍。
Cloudflare 此前预计机器生成的流量将在 2027 年超过人类流量。但实际上,这一转变在已提前到 2026 年 5 月发生。
对此马斯克援引该观点,并评论表示:

在可以预见的未来,智能体 AI 所产生的互联网流量,将明显超过人类创造的流量。这一点毋庸置疑。
Cloudflare 的预测是准确的。

IT之家附上相关截图如下:
[2429d9e8-de1d-4495-ae17-a9e3ee60fc0b]
...
@52D随机取图脚本,梗图贴或站内全局图片 中发帖

发了几千张梗图后,为了达到常看常新的效果 
所以,下面有个油猴脚本:
linuxdo-random-image.user.txt (22.9 KB)
这个脚本的功能就是我发过的梗图贴内随机取图,当然你把左上角的勾掉就是全论坛随机取图
需要注意的事,小心随机出NSFW涩图…
效果如下:
[image]
[image]
[image]
[image]
[image]
Jack (@Jack777)有没有台湾的朋友 中发帖

有个游戏好友要买我的台服账号,价格都谈好了,1200台币。结果卡在了付款环节,对方用的是linePay和银行转账,无奈大陆都用不了,我想问下台湾的朋友,两岸转账一般怎么操作?
@yyc8376佬友们,感觉终于熬出路了 中发帖

先讲述一下时间线 
1、2023-11
离职后进入一个外包公司(靠北我是真不知道是外包公司),然后干了三个月离职了,因为工资非常垃圾不发,可以说是非常困难的状态了,但是在里面认识了外包公司驻场在我们公司的甲方领导,人不错,很接地气
2、2024-03
离职完毕,在离职之前,一直跟外包公司的老板聊天,变法挽留我,都给我拒绝了,我不想呆那么久,而且真没钱
3、2024-03-15 左右
老东家(目前还在这里就职)发现我又离职了,又把我反召回去,因为我代码习惯好,而且确实人也好说话(实际上就是拖工资也不想BB),招的其他后端水平都太垃圾了,我也懒得找工作,我就答应回去了。
4、2024-06
外包公司的老板和甲方领导和一个经理找我喝茶聊天,说让我继续兼职项目,他们找不到合适的人,确实我性格也好(其实就是免费劳动力),然后代码也不错,就想着让我兼职,后面我答应了,我真缺钱,说实话
5...
li (@lizhijun)C++引用开发想学Agent学习 中发帖

都说今年是agent元年,想学习AI agent 有没有佬推荐技术路线。本人C++应用开发6年想转行做AI,后面编码真的不好做了。感觉AI有点太强大了 😰
Cancelledypt登录不上 这是不是被封? 中发帖

如图 账号存在风险,已被冻结 这是被封了吗 还能救回来吗 账户还有几u在里面呢 
[image]