引言
在查看一些秋招面试知识点时，发现KL散度这方面的知识点的层次比我之前想的要深入许多，我之前一直只是把KL散度当作简单的两个概率分布之间的差异的指标(虽然事实的确如此)，作为RLHF算法中用于约束模型训练不过于偏离SFT模型的乘法。但是看完这些知识点之后才发现KL散度所处的位置，参考模型和实际训练模型的不同位置，KL散度的三种估计层次，都有可以挖掘的知识点，故在此写一篇文章分享这些知识点的同时巩固下自己的语言能力(。 
KL散度是什么
正如引言所说的，KL散度本质上就是用于评估两个概率分布之间的差异的指标，更准确的说，其内涵为:如果真实数据服从 P，但我们用 Q 去近似 P，会额外付出多少信息编码成本。 
其公式如下 

D_{KL}(P \parallel Q) = \sum_{x} P(x) \log \frac{P(x)}{Q(x)}

其有两个关键性质，分别是非负性以及非对称性，...

刚才打开语音没响应，有佬遇到这个问题的吗

还有几个号的重置卡8月1日到期，还在考虑什么时候分享给各位佬，前天刚分享完，昨天就给重置了，整体用了不到百分之五，今天又重置了，真的麻了

[image] 
RT，之前搞了1天自动点配合手动点都不行，今天下午有空开起来再跑1个小时不到就搞定了，看站里不少人都开始说封号了，我这才上车，还敢不敢有没必要继续升级20x，虽然便宜，可也怕被奥特曼吃了不吐渣啊。。 😔

公司破天荒 搞了几个pro20x 目前5个号 十多个人用 
但是 由于大家都有自己的代理和自己的设置 所以不太可能用的时候再切到同一个节点 
佬们有没有好的办法可以解决这个问题 反代是不是露就秒啊

6/28激活的实体卡，昨天上午怕被封号于是马上申请退款，结果下午就收到了号码停用邮件 😅 
等到今天刚刚又收到了拒绝退款的小作文 😅 
 [image] 
[image]

[image] 
目前手上有招商visa 、mastercard 能直接付款吗？地址怎么搞呢？ 
之前没订阅过gpt，求大佬指教

佬友们 我想开发一个符合个人公考复习思路的app  不上架应用商店 但是我对编程一点都不懂 可以纯粹依靠ai开发吗

昨天晚上申请的携号转网，今天已经成功收到了888发来的短信 
 [1000077196.jpg] 
关于ctexecl的激活可以参考其他佬友的帖子，我本人反正没完全拉起来wificalling不知道什么问题，但是代理的流量UDP有相关记录，然后没多久就给我发激活邮件了，飞行模式一关掉就有信号然后收到了888短信。总之wifi下没成功收发短信和电话🥲🥲。有没有懂得佬解释一下这个为啥(๑•̌.•̑๑)ˀ̣ˀ̣ 
总之祝贺逃难成功，现在去试试能不能退款😏😏

orca 可太好用了，推荐给大家，速度又快，也不卡，用过就来推荐了

[Image_1785320192479_160.png][Image_1785320340972_862.jpg] 
看样子应该是炸了，但也不排除只是单纯的过载。

[image] 
佬们看看自己邮箱吧 我自己三个号 公司几个号 朋友的全都收到这玩意了 跑路跑路退款 有啥替代的esim.gg靠谱么

用久了AI，一旦有同事问自己一些项目的问题，我就说不知道，等我去查查（实际就是跑去问AI），仿佛脑子里再也记不住任何项目里面的东西，然后查完也跟着忘了，像极了啥都不懂的领导，什么都问自己的下属（AI） 🤣

claude code 使用gpt 5.6的CPA反代，/new 新窗口提问也会出现上下文异常 ，400 {“type”:“error”,“error”:{“type”:“invalid_request_error”,“message”:“Your input exceeds the context window of this model. Please adjust your input and try again.”}}

发完号也被封了,不退款 
2026年7月29日 11:09 
您好，giffgaffer， 
感谢您就近期移动服务中断事宜与我们联系。在对您的服务使用情况和账户历史记录进行全面审核后，特此回复。 
案件概要： 
我理解您对服务中断感到不满，也明白持续网络连接的重要性，尤其是在国外旅行时。我很高兴有机会解决您的疑虑。 
我们的调查结果： 
我们的条款和条件明确规定，我们的服务主要面向英国境内用户。虽然我们提供包含漫游服务以支持会员在短期旅行（例如度假或短暂的商务旅行）期间使用，但该服务不适用于长期、持续或永久的海外使用。 
经审核您的账户，我们的系统确认您的设备已长时间连接到国际网络，远远超出临时漫游的合理限制。因此，您的使用模式不再符合我们英国服务协议的资格要求。 
我们的决定： 
虽然我理解您对这一结果感到失望，但我们无法撤销服务中断或恢复您的服务。为了维护网络完整性和合规性，我们严格执...

网页gpt怎么破甲呀，有没有大佬们知道的，网页问答老是被拒绝 唉

[image]

工作从早忙到晚，每天一到工位就感觉自己要死了，对自由的渴望无比强烈，无时无刻不处于对工作的痛苦中。然而到了下午这种痛苦逐渐放缓，到了下班我满脑子只想着回去玩什么游戏了🤣 
每周的前三天时时刻刻警醒自己记得现在被领导压力的憋屈，工作的辛苦，告诉自己这周末一定要离职，从此海阔凭鱼跃，天高任鸟飞，然而到了周四周五又觉得，其实这份工作也不是不能接受，还是关注周末怎么度过更重要🤣

折腾sub2api折腾了几天，全靠gpt帮我配置，经常遇到问题就丢给gpt让他登录后台处理。 
然后把常见的免费渠道模型做了一下检测： 
只能说opencode真是个大善人，量大管饱。剩下的openrouter和老黄的感觉智商都有点低，那 
个三种口味糖果问题，zlm5.2。有时能回答上来，有时会答错。很奇怪。 
想正经干活还是不能指望免费的，不过养马还是很不错的。 
 [image]

[image] 
还以为杀不到我，结果还是来了，兄弟们能退的赶紧退！