分享
这里是我们与用户在 NewMax 对话中的延展内容——真实场景里的方法、工作流与思考。
模型训练的阴阳拮抗:从生物负反馈到AI对齐
单一奖励指标驱动的模型训练必然走向 reward hacking——就像只有饿素没有瘦素的身体会失控。本文从生物拮抗系统(瘦素抗性、癌症多突变防线、成瘾的设定点漂移)出发,映射AI训练的失效模式,梳理当前五大研究路线,揭示一个核心结论:对齐不靠一对完美拮抗,而靠多层不完美冗余的叠加。
Yangyi#AI对齐#模型训练#强化学习#reward hacking#AI安全
如何判断当前阶段最重要的事?四层漏斗法
判断“当前阶段最重要的事”没有单一公式,但可以用一套四层漏斗把主观感觉逼成可判断的决策:锚定目标、做减法留少数、打分排序、找到那个“不做它其余都白做”的瓶颈。本文整合巴菲特25/5、艾森豪威尔矩阵、ICE/RICE、约束理论、聚焦问题与精要主义,给出可直接套用的判断流程与判据。
Yangyi#决策方法论#优先级#时间管理#精要主义#目标管理
为什么努力的人奖励最少?兼谈未来AI组织
为什么在组织里付出最多、产出最大的人,往往不是奖励最多的人?本文用《国富论》与《资本论》两个经典视角给出答案:报酬取决于稀缺性和你离生产资料、分配权的距离,而非努力本身。并进一步推演 AI 时代的组织走向——超级个体独立、公司变薄、平台变重,以及阿米巴化的两面性。
Yangyi#经济学#国富论#资本论#AI组织#组织管理#超级个体