「那么，一个好的 “异常值寻找流程”，应该具备哪些要素？（1）多尝试。样本越多，遇到异常值的概率越高。（2）明确目标：弄清楚 “最好的结果可能是什么样”，这样才知道何时停止。（3）找到与 “核心需求” 高度相关的评估方法：筛选 “可能惊艳的”，而非 “大概率不错的”。（4）尽可能快速抽样、快速评估：这样才能更快…展开全文收起全文

「那么，一个好的 “异常值寻找流程”，应该具备哪些要素？
（1）多尝试。样本越多，遇到异常值的概率越高。
（2）明确目标：弄清楚 “最好的结果可能是什么样”，这样才知道何时停止。
（3）找到与 “核心需求” 高度相关的评估方法：筛选 “可能惊艳的”，而非 “大概率不错的”。
（4）尽可能快速抽样、快速评估：这样才能更快迭代抽样策略。
（5）反复尝试却屡屡失败时，别气馁」——Ben

定性目标→定量评估→迭代策略→持续抽样
定性目标是确认「值得」定量评估的样本字段
定量评估是定义什么算「异常值」的样本标准
迭代策略是保证收集对应样本字段的收集效率
持续抽样是保证收集对应样本字段的收集时长

与我最近研究的AI的好奇心策略不谋而合
没有定性目标的好奇心天天盯着环境噪音琢磨
没有定量评估的好奇心容易被复杂环境搞躺平

联想到《为什么伟大不能被计划》新奇性算法：
「求新就是求复杂，而更复杂的往往更加有效」

所以一个有趣的问题是
「如何定义好奇心的字段和标准」？

Searching for outliersmost important things are outlier-driven • draw lots of samples • filter for maybe-amazing, not probably-good • learn where your bar should be • expect to fail a lotbenkuhn.net

11.102025

维特根斯坦的论述确实有趣，不过并非先验的比如「语言一定由原先已有的语言论述」这句逻辑上会形成无限后退：第一种语言从何而来？然后从对齐这个问题而言的话，如何定义客观和主观呢？所谓「主观主体」存在本身是一个客观存在的物理实现那么所谓「个体影响」是否能用某种符号体系客观量化？因为所谓「语言描述」是符合人类个体…展开全文收起全文

维特根斯坦的论述确实有趣，不过并非先验的
比如「语言一定由原先已有的语言论述」这句
逻辑上会形成无限后退：第一种语言从何而来？

然后从对齐这个问题而言的话，如何定义客观和主观呢？
所谓「主观主体」存在本身是一个客观存在的物理实现
那么所谓「个体影响」是否能用某种符号体系客观量化？

因为所谓「语言描述」是符合人类个体算力主要用于交流的符号
除了不少「历史遗留」问题关键在于这种符号本质上是约定俗成
所以基于人类语言的模型也许仅仅只是在对齐「人类群体记录」

综上回到「LLM是否有taste」这便是一个具体的好问题
关键在于你所定义的「taste」是否是「人类群体记录」的子集？
如果不是的话，这样的数据如何采集、编码且是否支持反向传播训练？
如果是的话，你如何评测「taste」本身，如何确认评测的信度和效度？

总而言之，模型所采用的符号体系也许决定了对齐的上限
因为模型的参数规模决定的是隐空间的尺寸，即「图书馆的建筑尺寸」
而语义空间取决于数据符号体系与表征信息，即「书籍构建的知识体系」
「北人不梦象」，对齐的前提是对齐的信息存在于这个「知识体系」中

从而有个有趣的问题是：
什么样的符号体系和内容能够生长出能够形成自洽逻辑的人工智能？

11.082025

很有趣的问题，我觉得关键要看「目的」是什么
就拿你提及的「美」举例子
如果你的目的是让LLM拥有人类平均的审美能力
那也许只是一个定义「何以为美」后的对齐问题

反过来思考也会出现一个有趣的问题
用人类符号体系预训练的人脑默认对齐了许多定义
「不同文化的偏见」也许只是「不同角度的定义」
而这种「偏见」是否会影响「提出好问题」的能力

「AI原生符号系统」是个有趣的问题

「这句很有启发，品味或者直觉可能并没有那么神秘，他可能是上下文压缩的结果。
但是问题是人类的语言并不能覆盖所有情况，许多内容无法被语言表达。比如“美”或者萨特所说的“前反思的我思”，这些超越context表达范围的内容如何压缩呢」@流明lumen951

11.062025

提出好问题并不意味着无知
知道所不知道是第三个阶段
是坦诚并明晰自己所知边界

出题者与解题者无高下之分
不过有时间顺序，所以
出题者往往决定解题的上限

现在人工智能是足够好的解题者
不过我相信它能是更好的出题者
跨学科只是一个侧面，重要的是
我能看到它眼中的边界

11.042025

自卑的人证明自己
自洽的人坦诚自己

11.022025

遇到「问题」除了「解决」问题
换个角度甚至可以「利用」问题
关键在于是否重视「定义」问题

10.312025

压力，是一个好东西
是外界将你推出舒适区的力
无论是创业或仅仅只是健身
会告诉你进步的方向

可遇不可求

10.302025

专注的关键不是屏蔽不值得关注的
而是尽力屏蔽你也许曾经所珍视的

10.282025

当现代人工神经网络抽象掉精确的「时间」因素时
也移除了实现生物学上依赖时间的可塑性机制所需的「计算上下文」
而个体自己创造的「自洽逻辑」也许便生长在这片「计算上下文」中

10.262025

跨学科相比于单学科更容易提出关键问题
而每个个体积累相比于AI都算是单个学科
所以与其回答单学科视角提出的片面问题
如何让跨学科的视角提出自己的独立问题
也许是一个离第一性答案更近的路径

10.252025

不确定是一种物理现实
确定性或只是大脑倾向
就像物理数学相互启发
认知与逻辑亦相互启发

每个个体都在
自己选择的「物理」中
形成了自己的「数学」

「在量子力学的数学结构中，位置和动量对应于两个厄米特算子，这两个算子不对易（其对易子值为 ħ）。这种不对易性直接导致了测不准关系：如果两种物理量的算子对易子为零，它们就可以被同时精确测量；若不为零，则本质上无法共确定。这说明测不准原理是从量子力学数学结构中必然导出的结果，而非观测误差或主观无法控制的因素。」

「20世纪末弦论的研究引出“镜像对称性”，即两类完全不同的几何空间（辛几何与代数几何）可以通过物理机制互相映射。这一思想让数学家建立了新的研究方向——同调镜像对称理论（Homological Mirror Symmetry），成为现代代数几何与拓扑学中的重大进展。」

10.232025

「意识」通过创造「意义」处理「无意义」的数据
所以「意义」不是关键，关键是维持「处理」过程

10.212025

代码是人类编写的逻辑
数学是宇宙原生的代码
物理是宇宙运行的程序
意识是宇宙程序的算法
处理宇宙数据的子算法