大模型概念观：为何与人脑“想”得不一样？

本文探讨了大型语言模型（LLMs）与人类在概念形成上的差异，核心在于信息压缩与语义忠实度之间的权衡。研究采用信息论框架并对比人类认知基准，发现LLMs虽能形成与人类相似的广泛概念类别，但在捕获细粒度语义区分上存在不足，且其优化目标倾向于激进的统计压缩，而非人类认知所偏好的适应性细微差别和语境丰富性。这些发现揭示了当前人工智能与人类认知架构间的根本性差异。

人类与大型语言模型概念形成差异

• 人类通过语义压缩将知识组织成紧凑类别，平衡表达忠实度与表征简洁性（如“知更鸟”和“蓝鸦”都是“鸟”）。
• LLM虽展示出卓越的语言能力，但其内部表征是否达到人脑在压缩与语义忠实度间的平衡尚不明确。
• 研究旨在回答三个核心问题：LLM概念与人类类别的一致性、内部几何结构（特别是典型性）的相似性、以及在压缩与语义保真度之间平衡策略的差异。

信息论框架与实证基准

• 引入基于“速率-失真理论”（Rate-Distortion Theory）和“信息瓶颈原理”（Information Bottleneck principle）的新型信息论框架，量化比较LLM与人类概念系统如何平衡表征复杂性（压缩）与语义保真度。
• 使用认知心理学中的经典人类分类数据集（如Rosch 1973/1975, McCloskey & Glucksberg 1978）作为人类基准，并已数字化公开。
• 分析了包括BERT系列、Llama系列、Gemma系列、Qwen系列、Phi系列等在内的多种LLM的token嵌入。

概念类别宏观对齐

• LLM衍生的聚类与人类定义的概念类别显著对齐，表明LLM在宏观层面捕获了人类概念组织的关键方面。
• 某些编码器模型（如BERT-large-uncased）表现出与人类概念惊人的一致性，有时甚至优于更大的模型。
• 这表明模型架构和预训练目标对形成类人概念结构的影响，可能超越了单纯的模型规模。

细粒度语义捕获有限

• 尽管LLM能有效形成广泛概念类别，但其内部表征与人类感知的细粒度语义区别（如项目典型性或心理距离）对齐度不高。
• LLM衍生的项目-类别标签相似度与人类典型性判断之间的Spearman相关性普遍较低，说明LLM未能稳健地复制人类典型性梯度。
• 这暗示LLM对语义空间的组织方式，可能不同于人类概念中基于原型的分级性质，而是捕获了更统计均匀的关联。

压缩-意义权衡策略分歧

• LLM在概念表征方面展现出显著优越的信息论效率，通过L目标函数评估，LLM实现了更“最优”的压缩与语义失真平衡。
• 人类概念的平均聚类熵始终高于LLM，表明人类类别在统计上“不那么紧凑”，包含更大的内部多样性。
• LLM似乎高度优化统计紧凑性以最小化冗余，而人类认知则优先考虑适应性丰富性、情境灵活性和广泛功能效用，即使这会牺牲统计上的“效率”。