ROUTE TIMELINE · 9 NODES
符号、逻辑、搜索与组合路线
结构、符号和搜索怎样支持推理、组合与类比?
问题何时发生转折?
点按图中的节点,进入问题、方法与原文定位。手机可横向滑动查看大图。
沿节点阅读问题、方法与证据
筛选作用于下方节点清单;上方图始终显示完整路线。点击图中的节点会恢复完整清单并跳转。
程序怎样通过接受陈述改变自己的行为?
- 问题
- 怎样把知识和启发式表达为系统可以推理的对象?
- 方法与核心变化
- Advice Taker拟用逻辑陈述表达知识、程序和启发式;选择相关前提后进行即时推导,并执行导出的行动命令。
- 限制
- 机场例用于说明推理结构,不是现实导航的完整实现;Bar-Hillel直接质疑相关前提选择、时间因素与模型复杂度。
- 接下来的问题
- 当记忆规模增加或现实条件变化时,如何选择相关事实并修订假设?
前提、原文定位与阅读范围
前提:这是系统提案,原文尚未完成启发式形式化;逻辑规则可靠不等于知识前提真实。实读后期重排本,回顾脚注与原论证分开。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
预期优势是通过补充陈述改善行为,且将尽可能多的启发式放入可表述的语言。
定位:PDF2、4 · mccarthy-1959-retrospective
作者将关键智能作用放在选择前提的程序,并明确不能对全部知识同时进行即时推导。
定位:PDF5,§2第3点 · mccarthy-1959-retrospective
随文讨论追问相关性与现实约束;McCarthy回应称例子有意简化,输出是行动命令,不能靠推导直接到达机场。
定位:PDF11–12及14–15,Bar-Hillel批评和作者回应 · mccarthy-1959-retrospective
Programs with Common Sense ↗
John McCarthy
版本:15页后期重排本;题首页标1959,PDF2含1996回顾脚注,不能当作1959原始版面;1958会议报告另记
已读:PDF1–15正文及随文讨论均已读;PDF8式17和行动推导已视觉核对 (指定片段)
未读/未核验:未与1959会议录扫描本逐字校对;示例全部推导和相关性选择程序未实现或形式验证
核对指定原文主张,未独立重复所引用实验。
启发式知识怎样帮助搜索而保留最优解?
- 问题
- 怎样同时利用领域知识并约束搜索结果的路径代价?
- 方法与核心变化
- 按已发现路径代价与剩余代价估计之和选择开放节点;找到更低代价时允许重开关闭节点。以剩余真实代价的下界约束启发式。
- 限制
- 保证路径最优、扩展节点最少、总计算时间最少是不同命题。本批不将原文扩展节点最优性论证视作已复核结论。
- 接下来的问题
- 启发式的计算开销何时抵消减少搜索节点的收益?
前提、原文定位与阅读范围
前提:原文使用边代价有统一正下界的图。本批解释保守限定有限图、可达目标及非负启发式下界;不声称核验原文所有无限图细节。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
原算法选择评价值最小的开放节点,并在发现更优路径时重开关闭节点;评价函数相加已知路径成本与剩余成本估计。
定位:102页§II.A–C,算法步骤2–4和式2 · hart-nilsson-raphael-1968
定理1将启发式不高估剩余最优代价作为可采纳性的关键条件;该主张仍依赖前文图与算法设置。
定位:101页§I.B、103页定理1 · hart-nilsson-raphael-1968
作者明确指出扩展节点最少不等于总资源消耗最少,启发式本身也有计算成本。
定位:107页§IV.B · hart-nilsson-raphael-1968
A Formal Basis for the Heuristic Determination of Minimum Cost Paths ↗
Peter E. Hart · Nils J. Nilsson · Bertram Raphael
版本:IEEE Transactions on Systems Science and Cybernetics SSC-4(2):100–107,1968年7月;1967年11月24日为收稿日
已读:PDF2–4/101–103页:图定义、A*步骤、评价函数、引理1和定理1;PDF8/107页计算代价讨论;102–103页已视觉核对 (指定片段)
未读/未核验:原文104–106页扩展节点最优性论证、后续更正与争议未复核;未独立验证无限图终止论证
核对指定原文主张,未独立重复所引用实验。
如何在世界模型之间搜索行动计划?
- 问题
- 怎样减少把整个行动序列都交给定理证明器造成的搜索困难?
- 方法与核心变化
- 把模型内的证明与模型之间的搜索分开;用前提和增删列表描述算子,以未完成证明形成差异,再寻找相关算子及其子目标。
- 限制
- 原文世界模型允许一阶公式,不能直接缩写成所有现代教材中的简化STRIPS定义。所得计划不保证最短;能规划爬箱不等于当时机器人能执行。
- 接下来的问题
- 如何在行动效果不确定、观测不完整或模型错误时修正计划?
前提、原文定位与阅读范围
前提:需给定初始逻辑模型、算子及目标;实际行动程序与模型中的算子应用分开;派生事实还需跟踪其依赖的原始事实。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
作者明确分离模型内定理证明和模型间搜索,并区分规划算子与实际执行的行动程序。
定位:608页引言及脚注 · strips-1971-ijcai
算子以适用条件和增删列表描述;删除原始事实后,还需检查依赖它的非原始事实是否仍有效。
定位:609页§II.A、612–613页§III.B · strips-1971-ijcai
615页报告灯开关问题解非最优,并注明当时SRI机器人不能爬箱和开灯。
定位:615页§IV及脚注 · strips-1971-ijcai
STRIPS: A New Approach to the Application of Theorem Proving to Problem Solving ↗
Richard E. Fikes · Nils J. Nilsson
版本:IJCAI 1971会议录608–620页;不是同年Artificial Intelligence 189–208页期刊版,后者DOI不套用于此文件
已读:PDF1–8/608–615页,含问题空间、搜索、参数、算子、模型存储和三箱例;PDF13参考文献;PDF5的push算子已视觉核对 (指定片段)
未读/未核验:PDF9–12表格、图3和结尾讨论未完整读;期刊版未比对;原代码、机器人执行与性能表未复现
核对指定原文主张,未独立重复所引用实验。
符号系统如何成为可检验的智能假说?
- 问题
- 哪些结构和过程可能支持一般智能行动,又应怎样检验?
- 方法与核心变化
- 定义符号、表达式、指称和解释过程;提出物理符号系统假说,并用启发式搜索说明有限资源下怎样产生、修改和检验候选解。
- 限制
- 作者明确视其为经验概括而非定理;所列AI程序和人类行为研究不是对所有可能系统的穷尽证明。
- 接下来的问题
- 怎样设计任务,区分架构约束的预测与程序员额外写入的知识?
前提、原文定位与阅读范围
前提:“充分”指足够大的系统可以进一步组织成智能系统;不是任意符号程序都会智能。搜索依赖问题空间中可利用的结构。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
物理符号系统假说被明确称作可能为假的经验假说;充分性还要求足够规模及进一步组织。
定位:印刷116页 Physical Symbol Systems · newell-simon-1976
原文将构建智能程序的证据与解释人类认知过程的证据分开,并明确假说不是定理。
定位:印刷118页 The Evidence · newell-simon-1976
启发式搜索假说要求在有限资源下生成和修改符号结构;利用问题空间中的可检测规律决定下一步搜索。
定位:印刷120–121页 Heuristic Search · newell-simon-1976
Computer Science as Empirical Inquiry: Symbols and Search ↗
Allen Newell · Herbert A. Simon
版本:CACM 19(3):113–126,1976年3月;源自1975年图灵奖演讲
已读:PDF4–6/116–118页的定义、历史与证据;PDF8–9/120–121页的启发式搜索假说;PDF7部分;PDF1核对出版与演讲日期 (指定片段)
未读/未核验:未完整阅读引言、PDF7提取截断部分和PDF10–14;具体心理实验、搜索程序与参考文献未复现
核对指定原文主张,未独立重复所引用实验。
类比为何偏向关系结构而非表面属性?
- 问题
- 当两个领域的对象不同,哪些知识仍可迁移?
- 方法与核心变化
- 将源域对象映射到目标域,优先保留关系及被高阶关系联系起来的结构,产生目标域的候选推论。
- 限制
- 映射产生候选推论,仍需评价可信性;原文的简要行为证据未在本批复验。类比偏好不保证迁移知识为真。
- 接下来的问题
- 结构相同但结论为假的类比,能否被独立的验证步骤拒绝?
前提、原文定位与阅读范围
前提:依赖给定的心理知识表征;谓词匹配按同一性处理,通常采用一对一对象对应,但原文允许例外。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
映射规则区分对象属性、对象间关系与高阶关系;系统性原则偏好彼此连接的关系系统。
定位:印刷158页三条规则、163–165页系统性讨论 · gentner-1983
候选推论需要后续合理性评价,结构映射并不代替该阶段。
定位:印刷165页脚注11 · gentner-1983
此处系统性指关系结构的连贯性;与Fodor讨论的能力成组出现需分别定义。
定位:印刷158及163–165页;与Fodor §3.2的本站比较 · gentner-1983
Structure-Mapping: A Theoretical Framework for Analogy ↗
Dedre Gentner
版本:Cognitive Science 7(2):155–170,作者实验室扫描本;大部分PDF页为双页
已读:PDF1–8/正文155–168及参考文献169页;PDF3/158–159页映射规则已视觉核对 (指定片段)
未读/未核验:参考文献末页未读;文中概述的心理实验原始报告、后续SME实现未读或复现
核对指定原文主张,未独立重复所引用实验。
相关认知能力为什么成组出现?
- 问题
- 理解某种关系为什么通常伴随理解相关的角色交换,而不是互不相关的能力清单?
- 方法与核心变化
- 从系统性、组合性与推理一致性论证:表征需要组成结构,处理过程需要对该结构敏感;系统性论证不依赖无界生产性的理想化。
- 限制
- 这不是证明任何神经网络都无法完成组合任务。作者承认网络可以表现系统性,争点是架构如何解释并产生这种规律;人类系统性的范围也需任务与表现约束。
- 接下来的问题
- 训练诱导的规则能否在新角色、新长度与新分布下持续工作?这些检验分别触及原论证哪一前提?
前提、原文定位与阅读范围
前提:作者把相关能力成组出现视作需要解释的经验前提;从语言到思想还使用表达思想的桥接前提;关于非语言动物的论证包含待经验检验的主张。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
§3.2将系统性表述为某些理解或表达能力之间的内在联系,并明确它不需要无界能力的理想化。
定位:印刷36–40页,§3.2 · fodor-pylyshyn-1988
§3.4和§3.5承认可以构造表现系统性的网络;作者要求说明为什么相关能力由机制成组产生,而非仅额外规定其存在。
定位:印刷47–50页,尤其50页 · fodor-pylyshyn-1988
把SCAN或MLC某一切分得分直接视为整场架构争论的裁决,会跨过能力定义、训练机制及泛化范围的对齐步骤。
定位:Fodor与Pylyshyn §3.2–3.5;比较依据另见关联来源SCAN PDF5–6及MLC 119页Discussion;本站分析 · fodor-pylyshyn-1988
作者将节点的说法扩展到聚合活动模式,并区分认知架构与神经实现;不能把其论证简单还原为只批评局部单元表征。
定位:印刷5页脚注1、10–11页层次区分、15页脚注10 · fodor-pylyshyn-1988
Connectionism and cognitive architecture: A critical analysis ↗
Jerry A. Fodor · Zenon W. Pylyshyn
版本:Cognition 28(1–2):3–71;扫描期刊版
已读:PDF1–49/印刷3–51页:§1、§2、完整§3.1–3.5与§4开头;扫描文字识别辅助阅读,图形及少量识别不清符号不据OCR重建 (指定片段)
未读/未核验:PDF50–69/印刷52–71页尚未完整读;不能称全文完成
只核对所列原文主张;独立验证另见节点记录。
Generalization without Systematicity: On the Compositional Skills of Sequence-to-Sequence Recurrent Networks ↗
Brenden M. Lake · Marco Baroni
版本:Generalization without systematicity;Lake & Baroni;ICML/PMLR80
已读:§2及§4实验,PDF2、4–7;未逐页读全部附录;本批复核PDF2、5–6:任务定义、隔离原语实验及与Fodor思想实验的联系 (指定片段)
未读/未核验:第二轮所列未覆盖范围仍保留;本批未补读全部Methods、附录、代码,也未复现实验
仅核对所列原文主张;未独立复现论文结果。
Human-like systematic generalization through a meta-learning neural network ↗
Brenden M. Lake · Marco Baroni
版本:Human-like systematic generalization through a meta-learning neural network;Lake & Baroni;Nature623,115–121
已读:正文PDF2–6;未全面核对Methods与补充材料;本批复核PDF5/119页表2与Discussion:直接讨论Fodor与Pylyshyn,并保留分布外及新符号限制 (指定片段)
未读/未核验:第二轮所列未覆盖范围仍保留;本批未补读全部Methods、附录、代码,也未复现实验
仅核对所列原文主张;未独立复现论文结果。
分布式状态能否具有组成结构?
- 问题
- 连接主义是否只能把一个完整思想当成没有结构的原子?
- 方法与核心变化
- Smolensky在概念层把活动模式分解成子模式,在次概念层分析单元活动;咖啡例中组成部分随语境变化,符号描述作为近似高层描述。
- 限制
- 目标文§7.2明说复杂结构仍有难题;作者回应区分共同抽象的不同实现与精确执行符号原语。Fodor与Pylyshyn对语境变化下如何保证推理有效提出直接异议。
- 接下来的问题
- 能否构造具有明确绑定与解绑定规则的分布式表征,再分开检验结构表达、操作和学习?
前提、原文定位与阅读范围
前提:这是一种研究纲领及表征分析;不能把作者认为可行的方向当作已经完成的普遍系统性保证。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
§7.2直接点名Fodor与Pylyshyn1988,并以分布式子模式的组成结构反对把批评推广到所有分布式网络。
定位:PDF/印刷16–17页,§7.2 · smolensky-1988-bbs
作者回应图1区分精确执行符号原语和直接以连接主义形式实现认知抽象;后一方向要求重建架构。
定位:PDF/印刷62页,回应§1.1图1 · smolensky-1988-bbs
Fodor与Pylyshyn明确批评Smolensky的咖啡例与近似语境等价,追问关系相似怎样保证推理有效。
定位:印刷45–46页,§3.3 · fodor-pylyshyn-1988
On the proper treatment of connectionism ↗
Paul Smolensky
版本:Behavioral and Brain Sciences 11,目标文1–23页;所读74页文件另含评论与作者回应,DOI对应目标文章
已读:PDF/印刷15–17页,重点§7.2;作者回应62、67–70页。68–69页原先被提取截断的正文已补齐阅读。 (指定片段)
未读/未核验:其他正文、评论和回应未完整读;同年另文 The Constituent Structure… 的全文入口失败,不能用此文件冒充该文
只核对所列原文主张;独立验证另见节点记录。
Connectionism and cognitive architecture: A critical analysis ↗
Jerry A. Fodor · Zenon W. Pylyshyn
版本:Cognition 28(1–2):3–71;扫描期刊版
已读:PDF1–49/印刷3–51页:§1、§2、完整§3.1–3.5与§4开头;扫描文字识别辅助阅读,图形及少量识别不清符号不据OCR重建 (指定片段)
未读/未核验:PDF50–69/印刷52–71页尚未完整读;不能称全文完成
只核对所列原文主张;独立验证另见节点记录。
分布式向量怎样保存谁处于哪个角色?
- 问题
- 把多个对象的特征叠加以后,怎样保留对象与角色的绑定并取回它们?
- 方法与核心变化
- 先把结构分解为填充值与角色,以外积表示每个绑定,再求和;通过作用于角色侧的向量取回填充值。
- 限制
- 该表示不能独自保证学习成功或一般系统性;作者保留维度增长、递归处理与记忆存储限制。数学存在的操作不等于网络已经学会执行。
- 接下来的问题
- 怎样控制角色编码、容量和训练经验,区分精确结构操作与近似串扰?
前提、原文定位与阅读范围
前提:精确解绑定理要求单值角色及当前绑定角色向量线性独立;直接用角色向量查询与对偶向量查询的条件不同。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
结构可表示为填充值向量与角色向量外积之和;角色和填充值均可采用分布式表示。
定位:§2.2.3–2.2.4,173–176页 · smolensky-1990
单值角色的向量线性独立时,对偶向量支持精确解绑;自寻址查询对非正交角色一般会混入其他填充值。
定位:§3.1,186–187页,定理3.1与3.3 · smolensky-1990
作者明确说本研究始于对Fodor与Pylyshyn的回应,同时在结论中承认绑定单元增长和结构处理仍有困难。
定位:§1.2,165页;§4,212–213页 · smolensky-1990
Tensor Product Variable Binding and the Representation of Symbolic Structures in Connectionist Systems ↗
Paul Smolensky
版本:Artificial Intelligence 46(1–2):159–216;58页期刊版,作者任职机构公开文件
已读:159–176页§1、§2.1–2.2;185–190页§2.4、§3.1–3.2;211页末§3.9引入至213页结论;214–216页参考文献。186–187页精确/自寻址解绑定理及证明已视觉核对。 (指定片段)
未读/未核验:177–184页特殊表示、191–211页大部分实现/递归操作/记忆推导尚未完整读;未实现TPPS或验证学习结果。读取211页结尾不等于审查此前存储定理证明。
核对所列原文主张、条件与范围;本次未独立重跑其论文实验。
能否同时学习程序库和搜索程序的方法?
- 问题
- 预先设计专用语言限制了程序合成,怎样从已解任务中学出可复用抽象?
- 方法与核心变化
- 清醒阶段搜索程序;抽象阶段重构已找到的程序形成库;梦阶段用已解任务和库中采样程序训练神经搜索策略。
- 限制
- 主消融覆盖六个领域,另有两个特殊实验;递归基础学习实验没有使用识别网络。少量任务例不等于低总训练成本,完整DSL学习仍是开放问题。 图7中的生成文本任务使用每字符预测似然,不能与其他任务的解题率混为同一指标;EC2各领域运行次数也不同。
- 接下来的问题
- 在新数据类型、不同任务分布和更现实的噪声下,库与搜索策略能否继续迁移?
前提、原文定位与阅读范围
前提:输入仍需基本语言和具有共享结构、难度递进的任务语料;后验计算使用有限候选束等近似,不是从无先验开始。
以下是原批次记录的主张类型;“原文报告”与独立复现分别登记。
§2明确要求基本语言足以表达任务,并要求容易与困难任务共享可复用抽象。
定位:837页§2 · dreamcoder-2021
算法将程序搜索、抽象库学习和识别网络训练分成三阶段,并使用有限候选束近似程序空间的求和。
定位:837–839页§2.1–2.4 · dreamcoder-2021
作者报告主评测中两类学习部件均有贡献;列表任务测试集和EC2批处理方式改变,不能直接与旧论文数字比较。
定位:843–844页§5 · dreamcoder-2021
特殊递归语言实验禁用识别网络;作者仍将自动学习DSL的数据类型、惯用法和设计模式列为开放问题。
定位:847页特殊实验与§6 Outlook · dreamcoder-2021
图7生成文本面板报告预测似然;误差条为运行间标准差,EC2的运行次数存在领域差异。
定位:845页图7及图说 · dreamcoder-2021
DreamCoder: Bootstrapping Inductive Program Synthesis with Wake-Sleep Library Learning ↗
Kevin Ellis · Catherine Wong · Maxwell Nye · Mathias Sablé-Meyer · Lucas Morales · Luke Hewitt · Luc Cary · Armando Solar-Lezama · Joshua B. Tenenbaum
版本:PLDI 2021正式论文,835–850页;2020预印本题名与组织不同,本批不混用
已读:PDF1–5/835–839页的问题、算法及近似目标;PDF9–10/843–844页评测设置与结果;PDF13–14/847–848页特殊实验、讨论和图说;PDF11/845页图7曲线、图例、误差条与图说已视觉核对,并读该页正文 (指定片段)
未读/未核验:PDF6–8重构细节、PDF12特殊实验中段、15–16参考文献未完整读;另册附录和代码未核验,未复现结果
核对指定原文主张,未独立重复所引用实验。
已登记的关系
以下关系来自既有批次,仅列两端都在本路线中的记录。编辑性比较不表示已经证实历史影响。
直接回应 · e-fodor-pylyshyn-1988 → e-smolensky-1988-bbs
直接点名并回应;同年往复,不推断明确先后顺序。
类型:direct-response · 状态:source-checked · 定位:§7.2,印刷16–17页 · 来源:smolensky-1988-bbs · round-three-a
直接批评 · e-smolensky-1988-bbs → e-fodor-pylyshyn-1988
直接批评咖啡例及语境近似;关系图应允许同年双向争论。
类型:direct-critique · 状态:source-checked · 定位:§3.3,印刷45–46页 · 来源:fodor-pylyshyn-1988 · round-three-a
editorial-comparison · e-gentner-1983 → e-fodor-pylyshyn-1988
比较同名术语的不同解释目标,不将词语相同当作思想继承。
类型:editorial-comparison · 状态:editorial · 定位:Gentner印刷158、163–165页;Fodor §3.2 · 来源:gentner-1983、fodor-pylyshyn-1988 · round-three-a
editorial-comparison · e-mccarthy-1959 → e-strips-1971
比较相关前提选择与模型间搜索的不同处理;本条不宣称直接历史继承。
类型:editorial-comparison · 状态:editorial · 定位:McCarthy PDF5–10;STRIPS 608–613页 · 来源:mccarthy-1959-retrospective、strips-1971-ijcai · round-three-a
editorial-comparison · e-hart-nilsson-raphael-1968 → e-ellis-2021
比较手工启发式下界与学习得到的搜索分布;DreamCoder结果不能继承A*的路径最优性保证。
类型:editorial-comparison · 状态:editorial · 定位:A* 102–103、107页;DreamCoder 837–839页 · 来源:hart-nilsson-raphael-1968、dreamcoder-2021 · round-three-a
直接回应 · e-fodor-pylyshyn-1988 → e-smolensky-1990
作者明确说明这项工作始于回应Fodor与Pylyshyn的表征挑战;1990是期刊节点,不表示研究直到该年才开始。
类型:direct-response · 状态:source-supported · 定位:165页§1.2及214页参考文献11 · 来源:smolensky-1990 · round-three-a
明确采用 · e-smolensky-1988-bbs → e-smolensky-1990
1990文章明确沿用BBS论文的理论立场并形式化结构表示问题;本边不宣称BBS是张量积方法的首次提出。
类型:explicit-adoption · 状态:source-supported · 定位:159页引文41;165–167页;216页参考文献41 · 来源:smolensky-1990 · round-three-a
未覆盖与下一步
- Logic Theorist、GPS、框架问题的独立原文及其他规划分支仍可继续拓展;本批不声称穷尽。
- A*扩展节点最优性及后续更正未复核;STRIPS期刊版尚未与会议版逐项对照。
第一轮未映射候选与各来源的未读部分仍需继续审校;本页不代表这条路线的全部历史。