编码棋盘并估计策略与价值
状态用当前玩家和对手的两张棋盘平面表示。PyTorch 网络由卷积主干分出策略头与价值头,分别给出落子先验和当前局面的价值估计。
把策略-价值网络、PUCT 搜索、自我对弈和训练数据回放连成一个 AlphaZero 风格的学习环。
搜索产生的反馈,怎样变成更好的下一步策略?
这个实验把策略价值网络、PUCT 搜索与自我对弈连接起来,观察搜索产生的更强策略如何反过来训练网络。
这里整理这项研究的出发点、实现路径、当前观察,以及下一步准备回答的问题。
状态用当前玩家和对手的两张棋盘平面表示。PyTorch 网络由卷积主干分出策略头与价值头,分别给出落子先验和当前局面的价值估计。
文章给出 PUCT 节点结构与选择、扩展、评估、回传流程,并将合法动作的网络先验归一化后用于搜索。
自我对弈流程以搜索分布作为策略目标,将局面、策略分布和终局结果写入 replay buffer,再用策略与价值损失更新网络。
当前实现梳理了从棋盘编码、树搜索到自我对弈数据回放的核心循环。下一步是补齐稳定训练、基线对手和固定赛制,观察 loss、胜率与搜索预算之间的关系。
自我对弈提供了一个紧凑的改进循环:系统产生行为,从结果中获得反馈,再更新下一轮策略。它让“如何变得更好”成为可以观察和比较的过程。