文章摘要
学习 AI 如何通过与环境交互来学习。从 MDP、Q-Learning 到策略梯度和 DQN,理解 AlphaGo、机器人控制、游戏 AI 的核心技术。
2学习建议
实战项目:
- 用 Q-Learning 让 Agent 学会走迷宫
- 用 DQN 玩 Atari 游戏
学 RL 最大的陷阱是「先调参后理解」——务必先把 MDP 和 Bellman 方程吃透,再碰深度 RL。
架构图示 1
架构图示 2
🎯 相关面试题
巩固本篇知识点,备战 AI 岗位面试。
- 中级概念高频查看详解 →
Q-Learning 的核心思想是什么?
无模型 off-policy 算法,学习状态-动作价值 Q(s,a),用 Bellman 方程迭代更新,贪心策略选最优动作。
- 高级概念查看详解 →
什么是 DQN 中的经验回放?为什么重要?
经验回放把 [Agent](/glossary/agent) 与环境交互产生的 (s,a,r,s') 存入缓冲区,训练时随机采样 mini-batch,打破连续样本相关性并重复利用历史数据。
- 高级概念查看详解 →
什么是深度 Q 网络(DQN)?它如何结合强化学习与深度神经网络?
[DQN](/glossary/dqn) 用神经网络近似 Q(s,a),配合经验回放与目标网络,把 [Q-Learning](/glossary/q-learning) 扩展到高维状态空间,是深度强化学习的里程碑算法。
- 中级概念查看详解 →
同策略学习与异策略学习有何区别?
On-policy 用当前策略采集的数据学当前策略(如 SARSA、PPO);off-policy 可用旧策略或其他策略的数据学目标策略(如 Q-Learning、DQN 经验回放)。
