여러분이 "AI가 학습한다"라고 말할 때, 그 학습의 정체가 바로 경사 하강법입니다. 모델이 예측을 틀리면 "얼마나, 어느 방향으로 틀렸는지"를 계산하고, 그 정보를 바탕으로 파라미터를 조금씩 ...

최근 'SKT FLY AI'에서 공부하며 순전파와 역전파에 대해 강의를 들으며 갑자기 '순전파 역전파를 전개해본적이 있던가?' 라는 생각이 들어 계산해보려 하니 간단한 레이어 조차 계산하지 ...

大家好，我是南木。 作为PyTorch的“核心引擎”，Autograd是深度学习从“手动推导”到“自动优化”的关键，它替我们完成了反向传播中繁琐的梯度计算，却也因“黑箱化”让很多人只知其然不知 ...

原创 最新推荐文章于 2026-08-25 21:55:12 发布 · 1.1k 阅读 人工智能不是魔法，它是一套可理解的工具和思想。 本专栏致力于剥离神话，呈现本质，为你提供清晰、实用、有洞见的AI知识。 从概念到 ...

核心原理似乎是一道编程题：在无环有向图(Directed Graph)中， 每个节点记录了所有前向节点。自动梯度相当于：从叶子结点出发，使用拓扑排序遍历所有父节点，每个节点上存有一个函数，当 ...