马毅老师等人的新书PrinciplesandPracticeofDee

蚁工厂 2026-03-04 20:48:08

马毅老师等人的新书 Principles and Practice of Deep Representation Learning深度表示学习的原理与实践 -- 或记忆的数学理论在线阅读:ma-lab-berkeley.github.io/deep-representation-learning-book/index.html

一本现代化的完全开源教科书,探讨了深度神经网络为何以及如何学习高维真实世界数据的紧凑且信息密集的表示。

本书揭示并研究了几乎所有现代机器(人工)智能实践背后一个共同且根本性的问题。也就是,如何在高维空间中有效且高效地学习数据的低维分布,然后将其转化为紧凑且结构化的表示?对于任何智能系统,无论是自然的还是人造的,这种表示通常可以视为从外部世界感知到的数据所学到的记忆或(经验)知识。近年来,人们通常非正式地称之为“世界模型”。

本教材旨在为高年级本科生和初级研究生提供一个关于学习(深度)表示数据分布的数学与计算原理的系统介绍,作为计算型记忆的形式。本书的主要前置要求是本科线性代数、概率/统计学和优化学。对信号处理(特别是稀疏表示和压缩感知)、信息论和反馈控制的基本概念有所了解,将有助于理解本书内容。

本书的写作动机主要来源于过去几年,作者与许多同事所做的巨大进展,旨在建立一种有原则且严谨的方法来理解深度神经网络,更广义地理解智能本身。这一新方法所倡导的演绎方法与当前人工智能实践背后的主流方法形成了鲜明对比,后者主要是归纳的和试错的。对这些强大AI模型和系统缺乏理解,导致了社会上日益增长的炒作和恐惧。我们认为,现在比以往任何时候都更需要认真尝试建立一种有原则的方法来理解智能。本书的一个宏大目标是提供扎实的理论和实验证据,证明现在已经有可能将智能作为一个科学和数学课题来研究。正如我们将论证的,智能是发展新记忆(或知识)或修正现有记忆的基本能力。因此,本书可以看作是开发数学智能理论的首次尝试,正如书名副标题所暗示的那样,重点在于作为记忆学习的经验知识。

HOW I AI

0 阅读:0
蚁工厂

蚁工厂

感谢大家的关注