从人工智能的起源：20 世纪 80 年代如何为当今的生成模型奠定了基础 - 图片：Xpert.Digital
人工智能的先驱：为什么 20 世纪 80 年代是梦想家的十年
革命性的 80 年代：神经网络和现代人工智能的诞生
20 世纪 80 年代是技术世界变革和创新的十年。随着计算机越来越多地进入企业和家庭，科学家和研究人员致力于让机器变得更加智能。这个时代为我们今天认为理所当然的许多技术奠定了基础，特别是在人工智能（AI）领域。这十年的进步不仅是开创性的，而且深刻地影响了我们今天与技术互动的方式。
神经网络的重生
经过 20 世纪 70 年代对神经网络的怀疑之后，它们在 1980 年代经历了复兴。这很大程度上要归功于约翰·霍普菲尔德和杰弗里·辛顿的工作。
约翰·霍普菲尔德和霍普菲尔德网络
1982 年，John Hopfield 提出了一种新的神经网络模型，后来被称为 Hopfield 网络。该网络能够存储模式并通过能量最小化来检索它们。它代表了向联想记忆迈出的重要一步，并展示了如何使用神经网络来稳健地存储和重建信息。
杰弗里·辛顿和玻尔兹曼机
Geoffrey Hinton 是最有影响力的人工智能研究人员之一，他与 Terrence Sejnowski 一起开发了玻尔兹曼机。这种随机神经网络系统可以学习复杂的概率分布，并用于识别数据中的模式。玻尔兹曼机为深度学习和生成模型领域后来的许多发展奠定了基础。
这些模型具有开创性，因为它们展示了神经网络如何不仅可以用于对数据进行分类，还可以生成新数据或补充不完整的数据。这是朝着当今许多领域使用的生成模型迈出的决定性一步。
专家系统的兴起
20 世纪 80 年代也是专家系统的十年。这些系统旨在编纂并利用人类专家在特定领域的专业知识来解决复杂的问题。
定义与应用
专家系统基于基于规则的方法，其中知识以 if-then 规则的形式存储。它们已被应用于医学、金融、制造等许多领域。一个著名的例子是医学专家系统 MYCIN，它帮助诊断细菌感染。
对人工智能的重要性
专家系统展示了人工智能在实际应用中的潜力。他们展示了如何利用机器知识来做出决策并解决以前需要人类专业知识的问题。
尽管取得了成功，专家系统也证明了基于规则的方法的局限性。它们通常很难更新，并且不能很好地处理不确定性。这引发了重新思考，并为机器学习的新方法创造了空间。
机器学习的进展
20 世纪 80 年代标志着从基于规则的系统到数据驱动的学习方法的转变。
反向传播算法
一个关键的突破是神经网络反向传播算法的重新发现和普及。该算法可以通过网络向后传播误差来有效地调整多层神经网络中的权重。这使得更深的网络更加实用，并为今天的深度学习奠定了基础。
简单的生成模型
除了分类任务之外，研究人员还开始开发生成模型来了解数据的基本分布。朴素贝叶斯分类器是简单概率模型的一个示例，尽管有其假设，但已成功用于许多实际应用中。
这些进步表明，机器不仅必须依赖预定义的规则，而且还可以从数据中学习来完成任务。
技术挑战与突破
尽管理论进展充满希望，但研究人员面临着重大的实际挑战。
计算能力有限
与今天的标准相比，20 世纪 80 年代的硬件非常有限。训练复杂的模型非常耗时，而且成本往往高得令人望而却步。
梯度消失问题
当使用反向传播训练深度神经网络时，一个常见的问题是较低层的梯度变得太小而无法进行有效的学习。这使得训练更深的模型变得更加困难。
创新解决方案：
受限玻尔兹曼机 (RBM)
为了解决这些问题，Geoffrey Hinton 开发了受限玻尔兹曼机。 RBM 是玻尔兹曼机的简化版本，在网络结构上受到限制，这使得训练更加容易。它们成为更深层次模型的构建块，并实现了神经网络的逐层预训练。
分层预训练
通过逐步训练网络，一次一层，研究人员能够更有效地训练深层网络。每一层都学习转换前一层的输出，从而获得更好的整体性能。
这些创新对于克服技术障碍和提高神经网络的实际适用性至关重要。
八十年代研究的长寿
今天使用的许多深度学习技术都起源于 20 世纪 80 年代的工作 - 图片：Xpert.Digital
20世纪80年代提出的概念不仅影响了当时的研究，也为未来的突破铺平了道路。
一汽乌尔姆（面向应用的知识处理研究所）是第一家独立的人工智能研究所，成立于1987年。戴姆勒克莱斯勒股份公司、业纳股份公司、惠普有限公司、罗伯特博世有限公司等公司都参与其中。 1988年至1990年我在那里担任研究助理。
深度学习基础
如今使用的许多深度学习技术都起源于 20 世纪 80 年代的工作。反向传播算法的思想、隐藏层神经网络的使用以及逐层预训练是现代人工智能模型的核心组成部分。
现代生成模型的发展
玻尔兹曼机和 RBM 的早期工作影响了变分自动编码器 (VAE) 和生成对抗网络 (GAN) 的发展。这些模型使得生成逼真的图像、文本和其他数据成为可能，并在艺术、医学和娱乐等领域得到应用。
对其他研究领域的影响
20 世纪 80 年代的方法和概念也影响了统计学、物理学和神经科学等其他领域。这项研究的跨学科性使人们对人工系统和生物系统有了更深入的了解。
应用及社会影响
20 世纪 80 年代的进步带来了特定的应用，这些应用构成了当今许多技术的基础。
语音识别与合成
早期的神经网络用于识别和再现语音模式。这为 Siri 或 Alexa 等语音助手奠定了基础。
图像和模式识别
神经网络识别复杂模式的能力已在医学成像、面部识别和其他安全相关技术中得到应用。
自治系统
20 世纪 80 年代的机器学习和人工智能原理是自动驾驶车辆和机器人开发的基础。
20 世纪 80 年代：智能学习和生成
20 世纪 80 年代无疑是人工智能研究发生变革的十年。尽管资源有限且面临众多挑战，研究人员仍对能够学习和生成的智能机器抱有愿景。
今天，我们正在这些基础上发展，正在经历一个人工智能几乎渗透到我们生活的方方面面的时代。从互联网上的个性化推荐到医学领域的突破，始于 20 世纪 80 年代的技术正在推动创新。
看到这个时代的想法和概念如何在今天在高度复杂和强大的系统中实现是令人着迷的。先驱者的工作不仅促进了技术进步，还引发了关于人工智能在我们社会中的作用的哲学和伦理讨论。
20 世纪 80 年代人工智能领域的研究和发展对于塑造我们今天使用的现代技术至关重要。通过引入和完善神经网络、克服技术挑战以及创造能够学习和生成的机器的愿景，这十年的研究人员为人工智能发挥核心作用的未来铺平了道路。
这次的成功和挑战提醒我们基础研究和创新追求是多么重要。 20 世纪 80 年代的精神在每一个新的人工智能发展中都得到体现，并激励子孙后代继续突破可能的界限。
适合：