Google Trends 是一个有用的工具，可以观察特定主题的趋势如何变化。这一次，我输入了代表人工智能技术范式转变的三个词组：“专家系统”、“深度学习”和“生成式人工智能”来观察结果。
资料来源：Google Trends，2023/05/11，DIGITIMES Asia 编译
使用 2004 年，谷歌趋势中最早可用的数据点，作为起点，对专家系统的兴趣持续下降。相比之下，对深度学习的兴趣在 2013 年开始上升，并在 2014 年超过了专家系统，而当 ChatGPT 于 2022 年 11 月面世时，生成式 AI 经历了显着的飞跃。
专家系统是早期真正商业化的人工智能技术，属于基于规则的学习。专家系统由三个部分组成：知识库、推理机和用户界面。
知识库是通过咨询大量专家，然后使用 if-then-else 结构将专家的知识和经验输入到库中来构建的。推理引擎根据知识库中的规则和机制进行推理和决策。用户界面就像 ChatGPT，允许用户以问答的形式获得专家系统推断的答案。
专家系统的趋势在 1980 年代开始下降，原因是难以表达和形成人类大部分隐藏知识的规则，以及重建和维护基于规则的学习数据库的复杂性不断增加。专业领域（如医疗和土木工程）的专家系统逐渐消亡，而用于一般业务管理的基于规则的系统逐渐集成到Oracle和SAP等公司的企业应用软件中。
2012 年，多伦多大学教授 Geoffrey Hinton 和他的两个博士生 Alex Krizhevsky 和 Ilya Sutskever 发表了论文《ImageNet Classification with Deep Convolutional Networks》，由此引发了深度学习。同年，在李飞飞发起的 ImageNet 大规模视觉识别挑战赛（ILSVRC）上，他们的 CNN（卷积神经网络）架构 AlexNet 取得了创纪录的 15.3% 的错误率——比 AI 高出近 11 个百分点。亚军（26.2%）。
此后，深度学习成为机器视觉领域的主流技术。当微软的ResNet在2015年以3.6%的错误率超越人眼5%的错误率时，智能交通、人脸识别、缺陷检测等各种市场机会腾飞。这已经反映在 2013 年以来对深度学习的搜索兴趣中。
与执行对现有数据进行分类和分类（例如人脸识别）等识别任务的深度学习相比，生成式 AI 学习输入数据的模式和结构，然后根据训练数据集的分布生成相似但新的数据。
Ian Goodfellow 在 2014 年提出的 GAN（generative adversarial network）是生成式 AI 发展的里程碑。在接下来的几年里，生成式人工智能的搜索热度略有上升，并开始在专业社区中受到越来越多的关注。随后，2022 年 11 月 ChatGPT 的推出引发了媒体和普通大众的关注和后续使用，从而导致搜索兴趣迅速增加。
如果直接将 ChatGPT 与 Google Trends 中的专家系统和深度学习进行比较，我们可以看到，由于 ChatGPT 的爆炸性搜索兴趣，专家系统和深度学习的搜索兴趣已经降低到接近 0 的水平线。
在 2007 年计算机历史博物馆的口述历史采访中，专家系统之父爱德华费根鲍姆回答了一个关于人工智能和知识的问题，他说：“我们与动物有几个重要的不同之处，但其中一个是我们通过称为文本的文化机制来传播我们的知识。（它）曾经是手稿，然后是印刷文本，现在是电子文本……我们需要有一种方法让计算机可以阅读化学书籍并学习化学，读物理书，学物理，学生物……一切都是手工制作的，一切都是知识工程。” （摘自computerhistory.org 上爱德华费根鲍姆的口述历史）
Feigenbaum 当时根本无法预料到由于 Google 的 BERT 和 OpenAI 的 GPT 等 LLM 的发展，训练文本的数量会出现惊人的增长。以 OpenAI 为例，2018 年，GPT-1 拥有 5GB 的训练数据和 1.1 亿个参数。2020 年，GPT-3 拥有 45TB 的训练数据和 1750 亿个参数。从那以后，OpenAI 停止发布其训练数据量，但 GPT-4 估计有超过 1 万亿个参数。这些突破性的成果正在接受来自世界各地各行各业的人们的尝试和检验。
在深度学习的主要创始人中，Ilya Sutskever 是 OpenAI 的联合创始人兼首席科学家，并不断推进前沿的 AI 技术。不过，Geoffrey Hinton 最近离开了谷歌，一直在鼓吹人工智能对人类的威胁可能比气候变化更为紧迫的观点。OpenAI 的另一位联合创始人 Elon Musk 也呼吁暂停开发和测试比 GPT-4 更强大的语言模型。
说到这里，我忍不住想问现年 87 岁高龄的费根鲍姆一个关键的问题。作为自然语言处理人工智能之父，强人工智能时代来临，人类下一步该如何走？
Eric Huang现任DIGITIMES副总裁
