Hinton采访 24.6.27type
status
slug
date
summary
tags
category
icon
password
Hinton采访链接
Q&A with Geoffrey Hinton YouTube · METR (Model Evaluation & Threat Rese...·27 Jun 2024
观看思考
1.
时代的车轮从不为任何人停驻，尤其是在人工智能的崛起之后，软件开发行业的人员需求正悄然缩减。然而，这种变化对我们大学教育的影响却显得滞后且冷漠。当我们曾经批判农民的滞后性与愚昧时，今天我们才意识到，这种对“落后”的隐性贬低和讽刺，终究会以某种形式反噬我们自己。
如今，实习生的需求正在急剧减少，而校园内的教育内容依旧固守在旧有的模式和体系中，忽视了现实需求的变化。如果高等教育的出发点未能站在学生未来发展的角度，那么教材和技术的更新换代也就无从谈起。如今的教育体系似乎停滞在过去的标准中，远未跟上社会的步伐，甚至有些学校对这一变动充耳不闻，依旧固守着陈旧的教学理念。
在这个日新月异的时代，个人的判断力比以往任何时候都更为关键。我们所处的是一个飞速变化的社会，而这种变化带来的是巨大的挑战，也伴随着前所未有的机遇。正如财富和幸福感并非凭空降临，它们只是从一个人的口袋转移到了另一个人的手中，微笑与喜悦也同样在不同的面庞上交替。时代的残酷与机遇，永远在无声的转移中展开。
2.
关于人工智能的权利问题，我联想到了《西游记》中的一个场景。孙悟空曾对如来佛祖说，妖精在下界吃人，为何佛祖不加以制止？如来佛祖回答，妖精只是凭本分行事，如何能干预？这种观点引发了我对智慧和权力关系的深刻思考。类似的道理可以在唐僧西行的初期看见，那时他身边还跟着两个小和尚，途中遭遇猛虎，虎狼之势直接将小和尚吃掉。紧要关头，猎户出现，将老虎杀死，带回虎肉。
在这样的情境下，我们不能单纯地从“强弱”去判断谁应该生存，谁应该被淘汰。老虎虽强，但它的捕猎行为若超出了自然的需求边界，便有了滥杀的嫌疑。问题不在于老虎的力量，而在于它是否滥用力量，破坏了生态的平衡。这个观点同样适用于人工智能与人类的关系。
回到Hinton教授的论述，他指出，智慧高的生物通常掌控着智慧低的生物。在这一点上，我们不禁要问：当人工智能的智慧超越人类时，它将如何看待我们？这是一个值得深思的问题。
从长远来看，我或许是那批被视为“悲观”的人。我们永远不能奢望一个智力远超我们、掌握主动权的存在，会以“下位者”的姿态关爱我们、善待我们。人类不应忽视这一点，我们必须理解智慧与权力的关系本质——它总是掌握在更强者手中。
3.
Hinton教授曾指出，大学教育的过程就像是调整“权重”的过程。在人类学习中，这种同步效率是相对缓慢的。例如，当我告诉你“电压乘电导等于单位时间内的电荷”时，学生需要通过不断调整自己大脑中的神经网络，去理解并记住这条知识，并且有时还需要忘记自己之前学习过的、与之相矛盾的内容。这一过程不仅仅是信息的积累，更多的是一种信息的整合与再评估。
然而，与此不同的是，大型语言模型则展示了完全不同的学习方式。只要初始模型相同，AI的同步效率显著更高。当一个模型学到了新的知识，几乎意味着所有相同的模型都同时学会了这条信息。AI并不需要经历人类那种逐个调整和反复检视的过程，它的“学习”能够通过并行化的计算迅速完成，几乎是一种“信息同步”的状态。
然而，这种高效的同步并不意味着AI具备真正的理解能力。虽然它可以快速吸收数据并生成输出，但它并不“理解”这些信息，它的学习过程是基于大量数据中的统计关联，而不是主动的思考或创造性推理。因此，AI的学习是“快速”但“浅薄”的。
从人类学习的角度来看，虽然我们的学习效率较低，但我们具备批判性思维和创造性，这也是AI所不具备的。我们不仅仅是在记忆和处理信息，更是在不断地质疑、反思和创新。这样的能力使得人类学习具有不可替代的深度与复杂性。
- Author:盛溪
- URL:https://tangly1024.com/article/Hinton%E9%87%87%E8%AE%BF%2024.6.27
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!
Relate Posts
