V神：正确的AI发展为人类智慧配备机械装甲！
本周，辉达执行长黄仁勋在2025年CES的主题演讲中提到：“AIagent有潜力成为一个数兆美元的产业。”助长了加密社群对AIAgents的热情，据Kaito数据，AI在本周的关注度首次达到接近70%的水平。
Source:@sandraaleow
V神：正确的AI发展为人类智慧配备“机械装甲”
而在今日，以太坊共同创办人Vitalik Buterin也对AI的发展发表评论表示：“错误的AI发展可能会创造出独立且能自我复制的智慧生命体。而正确的AI发展是成为人类思维的“机械装甲”。如果我们只做到了前者而忽略后者，人类可能面临永久失去权力的风险;但若做到了后者，我们有望实现繁荣的超智慧人类文明。”
在实现后者的方法上，Vitalik进一步解释：“提炼(distill)人类判断力是集体层面实现后者的一种方法。现今的许多AI影片生成工具已展示了这种趋势的端倪：不是简单地“输入指令后等待结果”，而是即时进行精准控制与调整的过程。”
Vitalik还附上了自己去年11月撰写的文章截图，阐述了一种通过“资讯金融”来提炼人类判断的方法，目的是让复杂、昂贵且高效的人类判断机制能以低成本、快速且高效的方式运作。他引用RobinHanson的想法，表示可以借助“预测市场”。
“透过市场机制，我们能够以可信中立且快速廉价的方式获得原本昂贵机制的“提炼版本”(这里使用“提炼”这个词，类似于LLM的蒸馏过程)。随着时间的推移，这种提炼机制会大致模仿原始机制的行为，因为只有那些帮助达到正确结果的参与者能赚钱，而其他人则会亏损。”
从他分享这段内容来看，他可能想探索“如何让人类价值观和智慧高效融入到AI系统的决策中”，并且强调经济激励在这其中的重要性。
应打造AI代理人吗？
另一方面，在回答网友关于“设计选择应该是代理型AI还是以提升人类能力为核心？”的提问时，Vitalik表示：““代理(Agents)”是一个有趣的词。有时它指的是“可以自行运行并制定复杂计划，持续数天且无需人类干预的AI”，但更多时候它仅仅指“聊天机器人取代GUI(图形用户界面)，成为应用的主要交互方式。”
Vitalik直言，后者非常棒。这与他去年12月发表的一篇关于理想钱包的文章不谋而合。在那篇文章中，他探讨了AI的进步可能带来交互方式的深刻革命，并指出未来有可能从传统的点击操作和输入模式，转变为“说出你的需求，机器人帮你完成”的全新模式。他提到：“通过自然语言输入、眼球追踪，甚至未来更直接的脑机接口(BCI)，以及对用户历史的深入掌握(如简讯记录，前提是所有数据仅在本地处理)，“钱包”能更直观地理解用户的意图。AI可将这些意图转化为具体的“行动计划”，即一系列链上和链下的操作来实现用户需求。这样一来，对第三方用户界面的需求将大幅减少。如果用户需要与第三方应用或其他用户互动，AI应该以用户利益为出发点，提前检测潜在风险，并提供解决方案建议。”
Vitalik补充道，理想情况下，这些AI应由不同团队开发，形成一个多样化的开放生态系统，满足不同的偏好与需求。
主张开发能增强人类智慧的工具
去年12月底，Vitalik在讨论AGI(人工通用智慧)与ASI(人工超级智慧)时，提出了他对AGI的定义：AGI是一种足够强大的人工智慧，假如某天所有人类突然消失，而这个AI被上传到机器人的躯壳中，它能够独立维持文明的运作。
他也坦言，这是一个极其难以量化的定义，但这正是许多人心中“我们习惯的AI”与“AGI”之间的潜在直觉差异。从一个不断依赖人类输入的工具，进化成为一种自给自足的生命形式，便是这种差异的核心所在。
至于ASI，Vitalik将其视为一个更高层次的概念：当人类的参与(human-in-the-loop)不再为系统带来任何价值时，便达到了ASI的标准。他举例指出，国际象棋中的AI也只是最近十年间才达到这一水准。
他坦率地表示，ASI令他感到恐惧，甚至他自己定义的AGI也让他不安，因为这些技术可能带来人类失去控制的重大风险。
因此，Vitalik更倾向于专注于开发能增强人类智慧的工具，而不是构建某种形式的超级智慧生命。他的这一立场，与他今天提到的观点一致：正确的AI发展应该为人类智慧装上“机械装甲”，而非创造新的独立智慧生命体。
AGI：指具备类似人类智能的人工智慧，能够在多种不同领域中执行任务，而不仅限于特定的应用。
ASI：指超越人类所有智能层次的人工智慧，不仅在特定领域具有卓越的能力，还能全面性在每个方面超越人类。
