“人工智能让我彻夜难眠！” AI教父本吉奥亲自阻止了他创造的“巨型生物”。

加拿大蒙特利尔的深夜，世界顶级计算机科学家之一、“人工智能教父”之一约书亚·本吉奥(Yoshua Bengio)再次从睡梦中醒来。窗外的月光很平静，但他的思绪却在飞速运转。人工智能（AI）这个他亲自参与“照顾”并变得更强的“智能野兽”，让他前所未有地焦虑，甚至“夜不能寐”。这位2019年图灵奖获得者、论文被引用超过百万次的学术泰斗，像一位骄傲的父亲一样看着自己的深度学习技术长成参天大树。然而，自2022年11月ChatGPT诞生以来，这种喜悦在短短几个月内就变成了渗透骨髓的“寒意”。你开始意识到事情的发展可能远远超出你的预期或控制。 “我们正在走一条潜在的非常危险的道路，”他在接受采访时承认。这不仅是科学家合理的担忧，也是深层次的合作。担心祖父的未来。从喜悦到恐惧：我祖父的噩梦 Bengio 的转变始于对 ChatGPT 及其背后技术的深入研究。他意识到这些日益强大的人工智能系统的内部决策过程就像“黑匣子”。即使是创造者也无法完全理解或预测其行为。 “我们不知道如何确保他们按照我们的预期行事。”这种担忧很快从一个抽象的学术问题变成了与血液相关的具体情感。他想到了他的小孙子。 “我开始想到我的孙子。20年后他就22岁了。他会过上正常的生活吗？他会生活在一个正常的国家吗？”这个想法像一根针一样刺穿了科学家的理性盔甲，揭示了普通人更柔和的担忧。他的思绪飞向了未来。他看到了一种可能的情况，其中控制最先进人工智能的少数实体将拥有前所未有的力量。人工智能本应是一种中立的工具，但它可以成为颠覆社会基础的杠杆。更可怕的噩梦在等着你。他就是我。我想到了那些由于神学偏执或心理健康问题而可以“按下红色按钮”并命令高度智能的人工智能来执行毁灭世界的任务的人。比如，设计出超强病毒，甚至是可以“杀死地球上所有动物”的“镜像细菌”。从“造梦者”到“预言家”：自助。这种对“人类灭绝”可能发生的恐惧最终迫使本吉奥做出了重要决定。你必须将你的学术声誉和智慧转向最紧迫的目标，以防止人工智能的风险。他从人工智能技术的“梦想家”，变成了人工智能安全的“看门狗”。我们不再仅仅考虑如何让人工智能变得更强大，而是开始思考：“我们如何构建不会伤害人类的人工智能？”但他感觉更加乐观，因为他相信自己现在就能做到。他领导组建了由来自30多个国家和国际组织的代表组成的国际咨询小组，今年早些时候发布了一份关于先进人工智能安全性的具有里程碑意义的国际科学报告。该报告系统地识别了人工智能带来的三大风险：意外故障、恶意使用（例如深度造假和网络攻击）和系统性风险（例如大规模失业）。在他看来，恶意使用是目前最紧迫的威胁，但让他彻夜难眠的始终是物种生存的最终风险。 “科学人工智能”：给失控的引擎踩“刹车”在寻找解决方案的过程中，本吉奥和他的团队提出了一个有前途的概念：“科学人工智能”。这个想法的灵感来自于人类科学家探索世界的方式。这种类型的人工智能并不是被设计成代理的。 AI本身没有目标或意图，也不会主动“做”任何事情。你的中心任务是理解以及世界的因果规律，并像科学家一样做出纯粹的预测和分析。 “这样我们就可以信任内容，”Bengio 解释道。 “如果您遵循这条道路，您将能够构建具有所需可靠性水平的系统。”这就像给出一个“仪表板”和一个“警告系统”。当然，我们也知道，在现实世界中，企业和研究人员迫切需要能够“做事”的人工智能代理。但好消息是，“科学人工智能”可以充当强大的“防护栏”。在让人工智能执行任何行动之前，我们要求“科学人工智能”预测该行动是否会产生负面影响以及概率是多少。他很高兴他的电话和报告开始引起共鸣。世界各国政府正在建立人工智能安全研究机构，全球人工智能安全治理网络正在形成。该报告是各国政策制定者和新兴科学家的知识宝库，并以所有公民都能理解的语言编写。站立。智者的警告：财富、想象力和未来当在一次新的采访中被问及人工智能对经济的长期影响时，这位科学家展现了社会学家的洞察力。 · 关于经济：虽然他承认人工智能将推动GDP增长，但他很快提醒我们，关键问题是财富如何分配。 “如果我们看看财富”五年前，没有人能够预测我们今天拥有的人工智能水平。每个人都认为这是科幻小说。“所以，如果我们做同样的心理练习，并将其投射到未来，我认为我们可以实现这样的目标：缺乏想象力，这是一个非常人性化的特质。”记者最后问了教授一个尖锐的问题：你希望人工智能从未被发明吗？老师没有直接回答是或不是。经过深思熟虑，他说：“这是一个很难回答的问题，我更希望的是，我们能够共同预见到这些灾难性的可能性，以更加谨慎和安全的方式走到今天的一步。”他的回答听起来更像是一个智者的警告，而不是一个创造者的遗憾。他没有否认苏生命的作品，但他并没有以最大的谦虚、最审慎的态度去否认，面对他所创造的科技洪流。他呼吁人类进行最深刻的伦理思考。他的故事从一个构建智能的梦想家变成了一个保护人类的义务警员。他的“失眠”不再是个人的焦虑，而是一种深深的恐惧。对时代和人类文明整体的关注，在人工智能的早期，他选择了危言耸听，提醒那些痴迷于科技狂欢的人，要放眼远方，共同打造方舟，前方的道路仍然阴云密布，但至少有人点亮了第一盏灯（刘春）。