Xin Zhiyuan编辑报告：Yuan Yu [Xin Zhiyuan简介]，“ AI Godfather” Geoffrey Hinton在一次采访中发出了另一次警告。欣顿认为，许多AI公司，例如Openai和人类，在AI的安全方面做得不够。他还谈到了人类的弱点，例如贪婪和推定，可能代表了AI调查的潜在风险。库里克：如果您可以将Ultraman和面具带到同一张桌子上，您会说什么？欣顿：我说：我知道您正在发展的可能会破坏人类。最近，在与下一个问题的主持人凯蒂·库里克（Katie Couric）的对话中，“ AI Godfather” Geoffrey Hinton公开表达了他对AI安全的内部关注。杰弗里·辛顿（Jeffrey Hinton）与下一个问题的主持人凯蒂·法院（Katie Court）进行了交谈。实际上，这不是他第一次以AI的风险说话。 2023年5月，Hinton，然后是Prin Scientist Google Ai Cipal，放弃了Google，并担任了“ AI投诉人”的作用。从那以后，他由于一直关注并敦促人们注意AI快速发展带来的风险，并为不考虑早期AI的安全问题而感到遗憾。最近，欣顿发出了另一条警告，该警告说，AI将改变战争之路并使之更容易。自动武器是指“死机器人”而不是“身体包”。杰弗里·辛顿（Jeffrey Hinton）说，谋杀机器和无人机正在降低人道主义战争的成本。欣顿说，诸如“谋杀机器人”和“无人机”等致命武器的出现促进了战争。 AI促进了“谋杀机器人”参加战争，取代了许多可能在战场上死亡的人。这很好，但这也是“ AI的教父”中最恐怖的。这样，开始AA战争的成本减少了，打破战争的可能性也更高。欣顿说，“谋杀机器人”的出现并不能使战争更安全，他说他将通过减少Huma来促进战争N和战斗的政治成本。这使富人更容易入侵贫困国家。因为战争之所以避免，是因为这些富裕国家的这些公民被放在战场上的尸体袋中。但是，AI改变了这一点。 “如果有一种致命的自主武器，他返回时没有人死亡，而是成为一个死去的机器人。”欣顿认为，这种变化可以促使政府发动战争并丰富武器特许权。 “这对于武器分销商来说是理想的选择，因为这些机器人更换昂贵。”欣顿认为，除了降低战争成本外，AI还在重塑战场并改变了战争的方式。在真正的战争中，对于AndJemplo，无人机和无人系统改变了战场，摧毁了传统的战争形式和战争手段。有人甚至说，在以后的战争中，数据的作用将超过弹药。以一个真正的战争为例。目前，一笔500美元的无人机可以摧毁数百万美元的坦克。此外，AI技术导致传统硬件看起来过时了，例如载人战斗人员是一个愚蠢的主意：“如果您可以在战斗机中安装，IA可以支持更高的过载，而不必担心受害者。”对人类的收购是人类的极大关注。与AI对未来战争的影响相比，欣顿更关心人类将人类交付给AI的风险。欣顿在2024年在诺贝尔物理奖中说，他希望人们更加重视AI和他们的未来。在整个Años中，Hinton逐渐散布了最广泛和更多的关注。欣顿说，在谈论当前的人工智能风险时：我的主要关切不是恶意演员在短期内滥用AI的风险（当然，非常严重），而是长期风险：AI本身接管了AI。 Hinton谈到了避免被送入AI的唯一方法。这是为了照顾我们建造的非常聪明的AI，“我不想做“实现这一目标的技术与使人工智能更聪明的技术不同。在这个问题上获得国际合作更容易。因为该国没有共享做最聪明的人工智能的方法，它将在“如何不想取代人类”中共同努力。技术，但在社会治理中：“如果我们的政治体系足够公平，当AI极大地提高了生产力时，它应该使每个人都能获得更多的商品和服务。”GN复合系统将保持流行）。实际上，与这些职位相比，某些需要合格人员（例如水管工）的作品更少被替换（当然，机器最终会变得敏捷，即使在10或20年中，这可能是不安全的）。 Hinton认为，与基于知识的职位（例如律师和会计）相比，Fontaneros的风险要小得多。欣顿还提到，AI甚至取代了需要高度情绪智力和人际交往的一些作品，例如护士和医生，因为AI会比人类更加同理心：“如果分别与医生互动的人和AI互动，然后询问谁具有更高的同情心，AI将获得更高的分数。”在采访中，凯蒂·库里克（Kitty Couric）还提到，AI甚至取代了需要高度情绪智力和人际交往的一些作品，例如护士和医生，因为AI会比人类更加同情：“如果与D与D互动的人Octors和AI分别分别询问谁有更多的同理心，AI的分数将更高。对于许多人来说，当他的工作失去了这种价值时，他的工作是密切相关的。欣顿谈论了深米ND团队提案，以预测蛋白质序列的折叠结构，并将专业公司分割为新药设计。他认为，在明年的一两年中，也许还有更多，我们将领导一系列更好的药物。 AI Hinton对未来的乐观观点总是提醒人类，最聪明的AI负责防止已交付的风险。由Openai和Google代表的AI公司是AI技术开发的主要驱动力，但欣顿认为，这一主题没有足够的公司。这些AI公司的安全问题说“它们不会迅速发展”。你会告诉他们吗？ Hinton：我会说：您非常清楚您所发展的事情有很高的可能性摧毁了人类。您私下承认这一点。您必须以可以保证安全的方式投入更多的能源并发展。 Kittie Couric：您认为什么阻止了他们？是贪婪吗？ Hinton：基本上是。他们想赚很多与人工智能的金钱，并具有“比人类更聪明的事情”的情感。但是，这次谈话也谈到了欣顿认为的人类弱点，例如贪婪和推定，这可以增加潜在的风险。 Light的研究人员比老年人更好地了解AI的力量和可能的负面影响，也更了解AI会承担的风险。积极的迹象：当涉及AI未来的观点时，Hinton说，它比几周前更乐观。欣顿告诉AI，他有一位母亲强加于实施“身体本能”。这是我们最近看到的人类和IA并存。这主要是由于您的思考，这是一个尝试实施类似于“母性本能”的AI的新想法。婴儿之所以能够控制母亲的原因是因为许多事情已经为母亲“进化”了。母亲真诚地想竭尽充满。我希望你也这样做。 “母亲AI”的想法重建了人类如何与AI并存的想法。这个想法也破坏了大多数人的想象力。在AI面前，我们不再是“智慧的高潮”（母亲），我们是婴儿。 Reference: https://www.businessider.com/geoffrey-hinton-ai-autonomiweapons-war-robots-drones-military AI-GEFFREY-HINTON-ON/ID111541544949494949494949494954 ATRIN I = 1000723684133%20https: ///omny.fm/shows/next-question-with-question/the-godfather-of-ai-dr-geoffrey-on-s-s-s-cimimentialal
特殊声明：先前的内容（包括照片和视频（如果有），如有）已由网络自我媒体平台的用户收费和发布。该平台仅提供信息存储恶习。
注意：以前的内容（如果您有照片或视频）将由社交媒体平台NetEase Hao的用户收取和发布，仅提供信息存储服务。
