人类可以通过主动进化，来应对马斯克是什么人说的人工智能威胁吗？

来源：蜘蛛抓取(WebSpider) 时间：2023-10-22 16:01 标签： 马斯克是什么人
商业内幕网报道，亿万富翁埃隆马斯克多年来一直在发出警告，称人工智能可能会带来潜在危险，导致物种毁灭。马斯克2016年，他警告说，随着新的人工智能霸主出现，人类可能会成为被豢养的 “家猫”。自那以后，他多次呼吁对新的人工智能技术进行谨慎监管。但是，在目前正在进行的各种人工智能项目中，马斯克最担心的还是谷歌的DeepMind。马斯克在接受《纽约时报》采访时表示：“（谷歌DeepMind）他们正在打造的人工智能的本质就是要在所有游戏中征服所有人类。我的意思是，这基本上就是《战争游戏》的情节主线。”在1983年的科幻电影《战争游戏》中，马修·布罗德里克扮演的少年黑客连接了一台人工智能控制的政府超级计算机，这台计算机经过训练可以运行战争模拟。在玩一款名为“全球热核战争”的游戏时，人工智能让美国政府官员相信来自苏联的核攻击迫在眉睫。最后，电脑对全球热核战争的潜在最终结果进行了大量的模拟，结果显示没有赢家，而取胜的唯一途径就是不玩这个危险游戏。这部电影直接反映了它所处的时代和地点：美国对与苏联的核战争的恐惧依然隐约可见，以及对日益先进的技术的恐惧。2016年，DeepMind的阿法狗战胜韩国棋手李世石当马斯克将DeepMind比作《战争游戏》时，他不仅仅是在谈论一部老电影——他还表示，人工智能将在未来五年内超越人类智能，尽管我们无法立即看到它的影响。他说：“这并不意味着五年内一切都一团糟。它只是意味着事情变得不稳定或怪异。”据报道，马斯克是DeepMind的早期投资者，该公司于2014年以超过5亿美元的价格被谷歌收购。马斯克在2017年的一次采访中表示，他这么做不是为了寻求投资回报，而是为了关注迅速发展的人工智能。他在2017年的采访中说：“这让我更清楚地看到事情正在改变的速度，我认为它们真的在加速提高，比人们意识到的要快得多。主要是因为在日常生活中你看不到机器人。你最多就是看到个把扫地机器人。但扫地机器人不会统治世界。”但马斯克认为人工智能应该有一个不同的内涵。2019年8月，在上海举行的世界人工智能大会上，马斯克与阿里巴巴首席执行官马云交谈时表示：“我认为人们普遍低估了人工智能的能力——他们有点认为它是一个聪明的人类。但它将远不止于此。它会比最聪明的人类聪明得多。”马云和马斯克他在本周接受纽约时报采访时表示，看不到人工智能的前景是一种“傲慢”，使“非常聪明的人”意识不到人工智能的潜在危险。他说，“关于人工智能为何被非常聪明的人忽视，我的评估是，非常聪明的人认为计算机永远不可能像他们一样聪明。”“这是一种狂妄自大，显然是错误的。”#马斯克#，#人工智能#，#谷歌Deepmind#译者：吴十六责编：吴十六
如果能拥有超越常人的远见、精力和幸运，以及随之而来的巨额财富，你会做什么？马斯克的答案是：亲自运营六家公司，保存人类意识的火种，对抗危险的AI。周三，马斯克传记作者Walter Issacson在《时代》杂志上刊出即将出版的传记部分章节，讲述了马斯克十几年来一以贯之的对AI的恐惧和担忧，以及他对人类未来命运的思考，华尔街见闻进行了重点摘录。对AI降临的恐惧马斯克对AI的恐惧，源于2012年与AI研究员Demis Hassabis的一次会面。当时，马斯克邀请他参观了SpaceX工厂，并解释说，自己之所以造能上火星的火箭，是为了在核战争、小行星撞击这样的末日降临时刻，保存人类文明的火种。Demis提醒他，末日清单上应该再加一条——AI，机器的智能未来可能超越人类，甚至也许想消灭人类。马斯克思考了一分钟，然后认为Demis是正确的，并立即向DeepMind投资500万美元，以“监控它在做的事情”。这次谈话几周后，马斯克向认识十几年的老朋友、谷歌联合创始人拉里·佩奇介绍了DeepMind，而且经常深夜找佩奇聊AI对人类的威胁，但后者对此嗤之以鼻。2013年，在马斯克的生日派对上，他们展开了一场激烈的辩论。马斯克认为，如果不立刻行动起来、建立保障措施，飞速发展的AI可能会让人类灭绝。但佩奇完全不在乎，他反问道：如果有一天机器在智力甚至意识上超越了人类，那又有什么关系呢？这只不过是进化的下一个阶段而已。他指责马斯克是一个“物种主义者”，偏袒自己所属的物种。马斯克也大方承认了：“是的，我他妈就是喜欢人类。(I f-cking like humanity, dude.)"创办OpenAI，是为了制衡谷歌当年年底，佩奇领导下的谷歌计划收购DeepMind的消息传到了马斯克耳朵里，他很担心，强大的AI如果被佩奇这样不关心人类的人掌握，会发生什么。所以，他拉来朋友、PayPal联合创始人Luke Nosek，想筹钱阻止这笔交易，但没能成功，谷歌在14年1月完成收购。作为对马斯克担忧的回应，佩奇同意成立一个“安全委员会”，让马斯克和前面提到的AI专家Demis当了委员，其他成员还包括谷歌董事长Eric Schmidt、领英联合创始人Reid Hoffman等人。然而，在参加了“安全委员会”第一次也是唯一一次会议后，马斯克变得更加不信任佩奇和谷歌，认为委员会里的人都在胡说八道。他开始密集地组织聚会，讨论如何对抗谷歌和促进AI安全。2015年5月，他还和时任美国总统奥巴马进行了一对一长谈，解释AI的风险，并提议总统对AI进行监管。但奥巴马并没有采纳他的提议。于是，OpenAI创始人Sam Altman就在这个时候登场了。马斯克和他都相信，相比由少数大公司掌控AI，大量相互竞争、相互制衡的AI系统更加安全。在一场晚宴上，两个人一拍即合，决定共同创办一家非营利性人工智能研究实验室，并将其命名为OpenAI。不过，在2018年，由于当时特斯拉也要研发AI以驱动其自动驾驶软件，为了规避潜在利益冲突，马斯克无法继续留在OpenAI。他尝试说服Altman把OpenAI并入特斯拉，但遭到了拒绝；此外，他也对OpenAI逐渐走向商业化的方向非常不满，于是最终与OpenAI团队决裂。回看马斯克如今的商业版图，每家公司都代表着他对AI危机的解决方案：SpaceX可以建造保存文明火种的诺亚方舟；脑机接口公司Neuralink，可以让人类的肉体之躯变得更加强大；特斯拉每天从汽车摄像头上接收并处理1600亿帧视频，这些真实世界数据可以用于“通用人工智能（AGI）”训练，而人形机器人Optimus将成为AGI的物理载体。种种资源，都可以整合到它的新公司——xAI里。今年上半年，OpenAI引领的AI浪潮不仅抢走了马斯克的聚光灯，也让他更加担心，这些被大公司控制得AI系统，可能会传播“觉醒文化病毒”，毒害美国青少年的心灵；他还担心，如今那些能够自我学习的AI系统可能会对人类产生敌意，以及，用推特数据训练的机器人可能会生产虚假或诈骗信息。他迫不及待地想要入局，对自己创立并资助了OpenAI但现在却被置身事外感到愤恨。AI是正在酝酿的最大风暴。没有人比马斯克更喜欢风暴了。于是，上半年，马斯克对OpenAI和Altman个人发起了猛烈的攻击，Altman能理解马斯克的攻击性，在一场采访中，他说马斯克虽然表现得像个混蛋，但他相信他是真的很关心AI领域，并且在担忧人类的未来。马斯克认为，在AGI赛道上，自己处于领先的位置。虽然没能在AI浪潮最火的时候赶时髦、做出AI聊天机器人。但马斯克相信自己在通往AGI的竞赛中仍然领先。他相信，只能生成文本的聊天机器人作用有限，重点是有智慧的实体机器人。一方面，特斯拉已经有了先进的自动驾驶技术和人形机器人Optimus；另一方面，推特上数亿名用户的推文和特斯拉车身的摄像头，也为研发AGI提供了足够的数据。所以，他有信心能比OpenAI更快创造出AGI：“特斯拉在现实世界中的AI能力被低估了，想象一下，如果特斯拉和OpenAI必须交换任务。他们必须制造自动驾驶汽车，而我们必须制造大型语言模型聊天机器人。谁会赢呢？我们赢。”直到最近，马斯克仍然在思考如何减少AI风险，让人类意识能够代代流传。他认为，人类的智力水平正在趋于平稳，新生儿已经越来越少。与此同时，计算机的智能却在呈指数级增长，就像“打了类固醇的摩尔定律”。生物脑力与数位脑力相形见绌。马斯克相信，AI以不受控的速度独自前行、将人类甩在身后的“奇点时刻”，会比我们预想的更快到来。“我不能无所事事，随着人工智能的到来，我有点怀疑该不该花那么多时间去考虑推特。当然，我也许可以让它成为世界上最大的金融机构。但我每天只有那么多精力和时间，我又不需要赚更多钱什么的。那我的时间应该花在什么地方？启动星际飞船。现在去火星要紧迫得多。另外，我需要集中精力确保人工智能的安全。这就是我要创办一家AI公司的原因。"本文来自华尔街见闻，欢迎下载APP查看更多
特斯拉创始人埃隆·马斯克于2018年的一次采访中曾表示：“人工智能远比核武器要危险。”事实上，这不是他第一次表达对人工智能的恐惧，作为特斯拉的首席执行官，马斯克曾坦言觉得自己非常接近于人工智能的最前沿，但人工智能让他感觉非常恐惧，人工智能可以胜任任何事，远超人的想象，且其正以翻倍的速度在进步，到那时就不是工作被取代那么简单了。在未来的某一天它甚至能够超越人类智能，甚至可能扰乱或毁灭人类文明，就像人类破坏野生动物的栖息地一样，当人类妨碍到人工智能的发展，我们有一天也可能被人工智能赶入一片“栖息地”，只被允许在内生存，甚至可能像面对核战争一样直接被“消灭”。渗透入生活的人工智能人工智能早在不知不觉中融入我们的生活，不管是你一句话就可以帮你操纵手机的语音助理，还是“清洁工”扫地机器人，还是可以负责小孩的辅导和陪伴的电子宠物机器人，甚至一部分人的家居生活都已经交给智能家控系统进行安排，负责温控、安保等。事无巨细的事项都能由它负责处理，但人类享受着它们带来的便利的同时，也时常会因它们的聪明和强大感到惊讶与担忧。回忆一下，某些购物软件是不是比你自己更懂你要买什么，有时候都不需要你说出来或是去搜索？仅仅是脑子里想了想，电子设备都好像能捕捉到你的想法，精准地把信息推送到屏幕上。这些听起来似乎很“智能”，但也很容易让人产生一种被监视甚至是被操纵的感觉，尤其是结合互联网时代的特点，人们似乎正一步步失去隐私，走向透明。这种渗透入生活的超人的能力和强大就是人工智能带给我们恐惧的来源。那么人工智能是否真的会对人类造成很大的威胁，从科学家们的研究成果中我们可以窥见一些答案。人工智能真的可以取代人类吗？从身边的事看起，类似“新的人工智能成功取代了某一工种”的新闻经常出现在我们视野中，它切切实实在改变着整个劳动力市场，顶替你我的职位。剑桥大学教授卡尔·本尼迪克特·弗雷和迈克尔·奥斯本通过机器人专家软件列出了未来二十年人工智能可能改变和影响的一些工作。根据报告显示，被取代概率超过50%的职业，多是工作内容重复性较大，或是所涉及的信息是可以通过技术捕捉、识别、处理、分析的职业，例如电话推销员、人力资源、保安、工人、厨师等。你可能觉得，那像艺术创作这类涉及人主观审美和创造力的职业，就不可能会被取代！事实是，太乐观了。比如摄影师就是一个被取代率很高的职业，因为影响图像审美的许多因素是可以被量化的，由此人工智能就能总结出很多符合审美的公式和套路。谷歌先前开发的一个人工智能系统，就可以拍摄出颇具美感的照片。而很多人普遍观念里的“铁饭碗”，如会计、银行职员、政府职员等工作，被取代概率甚至超过了95%，在工作本身就难找的大环境里，这样的数据实在很难不让人焦虑，人工智能取代人类似乎已经正在发生。为何说人工智能可能带来世界末日？在2023年1月25日举办的一次科学技术会议上，牛津大学工程科学研究人员迈克尔·科恩和迈克尔·奥斯本就提出警告称：如果没有得到有效的约束，人工智能或在本世纪内导致人类的末日。他们还在会上指出，“超人的人工智能”的危险程度“最终可能和核武器一样”，因此应该像核武器一样受到监管。根据他们的预测，最快在本世纪末，比人类更有能力的人工智能将会出现，为了更方便、更高效地达到自己的既定目的，它们或许会采用一些对人类造成巨大伤害的策略，最终可能会导致人类的末日。现在，大多数的人工智能还仅用于辅助人的工作生活，只根据人类提供的数据和指令来运行，因此并不能取代人类的思维模式和创造过程。但即使是在这一阶段，现实中也已经发生过人工智自主杀人的事件了!联合国安理会利比亚问题专家小组2021年3月发表的一份报告称，去年“一架武器化的无人机在没有接到明确命令的情况下追猎了一个人类目标”。据联合国的一项调查研究，这种机型为土耳其STM公司生产的“卡古”(kargu)2型四旋翼无人机，配有炸药并可对目标进行自杀式攻击，不需要人工控制，这也是有史以来第一例记录在案的“无人机首次自主杀人”事件。这些无人机甚至都不具备非常高精度的人物识别功能，就已经拥有了攻击权限，这样的技术在目前虽然还无法得到广泛应用，但有了第一次还会怕没有第二第三次吗？如果无法确保人工智能是向着好的方向发展，那么人类的灭亡几乎可以说已经开始了。马斯克也在采访中提到过更接近我们生活的例子，人工智能可能被用于执行非常高效的信息传播工作，并且会让我们看不出那些是被处理过的内容。比如前段时间大火但争议也很大的AI换脸技术，就有可能被用于捏造虚假信息，进行恶意的社会信息传播，产生影响个人生活、社会方向、扰乱社会秩序的后果。与之相似的其他技术还可以在几毫秒内，对发布的新闻等信息进行捕捉和处理，可以将其内容按照自己想要的方向进行修正和调整，然后再向大众进行传播。包括现在很多我们每天会看的社交账号，背后的运营者可能早就不是人了。再往后说，一旦人工智能能掌控的资源不断增加，它们的能力越来越“超人”的时候，就几乎成为不可阻止的存在了。因为足够聪明的人工智能懂得如何隐藏“想法”，它们只会像一个真正的猎人那样潜伏在黑暗中，在时机成熟的时候才“露出獠牙”，到那时候，可能给人类带来的就是致命一击了。研究人员表示：“假如我是这样一个人工智能，那么在付诸行动之前，我会把相关的代码隐藏起来，这样一来，人类就不会拔掉我的电源”。因此，在科研过程中必须要有防范意识，并且指定完整的监管体系，否则科技公司最终可能会创造出“失控”的系统，最终可能“消灭整个人类”。因为人工智能可能带来的危害可以比肩核武器，所以为了防止人工智能末日到来，世界需要针对人工智能建立类似于核武器的管理措施。人工智能与未来但回过头看，人工智能发展带给每个人的益处也不能忽视，它使生活更加便利，生产更加高效，也让我们做到了曾经无法做到的很多事，包括有更多的时间享受生活，看到更大的世界，以及体验不同的虚拟世界等等，人与人的距离也随之拉进。并且人类已经意识到人工智能可能带来的威胁，科技的发展需要时间，也必然会经历创造者自己不断的审视与改善，我们仍有机会找到能够管理、限制、与它和睦共处的方法和模式。因此，不必对此太过消极和恐慌，人的创造力是无穷且强大的，一如我们曾经创造出人工智能一样，科技化很高的未来仍有美好值得我们期待。科技进步的脚步不会也不可停歇，人类能做的就是在其进步的过程中同步探索，并牢牢掌握好控制和约束手段，明确人工智能能够与世界交融的边界，共同努力建立起完善的保护措施。当然，最重要的也需要我们保持独立思考，以及自我的创造力，毕竟人类经由进化而产生的情感与思维，是我们难以替代的最宝贵、最强大的力量。

我要回帖

更多关于 马斯克是什么人 的文章

 

随机推荐