马斯克：AI的危险没人能懂
埃隆·马斯克（Elon Musk），1971年6月28日出生于南非的行政首都比勒陀利亚（现名：茨瓦内），企业家、工程师、慈善家。埃隆·马斯克本科毕业于宾夕法尼亚大学，获经济学和物理学双学位，他同时具有南非、加拿大和美国三重国籍。现任太空探索技术公司（SpaceX）CEO兼CTO、特斯拉公司CEO、太阳城公司（SolarCity）董事会主席。
埃隆·马斯克：我和总统、国会都谈过AI的危险，没人能懂
源 | 美中科教
【正文】
埃隆·马斯克在过去十年对AI的态度一直非常鲜明而且一以贯之，应该很早就对这个问题有深入的思考：
2014
“我们对AI要非常小心，这可能是我们最大的存在威胁，应该有国家层面的AI监管才对，以免我们做出愚蠢的事情。我觉得发展AI像是在召唤恶魔，你没法控制恶魔。”
2016
“AI的未来发展方向可能并不乐观，起码不会所有结果都是好的。如果会有在所有方面远超我们的数字智能生命，确保它是善意的就非常重要。如果有非常强大的数字智能，我们应该确保它不在少数人的手里，造成专制和垄断。未来的专制者可能是AI或者控制AI的人，如果AI可以广泛分布/平权化，这样可以遏制坏玩家，因此AI不应该特权/专有化。”
2017
“AGI会比地球上最聪明人聪明得多，这是个危险的情况，有好坏两面性。我首先建议密切关注AI发展，AI研究者不要被带偏，因为很多时候科学家在自己的工作上全神贯注，不一定知道自己所做工作的后果。所以出于公共利益政府应当密切关注AI发展。AI的发展会导致大量的失业，这会是一个巨大的社会挑战，我觉得最终我们会有无条件基本收入，我也不觉得有其他选择，这应该是必要的。
机器人不能做的工作只会越来越少。这是我认为大概率会发生的，由于自动化的普及，生产力将极大提升，几乎所有东西都将变得非常便宜。更难的挑战是，人类在没有工作之后如何寻找意义？我觉得途径之一是和AI融合，并努力扩展人机接口的带宽问题。”
2018
“我之前说过，人类其实就是AI的引导加载程序（bootloader，初始化计算机需要的最小基本程序），我们正在逐步构建一个更大的智能，（未来）整体智能当中人类智能的百分比会逐渐减小，我们最后只会占很小的一部分智能。我一直试着说服人们给AI减速，尝试监管AI，但没什么用，我坚持了数年，没人听。监管是个非常缓慢的进程，比如给汽车加上安全带无可辩驳地减少了伤亡率，但依然花了若干年才通过了法案。但AI不是常例，你不可能花10年建立监管，为时已晚。
我不是说这是末日倒计时，但是越过奇点之后会发生什么并不清楚，可能好可能坏，但可以肯定的是我们没办法控制。到时候也许打不过就加入，Neuralink的长期愿景是解决人和AI共生时的接口带宽问题。人很难理解这种共生，其实现在我们已经是cyborg，只不过和手机电脑交互的data rate太低了，就像用一根细细的吸管在生理上的人和数字化的人之间交互，我们要把吸管变大河，解决带宽问题。我和奥巴马、国会和50位州长都谈过AI的危险，没人能懂。”
“我不是政府监管的拥护者，但AI很特殊，可能对公共利益有巨大危险，所以需要有洞见的公共机构进行AI安全监管，这非常重要。AI要比核武器危险得多得多，记住我的话，危险得多得多。为什么我们没有AI监管，简直离谱。我不是太担心Narrow AI，因为只是导致一些混乱和失业，但是不是物种级别的安全风险，但是AGI是。如果人类共同同意AGI的诞生，我们应该非常非常小心地进行，这可能是我们可以做的最重要的事情。现在让我感到压力巨大的一是AI的问题，二是特斯拉Model3的生产问题，这是我目前我人生中最有压力的事情。我猜可能未来有一种积极的和AI共生的结局，我觉得最大化人类的自由可能是AI的效用函数或者优化目标。”
2019
“现在在AI发展上的投入太多，在AI安全性的监管上投入太小，在我看来需要有政府机构进行监管，就像监管所有可能对公共利益产生损害的事物一样。监管的动作非常慢，只有坏事发生之后才会出现，比如对烟草的监管和限制过程很漫长。”
“通常人们都低估了AI的能力，可能认为它是聪明的人类，但实际上AI远不止于此。大猩猩没法真正理解人类，但人和AI的差距远不止于此。我看到一些AI研究者犯的最大错误就是觉得自己很聪明，但他们比AI差远了，他们没法想象比他们聪明得多的AI。怎么处理这种情况我也不确定，希望AI是善意的。或者打不过就加入，这就是Neuralink在做的事情，打造一个高带宽接口，让AI搭人类一程。人类和电脑交互的输出带宽实际在下降（十个指头到两个指头），人类比电脑慢太多了，1毫秒对电脑来说像是永恒，对人来说什么都不是。 我们可能需要加快nueralink的开发，也许时间不多了，人类比AI做得更好角落正在变得越来越小，最后一定会全面超越人类。”
2020
“人类很长时间都是地球上最聪明的物种，但很快会被AGI取代，它在每个方面都比人类聪明。我觉得真是我们需要担心的，政府也应该介入监管。奇点之后会发生什么很难预测，结局不一定是坏的，但肯定是可能性之一。特斯拉FSD只是Narrow AI，不会有一天醒来突然接管了世界，但是AGI不一样。”
2022
“我不太确定现在奇点的定义，也不确定会有一个特别分明的边界，但是现在我们已经外包了大量的计算，比如我们很多记忆都在手机和电脑里的图片和视频里。手机和电脑放大了我们的能力，放在之前是前所未见的。一个有趣的指标基于硅基计算量和碳基计算量的比值，以及随时间如何变化，这个比值其实在迅速提升。”
2023
“我在 OpenAI的创建中发挥了重要作用。当时我担心谷歌没有对人工智能安全给予足够的重视。因此，我和其他一些人一起创建了 OpenAI。虽然最初它是作为开源非营利组织创建的，但现在是封闭源且以营利为目的。
我不再拥有 OpenAI 的任何股份，我也无法以任何方式控制它。ChatGPT 已经向人们展示了 AI 已经变得多么先进。由于 AI很先进已经有一段时间了，它只是没有大多数人都可以访问的用户界面。
因此真正chatGPT 所做的只是在已经存在几年的 AI 技术上放置一个可访问的用户界面，而且还有更高级的版本即将问世。所以我认为我们真的需要规范人工智能安全。 因为任何可能对人们构成风险的技术，比如飞机、汽车或药物。我们有监管机构监督汽车、飞机和医药的公共安全。 我认为我们应该对人工智能进行类似的监管，它对社会的风险实际上比汽车、飞机或医药更大。这可能会稍微减慢 AI 的速度，但可能是一件好事。”
精选阅读：
地头力18| 沈南鹏：做强做多中国
地头力17：我是问题的终结者！
—— End ——
大美绝活是一种信仰
如何让我还没有存在的天赋潜能，真正存在的时候，真正的富足和丰盛才会出现。深入把握这片土地上中国人的痛点开始。拿出解决这些痛点的大美绝活，给消费者创造真正的价值，才能发现真实的自己。“接近美，接近神”。“大美绝活是一种信仰”！与众不同的绝活或好产品，造福消费者的宽度、广度、深度和敏感度，决定了“与众不同的绝活”之“大美”的程度，也决定了个人和企业的未来。因为，在市场经济中，每一个消费者的每一笔购买，是对企业的投票，决定了企业的前程。
让我们跟着任正非一起走一个过程
打开思维，打开心灵，打开意志
王育琨频道 商务合作
微信 | gao940716
QQ:2116117593
投稿：[email protected]
2020全新奉献，线上线下全上市
2019全新奉献，线上线下全上市
地头力=喜爱{目标}×专注{死磕}×做好{绝活}
最新评论
推荐文章
作者最新文章
你可能感兴趣的文章
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios) posted above belong to the User who shared or the third-party website which the User shared from. If you found your copyright have been infringed, please send a DMCA takedown notice to [email protected]. For more detail of the source, please click on the button "Read Original Post" below. For other communications, please send to [email protected].
版权声明：以上内容为用户推荐收藏至CareerEngine平台，其内容（含文字、图片、视频、音频等）及知识版权均属用户或用户转发自的第三方网站，如涉嫌侵权，请通知[email protected]进行信息删除。如需查看信息来源，请点击“查看原文”。如需洽谈其它事宜，请联系[email protected]。
版权声明：以上内容为用户推荐收藏至CareerEngine平台，其内容（含文字、图片、视频、音频等）及知识版权均属用户或用户转发自的第三方网站，如涉嫌侵权，请通知[email protected]进行信息删除。如需查看信息来源，请点击“查看原文”。如需洽谈其它事宜，请联系[email protected]。