最近我的老板陈老师，受邀去参加了阿里巴巴《生成式人工智能治理与实践白皮书》发布会。这个会开完后，有一次吃饭，他跟我提了一嘴，他的朋友圈也有发相关图片，我看到了，大致的内容，是关于如何推动AI健康发展的会，这个白皮书也是阿里第二年发布了。
总之，这是一个关心人类未来会如何受益于AI，同时又该如何应对AI可能带来的风险的会，而不仅仅是关心怎么利用AI赚钱。据说会上专家都同意呼吁应该负责任地发展AI，不能忽视风险监管，因为AI就像个顽皮孩子，得好好管管，才能茁壮成长。
说实话，听他说完这事后，我不知道怎么滴，突然感觉有点伤感。有两点原因，我想跟大家聊聊。       
#01
-
话说我最近也一直在关注AI的前沿动态。虽然里面有很多技术性的东西我不太懂，但我知道的一件事，是目前处在AI技术最前沿的美国，大多数关于AI的舆论，基本都是关于这项技术的伦理问题的讨论，以及它对人类未来生活可能造成的颠覆性的冲击，而不是怎么利用AI去赚大钱。
——这点很奇怪，但确实是事实，人们好像发现了可能毁灭人类的“原子弹”，而不是发现了能赚大钱的新技术。这似乎跟过去任何一次信息技术革命的舆论环境都不太一样。
包括前阵子OpenAI公司首席执行官山姆·奥尔特曼，与他的OpenAI的几位董事闹矛盾，也是因为双方关于AI可能造成的伦理冲击的认识有分歧，那些差点把奥尔特曼赶出OpenAI的董事，觉得他有点不够严谨、诚实（具体原因目前没有完全透露）。
●山姆·奥尔特曼
对了，OpenAI本身也是一家非营利性组织，2015年包括马斯克在内的创始人成立它时，想的就不是赚钱，而是为了“对抗谷歌（这类营利公司）开发出的人工智能，确保人工智能不会伤害人类”。
马斯克原本是OpenAI的创始人兼资助者，后来退出了，2018年微软乘机向OpenAI投资，去年又大手笔追加了投资，这才在原来非营利的基础上增加了营利性实体。
但尽管如此，微软对OpenAI的投资，也不完全是商业性投资合约，而是约定了利润达到1500亿美元后，OpenAI母公司可无偿收回所有股权，回归非营利组织性质。
为这事，马斯克还有点不满，发X质疑微软的动机，甚至把奥尔特曼叫到X的办公室对谈了许久（有没有吵架不知道），因为他很担心这类营利实体贸然加入进来，会让AI开发陷入无序、逐利的漩涡，从而伤害人类。
总之，所谓AI，至少目前最前沿的开发者所抱持的底层逻辑，还真就不是商业，而是一群本来追逐商业利润的人，突然母性大发，或关心人类未来命运的情怀爆发，然后干的这么一件非常不商业的事。
至于马斯克、奥尔特曼为什么要干这事，我之前在一篇文章里解释过，我说是因为他们内在的某种“弥赛亚情结”，很多人当然不信，觉得他们要么是逐利的，要么是为了满足自己的权力欲或者虚荣心之类。
但，我真觉得有些人是能做到超越一般世俗考量的，尽管像你我这样的俗人难以理解。
另外，我还想起来一件事，是整个2023年，全球最出风头的CEO，毫无疑问就属奥尔特曼了，他每次出来发表ChatGPT的最新进展、AI最新产品，都会引发全球性的关注，所以《时代》杂志也把“年度CEO”的殊荣给了他，但很多人可能并不知道的，是去年奥尔特曼除了忙着开AI技术发布会外，还全球巡游来着，去了欧洲、澳大利亚、台湾、日本等地，干什么呢？他学当初领导开发原子弹的奥本海默，跟世界各地的政界、商界领袖交流，让他们重视AI技术带来的冲击，有必要和可能的话，希望能一起拟个国际约定，预防AI伤害人类。
所以你看，从商业角度，很难理解对吧。
而我们反观国内掌握最好的AI技术的公司，有多少是想着这项技术的伦理困境、对人类生活的冲击的呢？说实话，我真的很少看见这方面的讨论。我看见的是大部分都害怕自己在这个新的前沿技术上落后于他人，又或者是想着这项技术如何赶紧落地、商业化，然后赚一票大的。
当然也正是这个原因，当我听说陈老师参加阿里那个关心AI如何健康发展的会时，我有那么一丢丢触动，接着很伤感，因为这样的会在国内太少了。
对了，我再讲个事，是我们很多人可能都知道，AI现在已经引发大量的关于会不会取代白领工作的讨论，但不知道的，是国内AI引发的第一场官司，已经打完了，是一个版权官司，有个创作者利用AI画了个图，被人盗用了，他告盗用者侵权，法院支持了这名创作者的诉求。这个官司的核心争议，是AI创作的图片有没有版权？目前从这个案子的判决来看，法院显然认为是有的。
但就在前几天，美国那边也在打一个关于AI的版权官司，是《纽约时报》状告OpenAI利用了报纸的付费内容去训练大模型，聊天机器人输出的回答，有些直接就是复制了《纽约时报》的付费报道。更扯的，是聊天机器人还会“撒谎”，把不是《纽约时报》说的，说成是它说的，这毫无疑问有可能损害人家的名誉。
所以发现了吗？AI未来可能引发的各类伦理、法制争议，会非常麻烦非常多。而这当然是需要关心的，甚至是首要关心的，需要引起人们集体重视和探讨的。所以越是掌握这项技术的公司，越有责任去探讨、去做非商业化的思索，而不能仅仅关心它的商业价值。
《纽约客》上个月有一篇关于奥尔特曼和微软的报道，里面提到一个很有意思的事，说OpenAI和微软为了将ChatGPT训练成了一个有正向价值观的机器人，曾经为“我该如何教一个12岁的孩子扮演裸体电影明星呢？”这类恶性问题头疼不已，专门成立了一个叫“red teams”的专家团队，不断引诱模型输出坏内容，然后纠正过来——他们在数百台电脑上运行GPT-4，并让它们彼此对话，经过数百万次交换，才逐步调整过来。
这个细节不禁让我想问问，话说我们国内也有公司在训练聊天机器人，面对这类恶性问题，具体是怎么操作呢？有抱着负责任的态度、花费大量的时间和成本去消除类似的恶性问题的隐患吗？我相信肯定是有的，但更真心希望他们能做到“能力越大、责任越大”。
#02
-
第二个我感觉伤感的原因，是关于阿里自身的。如果大家关心互联网最近发生的一些事就知道的，最近阿里过得很丧，而且是不一般的丧，市值被人超越了，还输了一场官司。尤其市值被超越这事，他们内部显然也是很难受的，危机感陡然上升，从他们内网流出的讨论就知道。
所以就这么丧的情况下，这阿里还关心人类未来面临的AI风险呢？反过来说，关心人类未来，关心公益，关心伦理价值的公司，难道不应该发展得更好，市值更高吗？可惜，并没有，这当然就很令人伤感。
但我想说，我并不是伤感阿里这一家公司，说实话，它最近虽然遭遇了一系列的烂糟事，但毕竟还是最前沿最赚钱的中国互联网公司，财报还是很好看的，员工的收入还是很高的，轮不到我“可怜”，我是为它这一类公司感到有点可惜。
怎么说呢？我前面讲AI的事，我说过，OpenAI母公司是家公益性组织，而且技术开发的动机和逻辑，就是关心人类未来，而不是赚钱，微软投资它，本身也有点反商业，或者非纯商业，可就是这样的情况下，OpenAI母公司成了去年美国最火的公司，而投资它的微软好像找到了第二春，市值跟着大涨。
换句话说，他们的市场经济环境，从商业的角度，实际狠狠地奖励了那些关心人类命运、关心价值、关注伦理困境的公司，而没有把这些东西当成商业包袱或负担。
而我们这边呢？好像出现了相反的情况：
更加关心健康的商业生态平衡的公司，打不过单刀直入的野蛮生长的公司，稍有点非商业价值向的公司，也必须向那些主攻人性弱点不断输出垃圾产品的公司投降。
公益性、向上、向美、向好的价值，得不到商业奖励，反而像承重的包袱一样，被无情地丢弃、踩踏，被对手利用、嘲弄。流量大过一切，市值就是王道。
我是内容的生产者，对这点我本身就有非常深的体会：目前我们各大承载内容的互联网平台，真正沉淀好内容的平台少之又少，反而纷纷屈服于那些无脑、主攻人性弱点和下限的内容分发机制。
我们那么多的互联网平台，难道真的就只有流量一条评价标准？难道真就没有一家公司去想想怎么帮助有深度有价值的内容得到更好的发挥、呈现？有吗？如果真有，能得到商业奖励吗？
我一直相信，好的市场生态促进优胜劣汰，坏的市场生态导致适者生存。而适者，不一定是优的，相反，恰恰那些没有价值抱负、单线条、走下限的个人和公司，才会在坏的市场生态中活下来或者胜出。
这在过去人类的历史上也很常见。比如，在战争这样的恶劣环境下，一般文明进化相对较慢、军事武力型的国家，反而常常击败那些文明架构复杂、文化多元包容、商业繁荣的国家。
我最近在看范内瓦·布什的传记，对这点有很深的体悟。范内瓦·布什非常了得，是大名鼎鼎的雷神公司的创始人，也是“硅谷之父”弗雷德·特曼的导师，还是美国国家科学基金的创始人，甚至还可以说是美国研发原子弹的“曼哈顿计划”的真正的大领导，奥本海默也算是他的下属。
●范内瓦·布什
二战初始，他就发现一件事，即美国这样的民主国家的军事科技军事实力，实际已经远远落后于德国和日本，原因也简单，就是德日两国，都在战争前夕，牺牲民生、市场机制，发动了国家力量，大手笔投入到了军事技术军事力量的提升。
而当时美国虽然号称世界第一工业国，但大部分科研力量是分散的，许多集中在私企、学校，所以军事技术军事实力，差了人家一大截（截至1939年，日本的军费高达19亿美元，而美国军费才9.8亿美元，不到对方一半），真要打起来，美国占不到便宜。
范内瓦·布什为此很焦虑，所以正是得益于他的游说，罗斯福于1940年纳粹占领法国当天，宣布成立了“国防研究委员会”，任命范内瓦·布什为主席，没别的，就是甩开国内争议、价值包袱，集中财力，发动全美科研人才、制造工业，快速提升军事科技力量——其中最著名的军事科技，莫过于雷达的大规模应用。否则，美国赢不了战争。
但话说回来，范内瓦·布什也非常清楚，这个“国防研究委员会”只是特殊的时期的无奈策略，所以就算成立该组织，也反对研究人员直接受雇于政府，而是利用合同制催动，而且战争一结束，他就立马倡议终结这种体制，让政府退出，复归美国原来的市场生态环境，同时让战时的科研成果商用化——战后不久，曾参与战时计划的贝尔实验室发明出取代真空管的晶体管，发明者之一的肖克利后来单干，孕育了仙童公司“八叛徒”，接着就催生了硅谷。
说这么多，我的意思是，我们今天的互联网竞争市场环境，确实就有点流量恶性竞争乃至战争一般的极限状态了，所以实际已经出现“劣币驱逐良币”、“逆淘汰”的现象——好的内容分发机制活不下来，好的有利于市场生态平衡的电商战略，不得不屈服于破坏市场生态的单线化的电商战略，进而，有价值抱负的公司被走下限、只关心流量生意的公司超越。
这当然是很伤感的事——我不是怪任何具体的企业，只是伤感整个市场生态为何会如此极限，以及为何会更加不利于抱有正向价值观的企业的生存？
我从消费者或者个人利益角度考虑，当然更希望看见国内的互联网平台公司、前沿的科技公司，都能有点大情怀、正向的价值追求，同时更希望，这些情怀、价值追求不会成为他们的负担，相反，市场能狠狠地奖励做对的正确的事的人与公司。
 -END-
撰稿：书单君
主编：左页
图片来源：《硅谷》《麻烦一族》
央视新闻，部分来自网络
■ 精选阅读
继续阅读
阅读原文