夕小瑶科技说 原创

作者 | 付奶茶

美国总统拜登最近成立了一个新的人工智能安全委员会，目的是解决人工智能技术可能对电网、机场等关键基础设施带来的潜在威胁。
国土安全部部长Alejandro Mayorkas是委员会的主席，他强调：“如果在关键基础设施中未能以安全、可靠和负责任的方式部署AI，后果可能是灾难性的。”因此，这个委员会的工作不仅仅是技术发展，还关注于确保在引进新技术时保障公共安全。
该委员会的成员包括来自OpenAI的Sam Altman、微软的Satya Nadella、Google/Alphabet的Sundar Pichai，斯坦福的李飞飞，以及达美航空、诺斯罗普·格鲁曼公司和西方石油公司的高层领导。
但是令奶茶非常惊讶的是，埃隆·马斯克、马克·扎克伯格皆未被邀请加入此委员会
。
完整名单如下：
怎么回事！奶茶也非常不懂！

库克尝试外包iphone的生成式AI服务

Apple 正在与 OpenAI 加强讨论，探讨在今年下半年将推出的iPhone新功能中使用OpenAI的技术。
根据内部人士透露，两家公司已经开始讨论可能的合作条款以及如何将 OpenAI 的功能整合到即将发布的 iPhone 操作系统 iOS 18 中。（虽然但是，Apple 也在与 Google 的 Alphabet Inc. 讨论Gemini聊天机器人与iphone合作的事宜）
根据Bloomberg报道，尽管Apple今年早些时候曾与OpenAI 讨论过协议，但此后双方的合作一直较少。目前，Apple 尚未就合作伙伴做出最终决定，也无法保证最终能够达成协议。公司可能最终会与 OpenAI 和 Google 都达成协议，或者选择另一家完全不同的供应商。
去年，库克表示他个人使用了 OpenAI 的 ChatGPT，但指出存在“许多需要解决的问题”。他承诺，新的AI功能将在“非常周到的基础上”引入Apple的平台。

通过与其他更成熟的生成式AI公司的合作，Apple能够加速推进聊天机器人技术，并规避一些风险，减轻自家公司的潜在责任。

Altman 斯坦福演讲受好评！

4月25日，Sam Altman 在自己的母校斯坦福大学的 NVIDIA 礼堂（场地选的真的很赞，哈哈哈）发表了关于 AI 未来的精彩演讲！
以下是奶茶通过网友们整理的演讲内容（斯坦福大学的何婉容发布），分享一些有趣的观点给大家：

GPT4即将成为我们所知的最愚蠢的模型之一

继GPT-4之后的下一代AI模型将更加强大。虽然复制现有模型相对简单，例如谷歌轻松推出了Gemini，但真正的挑战在于定义 AI 能力的下一次转变。AI 的发展潜力可能与 iPhone 在移动计算领域的革命性影响相媲美。

Scaling Law 依旧有效

OpenAI目前最大的组织变化就是是意识到Scaling很重要之后，将所有计算资源都聚集起来做一件事。

探索通向AGI的路径

OpenAI 的目标是实现人工通用智能（AGI），而开源并非实现此目标的最佳途径。OpenAI 通过提供一个免费且无广告的 ChatGPT 来积极影响社会，同时追求自己的目标。为了让所有人更容易获取 AI，我们应该重点降低 AI 计算成本，使其在全球范围内普及，从而消除不平等。ChatGPT 旨在作为增强人类能力的工具，无需赋予其情感。对于超级 AI 的担忧是多余的，因为与未来的模型相比，现有的每一个新模型都显得不足。例如，尽管 GPT-4 一推出便引起巨大反响，但现在大家已觉得它不够好，期待 GPT-5 的到来。

创新与创业机遇

仅专注于解决当前 AI 的限制可能是徒劳无功，因为未来的模型如 GPT-5 和 GPT-6 可能会让这些努力变得过时。Sora 等突破性技术可能会彻底改变娱乐行业，创造出结合电影和游戏的个性化互动体验。AI 初创公司拥有巨大的发展潜力，但成功不仅需要 AI 技术，还需遵守商业基本法则。尽管 AI 在某些领域如国际象棋可能超过人类，但大家仍然更喜欢观看人类选手的比赛。然而，也有例外，例如青少年可能更喜欢与 AI 聊天而不是与人类心理医生交流。

开源的立场

Sam明确表示，OpenAI的目标是实现人工通用智能（AGI），并不认为开源是达到这一目标的最佳路径，他希望通过提供一个免费且无广告的ChatGPT来产生社会影响。

AI的强度和社会公平

他不担心AI变得过于强大，指出公众在GPT-4发布后虽然感到震惊，但很快就期待更强大的GPT-5。为了消除不平等，他提议通过降低AI计算成本，使AI技术在全球范围内更加普及和可负担。

人类与AI的关系

尽管AI在某些技能，如下棋上可能超越人类，人们通常还是更喜欢观看人类的比赛。不过，青少年这一AI原生一代可能更倾向于与AI进行心理健康对话，显示了AI在未来服务领域的潜力。

娱乐行业的创新

他特别提到Sora项目，认为它将开创一种新型的娱乐方式，结合电影和游戏元素，能根据观众的喜好和互动实时生成内容。

OpenAI的战略方向

Sam透露，OpenAI已经将其计算资源集中，以便更有效地推进大规模AI模型的开发。他还强调，即使在没有新数据的情况下，也能通过AI生成的训练数据持续提升模型的推理能力。

关于AI创业的展望

他认为现在是创办AI创业公司的好时机，但提醒人们，仅仅使用AI技术并不能保证超越所有现有产品，AI企业仍需遵循基本的商业规则。
虽然这次演讲提供了满满干货，但是网友们对其中的部分看法并不完全认同：
这个问题确实踢到铁板了哈哈哈哈！
是啊！他不是刚和老黄交接了H200！
老黄将世界上第一台英伟达H200亲手交付给OpenAI
大家对于 Altman的演讲有什么看法吗～ 欢迎评论区一起讨论～

参考资料

 [1]https://www.wsj.com/tech/ai/openais-sam-altman-and-other-tech-leaders-to-serve-on-ai-safety-board-7dc47b78?mod=ai_news_article_pos2

 [2]https://www.reuters.com/technology/apple-renews-talks-with-openai-iphone-generative-ai-features-bloomberg-news-2024-04-26/

 [3]https://www.reuters.com/technology/apple-renews-talks-with-openai-iphone-generative-ai-features-bloomberg-news-2024-04-26/

 [4]https://www.reuters.com/technology/us-homeland-security-names-ai-safety-security-advisory-board-2024-04-26/

 [5]https://x.com/heysophiahong/status/1783417397711696141?s=46
继续阅读
阅读原文
关键词
模型
公司
GPT-4
GPT-5
人类