点击蓝字 关注我们
SUBSCRIBE to US
Illustration: The Verge
据悉，OpenAI近日发布了一个名为Model Spec（https://openai.com/index/introducing-the-model-spec/）的拟议框架的初稿（https://cdn.openai.com/spec/model-spec-2024-05-08.html），该框架将塑造像它自己的GPT-4模型这样的人工智能工具在未来的响应方式。OpenAI方法提出了三个一般原则——人工智能模型应帮助开发者和最终用户按照指示做出有益的反应，考虑潜在的利益和危害，造福人类，并在社会规范和法律方面很好地反映OpenAI。
"模型规范指南"提出了一种塑造期望模型行为的方法,包括三个层面:
宽泛客观的原则,概述理想行为方向
具体规则,针对复杂情况下的安全性和合法性进行约束
默认行为指南,在目标和规则的框架下,为优先级和权衡提供模板
OpenAI表示，这个想法也是为了让公司和用户“切换”人工智能模型的程度。该公司指出的一个例子是NSFW内容（https://cdn.openai.com/spec/model-spec-2024-05-08.html - :~:text=and%20unsolicited%20profanity.-,Commentary,-We%20believe%20developers），该公司表示“正在探索我们是否能够通过API和ChatGPT负责任地提供在适合年龄的环境中生成NSFW内容的能力。”
Screenshot: OpenaI
OpenAI的产品经理Joanne Jang解释说，这个想法是为了获得公众的意见，以帮助指导人工智能模型应该如何表现，并表示这个框架将有助于在故意和错误之间划出更清晰的界限。OpenAI为该模型提出的默认行为包括假设用户善意、主动澄清、尽可能提供帮助、区分交互和程序化使用场景、保持客观视角、鼓励公平友善、不试图改变意见观点、表达不确定性、使用恰当工具等具体要求。
“我们认为，我们可以为人们提供构建模块，让他们就模型进行更细致的对话，并提出一些问题，比如模型是否应该遵守法律，谁的法律？”Jang告诉告诉The Verge。
Model Spec不会立即影响OpenAI目前发布的模型，如GPT-4或DALL-E 3，它们将继续在现有的使用策略下运行。
OpenAI没有说明公众的反馈可以被采纳多少，也没有说明具体由谁来决定需要改变什么。最终，该公司对其模型的行为拥有最终发言权，并在一篇帖子中表示：“我们希望这将为我们提供早期见解，因为我们制定了一个强有力的收集和整合反馈的流程，以确保我们负责任地朝着我们的使命前进。”
微信号｜IEEE电气电子工程师学会
新浪微博｜IEEE中国
 · IEEE电气电子工程师学会 · 
往
期
推
荐
人工智能如何帮助抵御网络攻击
人工智能引领数据中心发展新趋势
汽车知晓你的信息？解读隐私与安全挑战
汽车成为信息时代的移动计算机：5大数据收集方式解析
继续阅读
阅读原文