人工智能纳入国安视野!
国家安全部官微16日发文称,今年以来,以ChatGPT为代表的人工智能技术迅速发展,使人惊呼“未来已来”。当前,人工智能技术正广泛应用于金融、医疗、交通、制造业等领域,对经济社会发展和人类文明进步产生深远影响,给世界带来巨大机遇。同时,也不能忽视其蕴含的潜在风险挑战,很可能在不久的将来深刻改变现有国家安全格局。
截至目前,A股人工智能板块总市值约5.7万亿。近期,人工智能应用发展非常迅速,OpenAI举行首次开发者大会,并宣布推出GPT4-Turbo、GPTs、Assistant API;谷歌生成式AI搜索扩展到120多个国家/地区;GitHub宣布Copilot Chat功能12月全面推出;马斯克旗下人工智能初创公司xAI推出PromptIDE工具等。
安全无小事。今天热搜榜上还有一则消息引人关注。根据真实案例改编的微电影《防线》,讲述了我国某科研机构的博士生董某,在参加国际学术会议时,被境外间谍情报机关贴靠拉拢,并一步步落入对方设下的圈套,险些造成某领域最新技术成果泄露的故事。而这一切亦与其母亲炫耀有关。
来看报道!
国家安全部发声
近日,国家安全部在其官微发表题为《如何化解人工智能带来的国家安全挑战》。文章提出,人工智能可能带来哪些国家安全领域的风险,又应当如何化解?
——数据窃取风险。人工智能需要海量的数据来进行学习和训练,这些数据中可能包含用户大量敏感信息。如果这些信息被滥用或泄露,可能会对个人隐私、国家安全造成严重危害。
——网络攻击风险。人工智能可以成为破坏网络安全和管理的“帮凶”。在人工智能的协助下,网络攻击者可以随时随地对特定目标轻易发起针对性和隐蔽性很强的进攻,将互联网空间变成人人自危的“黑暗森林”。
——经济安全风险。人工智能技术在一定程度上会成为人力工作的“高效替代品”,进而对国家经济安全、社会安全甚至政治安全造成冲击;人工智能技术也可以被用来实施经济破坏活动,例如通过操纵宣传导致金融市场恐慌。
——“数据投毒”风险。“数据投毒”是指在人工智能训练数据中投放恶意数据,干扰数据分析模型正常运行的行为。在智能汽车系统中“投毒”,可能导致交通事故;在舆论宣传中“投毒”,一些负面思想可以更加隐蔽地渗透到群众思想观念中。
——军事安全风险。一方面,人工智能可被用在致命性自主武器(LAW)上,通过自主识别攻击目标、远程自动化操作等,隐藏攻击者来源、建立对抗优势;另一方面,人工智能可以将网络、决策者和操作者相连接,让军事行动针对性更强、目标更明确、打击范围更广。
面对人工智能技术发展带来的新机遇和新挑战,如何应对人工智能风险并把握人工智能发展的战略主动,有效保障国家安全,是全球国家安全治理的重要议题。
——完善法律法规,聚焦人工智能重点领域安全应用、伦理道德约束等方面,制定更多更明确的法规政策、行业规范,保障人工智能研发和应用中的个人隐私与数据安全,确保人工智能安全、可靠、可控。
——加强前瞻布局,支持以人工智能技术防范人工智能风险,积极发展用于人工智能治理的相关技术开发与应用,贯彻敏捷治理和多维治理原则,积极构建多方参与的人工智能治理体系。
——坚决打击犯罪,依法打击利用人工智能进行危害国家安全的犯罪行为,并督促人工智能行业和用户个人自觉提升防范意识、遵守法律法规,履行维护国家安全主体责任。
——推动全球治理,积极发挥多边机制作用,拓展“以人为本”、“智能向善”共识,形成具有广泛共识的治理框架和标准规范,推动各国在人工智能治理中加强信息交流和技术合作,共同做好风险防范。
国家安全机关将强化科技赋能、数字赋能,不断推进国家安全体系和能力现代化,为应对人工智能的风险挑战筑牢国家安全屏障。
人工智能应用飞速发展
近期,人工智能应用及底层技术可以说是日新月异。
据国信证券,在产品应用方面,OpenAI举行首次开发者大会,并宣布推出GPT4-Turbo、GPTs、Assistant API;谷歌生成式AI搜索扩展到120多个国家/地区;GitHub宣布Copilot Chat功能12月全面推出;马斯克旗下人工智能初创公司xAI推出PromptIDE工具;Humane正式发布可穿戴智能设备Ai Pin;通义千问大模型上线App iOS版;美团推出首个AI聊天产品“Wow”;学而思全面开放MathGPT大模型。
在底层技术方面,微软获得关于疏导用户心理问题的AI新专利;元象发布国内参数量最大的通用大模型XVERSE;中国电信发布千亿参数“星辰”大模型。
此外,行业政策也有最新动向。中国第二批AI大模型通过备案;上海发布多条政策推动AI大模型发展。
国盛证券认为,从量化的角度来看,当人工智能趋势指标位于0轴上方,处于右侧区域。当前人工智能行业的趋势打分为0.1,位于0轴以上,处于右侧区域,中期趋势向上。人工智能行业的交易拥挤度从顶部回落至0.4倍标准差,处于可布局区域。当前人工智能的交易拥挤度为0.4倍标准差,从二季度的2.4倍标准差有所回落,历史上类似于2014-2015年。今年上半年作为“TMT”行情的主线,短期交易拥挤度上升较快,但三季度的调整提供了还不错的布局时点。近期随着大盘指数企稳有反弹迹象,当前可继续右侧跟踪趋势。
一条朋友圈让博士生被盯上
安全真是无小事。据北京日报客户端,根据真实案例改编的微电影《防线》,讲述了我国某科研机构的博士生董某,在参加国际学术会议时,被境外间谍情报机关贴靠拉拢,并一步步落入对方设下的圈套,险些造成某领域最新技术成果泄露的故事。
事实大概是这样的:博士生董某在某科研机构实习期间,对各项保密制度置若罔闻,违规将手机带入涉密办公场所,并将含有涉密场所信息的自拍照片发给母亲。董某母亲将照片上传至社交媒体炫耀,导致董某的涉密工作特征、地理位置等敏感信息泄露,埋下了严重安全隐患。
一段时间后,团队研究成果初现,董某和同事受邀参加国际学术会议。在此期间,自称为某国际核心期刊杂志社编辑的肖某主动贴靠董某,并吹捧董某学术造诣深厚,表达了约稿意向,在互相寒暄之后双方互加微信。令董某没想到的是,肖某的真实身份是境外间谍,扫码添加好友,其实是他获取手机信息、实施监听的手段。
该团队研究取得突破性进展后,肖某抓住董某急于出名的心态,不断鼓吹、步步引诱。最终,董某擅自将涉密研究成果通过电子邮件发送给了肖某。
然而,肖某的情报窃密活动早已进入国家安全机关的视线。在千钧一发之际,国家安全机关果断出击,及时截获含有涉密信息的邮件,避免了涉密信息的外泄,有力维护了国家安全。事后,董某幡然悔悟,积极配合国家安全机关的调查,并向导师表示歉意。导师向董某讲述了自己当年从国外回国的亲身经历,并引用爱国科学家钱学森先生的话教育他,“科学没有国界,但科学家是有祖国的”。
继续阅读
阅读原文