风起于青萍之末,浪成于微澜之间!2023年初ChatGPT的推出,让AI技术掀起了一波前所未有的发展与应用热潮,同时也不可避免地带来的许多新的安全风险,这些安全风险涵盖了从网络威胁、数据安全、隐私保护、伦理关切和监管影响等各个方面。
2023年11月2日,由中国内部审计协会、ISACA中国、谷安天下公司联合举办的第三届数字风险大会于在北京隆重开幕。本次大会主题聚焦于“AI时代的数字风险挑战与应对”,邀请了众多网络安全与数字风险领域的研究学者、产业专家、用户代表聚集一堂,从安全科技、风险控制和IT审计等多维度视角,全面探讨了AI技术应用的发展机遇和新型数字风险管理。
中国内部审计协会副会长兼秘书长沈立强
在本次大会的主论坛上,中国内部审计协会副会长兼秘书长沈立强代表大会主办方致辞,他表示:AI技术的突破性进展成为引领数字时代发展的新引擎。内部审计作为组织内部经济决策科学化、管理规范化,风险防控常态化的一项重要制度设计,承担着为各个组织实现高质量发展保驾护航的重要使命。为进一步推动内部审计的数字化转型,企业组织应该做好以下方面:一是要增强使命感,充分认识到数字化转型是实现高质量发展的必然要求;二是要坚持正确方法论,注重数字化转型的系统性、整体性、协同性和时效性;三是要勇于自我革命,着力加强内部审计数字化转型的能力建设。
ISACA全球首席战略官Chris Dimitriadis
ISACA全球首席战略官Chris Dimitriadis以远程方式为大会发表了主题为《数字信任护航AI安全》的视频演讲。他指出:AI正在改变各个行业的发展模式并支持业务创新,为新产品和新的服务模式的推出铺平道路。AI技术应用虽然存在风险,但也可以使数字信任行业收益。在IT审计工作中应用AI,能够实时审计完整的数据集,取代传统的抽样或定时审计。数字信任可以支持网络安全识别、保护、检测、响应和恢复,而AI监控和增强技术运营作为一个整体,其实现方法将会更智能、更快捷、更全面。
中国内部审计协会副会长、北京国家会计学院教授 秦荣生
中国内部审计协会副会长、北京国家会计学院教授秦荣生发表了主题为《审计智能与智能审计》的演讲,他指出:生成式AI改变了数据生成方式和数据生成规律,并颠覆数据库的结构以及数据分析方式。生成式AI产业应该在继续加强技术创新和应用推广的同时,也要注重加强对生成式 AI 生成数据的审计,保障生成式AI生成数据的真实和可信,研究审计生成式AI生成数据的实现路径。随着智能审计体系的构建,人机共生将成为未来数智化审计工作的一部分。
中国建设银行首席信息官金磐石
中国建设银行首席信息官金磐石发表了主题为《AI 技术在银行业数字化转型中的应用与挑战》的主旨演讲,并围绕AI技术赋能建行数字化转型和建行应用AI技术的挑战及应对措施两大方面展开详细说明。据金磐石介绍:基于企业级人工智能平台,中国建设银行已发布400多个模型服务,支撑800多个业务场景。目前,中国建设银行对AI技术应用需求旺盛,实现了业技融合多维分析,能够通过差异化推进场景建设以及产品化建设敏捷赋能。
北京大学计算机学院教授博士生导师陈钟
北京大学计算机学院教授博士生导师陈钟发表了《人工智能安全挑战与治理》的主题演讲。他表示:随着互联网技术演进到赛博空间,涌现出更多的技术创新,比如人脸识别、生成式预训练大模型GPT、AI作画、AI创作等。我国应高度重视人工智能产业的发展与治理,只有数字信任才能加快新兴技术的创新应用、弥合国际/区域数字鸿沟。当前亟需从可信数字身份出发,借助密码技术、区块链、大数据、人工智能等技术,打造面向数字经济时代的新型数字信任体系,为政府和企业的数字化转型奠定数字安全基础设施,赋能数字经济发展和智慧城市建设。
中国移动通信集团内部审计部武汉分部总经理张国宏
中国移动通信集团内部审计部武汉分部总经理张国宏在《运用AI技术开展数字化审计的探索与实践》演讲中表示:大道至简,审计思维也需要化繁为简。中国移动集团内部审计部充分利用公司在人工智能、云计算、大数据等方面的先进技术储备设计了覆盖底座层、平台层、工具层、产品层四个层次的“Al+审计”整体技术架构,实现“通用平台+场景应用”模式在审计领域的落地,为AI审计能力的快速构建、高效运行、深入应用提供坚实保障。
谷安天下董事长陈伟
谷安天下董事长陈伟发表了题为《新时期数智风险管控的思路与方法》的主题演讲,并就新时期数智化风险的特点、AI安全与伦理的重要性、AI风险管理框架分析对比和适用AI风险管控思路方法展开了详细阐释。陈伟指出,各类机构在面对新型AI应用带来的风险时,可根据国际上AI安全与伦理通用规则及国内主管部门对科技伦理和AI安全的基本要求,开展针对AI的安全风险评估,并在此基础上建立适宜的AI安全风险控制框架,逐步推进AI安全控制措施的落地实施。
火山引擎大模型安全平台产品负责人郭建新
火山引擎大模型安全平台产品负责人郭建新发表了题为《基于云原生的大模型安全分析》的主题演讲,对大模型的业务分析、安全需求、安全架构、业务安全以及基于云原生的安全防护等内容进行了详细介绍。郭建新表示:大模型技术在具体应用时面临模型输出异常、对话机制异常、数据安全、大模型系统漏洞检测等问题。为了增强大模型的安全性,组织需要从防御者权限角度出发,开展数据质量审查、基于端到端的模型增强、基于流程的模型增强。
在本次大会上,还发布了网络安全和数字风险领域的多项研究成果,分别是由中国内部审计协会、谷安天下联合编写的《数智化审计调研报告》,由ISACA编写发布的《生成式AI应用现状及政策建议报告》和《2023年网络安全现状 ——劳动力、资源和网络运营的全球发展新态势报告》,以及安全牛调研编写的《AI时代的安全风险与能力创新》研究报告。这些报告涵盖了企业组织的IT审计、网络安全、人才培养和AI应用等热点领域,对相关行业和领域的发展具有重要的指导和参考价值。
为了从应用实践角度关注AI技术的应用风险和价值,本次大会特别设置了“数智化风险控制与IT审计”和“AI引领数字风险防护创新”两场主题分论坛,一众行业大咖针对各自主题发表了一系列精彩演讲,以自身见解和 经验分享引发了现场观众的热烈讨论。
第三届数字风险大会的举办,为行业搭建了一个思想碰撞和经验分享的多层次平台,提出了在AI时代数字进行风险管理的重要性和迫切性,引领行业走向更加安全和可持续的未来。据介绍,数字风险大会目前已经成功举办了三届,该会议旨在让数字风险和网络安全领域的思想领袖、行业主管、业内学者、企业高层、技术专家聚集在一起,共同面对和探讨当下业界紧迫的数字风险问题,同时推动行业各方紧密合作,共同开发全面的策略和前沿的解决方案,以有效地管理各种数字风险。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
