《人工智能伦理治理研究报告（2023年）》： 协调人工智能产业创新发展与伦理治理

12月26日，中国信通院在“2024中国信通院ICT深度观察报告会”科技伦理治理分论坛上发布了《人工智能伦理治理研究报告(2023年)》(简称：《报告》)。《报告》表示，目前，人工智能引发的伦理挑战已从理论研讨变为现实风险，人工智能伦理治理是应对人工智能风险的有效机制。要协调人工智能产业创新发展与伦理治理，重视人工智能技术创新，加强人工智能治理产品开发，探索建立敏捷的人工智能伦理治理机制，推动产业创新与伦理风险防范相协调。

中国信通院科技伦理研究中心相关专家表示，伴随人工智能的迅速发展和广泛应用，人类正在进入一个“人机物”相融合的万物智能互联时代。人工智能技术应用在带来机遇的同时，也引发了系列伦理挑战。

《报告》称，在技术研发阶段，由于人工智能技术开发主体在数据获取和使用、算法设计、模型调优等方面还存在技术能力和管理方式的不足，可能产生偏见歧视、隐私泄露、错误信息、不可解释等伦理风险。在产品研发与应用阶段，人工智能产品所面向的具体领域、人工智能系统的部署应用范围等将影响人工智能伦理风险程度，并可能产生误用滥用、过度依赖、冲击教育与就业等伦理风险。对于人工智能生成内容、自动驾驶、智慧医疗等典型应用场景，需要根据风险发生频率、影响范围、影响程度等评估主要风险。

针对人工智能生成内容，《报告》认为，生成式人工智能应用成为2023年人工智能应用热点，但使用大模型生成内容具有三大突出风险。一是误用滥用风险，例如生成假视频、图片、声音以实施诈骗;二是数据泄露与隐私侵犯风险，例如ChatGPT今年发生若干起泄露用户信息的事件;三是对知识产权制度带来挑战，对生成式人工智能是否合理使用存在争议。

《报告》建议，在治理理念方面，坚持促进创新与防范风险相统一，统筹发展与安全。在治理举措方面，健全多学科多主体合作、探索分类分级治理、推动治理技术工具开发。在能力建设方面，重视科研人员、开发人员、社会公众等各主体科技伦理素养提升。在开放合作方面，积极参与全球人工智能伦理治理合作，推动人工智能技术造福人类。

从人工智能产业健康发展的角度来看，《报告》认为，人工智能伦理治理需要关注产业科技创新活动与伦理风险防范协调发展，通过伦理治理对人工智能可能存在的风险进行全生命周期的指导，促进人工智能朝着有利于人类发展、尊重和保障各群体权益的方向发展。

《报告》建议，一是重视人工智能技术创新。坚持促进创新与防范风险相统一，鼓励人工智能基础技术创新和突破，发展人工智能芯片、数据、算法等基础核心技术，加强人工智能治理产品开发，以人工智能技术防范人工智能风险。二是探索建立敏捷的人工智能伦理治理机制。建设快速响应、创新主体与相关政府部门有效沟通的治理合作，增强科技伦理治理的有效性和科学性，推动产业创新与伦理风险防范相协调。

来源：中国证券报·中证网 作者：

温馨提示：财经最新动态随时看，请关注金投网APP。