360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******

　　2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

　　在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

　　目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

　　报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

　　报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

　　为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。

　　在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。

　　作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。

　　随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。

各地探索服务自动驾驶交通管理新举措******

各地探索服务自动驾驶交通管理新举措

如何为“聪明的车”建设“智慧的路”

本报记者 董凡超

　　驾驶座上没司机，汽车也能上路行驶？或许，这就是未来的日常。随着5G通信、物联网、大数据、人工智能等新一代信息技术的快速演进，自动驾驶已经逐渐从蓝图走进现实。

　　2022年12月，上海市十五届人大常委会第四十六次会议表决通过《上海市浦东新区促进无驾驶人智能网联汽车创新应用规定》，旨在推动产业高质量发展，保障道路交通安全。

　　通过地方立法回应创新驱动下产业发展诉求的做法不仅在浦东一隅。《法治日报》记者梳理发现，近年来，各地各部门将自动驾驶作为科技创新支撑加快建设交通强国的重要领域之一，积极推进自动驾驶技术发展与应用，在政策法规、标准规范、技术研发、试点示范等方面开展了一系列工作。

　　创新发展

　　多个部委有举措

　　清华大学法学院教授余凌云告诉记者，完善自动驾驶汽车准入制度要在充分了解自动驾驶汽车的基础上，制定一套合理而透明的市场准入标准，现行的汽车驾驶自动化分级国家标准将汽车驾驶自动化等级划分为L0-L5级。

　　近年来，我国智能网联汽车产业飞速发展，目前正处于技术快速演进、产业加速布局的关键阶段。除了明确分级标准外，相关部委已开展包括深化试点示范、完善政策环境、推动基础设施建设等工作。

　　在出台发展政策方面，交通运输部、工信部、公安部印发《智能网联汽车道路测试管理规范(试行)》；交通运输部联合发改委等11个部门出台《智能汽车创新发展战略》。

　　在推进标准规范制定方面，工信部、交通运输部、公安部推动相关标准化技术委员会协同合作；在国家车联网产业标准体系框架下研究智能交通标准体系；制定营运客车、营运货车安全技术条件；编制《公路工程适应自动驾驶附属设施总体技术规范》。

　　在推进测试验证方面，交通运输部认定6家封闭场地测试基地(北京、西安、重庆、上海、泰兴、襄阳)；推动测试区数据共享、结果互认，提升测试服务水平；制定《自动驾驶封闭测试场地建设技术指南(暂行)》。

　　在推进试点示范方面，交通运输部开展新一代国家交通控制网和智慧公路的试点；推动5G通信和北斗导航等技术的应用；在北京、上海、河北等地推进一批自动驾驶和车路协同试点项目。

　　目前，各部委正坚持“鼓励探索、包容失败、确保安全、反对垄断”的原则，在地方先行先试、产品准入试点、智能交通基础设施建设等方面多措并举，持续推动我国自动驾驶汽车行业高质量发展。

　　上路行驶

　　制度保障少不了

　　2021年6月23日，依据全国人大常委会授权，上海市十五届人大常委会第三十二次会议全票通过决定，支持浦东新区高水平改革开放。一个新名词——浦东新区法规，进入公众视野。由此，上海拥有两类不同性质的地方立法，一类适用于全上海，一类专门为浦东制定，在浦东新区实施。

　　浦东新区法规明确，开展无驾驶人智能网联汽车道路测试、示范应用、示范运营，车辆应当具备最小风险运行模式，配备处于无驾驶人状态的显示装置以及故障或事故后的警示装置，经过有驾驶人智能网联汽车道路测试并达到规定里程或时间。开展智能网联汽车创新应用的路段、区域由市交通部门会同公安、经济信息化、通信管理等部门根据道路基础条件和实际需要划定并组织开展验收。验收通过后，应当向社会公示，并在该路段、区域及周边设置相应标识和安全提示。

　　山西省阳泉市作为全国首个全域开放自动驾驶的地级市，目前已开展全市200公里道路自动驾驶测试运营工作，50个交通路口路侧基础设施完成智能化改造，形成市域级车城网。2021年9月，阳泉市多个部门出台了《阳泉市智能网联汽车示范应用管理办法》，对自动驾驶载人测试进行了支持。

　　重庆市永川区和湖北省武汉市均出台管理规定，允许获得资质的示范应用主体开展车内无安全员的远程测试、示范和商业运营，为开展自动驾驶业务的企业提供详细的指导和支持。

　　在政策支持下，中国在自动驾驶技术研发和应用方面均位居世界前列。各地法律、规定之于自动驾驶，态度是——鼓励创新、包容审慎、循序渐进，实行分级分类管理，按照从低风险场景到高风险场景、从简单类型到复杂类型的要求，确保安全有序、风险可控。

　　余凌云指出，自动驾驶真正获得普及，还需从全国立法层面为产品准入和道路准入提供统一的合法性支撑，预防和应对技术的不确定性挑战，寻求道德伦理的正当性。

　　“自动驾驶可通过地方立法进行试验来积累经验，最后在国家层面形成统一立法。”余凌云认为，自动驾驶立法应当坚持创新性、前瞻性、开放性的理念，并以“渐进式”立法思路为宜。

　　保障安全

　　公安机关在行动

　　走进阳泉市的数字经济产业园，自动驾驶车辆不时从身边驶过。

　　记者在采访中了解到，阳泉市公安局交警支队四大队为自动驾驶车辆开放了200公里的测试道路，支持其规模化测试运行。并针对区域内住宅聚集区、商业大厦等地周边人员流动性大、即停即走现象多、管理难度大的特点，设置了专用停车位和停车牌，进一步规范了自动驾驶车辆停车行为。

　　据阳泉市公安局交警支队四大队副大队长胡鹏飞介绍，在日常管理中，该大队打造智能网联示范区的专门勤务模式，创建了“线下巡逻与线上巡检”相结合的管控机制，以机动中队为单位，“路长”每天对辖区道路交通情况进行巡逻，如遇自动驾驶汽车存在交通违法行为，及时通知测试安全员，并对企业进行通报。同时，还制定了专门的交通事故处理程序，为及时处置交通事故及安全事件提供机制保障。

　　此外，该大队每月都会组织专人深入企业进行交通安全知识宣讲，详细检查安全员的资质及车辆的安全性能，严禁不符合安全要求的车辆上路行驶。

　　在北京市亦庄新城设立的高级别自动驾驶示范区，科技带来的崭新变化正在改变群众的出行体验——北京交管局联合有关科技公司开展基于自动驾驶车辆感知设备的交通事件举报应用研究，以及基于手机定位的紧急求助、信号灯绿波护航研究等联创课题研究，探索自动驾驶与交通管理的双向赋能，全面提升群众出行的安全感与科技感。

　　余凌云表示，自动驾驶的技术革命可能导致与自动驾驶汽车相关的法律问题层出不穷，也会赋予交通管理全新的执法重点并带来了技术层面考验。在可预见的未来，公安交管部门应当重点解决自动驾驶汽车的事故责任认定、隐私保护与网络安全等问题。

　　“交通管理未来也会依托物联网技术的应用高度智能化、自动化、网络化，真正具有‘千里眼、顺风耳’，做到取证实时化，智能预防事故主动化。公安交管部门也应积极延展科技触角，用有效、精准同时不侵犯隐私的执法手段，护航自动驾驶技术应用行稳致远。”余凌云如是说。

　　图为2022年12月23日，山西省阳泉市公安局交警支队四大队民警对辖区自动驾驶车辆道路交通通行情况进行巡逻指挥。 崔凯 摄