首页 > 韬安资讯 > 详情

【韬安前沿观察】“云安全联盟”成立大中华区AI安全工作组;《北京市反垄断合规指引》发布

2023-09-11


图片


图片



目录


  • 《人工智能示范法1.1(专家建议稿)》中英版重磅发布

  • “云安全联盟”成立大中华区AI安全工作组

  • 五部门联合印发《元宇宙产业创新发展三年行动计划(2023-2025年)》

  • 网信办对知网作出网络安全审查相关行政处罚,知网被罚5000万

  • 公安部网安局发布江苏省一系列打击违反数据安全法案件

  • 十四届全国人大立法规划发布,涉及网络安全、数据治理

  • 中评协发布《数据资产评估指导意见》

  • 国家市监总局披露一组营造公平竞争市场环境相关数据

  • 《北京市反垄断合规指引》发布,全面作出反垄断合规指引

  • 美国各州检察长联名呼吁成立委员会调查AI对儿童的负面影响

  • 联合国教科文组织发布《教育与研究领域生成式人工智能指南》

  • 微软称将对客户使用其AI服务陷入的纠纷承担责任

  • 俄罗斯法院以违反数据本地化处罚Tinder公司

  • 美国一州地方法院对非法自动呼叫行为处以1.46亿美元罚款

  • 6家公司被欧盟列为《数字市场法》下的“守门人”,将迎来强监管




图片





一、元宇宙与人工智能


1.  《人工智能示范法1.1(专家建议稿)》中英版重磅发布


2023年9月7日,中国社会科学院国情调研重大项目《我国人工智能伦理审查和监管制度建设状况调研》课题组发布《人工智能示范法1.1(专家建议稿)》,在1.0版本的基础上参照各方反馈与最新动态进行了修订。


2023年8月15日发布的《人工智能法(示范法)1.0》包括总则、人工智能支持与促进、人工智能管理制度、人工智能研发者和提供者义务、人工智能综合治理机制、法律责任和附则七大章节,针对人工智能快速发展下的安全问题和责任义务分配作出安排。1.1版本进一步调整了违法罚款数额、风险评估记录保存日期等,并新增行政救济、人工智能提供者备案豁免等条款,以期助力人工智能行业的蓬勃、健康发展。(来源:合规科技研究、中国法学网)


2.  “云安全联盟”成立大中华区AI安全工作组


2023年9月7日下午,在2023inclusion外滩大会举行的《探索下一代安全智能》论坛上,世界权威国际产业组织“云安全联盟”(CSA)大中华区宣布成立“AI安全工作组”,中国电信、蚂蚁集团、华为、百度、火山引擎、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。


云安全联盟大中华区AI安全工作组将由中国电信上海研究院、蚂蚁集团担任联席组长单位,召集联盟内人工智能相关的产线上下游企业、学校、研究机构、用户单位等共同研究人工智能安全前沿技术。工作组将聚焦于解决AI技术快速发展所带来的安全难题,输出人工智能内生安全、衍生安全、助力安全等领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案等,为整个行业提供一个清晰、系统的AI安全研究框架。根据计划,工作组先期将输出《AI安全白皮书》《大模型安全研究报告》《AI数据安全评估规范》等研究成果,最终实现共同建设数字安全生态协作系统。


在以人工智能为代表的数字技术正迈入从高速增长向高质量增长转变的全新发展阶段,CSA大中华区AI安全工作组的成立将对国际数字安全的生态体系发挥贡献作用。(来源:证券日报)


3.  五部门联合印发《元宇宙产业创新发展三年行动计划(2023-2025年)》


2023年9月8日,工业和信息化部办公厅、教育部办公厅、文化和旅游部办公厅、国务院国资委办公厅、广电总局办公厅联合印发《元宇宙产业创新发展三年行动计划(2023-2025年)》(以下简称《行动计划》)。


《行动计划》按照长远布局和分步落地思路,从近期和远期两个层面对元宇宙产业链做了系统谋划和战略部署,近期提出到2025年综合实力达到世界先进水平并制定了具体衡量标准,远期则从技术能力水平、产业体系、元宇宙新空间方面提出了发展目标。《行动计划》提出5大任务,即“构建先进元宇宙技术和产业体系”“培育三维交互的工业元宇宙”“打造沉浸交互数字生活应用”“构建系统完备产业支撑”“构建安全可信产业治理体系”,围绕5大任务规定了14项具体措施进一步明确细化了发力方向和突破点,并由不同维度的4大工程“提升关键技术”“培育产业生态”“工业元宇宙赋能”“强化产业基础”进一步谋划布局产业突破口。


通过元宇宙技术研发和终端应用共进、工业与生活元宇宙场景协同推进,最终达到形成全球领先的元宇宙产业生态体系,推动实现人类生产生活方式的整体跃升。(来源:中华人民共和国工业和信息化部、工信微报)


二、数据合规与个人信息保护


1.  网信办对知网作出网络安全审查相关行政处罚,知网被罚5000万


2023年9月6日,国家网信办公布对知网(CNKI)涉嫌违法处理个人信息行为进行立案调查的结果。经查实,知网(CNKI)主要运营主体为同方知网(北京)技术有限公司、同方知网数字出版技术股份有限公司、《中国学术期刊(光盘版)》电子杂志社有限公司三家公司,其运营的手机知网、知网阅读等14款App存在违反必要原则收集个人信息、未经同意收集个人信息、未公开或未明示收集使用规则、未提供账号注销功能、在用户注销账号后未及时删除用户个人信息等违法行为。


国家互联网信息办公室依据《网络安全法》《个人信息保护法》《行政处罚法》等法律法规,综合考虑知网(CNKI)违法处理个人信息行为的性质、后果、持续时间,特别是网络安全审查情况等因素,对知网(CNKI)依法作出网络安全审查相关行政处罚的决定,责令停止违法处理个人信息行为,并处人民币5000万元罚款。这一标志性行政执法案例将进一步强化整个社会以及相关企业对于个人信息保护法的重视和遵守。(来源:网信中国)


图片


(图片来源:网络)


2.  公安部网安局发布江苏省一系列打击违反数据安全法案件


2023年9月6日,针对2023夏季治安打击整治网警行动,公安部网安局发布了江苏公安机关网安部门聚焦违反数据安全保护义务的行为进行打击整治的系列行动和典型案件。


自《数据安全法》施行两年来,江苏公安针对数据泄露、滥用、篡改等行业领域乱象,加大监督检查、行政执法力度,全面压紧压实网络运营单位数据安全主体责任。在本次发布的五个案例中,被处罚的公司未针对获取的数据建立全面有效的数据安全管理制度,未采取相应的技术措施保障数据安全,没有依法履行数据安全保护义务。


公安机关紧盯《数据安全法》的落实,加强风险监测、监督执法和行政执法,严格规范数据处理和安全防护工作,对个人利益、公共利益、经济运行乃至社会稳定和国家安全都有至关重要的作用。(来源:公安部网安局)


3.  十四届全国人大立法规划发布,涉及网络安全、数据治理


2023年9月7日,十四届全国人大常委会立法规划发布,明确了今后5年中国立法工作的“总蓝图”,紧紧围绕整体局面、社会实践提出的需求、人民群众的期盼,加强重点领域、新兴领域、涉外领域立法,为全面建设社会主义现代化国家提供坚实法治保障。


本次立法规划主要包括三类立法项目,第一类条件比较成熟、任期内拟提请审议的法律草案项目,提及了网络安全法的修改;第二类需要抓紧工作、条件成熟时提请审议的法律草案项目,提及了网络犯罪防治法、数字经济促进法的修改;第三类立法条件尚不完全具备、需要继续研究论证的立法项目,提及了数据权属和网络治理等方面的立法项目。(图文来源:新华网)


图片


(图片来源:新华社)


4.  中评协发布《数据资产评估指导意见》


2023年9月8日,中国资产评估协会在财政部的指导下印发《数据资产评估指导意见》(以下简称《指导意见》),自2023年10月1日起施行。《指导意见》以准确反映数据资产要素价值为目的,是从财会角度促进数字经济发展的有力举措。


《指导意见》中明确了数据资产的属性定义,并规定了执行数字资产评估业务的基本遵循、评估对象、操作要求、评估方法和披露要求。在进行评估业务时,需要了解和关注数据资产的基本情况,包括信息属性、法律属性、价值属性等。此外,执行数据资产评估业务,应当根据数据来源和数据生成特征,关注数据资源持有权、数据加工使用权、数据产品经营权等数据产权,并根据评估目的、权利证明材料等,确定评估对象的权利类型。


专家表示,数据资产评估是推动数据资产化的重要前置工作,可以更加充分地反映出数据的赋能作用,帮助数字经济政策更好地落地。(来源:中国资产评估协会、21世纪经济报道)


三、反垄断与竞争法


1.   国家市监总局披露一组营造公平竞争市场环境相关数据


2023年9月6日,国家市场监督管理总局披露了一组为民营经济发展壮大营造公平竞争市场环境的数据。


数据指出,2023年以来在落实公平竞争政策制度方面,全国共审查增量政策措施16.38万件,清除各类存量政策措施45.2万件,废止、修订妨碍统一市场和公平竞争的政策措施2万多件。在加强反垄断和反不正当竞争监管执法上,截至今年8月底,市场监管部门依法查处垄断协议、滥用市场支配地位行为案件17件,罚没款总额9.1亿元。


为营造公平竞争的市场环境,国家市场监督管理总局副局长柳军提出下一步市场监管总局将进一步落实好反垄断和公平竞争审查制度规则,推动重点领域反垄断监管执法提质增效,为民营经济发展壮大保驾护航。(来源:国家市场监督管理总局)


2.  《北京市反垄断合规指引》发布,全面作出反垄断合规指引


2023年9月7日,北京市市场监督管理局发布了《北京市反垄断合规指引》(以下简称《指引》),引导经营者和行业协会等建立和完善反垄断合规管理制度,提高对垄断行为的风险识别、防范及处置能力,保障经营活动的持续健康发展。对于培育公平竞争文化,营造公平有序的市场竞争环境,促进竞争政策实施,同时激发经营者创新活力,在新技术应用过程中贯彻科技向善理念,推动高质量发展有重要意义。 


本《指引》长达107页,全面覆盖《反垄断法》及其配套规范在垄断协议、滥用市场支配地位、经营者集中、行政垄断这反垄断四大方面的主要规定,有效帮助经营者、监管部门、协会等各类主体厘清基本概念、识别风险行为,并提出了具有可操作性的实用建议,为不同规模的企业在经营过程中的反垄断合规制度的建立和反垄断违法风险的规避都提供了明确、系统的指导与参考。(来源:北京市市场监督管理局)


图片


(图片来源:《北京市反垄断合规指引》)



图片



一、元宇宙与人工智能


1.  美国各州检察长联名呼吁成立委员会调查AI对儿童的负面影响


2023年9月6日报道,美国50个州和4个地区的总检察长联名致信国会,呼吁成立一个专门的委员会研究人工智能对儿童的负面影响。


信中提出,人工智能技术对儿童的安全构成了潜在威胁,一些不良分子利用AI技术通过训练算法生成虚假的儿童色情内容。这些AI生成的内容非常逼真,对儿童安全构成了巨大威胁。因此总检察长们呼吁国会成立一个跨党派的委员会,深入调查AI技术如何被用于儿童剥削目的,并提出解决方案。委员会的任务包括:扩大现有法律,明确将AI生成的儿童色情内容列入禁止范围;提出新的立法措施,加强对这类AI应用的监管;建议创新技术方案,提高识别和过滤这类内容的效率等。


总检察长指出,对AI潜在风险的监管方面除了重点关注国家安全和教育问题外,对儿童安全也不应该忽视。(来源:算法纪元)


2.  联合国教科文组织发布《教育与研究领域生成式人工智能指南》


2023年9月7日,联合国教科文组织发布《教育与研究领域生成式人工智能指南》(以下简称《指南》),呼吁并规范生成式人工智能在教育中的应用。


《指南》以教科文组织2021年发布的《人工智能伦理问题建议书》和2019年发布的《北京共识——人工智能与教育》为基础,明确了生成式AI的定义和运作机制,同时围绕技术本身及其对教育的影响阐述了相关争议,包括加剧“数字鸿沟”、超越国家监管现状、未经同意的使用、训练模型缺乏透明度和可解释性、生成内容的污染性和不可靠性等。


为此,教科文组织提出必须要“以人为中心”,加强公众参与以及政府的必要保障和监管,切实帮助政策制定者和教师从学生的基本利益出发,充分发挥人工智能潜能。教科文组织为各国政府提出了七个关键步骤以管制生成式AI,并就其在教育和研究领域符合伦理的运用制定政策框架,并提出使用人工智能工具的最低年龄设定为13岁,呼吁对教师进行相关培训。(来源:新华社)


3.  微软称将对客户使用其AI服务陷入的纠纷承担责任 


2023年9月7日,微软总裁Brad Smith、首席法务官Hossein Nowbar联合发布声明称,进一步扩大对用户使用微软Copilot服务的知识产权纠纷支持承诺。Copilot的版权承诺也相应进行明确更新,向用户表示如果你因版权问题受到质疑,微软将承担可能涉及的法律风险。


具体来说,如果微软的商业用户因为使用Copilot或者微软AIGC服务产生的作品被控侵犯版权,只要客户使用了产品中内置的安全措施和内容过滤器(这项功能旨在降低AI返回潜在问题内容的可能性),微软将为客户出庭辩护,并支付任何不利判决引发的赔偿或和解费用。


微软为其商业用户提供因使用AI服务陷入知识产权纠纷的保障,有助于降低更多用户使用AIGC服务的顾虑,同时也为微软建立防护措施降低AIGC生成式工具输出的结果侵犯受版权保护的材料的可能性提出了更高的要求。(图文来源:CSDN)


图片


(图文来源:网络)


二、数据合规与个人信息保护


1.  俄罗斯法院以违反数据本地化处罚Tinder公司


据2023年9月4日Verdict报道,俄罗斯法院判决社交平台Tinder和流媒体平台Twitch的母公司因违反数据本地化要求,需支付1000万卢布(约合1.04万美元、75万元人民币)的罚款。


俄罗斯《联邦个人数据法》要求,收集俄罗斯公民个人数据的俄罗斯公司和外国公司在俄罗斯境内使用本地数据存储,这一规定一直被严格执行并开出了若干备受瞩目的罚单。在2019年,Facebook、Twitter和LinkedIn都因为未遵守数据本地化要求而对其处以罚款,后LinkedIn因未遵守规定而被禁止在俄罗斯运营。


据悉,大量数字服务平台包括Netfix、Spotify巨头等在内已经退出俄罗斯市场,本案涉及平台Tinder也已经在俄罗斯停止运行。(来源:个人信息与数据保护实务评论)


2.  美国一州地方法院对非法自动呼叫行为处以1.46亿美元罚款


2023年9月6日,美国阿肯色州总检察长宣布,德克萨斯州南部地区法院休斯顿分院已于2023年8月15日就Rising Capital Group LLC.公司颁布两项永久性禁令,并对该公司处以总计高达1.46余亿美元的两项罚款。


该公司违反了《联邦电话消费者保护法》《联邦电话营销销售规则》和各州消费者保护法,在未经消费者事先同意的情况下向位于美国多个州的居民住宅和/或移动电话号码拨打了数百万个电话,宣传包括保健产品在内的各种商品和服务。因此法院开出了高额罚单,还永久限制和禁止该公司及其代理人向各州总检察长管辖的地区拨打抢答电话,并禁止在10年内从事所有电话营销活动等。(来源:DataGuidence)


三、反垄断与竞争法


1.  6家公司被欧盟列为《数字市场法》下的“守门人”,将迎来强监管


2023年9月6日,欧盟委员会根据《数字市场法案》(DMA)首次指定了6家“看门人”(gatekeeper)企业——Alphabet(谷歌母公司)、亚马逊、苹果、字节跳动、Meta和微软,涉及22项由“看门人”提供的核心平台服务。6家企业将有6个月的时间(2024年3月之前)来确保其核心平台服务完全符合DMA义务要求。


DMA法案旨在打击大型科技公司的反竞争行为,鼓励数字市场的竞争并确保消费者有更多选择,本次欧盟委员会根据市值、营业额、活跃用户、服务地域范围等,从社交网络、广告、浏览器、智能系统、即时通讯、视频网站和搜索引擎等八大特定核心平台服务确立“守门人”,今后还可能发生变动。根据DMA规定,如果“守门人”企业不遵守DMA,欧盟委员会可处以最高可达公司全球总营业额10%的罚款;屡次违规则最高可处以20%的罚款。如果发生系统性问题,欧盟委员会还有权采取额外的补救措施,如拆分业务等。


目前,微软最为平静,Meta、谷歌和亚马逊方面表示正在对此制定进行审查,而字节跳动和苹果则明确提出了异议。(图文来源:反垄断前沿)


图片


(图文来源:网络)


- END -

本栏目文章为本所为本行业及社会公众提供的公益性普法服务,不属于针对具体事项的法律意见,也不代表本所针对具体个案的意见或观点。