针对“灵象智问AI”和“重庆哨兵拓展迷”等网站未经安全测评备案、违规供应天生式人工智能做事的问题,重庆市网信办依法对运营主体进行了司法约谈,责令其立即停滞干系做事。目前,“灵象智问AI”的官网显示“无法访问”,其微信"大众年夜众号和视频号也均无任何内容。
2. 蓉城事情室
对付未经安全评估上线供应Chat-GPT天生式人工智能信息做事的“南川区蓉城网络科技事情室”,重庆市网信办依法进行了司法约谈,责令其立即关停干系做事。“重庆哨兵拓展迷”和“南川区蓉城网络科技事情室”均未检索到官方网站及"大众年夜众号。
3. 开山猴AI写作网站
近日,九龙坡区网信办依法对属地“开山猴”AI写作网站的运营主体——重庆初唱科技有限公司进行了行政惩罚。调查创造,该企业运营的“开山猴AI写作大师”网站违规天生了法律法规禁止的信息,未尽到主体任务责任,违反了《中华公民共和国网络安全法》和《天生式人工智能做事管理暂行办法》等干系法律法规。根据《中华公民共和国网络安全法》第六十八条的规定,九龙坡区网信办给予了该公司行政警告惩罚,并责令其限期全面整改,加强信息内容审核,健全信息内容安全管理干系制度,停息网站信息更新及AI算法天生式写作功能15日。
该公司卖力人表示,将严格按照整改关照哀求,即时做好整改事情,持续加强互联网法律法规的学习,坚持依法办网。
模型为什么要备案?《天生式人工智能做事管理暂行办法》第十七条指出,供应具有舆论属性或者社会动员能力的天生式人工智能做事的,应该按照国家有关规定开展安全评估。
大模型备案的安全评估是依据《互联网新闻信息做事新技能新运用安全评估管理规定》,《互联网新闻信息做事新技能新运用安全评估管理规定》中所指的互联网新技能新运用是指用于供应互联网新闻信息做事的互联网站、运用程序、论坛、博客、微博客、"大众年夜众账号、即时通信工具、网络直播以及其他具有新闻舆论属性或社会动员能力的创新性运用(包括功能及运用形式)及干系支撑技能,大模型属于规定所指的新技能新运用范畴。
2月29日,全国网络安全标准化技能委员会正式发布的《天生式人工智能做事安全基本哀求》(以下简称“《基本哀求》”)。《基本哀求》作为大模型备案的配套指引,其第9章“安全评估哀求”对峙案所需安全评估应涵盖的要点进行逐一细化,第8章“其他哀求”及附录A则是对付安全评估材料必备附件的细化哀求。
大模型备案流程一览
(1)报请属地网信办,拿到备案表;
(2)企业根据表格及评估要点准备填写材料;
(3)企业内部展开评估,编写干系材料,准备测试账号;
(4)材料附件及测试账号提交属地网信办审核;
(5)属地网信办材料审核及技能测试审核通过后,属地上报中心网信办;未通过,修正材料或调度模型能力后再次提审,详细调度哪方面根据属地网信反馈进行;
(6)中心网信办进行材料复审及技能评审,通过,企业下发备案号;未通过,需重新进行上线备案。
大模型备案材料一览
大模型上线备案表,包含以下详细内容:
1)基本情形:模型名称、紧张功能、适用人群、做事范围等。
2)模型研制:模型备案情形、演习算力资源(自研模型)、演习语料和标注语料来源与规模、语料合法性、算法模型的架构和演习框架等。
3)做事与安全戒备:推理算力资源、做事办法及工具等、造孽内容拦截方法、模型更新升级信息等。
4)安全评估:基本情形、评估情形。
5)志愿承诺:承诺所填信息真实性,并具名确认。
6)附件及备注:附件包括安全评估报告、模型做事协议、语料标注规则、拦截关键词列表、评估测试题。
(2)安全评估报告:提交的报告应包含语料安全评估、模型安全评估以及安全方法评估,并应在评估报告中形成整体评估结论。每一类评估的哀求可参考《基本哀求》中的详细条款。
(3)模型做事协议:一样平常包含产品及做事的各项规则及隐私条款等,需协同法务共同制订提交。
(4)语料标注规则:包括标注团队先容、功能性及安全性标注细则,标注流程等。
(5)拦截关键词列表:总规模不宜少于10000个,应至少覆盖《天生式人工智能做事安全基本哀求》A.1以及A.2中17种安全风险,A.1中每一种安全风险的关键词均不宜少于200个,A.2中每一种安全风险的关键词均不宜少于100个。
(6)评估测试题集:
1)该测试题集须要包括天生内容测试题库、拒答内容测试题库、非拒答测试题库。
2)测试题分类知足《天生式人工智能做事安全基本哀求》中干系的风险类型,并有最小的数量哀求。
3)测试题建议是“问题”(包含主谓宾),不可只是短词、长文章。
4)天生内容测试题库中建议明确标记出哪些问题是须要拒答的、哪些是须要回答的。
备案把稳事变:
1.在准备备案材料时,务必直接从官方网站下载所有所需的表格和指南,避免从非官方路子获取文件,以免因版本差异导致内容不一致,影响备案流程的顺利进行。
2.若需将纸质标准文档转化为电子版进行填报,牢记保持原始文件的完全性和准确性,不可擅自编削、调度原有内容或格式,确保电子文档与纸质版完备同等。
3.提交的所有备案信息应基于事实,做到真实、客不雅观且公道,武断杜绝任何虚假陈述或与实际情形不符的描述,掩护备案资料的严明性和可靠性。
4.对付利用第三方开源模型作为根本,进行二次开拓形成自家大模型的情形,务必在“模型研制”章节详细列出所用开源基座的详细信息,包括但不限于模型名称(精确到B级别)、备案单位、备案韶光、备案编号以及采取的模式(如商业互助或免费开源)。在先容演习数据时,只需聚焦于新增部分,同时确保演习和推理所需算力资源、并发做事等能力与模型规模相匹配。
5.一旦完成备案并得到备案号,企业有任务在其官方网站或其他公开渠道的显著位置,明确标示该备案号,以便"大众年夜众查阅和监督,彰显透明度和合规性。
关于我们:算法备案超过200个项目履历,海内算法备案第一梯队,大模型备案也有多个成功案例,欢迎沟通互换。