处罚案例|生成式人工智能大语言模型不备案后果

一、大模型不备案处罚案例

7月22日，重庆网信部门通报2024年上半年查处的网上各类违法违规行为，其中涉及3起违规从事生成式AI服务的案例。

1、灵象智问AI

针对“灵象智问AI”“重庆哨兵拓展迷”等网站未经安全测评备案、违规提供生成式人工智能服务问题，依法对运营主体开展执法约谈，责令立即停止相关服务；目前官网显示“无法访问”，微信公众号及视频号均无任何内容。

2、蓉城工作室

对未经安全评估上线提供Chat-GPT生成式人工智能信息服务的“南川区蓉城网络科技工作室”依法开展执法约谈，责令立即关停相关服务。

“重庆哨兵拓展迷”及“南川区蓉城网络科技工作室”未检索到官方网站及公众号。

3、“开山猴”AI写作网站

近日，九龙坡区网信办依法对属地“开山猴”AI写作网站运营主体重庆初唱科技有限公司未尽到审核管理义务、履行主体责任不到位的行为作出行政处罚。

经查，该企业运营的“开山猴AI写作大师”网站违规生成法律法规禁止的信息，未尽到主体责任义务，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等相关法律法规。九龙坡区网信办依据《中华人民共和国网络安全法》第六十八条的规定，给予其行政警告处罚，并责令该公司限期全面整改，加强信息内容审核，健全信息内容安全管理相关制度，暂停网站信息更新及AI算法生成式写作功能15日。

该公司负责人表示，将严格按照整改通知要求，即时做好整改，持续加强互联网法律法规学习，坚持依法办网。

此前，开山猴官网（https://www.yizigpt.com/）显示升级维护中。