公职人员李某用AI写方案，被单位严肃处理
某公职人员李某， 在起草一份涉密方案时，在手机上下载了一款AI写作应用软件，并私自将该涉密方案的部分敏感内容输入AI写作工具生成文件。事发后，李某受到严肃处理。 近些年，偶有类似案例被公开通报。记者联系到某省涉密单位的干部，他向记者透露，单位内部有明确、严格的规定，严禁在处理公文、内部资料或涉及国家秘密、工作秘密、敏感信息时使用连接到互联网的AI工具。该干部表示：“涉密信息暴露在互联网后，不仅可能被AI作为训练数据留存，如果泄露给其他用户，还可能被黑客提取。” “我们分析过这些案例，大部分泄密事件都是因为责任人纪律意识淡薄。”杭州某数字科技企业高管倪材向记者介绍，“AI不能承担责任，罚它也没用，最终还是应该回归到用制度管人。” 据倪材介绍，其所在的公司做过几款AI政务产品，大都是供政府内部咨询服务，“因为一般不接互联网，搜不到资料，我们就把知识库本地化，让AI直接在知识库里搜，不用去网上搜。但是，也可以给比较安全的网站开白名单，白名单内的可搜索，不在白名单的不可搜索，这在技术上最大限度地杜绝了泄密的风险。人为判断、筛选，手动添加、维护，以保证AI工具的安全性， 这就是人工智能背后的人工，绝对不可少。”
