以大模型为核心的裸奔人工智能技术是创新范式变革与产业升级的关键引擎，越来越多的模型机关、企事业单位开始推进大模型私有化部署，互联AG超玩会广泛应用于企业办公、网上科技研发、重风公共服务等领域。险必须然而技术跃升与安全风险始终伴生演进，裸奔如何强化模型全生命周期安全管理，模型赋能AI行业向好向善发展，互联成为当前亟需解决的网上课题。

　　需加重视的重风潜在风险 

　　近期多项研究发现，近90%私有化部署的险必须AG超玩会服务器在互联网上“裸奔”，部分模型本身也容易被攻击，裸奔存在安全漏洞。模型目前个别单位所谓的互联“设防”也只是简单地设置密码，易被攻破，个别单位甚至连防护密码都没有。可以预见，未来随着大模型普及使用，有针对性的恶意手段和风险场景势必激增。因此，网络安全防护必须与技术发展同步迭代。

　　——敏感数据安全问题。大模型在训练、推理、使用过程中会涉及海量数据，如用户在输入数据时不当存储和处理，特别是违规在未设防模型中处理涉密数据、个人隐私数据、商业敏感数据时，存在数据被非法获取、泄露风险。

　　——关键领域安全问题。人工智能离不开高科技设备，如这类设备被植入后门程序会让智能工厂、金融机构、能源设施等关键领域面临风险。违法犯罪分子如恶意利用大模型部署的安全漏洞破坏相关系统，将可能导致公共服务中断、企业经济损失、安全事故频发等恶性事件，干扰经济正常运转和社会有序运行。

　　——侵犯用户利益。普通用户如未加防护使用大模型服务工具，攻击者也可以远程调用接口窃取模型参数、训练数据、知识库等核心资产，或删除、污染私有模型文件，导致模型失效或输出偏差。同时，攻击者可通过未授权的接口调用模型推理功能，滥用GPU资源。如处理数据量过大，大模型服务器就会因算力耗尽导致瘫痪。

　　大模型安全风险的产生原因 

　　——开源框架存在不足。许多单位为了快速上线服务，直接使用开源框架，默认开启不设密码的公网访问模式，不配置合理的安全防护措施，忽略最基本的防火墙配置。攻击者未经授权即可自由访问模型服务、窃取敏感数据，甚至通过历史漏洞执行恶意指令，从而导致数据泄露和服务中断。

　　——风险意识存在欠缺。部分管理者对AI安全的认知相对滞后，部分群众认为“安全是专家的事”，不了解部署AI服务需要像保护银行卡密码一样谨慎，在享受AI带来便利时未考虑背后隐藏的风险。

　　——安防教育有待加强。一些企事业单位缺乏必要的安全防范教育，导致员工国家安全意识和素养不高，安全防范意识不强，对于大模型缺乏用心管理，安防教育缺乏必要的认识。

　　——专门法律存在空白。我国近年来已经出台了多部关于人工智能和网络数据方面的政策法规和指导意见，但随着人工智能迅猛发展，应运而生的法律问题尚需进一步完善相关立法。

　　国家安全机关提示 

　　大模型是推动科技进步的重要力量，但其安全防护须臾不可松懈，无论是开发者、企业还是普通用户，都应提高警惕，共同守护技术红利不被恶意利用。

　　——做好安全防护，筑牢安全防范屏障。AI企业在开发和应用大模型的过程中需重视自身应承担的安全责任和义务，可通过加强与安全厂商联系合作，以严密的安全技术保障和运行监测，强化大模型运行时的安全性、可靠性和稳定性。

　　——培养安全意识，打造协同防御生态。单位、企业在部署大模型前，需要进行全面的风险评估和安全规划，通过制定安全政策、开展安全培训等方式，提高全员安全意识。广大民众要增强大模型使用的安全意识，注意学习相关安全知识，养成良好使用习惯，选择从官方渠道下载大模型工具，使用时不要随意连接陌生网络，确保大模型应用安全稳定。

　　来源：国家安全部

• ·海丰大湖镇：以“四轮驱动”方式多方位助力村落子复原
• ·顺丰服务梅州柚团队荣获“全国邮政行业先进集体”
• ·梅州14个农产品入选全国名特优新农产品名录！有你爱吃的吗？
• ·梅州丰顺电声产业基地上榜！2020年“国家外贸转型升级基地”名单公布
• ·前喀麦隆国脚恩戈姆加盟梅州客家
• ·跨年寒潮来袭！一夜入冬！@梅州人，29日下午起放送...
• ·梅州位列政商关系进步榜首！《中国城市政商关系排行榜2020》发布
• ·明火扑灭，嫌疑人被控制！
• ·呵护红树林 共筑绿美广东
• ·撒花！梅州新增4家国家3A级旅游景区 总数达39家 位居全省第2
• ·公示中！梅州这个旅游区上榜第二批省全域旅游示范区名单
• ·新视界丨2.5小时印完7万份报纸！梅州报业印务有限公司跑出印刷新速度
• ·刚刚，云南曲靖市会泽县发生4.4级地震
• ·元旦假期居家旅行必备：防寒防冻防疫情！
• ·顺丰服务梅州柚团队荣获“全国邮政行业先进集体”
• ·公示中！梅州这个旅游区上榜第二批省全域旅游示范区名单