2025生成式大模型安全评估白皮书

生成式大模型的快速发展，就像一场科技界的“狂欢”，但也带来了不少让人头疼的安全问题。2024年，上海人工智能产业规模突破4000亿元，同比增长超7%，并完成了60款生成式AI大模型备案。这些模型涵盖了多模态、自然语言处理和图像生成等领域，但隐私保护、恶意滥用和技术漏洞等问题也逐渐浮出水面。比如，三星公司就曾因机密资料泄露而陷入困境，这反映出生成式大模型在隐私保护和合规性方面的复杂挑战。

为了应对这些风险，我国出台了《生成式人工智能服务管理暂行办法》，明确了技术的安全性、风险防控和合规性要求。白皮书还提出了详细的评估方法，包括伦理性、事实性、隐私性和鲁棒性等多个维度。这些措施不仅为技术发展提供了指引，也体现了我国在全球AI治理中的前瞻性战略眼光。

在实际应用中，生成式大模型的安全风险评估已经展开。例如，大语言模型的毒性评估和隐私性评估，以及多模态模型的安全性评估等都成为研究的重点。这些实践案例不仅展示了生成式大模型的潜力，也为未来的技术发展和安全治理提供了宝贵的参考。

完整报告：118页

报告部分内容如下：

展开全文

公众号：《BR行研社》