【观安信息】李雪鹏-生成式AI合成内容鉴别

生成式AI合成内容鉴别安全实践演讲人：李雪鹏单位名称：观安信息 01生成式AI现状 STATE 02法律法规政策 POLICY 03风险 QUESTION 04我们的行动 ACTION 01生成式AI现状/生成式AI与传统AI对比与传统AI的不同生成式AI（Generative AI）是一种利用机器学习和人工智能技术生成新内容的系统。与传统的AI不同，生成式AI不仅能分析和理解现有数据，还能基于这些数据生成新的、未曾存在的内容。这些内容可以是文本、图像、音频、视频等各种形式。生成式AI的核心在于其能够创造性地生成具有一定创意和实用价值的新数据，从而拓宽了人工智能的应用领域。现在所用技术传统生成对抗网络（GANs）：由生成器和判别器两个对抗性网络组成，通过两者的对抗训练生成越来越逼真的数据变分自编码器（VAEs）：过将数据编码为潜在变量，再从潜在变量生成新数据自回归模型：Transformer、GPT等，通过逐步预测下一个数据点，自回归模型能够生成连贯的序列数据扩散模型：过模拟数据生成过程中的噪声扩散和逆扩散过程，生成高质量的新数据图片来自OpenAI、文心一格、Runway、StabilityAI、造梦日记、通义万相 01生成式AI现状/DeepFake热点事件 •2024年 “三只羊”事件水落石出，AI雷军骂人的视频大量AI生成的真假难辨 •2023年5月8日，包头警方发布了一起利用智能 AI 技术进行电信诈骗的案件 •2023年2月17日，一则关于“杭州市政府将于3月1日取消机动车尾号限行政策”的消息也在网络疯传 •2021年4月27日消息，荷兰议会外交事务委员会在视频会议软件Zoom上被AI换脸技术所骗 •近期在直播领域，许多网友也发现多位带货直播博主都长了一张“明星脸”，神似明星杨幂、迪丽热巴、angelababy、佟丽娅等。 •浙江温州市公安局通报过一起利用 AI 换脸技术进行诈骗的案件。

文档预览

中文文档 11 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分

赞助2元下载(无需注册)

温馨提示：本文档共11页，可预览 3 页，如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档

下载文档到电脑，方便使用

赞助2元下载

本文档由人生无常于 2024-11-23 01:57:31上传分享