机遇与挑战并存
随着生成式人工智能内容大量涌现，相关应用在提升人们生产效率的同时，也有人对其形成盲目依赖，甚至也有不法分子利用其生成虚假内容、虚假形象行扰乱社会运行正常秩序之“实”。采访中，各界纷纷呼吁，要谨慎对待AIGC。
“数字峰会期间，我就曾提醒大家，不能将以ChatGPT为代表的工具当作‘万事通’。归根结底，它是一种算法而非知识，且是没有记忆的。”熊雨前说。
在他看来，作为生成式AI模型，其专长是“生成”，“其实也可以理解成是一种看似合理的‘瞎编’，问得越细，出错的概率越大。”因此人类可以将其视为辅助工具，但不能把它当成知识体系。“我们在做智能文档处理的时候，会用到像GPT这样的大模型，但会把它的使用控制在一定的范围内，避免其过度‘生成’。”熊雨前说。
美亚柏科AI安全首席科学家金辉认为，生成式人工智能的内容确实让人很难辨别真假，让人颠覆了眼见为实的认知，犯罪分子也会利用生成式人工智能进行新型网络犯罪手段的诈骗，这都对人工智能安全带来一定的挑战。
鉴于此，美亚柏科对AIGC的布局恰恰是“反生成式AI”，即依靠AIGC的逆向工程原理开发人工智能产品。“相当于对生成式AI输出的结果进行逆向解码，给出鉴别判断，或恢复到之前的原形状态。”金辉说。
近期，美亚柏科发布了AI-3300“慧眼”视频图像鉴真工作站，可对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定；该公司推出的AIGC检测平台也支持AIGC生成文本的检测识别。
尽管如此，业界还是对生成式人工智能发展保持期待。他们认为，“泡沫”终将被挤出，当潮水退去的时候，就是真正“硬核”的技术涌现的时候。
“生成式人工智能固然并不会完全取代我们的工作，但作为一项新技术必须去积极拥抱，尤其是要善用通用人工智能大模型这类‘基础设施’，借助其来构建更多产品，推动AI技术向前向好发展。”贺丹认为，随着AI技术的不断发展，AIGC的应用将更加多元化，企业将持续革新产品，与千行百业深度融合。
刘兵认为，生成式人工智能技术发展考验的是数字科技企业集成、融合、调用这些新兴技术的综合能力。一方面，其客观上将推动数据分析、视觉芯片、数字版权、超级计算等相关领域的不断进步，倒逼政府、社会提供高质量的数据供给；另一方面，也考验各家企业运用新技术，不断创造符合实体经济、生产生活需要的应用场景，加快虚实融合的创新探索的能力。
