全国政协委员周鸿祎：AI“幻觉”具有两面性

2025年03月03日 22:25　来源：中国新闻网

大字体

小字体

分享到：

　　中新网北京3月3日电(记者谢艺观)“AI‘幻觉’有利于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题?！?/p>

　　全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。

　　AI“幻觉”，是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符，或偏离用户指令的现象。

　　“企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造信息，就会带来严重后果?！敝芎璧t举例。

　　如何防止AI出现“幻觉”？周鸿祎认为，企业应用相关技术时，要连接企业专有的知识库，去进行校正?！盎镁酢蔽侍?，部分是能通过知识库解决的。

　　但他也指出，当大模型连接知识库，就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全新领域。解决方法就是‘以模制?！??！?完)

【编辑:王祎】

发表评论文明上网理性发言，请遵守新闻评论服务协议