摘要:
2025 年春节,深度求索(DeepSeek,DS)风暴席卷全球,让全世界共同见证了国产人工智能(AI)应用产品的高光时刻。然而,技术是一柄双刃剑的说法,同样适用于AI 技术,在这些技术给人类社会带来革命性变革和极大便利的同时,也带来了一系列的风险和挑战,比如,专注于AI 的Vectara 平台计算了每个AI 模型的总体准确率和幻觉率,并发布大模型幻觉率排行榜。AI 模型的幻觉率,是指AI 模型在生成内容时产生错误信息或编造事实的概率。换言之,AI 模型可能会“一本正经地胡说八道”,创造出一些听起来合理但实际并不存在的内容。对于普通用户来说,这意味着你可能会在不知情的情况下被AI 误导,它生成的信息可能存在错误,直接影响人们的判断和行动。