如何防止人工智能模型自我蚕食?科学家已经找到了答案。 研究发现,将人造数据引入人工智能训练可以帮助防止人工智能模型崩溃。新的研究发现,增加人情味可能是避免人工智能模型崩溃的关键。 虽然人工智能(AI)系统的发展没有放缓的迹象,但人们越来越担心大型语言模型(LLM)很快就会耗尽可供摄取和学习的人造数据。科学家表示,一旦发生这种情况,人工智能模型将越来越依赖人工智能合成的信息,这将导致一种称为“模型崩溃”的效果。这就是LLM胡言乱语的地方,它们所支撑的人工智能系统为查询提供不准确的答案和幻觉信息的地方,比现在更常见。 因此,如果依赖这些合成数据,存在一种几乎关乎生存的威胁,它会让人工智能陷入困境,在训练另一个模型时使用这些数据,会让模型崩溃。智能AI方法 AI认知范式
