文心一言是用什么模型进行训练的

文心一言主要是基于百度自研的深度学习模型进行训练的。

具体来说，文心一言是在ERNIE及PLATO系列模型的基础上研发的，采用了包括SFT（监督精调）、RLHF（从人类反馈中进行强化学习）、Prompt（提示构建）、知识增强、检索增强和对话增强等关键技术。这些技术使得文心一言能够理解和生成符合人类语言习惯和语境的文本，并在文学创作、商业文案创作、数理推算等领域展现出优秀的中文理解及多模态生成能力。

在训练过程中，文心一言使用了包括万亿级网页数据、数十亿的搜索数据和图片数据、百亿级的语音日均调用数据，以及5500亿事实的知识图谱等海量数据，这些数据为文心一言提供了丰富的语言知识和背景信息，使其能够更好地理解和生成自然、流畅的文本。

总之，文心一言的训练是基于百度自研的深度学习模型，通过大量的数据和先进的技术进行训练和优化，使其具备了强大的语言理解和生成能力。