A Pre-training Based Personalized Dialogue Generation Model with Persona-sparse Data

发布:2023-01-09 10:49:15
阅读:1945
作者:张荣升、郑银河、毛晓曦、黄民烈
分享:复制链接

论文介绍

为对话系统赋予人物角色对于提供更人性化的对话至关重要。然而,由于在自然语言中体现个性的困难以及在大多数对话语料库中观察到的人物稀疏性问题,这个问题还没有得到很好的研究。本文提出了一种基于预训练的个性化对话模型,该模型可以使用人物角色稀疏对话数据生成连贯的响应。在该方法中,使用预先训练的语言模型来初始化编码器和解码器,并设计个人属性嵌入来通过将说话者的人物角色与对话历史一起编码来建模更丰富的对话上下文。

此外,为了将目标人物角色纳入解码过程并平衡其贡献,在解码器中设计了注意力路由结构,以使用动态预测的权重合并从目标人物角色和对话上下文中提取的特征。我们的模型可以在训练过程中以统一的方式使用人物角色稀疏对话,并且还可以控制在推理过程中展示的人物角色相关特征的数量。自动和手动评估都表明,所提出的模型在使用人物角色稀疏数据生成更连贯和人物角色一致的响应方面优于最先进的方法。

论文地址

https://arxiv.org/abs/1911.04700

最新文章
AI时代,为什么90%的协作都死在了“说不清楚”上?|有灵智能体有奖邀测
2025-12-30 11:05:29
行动中的认知:预测加工框架下的具身智能——未来展望:迈向自主行动的通用智能
2025-12-29 15:45:13
行动中的认知:预测加工框架下的具身智能——实现路径:主动推断与具身性的融合
2025-12-29 15:44:06
行动中的认知:预测加工框架下的具身智能——理论交融:从“具身心智”到“预测心智”
2025-12-29 15:42:49
权威认可!网易灵动装载机器人入选杭州AI制造业首用优秀方案,已落地全国多个工程项目
2025-12-26 14:55:56
热门文章
1从开路先锋到智造标杆,网易灵动携手大型央企开始“无人化作业”新阶段
2CNCC | 倒计时4天!CCF-网易雷火联合基金研讨会:议程嘉宾交通参会指南一图掌握
3网易伏羲助力网易云商全面接入DeepSeek 加速AI在服务和营销场景的普惠应用
4网易伏羲亮相YEF2025大会:聚焦AI创新,CCF-网易雷火联合基金二期申报延长
5网易伏羲基于大数据的ADops成功入选VLDB 2023
6游戏界的AI魔法师:网易游戏如何玩转AI技术?
7真实故事分享|从全职宝妈到备考学生,他们用“碎片时间”灵活兼职、月入千元
8“浙里烟火”烟花大会圆满落幕,在元宇宙中沉浸体验亚运氛围
9科技驱动 智享生活│网易伏羲与九卿集团合作签约仪式圆满举行
10网易伏羲获得NeurIPS MineRL BASALT竞赛冠军
扫码进群
微信群
了解更多资讯