• Complex
  • Title
  • Keyword
  • Abstract
  • Scholars
  • Journal
  • ISSN
  • Conference
搜索

Author:

谢润锋 (谢润锋.) | 张博超 (张博超.) | 杜永萍 (杜永萍.)

Abstract:

图文多模态情感分析旨在通过融合视觉模态和文本模态预测情感极性,获取高质量的视觉模态表征和文本模态表征并进行高效融合,这是解决图文多模态情感分析任务的关键环节之一.因此,文中提出基于视觉语言模型的跨模态多级融合情感分析方法.首先,基于预训练的视觉语言模型,通过冻结参数,采用低阶自适应方法微调语言模型的方式,生成高质量的模态表征和模态桥梁表征.然后,设计跨模态多头互注意力融合模块,分别对视觉模态表征和文本模态表征进行交互加权融合.最后,设计混合专家网络融合模块,将视觉、文本的模态表征和模态桥梁表征结合后进行深度融合,实现多模态情感分析.实验表明,文中方法在公开评测数据集MVSA-Single和HFM上达到SOTA.

Keyword:

视觉语言模型 多模态融合 情感分析 混合专家网络 多头注意力

Author Community:

  • [ 1 ] [张博超]北京工业大学
  • [ 2 ] [谢润锋]北京工业大学
  • [ 3 ] [杜永萍]北京工业大学

Reprint Author's Address:

Email:

Show more details

Related Keywords:

Source :

模式识别与人工智能

ISSN: 1003-6059

Year: 2024

Issue: 5

Volume: 37

Page: 459-468

Cited Count:

WoS CC Cited Count:

SCOPUS Cited Count:

ESI Highly Cited Papers on the List: 0 Unfold All

WanFang Cited Count: -1

Chinese Cited Count:

30 Days PV: 11

Online/Total:635/10468209
Address:BJUT Library(100 Pingleyuan,Chaoyang District,Beijing 100124, China Post Code:100124) Contact Us:010-67392185
Copyright:BJUT Library Technical Support:Beijing Aegean Software Co., Ltd.