【世界快播报】多模态大模型:坐标与对话新维度

2023-06-29 05:05:34 来源:机器之心Pro 分享到:

机器之心专栏

机器之心编辑部


(资料图片仅供参考)

在人类的日常交流中,经常会关注场景中不同的区域或物体,人们可以通过说话并 指向这些区域 来进行高效的信息交换。这种交互模式被称为 参考对话(Referential Dialogue) 。

如果 MLLM 擅长这项技能,它将带来许多令人兴奋的应用。例如,将其应用到 Apple Vision Pro 等混合现实 (XR) 眼镜中,用户可以使用视线注视指示任何内容与 AI 对话。同时 AI 也可以通过高亮等形式来指向某些区域,实现与用户的高效交流。

本文提出的 Shikra 模型,就赋予了 MLLM 这样的参考对话能力, 既可以理解位置输入,也可以产生位置输出 。

论文地址:http://arxiv.org/abs/2306.15195

代码地址:https://github.com/shikras/shikra

核心亮点

Shikra 能够理解用户 输入的 point/bounding box,并支持 point/bounding box 的输出,可以和人类无缝地进行参考对话 。

Shikra 设计简单直接 ,采用非拼接式设计,不需要额外的位置编码器、前 / 后目标检测器或外部插件模块,甚至不需要额外的词汇表。

如上图所示,Shikra 能够精确理解用户输入的定位区域, 并能在输出中引用与输入时不同的区域进行交流, 像人类一样通过对话和定位进行高效交流。

如上图所示,Shikra 不仅具备 LLM 所有的基本常识, 还能够基于位置信息做出推理。

如上图所示,Shikra 可以对图片中正在发生的事情产生详细的描述,并为参考的物体生成准确的定位。

尽管 Shikra 没有在 OCR 数据集上专门训练,但也具有基本的 OCR 能力。

更多例子

其他传统任务

方法

模型架构采用 CLIP ViT-L/14 作为视觉主干,Vicuna-7/13B 作为基语言模型,使用一层线性映射连接 CLIP 和 Vicuna 的特征空间。

Shikra 直接使用自然语言中的数字来表示物体位置 ,使用 [xmin, ymin, xmax, ymax] 表示边界框,使用 [xcenter, ycenter] 表示区域中心点, 区域的 xy 坐标根据图像大小进行归一化。 每个数字默认保留 3 位小数。这些坐标可以出现在模型的输入和输出序列中的任何位置。记录坐标的方括号也自然地出现在句子中。

实验结果

Shikra 在传统 REC、VQA、Caption 任务上都能取得优良表现。同时在 PointQA-Twice、Point-V7W 等需要理解位置输入的 VQA 任务上取得了 SOTA 结果。

本文使用 POPE benchmark 评估了 Shikra 产生幻觉的程度。Shikra 得到了和 InstrcutBLIP 相当的结果,并远超近期其他 MLLM。

思想链(CoT),旨在通过在最终答案前添加推理过程以帮助 LLM 回答复杂的 QA 问题。这一技术已被广泛应用到自然语言处理的各种任务中。然而如何在多模态场景下应用 CoT 则尚待研究。尤其因为目前的 MLLM 还存在严重的幻视问题,CoT 经常会产生幻觉,影响最终答案的正确性。通过在合成数据集 CLEVR 上的实验,研究发现, 使用带有位置信息的 CoT 时,可以有效减少模型幻觉提高模型性能。

结论

本文介绍了一种名为 Shikra 的简单且统一的模型,以自然语言的方式理解并输出空间坐标,为 MLLM 增加了类似于人类的参考对话能力,且无需引入额外的词汇表、位置编码器或外部插件。

标签:

【世界快播报】多模态大模型:坐标与对话新维度

来源:机器之心Pro 2023-06-29 05:05:34

前沿资讯!6月28日基金净值:广发集源债券A最新净值1.0839,涨0.18%

来源:证券之星 2023-06-29 03:03:22

全职高手动漫百科(全职高手动漫百度网盘)

来源:乐拇指 2023-06-29 01:07:37

原神键位修改(特定角色) 环球微资讯

来源:哔哩哔哩 2023-06-28 22:49:42

高的笔顺_着的笔顺

来源:互联网 2023-06-28 21:52:31

世界简讯:7月起,东航将恢复武汉-东京、武汉-悉尼两条国际航线

来源:长江日报 2023-06-28 21:13:31

当前快报:酱香型白酒的特点,为什么喝白酒都喝酱香白酒?

来源:云川酱香 2023-06-28 20:51:54

RMC:拉卡泽特已拒绝来自沙特的高薪邀约

来源:直播吧 2023-06-28 20:12:23

招商局置地获一家银行提供19.5亿元银行贷款额度,期限36个月

来源:界面新闻 2023-06-28 19:45:30

China top for Myanmar mango export

来源:中国—东盟博览会 2023-06-28 19:00:22

行业首个AI原生HR SaaS一体化产品发布-环球通讯

来源:光明网 2023-06-28 18:05:50

豪华电动汽车制造商Lucid准备进军市场

来源:互联网 2023-06-28 18:03:54

全球实时:海南椰岛:实控人变更为海口市国资委

来源:36氪 2023-06-28 17:23:33

个人去信用社贷款-个人去信用社贷款可以吗_世界动态

来源:互联网 2023-06-28 16:54:20

民生银行济南领秀城支行反假宣传进社区-聚焦

来源:齐鲁壹点 2023-06-28 16:47:38

撤回发行上市申请文件,三威新材主板IPO终止审核

来源:有连云 2023-06-28 16:11:30

【世界热闻】“从达沃斯论坛透视中国经济”系列报道 爬坡过坎谋发展 中国经济依旧底气十足

来源:人民网 2023-06-28 15:39:38

中信证券:美国房地产市场的回暖难以持续,需警惕下半年再次加息的可能性|看点

来源:金融界 2023-06-28 15:02:58

环保督察 立行立改 | 北京市第一生态环境保护督察组调研西城区生态环境保护工作

来源:北京西城 2023-06-28 14:57:38

当前速读:Cernavoda 除氚设施合同

来源:世界核新闻 2023-06-28 14:20:29

俞敏洪首次透露遗嘱分配:除留给家人的必要花费,其余全部支持教育

来源:手机网易网 2023-06-28 13:57:54

和治友德制药公司董事长韩金明应邀出席第十四届夏季达沃斯论坛

来源:消费质量报 2023-06-28 12:50:35

环球时讯:马斯克被曝患有抑郁症,本人回应

来源:钛媒体 2023-06-28 12:22:36

闲可以组词大全_闲可以组词为闲着 世界速递

来源:互联网 2023-06-28 11:45:50

向吸毒人员出售管制类药品 江西一医生获刑3年6个月

来源:北青Qnews 2023-06-28 11:16:55

全球今头条!南阳公费师范生小学教育会分到农村吗?

来源:本地宝 2023-06-28 10:21:10

热资讯!迪奥真我香水的特点(迪奥真我香水介绍)

来源:互联网 2023-06-28 10:11:40

三大股指集体低开 地产板块逆势走强

来源:上海证券报·中国证券网 2023-06-28 09:41:23

暧昧国语版叫什么歌_暧昧国语版

来源:互联网 2023-06-28 09:07:19

铁矿石驱动跟随成材 但相对强度优于黑色其他品种_当前速讯

来源:国泰君安期货 2023-06-28 08:35:43

Copyright   2015-2023 今日知识产权网 版权所有  备案号:沪ICP备2023005074号-40   联系邮箱:5 85 59 73 @qq.com