火山引擎发布豆包 1.5・视觉深度思考模型，新增 GUI Agent 能力

【导语】5月13日，火山引(yǐn)擎(qíng)在(zài)上(shàng)海举办的FORCE LINK AI创新巡展上震撼发布豆包1.5・视觉深度思考模型。该模型以仅20B的激活参数，展现出卓越的多模态理解和推理能力，在60项公开评测中38项达到业界最佳。豆包1.5在视频理解、视觉推理及GUI Agent能力上均领先业界，已正式登陆火山方舟平台，为AI技术创新和应用开启新篇章。

　　5 月 13 日消息，在举办的 FORCE LINK AI 创新巡展・上海站上，火山引擎发布了豆包 1.5・视觉深度思考模型（Doubao-1.5-thinking-vision-pro），该(gāi)模(mó)型(xíng)激(jī)活(huó)参(cān)数(shù)仅(jǐn) 20B，但(dàn)具(jù)备(bèi)强(qiáng)大(dà)的(de)多(duō)模(mó)态(tài)理(lǐ)解(jiě)和(hé)推(tuī)理(lǐ)能(néng)力(lì)，在(zài) 60 个(gè)公(gōng)开(kāi)评(píng)测(cè)基(jī)准(zhǔn)中(zhōng)，有(yǒu) 38 个(gè)达(dá)到(dào)业(yè)界(jiè)最(zuì)佳(jiā)表(biǎo)现(xiàn)（SOTA），在(zài)视(shì)频(pín)理(lǐ)解(jiě)、视(shì)觉(jué)推(tuī)理(lǐ)、GUI Agent 能(néng)力(lì)等(děng)方(fāng)面(miàn)均(jūn)处(chù)于(yú)第(dì)一(yī)梯(tī)队(duì)。

　　在(zài)视(shì)频(pín)理(lǐ)解(jiě)领(lǐng)域，豆(dòu)包(bāo) 1.5・视(shì)觉(jué)深(shēn)度(dù)思(sī)考(kǎo)模(mó)型(xíng)支(zhī)持(chí)动(dòng)态(tài)帧(zhèng)率(lǜ)采样(yàng)技(jì)术(shù)，显著增强了视频时序定位能力。结合向量搜索功能，模型能够精准定位视频中与文本描述相对应的片段，为视频内容的深度分析和检索提供支持。

　　此外，该模型新增了视频深度思考能力。通过学习数万亿多模态标记数据，模型积累了广泛的视觉知识，并借助强化学习技术，大幅提升了视觉推(tuī)理(lǐ)能(néng)力。例如，在复杂的图形推理任务中，模型能够自主提出假设、进行推理检验，并在发现与假设不符时(shí)，不(bù)断(duàn)反(fǎn)思(sī)并(bìng)提(tí)出(chū)新(xīn)的(de)猜(cāi)测(cè)，直(zhí)至得出正确答案。

　　值得注意的是，豆包 1.5・视觉深度思考模型还新增了 GUI Agent 能力。凭借强大的 GUI 定位性能，该模型能够在 PC 端、手机端等多种不同环境中完成复杂的交互任务。例如，它可对新开发的 App 功能进行自动化检测，目前这一功能已在字节跳动多款 App 产品的开发测试中进行应用。

　　注：

　　GUIAgent 是一种基于多模态视觉模型驱动的人工智能系统，能够自动推理并执行 UI 交互，模拟人类用户的操作，如点击、输入、拖拽、读取界面信息等，以完成人类要求的工作任务。

　　目前，该模型已正式在火山方舟平台上线。