不朽情缘-官方网站

　　通过搭建网络搜索工具ღღ◈、构建多模态搜索数据集以及涉及简单有效的奖励机制ღღ◈，首次尝试基于端到端强化学习的多模态模型自主搜索训练

　　经过训练的模型能够自主判断搜索时机ღღ◈、搜索内容并处理搜索结果ღღ◈，在真实互联网环境中执行多轮按需搜索ღღ◈。

　　其性能不仅超越同规模模型在传统检索增强生成（RAG）工作流下的性能ღღ◈，更在减少约30%搜索次数的前提下ღღ◈，达到了更大规模规模模型做传统RAG的性能水平ღღ◈。

　　近年来ღღ◈，随着视觉-语言训练数据集在规模和质量上的双重提升ღღ◈，多模态大模型（Large Multimodal Models, LMMs）在跨模态理解任务中展现出卓越的性能ღღ◈，其文本与视觉知识的对齐能力显著增强ღღ◈。

　　然而ღღ◈，现实世界的信息具有高度动态性和复杂性ღღ◈，单纯依靠扩大训练数据规模的知识获取方式存在固有局限ღღ◈：难以覆盖长尾分布的知识ღღ◈、无法获取模型训练截止日期后的新信息ღღ◈，以及难以触及私域信息资源ღღ◈。

　　在此背景下ღღ◈，网络搜索作为人类获取新知识的核心途径ღღ◈，被视为扩展模型能力边界的重要工具ღღ◈，正受到学术界的高度重视ღღ◈。

　　如何使多模态模型具备自主ღღ◈、精准的外部信息获取能力ღღ◈，从而实现准确的问题解答ღღ◈，成为当前研究的关键挑战ღღ◈。

　　因此ღღ◈，ByteDance与南洋理工大学（NTU）S-Lab联合开展的MMSearch-R1项目针对这一挑战进行了探索ღღ◈。

　　MMSearch-R1集成图像搜索和文本搜索两种工具ღღ◈，以满足模型应对视觉问答任务的需求不朽情缘下载ღღ◈，其中图像搜索工具基于Google Lensღღ◈，支持搜索与用户图像视觉外观匹配的网页标题以及主要缩略图ღღ◈，用于帮助模型准确识别重要的视觉元素ღღ◈。

　　文本搜索工具由Google Searchღღ◈，JINA Reader以及用于网页内容总结的语言模型构成的链路组成ღღ◈，支持搜索与模型生成的搜索内容最相关的网页及其内容摘要ღღ◈，用于帮助模型精确定位所需文本知识与信息ღღ◈。

　　MMSearch-R1采用GRPO作为强化学习算法进行模型训练猫咪1.3.0最新下载ღღ◈，基于veRL框架实现集成多轮对话与搜索的Rollout过程ღღ◈，在每轮对话中ღღ◈，模型首先进行思考ღღ◈，并执行可选的动作ღღ◈，如调用多模态搜索工具与真实互联网进行交互ღღ◈，或给出最终的答案ღღ◈。

　　MMSearch-R1的奖励函数由准确性得分和格式得分两部分以加权求和的形式构成ღღ◈，其权重分别为0.9和0.1ღღ◈，分别衡量模型是否准确回答了用户问题（模型所给答案与真实答案作字符串精确匹配）以及遵循了既定回复格式ღღ◈。

　　为了激励模型优先利用自身知识完成作答不朽情缘下载ღღ◈，还会对调用搜索工具才获得正确答案的回复进行惩罚（搜索惩罚因子为0.1）ღღ◈，最终奖励函数为:

　　为了有效训练模型实现智能化的按需搜索能力不朽情缘下载ღღ◈，研究精心构建了FactualVQA（FVQA）数据集ღღ◈，包含训练集和测试集ღღ◈。该数据集的构建采用了一套精心设计的半自动化流程ღღ◈，重点聚焦于需要丰富视觉与文本知识支持的问答场景ღღ◈。

　　团队首先基于MetaCLIP的元数据分布进行多层次采样ღღ◈，确保覆盖从高频到长尾的多样化视觉概念（Visual Concept）ღღ◈，并从互联网中搜索与视觉概念最相关的图片ღღ◈，基于GPT-4o生成事实性问答对ღღ◈。

　　为增强数据集的文本知识维度不朽情缘下载ღღ◈，团队还从InfoSeek训练集中筛选了具有代表性的问答样本进行补充ღღ◈。为确保数据质量贴近真实应用场景ღღ◈，FVQA还补充了800个由标注人员标注问答对样本ღღ◈。

　　完成初步数据采集后ღღ◈，通过一个粗训练的模型对现有样本进行分类ღღ◈，检查每条数据的搜索必要性ღღ◈，最终训练数据集包含约3400个需要搜索的样本和1600个无需搜索的样本ღღ◈。

　　经过强化学习训练ღღ◈，模型提升了优化搜索内容以及处理搜索结果的能力（下图左ღღ◈，经过强化学习的模型执行RAG Workflow性能要好于原始模型）ღღ◈，同时增强了挖掘利用自身固有知识的能力（下图右ღღ◈，模型提升了不搜索即可回答正确的比率）不朽情缘下载ღღ◈。

　　强化学习展现出比监督微调更大的潜力ღღ◈，在所有任务上以较少的训练样本取得更大的性能增益（下图左）ღღ◈。

　　同时证明数据搜索比例均衡以及奖励函数中的搜索惩罚机制有助于在训练过程中塑造模型的按需搜索行为（下图右）猫咪1.3.0最新下载ღღ◈。

　　最后总结来说ღღ◈，MMSearch-R1是一个基于强化学习的创新框架ღღ◈，赋予多模态大模型在真实互联网环境中执行智能按需搜索的能力ღღ◈。该框架使模型能够自主识别知识边界ღღ◈，进而选择图像或文本搜索方式获取所需信息ღღ◈，并对搜索结果进行有效推理ღღ◈。

　　团队表示ღღ◈，该研究为开发具备现实世界交互能力的多模态大模型提供了重要洞见ღღ◈，为构建自适应ღღ◈、交互式的多模态智能体奠定了基础ღღ◈。期待随着模型通过更多工具与现实世界的持续交互ღღ◈，多模态智能将在推理和适应能力上实现新的飞跃ღღ◈。

　　07月06日ღღ◈，东西部协作助力“凉都”跑山猪走进港澳市场猫咪1.3.0最新下载ღღ◈，沙巴体育欧洲盘ღღ◈，aoa体育官方appღღ◈，bet366app下载手机版ღღ◈，爱赢体育是不是黑平台呢

　　07月06日ღღ◈，四川雅江ღღ◈：因泥石流中断的国道318公路全幅抢通ღღ◈，老黄金城官方网站ღღ◈，真钱网络平台ღღ◈，特码天机ღღ◈，必赢亚洲注册平台

　　07月06日不朽情缘下载不朽情缘下载ღღ◈，青海德令哈ღღ◈：猞猁悠闲漫步“巡山” 呆萌可爱ღღ◈，彩票体育投注官网ღღ◈，ca88亚登录ღღ◈，新葡亰网站怎么进入猫咪1.3.0最新下载ღღ◈，千赢88

　　07月06日名庄荟携手米其林ღღ◈，共启福建美食美酒新体验米乐平台登录扎金花app送金币万博官方登录捕鱼大师苹果版本下载安装

　　07月06日兴业银行2024年半年报ღღ◈：持续打造价值银行 营收利润增速回正现金网网站伟德竞彩官网贝博备用网址星速app下载

　　07月06日赛场内外ღღ◈，青春闪亮（奥运观澜）万博手机网页版登录入口欧宝平台登陆网址万博官网手机版本金沙客户端下载……

　　07月06日ღღ◈，“高频指标”释放经济运行积极信号 中国高质量发展“枝繁叶茂”ღღ◈，ag真人下载网址ღღ◈，宝马会官方下载ღღ◈，万博官方ღღ◈，赌博app大全下载

　　07月06日ღღ◈，聚焦农机社会化服务 业者探讨社会力量如何助力ღღ◈，35bet体育平台ღღ◈，10bet网址ღღ◈，188宝金博体育外围ღღ◈，白小姐新一代B

　　07月06日中共中央办公厅 国务院办公厅印发《关于做好春节前后低温雨雪冰冻灾害防范应对工作的通知》靠谱的买球网址凤凰彩票app下载新加坡狮城网站下载bsport登陆

　　07月06日ღღ◈，再创历史新高 我国2023年粮食产量13908.2亿斤ღღ◈，万博手机客户端登入ღღ◈，bet8手机app下载ღღ◈，网上怎么样赌博ღღ◈，手机版利记老网站

　　07月06日ღღ◈，道中华丨云冈石窟第6窟中文殊和维摩诘竟然在中国？杭侃院长揭秘云冈石窟中的佛教中国化ღღ◈，威尼斯官方网站登录猫咪1.3.0最新下载ღღ◈，澳门英皇网址appღღ◈，ag真人苹果版ღღ◈，九州在线日ღღ◈，甘肃推进积石山县灾后重建ღღ◈：加快进度搬新居ღღ◈，乐博竞彩官网ღღ◈，酷宝娱乐ღღ◈，OD苹果版ღღ◈，365官网平台APP

　　07月06日近年最大力度化债举措 激发“城投信仰”再度高涨？澳门金沙城官方网站AG捕鱼王手机下载必威手机官网登录不了云顶娱乐手机官网版

　　07月06日扩大金融服务业对外开放 多项试点措施将复制推广冠通游戏官网lecaiwang亚娱网投赢波网

　　07月06日一图看懂ღღ◈：支持大龄领取失业保险金人员参加企业职工基本养老保险bbin官方版appmg4355检测路线乐鱼网站下载澳门皇冠官网游戏直播

　　孟子义生日直播ღღ◈，杨幂主演《一顿火锅》官宣撤档万吨级江海直达纯电动力集装箱船靠泊江苏10bet官网威尼斯在线官网下载万博manbext手机官网首页

　　哥伦比亚ღღ◈：没有发现任何尸体痕迹ღღ◈，药屋少女的呢喃2024腾冲科学家论坛—澜湄区域科技人文交流系列活动在云南举办大发注册App云顶国际在线开户娱乐彩票平台注册万博maxbextx是什么

　　重庆文旅把肖战找来了ღღ◈，腰臀比小的人更长寿郑州北龙湖疣鼻天鹅迎第五代宝宝168投注登录威尼斯人手机版官网登入乐鱼游戏官网客服十大网投信誉平台

　　“逆向考研”是理性还是妥协ღღ◈，勇士VS快船法国外交部就法以间的一起外交事件召见以色列驻法大使百家乐必胜技巧龙8手机客户端澳门葡京现金开户日博体育官网注册

　　金铲铲之战 版本更新ღღ◈，偷偷藏不住八大名场面北京降雨入夜后预计明显加强188bet金宝搏真人百家乐环球app官方米乐手机APP澳门电子游戏app

　　李飞开宾利ღღ◈，哪些领域科技爆炸哪些却毫无发展“莎头组合”获胜ღღ◈！王楚钦/孙颖莎奥运后混双首秀战胜中国香港组合飞驰娱乐推广链接巴黎人现金优德体育官网站登录云鼎手机登录不朽情缘官网登录入口下载不朽情缘appღღ◈。不朽情缘模拟器不朽情缘官网下载mg不朽情缘官网ღღ◈，