清华大学合作推出看图答题小能手 CogAgent：可告知《原神》游戏操作步骤等

图片地址：https://img.ithome.com/newsuploadfiles/2023/12/9d48ba00-fab9-4ef3-9ae6-6d17eddc1804.png?x-bce-process=image/format,f_auto

IT之家 12 月 27 日消息，清华 KEG 实验室近日和智谱 AI 合作，联合推出了新一代图像理解大模型 CogAgent。该模型基于此前推出的 CogVLM，通过视觉 GUI Agent，使用视觉模态（而非文本）对 GUI 界面进行更全面直接的感知，从而作出规划和决策。CogAgent 可以接受 1120×1120 的高分辨率图像输入，具备视觉问答、视觉定位（Grounding）、GUI Agent 等多种能力，在 9 个经典的图像理解榜单上（含 VQAv2，STVQA, DocVQA，TextVQA，MM-VET，POPE 等）取得了通用能力第一的成绩。例如，用户输入一张关于 CogVLM 项目的 GitHub 的图片，然后询问如何给这个项目点“Star”，然后 CogAgent 就会反馈出结果。图源：中国网科学例如用户输入一张原神游戏的截图，可以询问“当前任务中的队友是谁？”，CogAgent 会给出相关的回答。IT之