GPT-4V 学会自动操纵电脑丘比特派对，这一天终于还是到来了。

只需要给 GPT-4V 接入鼠标和键盘，它就能根据浏览器界面上网：

甚至还能快速摸清楚“播放音乐”的播放器网站和按钮，给自己来一段 music：

是不是有点细思极恐了？

这是一个 MIT 本科生小哥整出来的新活，名叫 GPT-4V-Act。

只需要几个简单的工具，GPT-4V 就能学会控制你的键盘和鼠标，用浏览器上网发帖、买东西甚至是玩游戏。

要是用到的工具出 bug 了，GPT-4V 甚至还能意识到、并试图解决它。

来看看这是怎么做到的丘比特派对。

GPT-4V-Act，本质上是一个基于 Web 浏览器的 AI 多模态助手（Chromium Copilot）。

它可以像人类一样用鼠标、键盘和屏幕“查看”网页界面，并通过网页中的交互按键进行下一步操作。

要实现这种效果，除了 GPT-4V 以外，还用到了三个工具。

一个是 UI 界面，可以让 GPT-4V“看见”网页截图，也能让用户与 GPT-4V 发生交互。

这样，GPT-4V 就能将每一步运行思路都通过对话框的形式反映出来，用户来决定是否要继续让它操作。

另一个是 Set-of-Mark Prompting（SoM）工具，让 GPT-4V 学会交互的一款工具。

这个工具由微软发明丘比特派对，目的是更好地对 GPT-4V 进行提示词工程。

相比让 GPT-4V 直接“看图说话”，这个工具可以将图片关键细节拆分成不同的部分，并进行编号，让 GPT-4V 有的放矢：

对于网页端也是如此，Set-of-Mark Prompting 用类似的方式让 GPT-4V 知道从网页浏览器的哪个部分找答案，并进行交互。

最后，还需要用到一个自动标注器（JS DOM auto-labeler），可以将网页端所有能交互的按键标注出来，让 GPT-4V 决定要按哪个。

一套流程下来，GPT-4V 不仅能准确判断图片上的哪些内容符合需求，还能准确找到交互按键，并学会“自动上网”。

这是个大项目，目前还只实现了部分功能，包括点击、打字交互、自动标注等。

接下来，还有其他的一些功能要实现，例如试试 AI 打标器（目前网页端的交互还是通过通过 JS 接口得知哪里能交互，不是 AI 识别的）、以及提示用户输入详细信息等。

此外，作者也提到丘比特派对，现阶段 GPT-4V-Act 用法上还有一些需要注意的地方。

例如，GPT-4V-Act 可能会被网页打开后铺天盖地的弹窗小广告给“整懵了”，然后出现交互 bug。

又例如，目前这种玩法可能会违反 OpenAI 的产品使用规定：

所以用的时候也要低调一点（doge）

这个项目在网上发出后，吸引了不少人的围观。

像是小哥用到的微软 Set-of-Mark Prompting 工具的作者，就发现了这个项目：

还有网友提到，甚至可以用来让 AI 自己读取验证码。

这个在 SoM 项目中提到过丘比特派对，GPT-4V 是能成功解读验证码的（所以以后可能还真不知道是人还是机器在上网

）。

与此同时，也有网友已经在想象桌面流自动化（desktop automation）的操作了。

对此作者回应称：

不过目前 GPT-4V 还是要收费的，有没有其他的实现方法？

作者也表示，目前还没有，但确实可能会尝试 Fuyu-8B 或者 LLaVAR 这样的开源模型。

免费的自动化桌面流 AI 助手，可以期待一波了。

参考链接：

本文来自微信公众号：量子位 （ID：QbitAI），作者：萧箫

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。

今天这个场合与大家见面，作为石榴集团的董事长和法人，我现在的心情是既抱歉又丢脸，我在这里先给大家道个歉。最近冠以石榴集团的各种新闻已经铺天盖地，占据了大量的公共舆论资源，刷低了各种社会伦理底线。作为石榴集团的当家人，扪心有愧，惶恐不安。作为民营地产企业的我们，在眼下这种风高浪急的经济环境当口，原本应该是无声无息低调前行，“不求闻名于名利场，但求躬耕于实业圈”，在当下这种经济环境，原本应该是低调努力发展，但我们还是被推上了舆论的风口浪尖。我个人一直想隐忍，不想卷进舆论场、口水仗之中，但是现在的局面已经完全影响了企业的商誉，躲无可躲，忍无可忍。所以，今天在这里，我把这八十多天以来石榴集团发生的各种事情，向各位媒体界的朋友做个说明与澄清。

2023H1受硅料价格大幅下降影响，公司净利润同比下降约15%，但整体基本符合预期。随着公司不断推进规模增长、品质提升和成本优化，硅料业务盈利有望维持在合理稳定区间；同时，公司加快新能源电站开发运营业务扩张，拓展盈利增长点。

比特派onekey

天眼查App显示，近日，深圳川益管理咨询合伙企业（有限合伙）成立，执行事务合伙人为苏州垚益企业管理有限公司，出资额约3亿人民币，经营范围含企业管理咨询、以自有资金从事投资活动、创业投资等。合伙人信息显示，该合伙企业由腾讯旗下深圳市世纪凯华投资基金有限公司、苏州垚益企业管理有限公司共同持股，认缴出资额分别为3亿人民币、1万人民币。

观点：当前工业硅市场整体呈供需双增格局，在国内陆续出台众多刺激房地产政策，有望增强市场信心，同时步入传统旺季，下游需求有望迎来改善，预计市场或将偏强运行。策略上逢低多为主。

该行指，公司非新冠项目收入快速放量，临床三期和商业化项目增长强劲；新增项目加速回暖，在手订单保持稳健。公司在全球布局CRDMO基地，欧洲成为增速最快的市场。

本次权益变动前，章高路担任安井食品副董事长、国力民生董事长兼总经理，为安井食品实际控制人。本次权益变动系章高路因个人原因，经家族内部商定，将持有的国力民生28.54%股权以7150万元对价转让给其母亲王苏；王苏将其持有的国力民生28.74%（含原先持有的0.02%）股权以7200万对价转让给其姐姐王继娟，上述两笔股权转让均已完成。同时，杭建英与国力民生原股东陆秋文签署了《一致行动协议》，双方在未来5年内，在国力民生股东会行使股东表决权等事项时保持一致行动，双方构成一致行动人。

格隆汇9月11日丨德赛电池(000049.SZ)在互动平台表示丘比特派对，华为是公司核心战略客户，公司为其提供多种产品的锂电池封装和电源管理系统业务。

　　声明：新浪网独家稿件，未经授权禁止转载。 -->