比特派新钱包防守端球队也是漏洞百出

GPT-4V 学会自动操纵电脑比特派新钱包，这一天终于还是到来了。

只需要给 GPT-4V 接入鼠标和键盘，它就能根据浏览器界面上网：

甚至还能快速摸清楚“播放音乐”的播放器网站和按钮，给自己来一段 music：

是不是有点细思极恐了？

这是一个 MIT 本科生小哥整出来的新活，名叫 GPT-4V-Act。

只需要几个简单的工具，GPT-4V 就能学会控制你的键盘和鼠标，用浏览器上网发帖、买东西甚至是玩游戏。

要是用到的工具出 bug 了，GPT-4V 甚至还能意识到、并试图解决它。

来看看这是怎么做到的。

GPT-4V-Act，本质上是一个基于 Web 浏览器的 AI 多模态助手（Chromium Copilot）。

它可以像人类一样用鼠标、键盘和屏幕“查看”网页界面比特派新钱包，并通过网页中的交互按键进行下一步操作。

要实现这种效果，除了 GPT-4V 以外，还用到了三个工具。

曼联本赛季的表现实在令人失望，因为他们只赢了三场弱队的比赛。球队在联赛和欧冠中连续输给阿森纳、布莱顿和拜仁慕尼黑。在欧冠小组赛中，在6场比赛中丢了14球，状态实在不佳。如果本赛季一直保持这样的状态，主教练滕哈赫无疑就有被解雇的危险。虽然在纸面实力上来看，球队在联赛当中属于上层球队，但是本赛季实在拉胯，排名仅在第9位。

比赛时间：2023-09-27 02:45

比赛时间：2023-09-27 01:00

马洛卡上个赛季表现不错，最后取得西甲第九名，创造了近年来在联赛中的最好战绩，但是今年夏天俱乐部失血严重，李刚仁、格拉雷塔、姆博拉几名骨干齐齐离开，给球队的实力带来不小的影响，引援方面达德尔、拉林和范德海登等人要么是已过巅峰，要么是能力平平，新赛季开始后，马洛卡的表现也十分糟糕，上周末客场3-5完败在赫罗纳脚下后，目前6轮联赛1胜2平3负，期间打进7球丢了10球，进攻端看似不错，但是进球集中在和中下游球队的对话中，和比利亚雷亚尔、毕尔巴鄂竞技这样的强队过招时，马洛卡先后遭到零封，防守端球队也是漏洞百出，本场比赛面对卫冕冠军兼领头羊巴塞罗那，马洛卡造冷机会渺茫。

9月份对曼联而言并不美妙，球队在联赛和欧冠遭遇一波三连败，后防线场均失球达到3个以上，今年夏天花费两亿左右的资金先后签下霍伊伦德、芒特和奥纳纳等强援，但是主帅滕哈格尔并未让球队展现出比上个赛季更胜一筹的表现，而近期瓦拉内、马奎尔、卢克肖、万比萨卡和芒特等中后场球员先后受伤，桑乔和安东尼因为场外事件又受到冷藏，曼联在人员方面也面临紧缺的局面，虽然上周末客场小胜伯恩利，滕哈格尔主动变阵，将年轻的汉尼拔放到首发，但是全场比赛曼联的控球时间不到40%，射门次数也低于对手，防守端更是只能仰仗35岁的老将埃文斯，一场胜利无法证明曼联已经走出困境，只是让主帅滕哈格尔肩上的压力稍有缓解，本场联赛杯面对水晶宫，红魔依然没有稳赢的把握。

尤文图斯新赛季开局表现不错，前四轮联赛3胜1平保持不败，进攻端火力全开，弗拉霍维奇和小基耶萨两名前锋目前各自打进4球，一扫上个赛季的萎靡之势，只是上周末客场2-4惨败给萨索洛，斑马军团遭遇赛季首败，之前表现稳固的防线突然变的漏洞百出，其实从之前的对手来看，尤文图斯遇到的都是乌迪内斯、博洛尼亚之流，取得佳绩的含金量并不高，布雷默、加蒂以及达尼洛组成的防线没有经受太大的考验，另外洛卡特利、拉比奥特和米雷蒂的中场组合硬度有余，但是组织出球和控制节奏能力稍显不足，本场比赛面对新赛季表现极佳的莱切，主场作战的尤文图斯依然面临考验.

1、近况：里尔近3场比赛取得2胜1平战绩，状态回暖；

一个是 UI 界面比特派新钱包，可以让 GPT-4V“看见”网页截图，也能让用户与 GPT-4V 发生交互。

这样，GPT-4V 就能将每一步运行思路都通过对话框的形式反映出来，用户来决定是否要继续让它操作。

另一个是 Set-of-Mark Prompting（SoM）工具，让 GPT-4V 学会交互的一款工具。

这个工具由微软发明，目的是更好地对 GPT-4V 进行提示词工程。

相比让 GPT-4V 直接“看图说话”，这个工具可以将图片关键细节拆分成不同的部分，并进行编号，让 GPT-4V 有的放矢：

对于网页端也是如此，Set-of-Mark Prompting 用类似的方式让 GPT-4V 知道从网页浏览器的哪个部分找答案，并进行交互。

最后，还需要用到一个自动标注器（JS DOM auto-labeler），可以将网页端所有能交互的按键标注出来，让 GPT-4V 决定要按哪个。

一套流程下来，GPT-4V 不仅能准确判断图片上的哪些内容符合需求，还能准确找到交互按键，并学会“自动上网”。

这是个大项目，目前还只实现了部分功能，包括点击、打字交互、自动标注等。

接下来比特派新钱包，还有其他的一些功能要实现，例如试试 AI 打标器（目前网页端的交互还是通过通过 JS 接口得知哪里能交互，不是 AI 识别的）、以及提示用户输入详细信息等。

此外，作者也提到，现阶段 GPT-4V-Act 用法上还有一些需要注意的地方。

例如，GPT-4V-Act 可能会被网页打开后铺天盖地的弹窗小广告给“整懵了”，然后出现交互 bug。

又例如，目前这种玩法可能会违反 OpenAI 的产品使用规定：

所以用的时候也要低调一点（doge）

这个项目在网上发出后，吸引了不少人的围观。

像是小哥用到的微软 Set-of-Mark Prompting 工具的作者，就发现了这个项目：

还有网友提到，甚至可以用来让 AI 自己读取验证码。

这个在 SoM 项目中提到过，GPT-4V 是能成功解读验证码的（所以以后可能还真不知道是人还是机器在上网

）。

与此同时，也有网友已经在想象桌面流自动化（desktop automation）的操作了。

对此作者回应称：

不过目前 GPT-4V 还是要收费的，有没有其他的实现方法？

作者也表示，目前还没有，但确实可能会尝试 Fuyu-8B 或者 LLaVAR 这样的开源模型。

免费的自动化桌面流 AI 助手，可以期待一波了。

参考链接：

本文来自微信公众号：量子位 （ID：QbitAI），作者：萧箫

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间比特派新钱包，结果仅供参考，IT之家所有文章均包含本声明。