GPT-4V 学会自动主宰电脑比特派app重新下载，这一天终于照旧到来了。

只需要给 GPT-4V 接入鼠标和键盘，它就能阐明浏览器界面上网：

甚而还能快速摸澄莹“播放音乐”的播放器网站和按钮，给我方来一段 music：

是不是有点细想极恐了？

这是一个 MIT 本科生小哥整出来的新活，名叫 GPT-4V-Act比特派app重新下载。

只需要几个简便的用具，GPT-4V 就能学会驱散你的键盘和鼠标，用浏览器上网发帖、买东西甚而是玩游戏。

各位小伙伴比特派app重新下载，可以带着你们假期积攒的好运过来兑奖咯。

昨天没多少有看点的比赛，偷懒休息了一天，我们今天继续加油。

比赛时间：2023-10-10 19:35

江涛：08 10 11 12 15 16 27 29 30 +05 09 11

若是用到的用具出 bug 了，GPT-4V 甚而还能意志到、并试图管束它。

来望望这是奈何作念到的。

GPT-4V-Act，骨子上是一个基于 Web 浏览器的 AI 多模态助手（Chromium Copilot）。

它不错像东谈主类相似用鼠标、键盘和屏幕“检察”网页界面，并通过网页中的交互按键进行下一步操作。

要结束这种遵循，除了 GPT-4V 除外，还用到了三个用具。

一个是 UI 界面，不错让 GPT-4V“看见”网页截图，也能让用户与 GPT-4V 发生交互。

这么，GPT-4V 就能将每一步启动想路齐通过对话框的样子响应出来，用户来决定是否要持续让它操作。

另一个是 Set-of-Mark Prompting（SoM）用具，让 GPT-4V 学会交互的一款用具。

这个用具由微软发明比特派app重新下载，观点是更好地对 GPT-4V 进行提醒词工程。

比较让 GPT-4V 径直“看图语言”，这个用具不错将图片要道细节拆分红不同的部分，并进行编号，让 GPT-4V 有的放矢：

关于网页端亦然如斯，Set-of-Mark Prompting 用肖似的情势让 GPT-4V 知谈从网页浏览器的哪个部分找谜底，并进行交互。

终末，还需要用到一个自动标注器（JS DOM auto-labeler），不错将网页端通盘能交互的按键标注出来，让 GPT-4V 决定要按哪个。

一套历程下来，GPT-4V 不仅能准确判断图片上的哪些内容相宜需求，还能准确找到交互按键，并学会“自动上网”。

这是个大神态，现在还只结束了部分功能，包括点击、打字交互、自动标注等。

接下来比特派app重新下载，还有其他的一些功能要结束，举例试试 AI 打标器（现在网页端的交互照旧通过通过 JS 接口得知何处能交互，不是 AI 识别的）、以及提醒用户输入看护信息等。

此外，作家也提到，现阶段 GPT-4V-Act 用法上还有一些需要提防的方位。

举例，GPT-4V-Act 可能会被网页翻开后劈头盖脸的弹窗小告白给“整懵了”，然后出现交互 bug。

又举例，现在这种玩法可能会违背 OpenAI 的产物使用司法：

是以用的时候也要低调少许（doge）

这个神态在网上发出后，蛊卦了不少东谈主的围不雅。

像是小哥用到的微软 Set-of-Mark Prompting 用具的作家比特派app重新下载，就发现了这个神态：

还有网友提到，甚而不错用来让 AI 我方读取考据码。

这个在 SoM 神态中提到过，GPT-4V 是能奏效解读考据码的（是以以后可能还真不知谈是东谈主照旧机器在上网

）。

与此同期，也有网友也曾在遐想桌面流自动化（desktop automation）的操作了。

对此作家回话称：

不外现在 GPT-4V 照旧要收费的，有莫得其他的结束措施？

作家也示意，现在还莫得，但照实可能会尝试 Fuyu-8B 粗略 LLaVAR 这么的开源模子。

免费的自动化桌面流 AI 助手，不错期待一波了。

比特派 密语

参考畅达：

本文来自微信公众号：量子位 （ID：QbitAI），作家：萧箫

告白声明：文内含有的对外跳转畅达（包括不限于超畅达、二维码、口令等样子），用于传递更多信息，从简甄选时刻比特派app重新下载，收尾仅供参考，IT之家通盘著作均包含本声明。

　　声明：新浪网独家稿件，未经授权辞谢转载。 -->