2
栏目分类
热点资讯
比特派app下载 你的位置:比特派钱包 > 比特派app下载 > 比特派app下载 GPT-4V 学会用键鼠上网,东说念主类眼睁睁看着它发帖玩游戏
比特派app下载 GPT-4V 学会用键鼠上网,东说念主类眼睁睁看着它发帖玩游戏 发布日期:2023-12-30 14:26    点击次数:107

比特派app下载 GPT-4V 学会用键鼠上网,东说念主类眼睁睁看着它发帖玩游戏

GPT-4V 学会自动主管电脑比特派app下载,这一天终于如故到来了。

只需要给 GPT-4V 接入鼠标和键盘,它就能字据浏览器界面上网:

致使还能快速摸败露“播放音乐”的播放器网站和按钮,给我方来一段 music:

是不是有点细想极恐了?

这是一个 MIT 本科生小哥整出来的新活,名叫 GPT-4V-Act。

只需要几个通俗的器用,GPT-4V 就能学会截至你的键盘和鼠标,用浏览器上网发帖、买东西致使是玩游戏。

如果用到的器用出 bug 了,GPT-4V 致使还能强项到、并试图贬责它。

来望望这是若何作念到的。

GPT-4V-Act,实质上是一个基于 Web 浏览器的 AI 多模态助手(Chromium Copilot)。

它不错像东说念主类同样用鼠标、键盘和屏幕“稽查”网页界面,并通过网页中的交互按键进行下一步操作。

要已毕这种恶果,除了 GPT-4V 之外,还用到了三个器用。

一个是 UI 界面,不错让 GPT-4V“看见”网页截图,也能让用户与 GPT-4V 发生交互。

这么,GPT-4V 就能将每一步开动想路齐通过对话框的样式响应出来比特派app下载,用户来决定是否要络续让它操作。

比特派收费多少

另一个是 Set-of-Mark Prompting(SoM)器用,让 GPT-4V 学会交互的一款器用。

这个器用由微软发明,打算是更好地对 GPT-4V 进行辅导词工程。

比拟让 GPT-4V 凯旋“看图言语”,这个器用不错将图片关节细节拆分红不同的部分,并进行编号,让 GPT-4V 有的放矢:

关于网页端亦然如斯,Set-of-Mark Prompting 用肖似的神色让 GPT-4V 知说念从网页浏览器的哪个部分找谜底,并进行交互。

终末,还需要用到一个自动标注器(JS DOM auto-labeler),不错将网页端统统能交互的按键标注出来,让 GPT-4V 决定要按哪个。

一套经由下来,GPT-4V 不仅能准确判断图片上的哪些内容相宜需求,还能准确找到交互按键,并学会“自动上网”。

这是个大技俩,当今还只已毕了部分功能,包括点击、打字交互、自动标注等。

接下来,还有其他的一些功能要已毕,举例试试 AI 打标器(当今网页端的交互如故通过通过 JS 接口得知那儿能交互,不是 AI 识别的)、以及辅导用户输入详备信息等。

此外,作家也提到,现阶段 GPT-4V-Act 用法上还有一些需要贵重的所在。

举例,GPT-4V-Act 可能会被网页掀开后狂风暴雨的弹窗小告白给“整懵了”,然后出现交互 bug。

又举例,当今这种玩法可能会违背 OpenAI 的居品使用法例:

是以用的时候也要低调少许(doge)

这个技俩在网上发出后,诱骗了不少东说念主的围不雅。

像是小哥用到的微软 Set-of-Mark Prompting 器用的作家,就发现了这个技俩:

还有网友提到,致使不错用来让 AI 我方读取考据码。

这个在 SoM 技俩中提到过,GPT-4V 是能告捷解读考据码的(是以以后可能还真不知说念是东说念主如故机器在上网

)。

与此同期,也有网友还是在联想桌面流自动化(desktop automation)的操作了。

对此作家回复称:

不外当今 GPT-4V 如故要收费的,有莫得其他的已毕步伐?

作家也暗意,当今还莫得,但照实可能会尝试 Fuyu-8B 好像 LLaVAR 这么的开源模子。

免费的自动化桌面流 AI 助手,不错期待一波了。

参考一语气:

本文来自微信公众号:量子位 (ID:QbitAI),作家:萧箫

告白声明:文内含有的对外跳转一语气(包括不限于超一语气、二维码、口令等样式),用于传递更多信息,从简甄选技术,末端仅供参考比特派app下载,IT之家统统著述均包含本声明。

  声明:新浪网独家稿件,未经授权圮绝转载。 -->