栏目分类
发布日期：2024-11-17 06:53 点击次数：155
出品｜虎嗅科技组
作家｜余杨
裁剪｜苗正卿
头图｜视觉中国
10月22日，由Anthropic开辟的Claude 3.5迎来重磅升级，发布了Claude 3.5 Haiku 和 Claude 3.5 Sonnet 。
Claude模子也被称为“十四行诗”（Sonnet），Anthropic公司在为其模子定名时，模仿了体裁艺术作品中的术语，其中包括“俳句”（Haiku）、“十四行诗”（Sonnet）和“极品”（Opus），这些称呼不仅代表了模子的不同版块，也反应了它们在功能和性能上的脾气。
Claude 3.5 Sonnet 有着更强的编程才气，全新功能的computer use（盘算机使用），复古像东谈主类相通操作盘算机，可以罢职用户的大叫在盘算机屏幕上出动光标，点击相干位置，并通过编造键盘输入信息，模拟东谈主们与我方盘算机的交互神志。
现在，Claude 3.5 Sonnet 已干预使用。
Claude系列大言语模子，一直被平方合计是OpenAI的ChatGPT和谷歌的Gemini的主要竞争敌手。Anthropic在X中发布了模子基准测试效用，与GPT和Gemini在多个鸿沟进行横向对比。
这些鸿沟包括盘考生水平的推理才气（GPQA Diamond）、本科生水平的常识掌持（MMLUPro）、代码编写才气（Code HumanEval）、数学问题惩处才气（MATH）、视觉问答才气（MMMU）以及代理编码（SWE-bench Verified）和代理器具使用（TAU-bench）。
在盘考生水平推理测试（GPQA Diamond）中，Claude 3.5 Sonnet以65.0%的准确率拔得头筹，Claude 3.5 Haiku则以41.6%的准确率则稍显失神。而Gemini 1.5 Pro 的准确率为59.1%，居于第二。在本科生水平常识测试（MMLUPro）中，Claude 3.5 Sonnet再次以78.0%的准确率朝上，而Gemini 1.5 Pro 则以75.8%的准确率紧随后来。
在这次主打的代码编写才气测试（Code HumanEval）中，Claude 3.5 Sonnet以93.7%的准确率获得了最好得益，GPT-4o系列模子在这一测试中也展现了可以的性能，准确率为90.2%和87.2%。
固然在数学问题惩处测试（MATH）中，Claude 3.5系列稍显失神，Gemini 1.5 Pro 仍然碾压全场，但关于视觉问答测试（MMMU）和代理编码测试（SWE-bench Verified），Claude 3.5 Sonnet和Claude 3.5 Haiku仍有着不俗的发达。
而TO B的代理器具使用测试（TAU-bench），则径直关系到大模子的欺诈才气，这次主要测试了零卖和航空鸿沟。Claude 3.5 Sonnet在零卖和航空鸿沟的准确率分手为69.2%和46.0%，而Claude 3.5 Haiku在零卖和航空鸿沟的准确率分手为51.0%和22.8%。
需要注看法是，OpenAI的o1模子眷属由于其依赖于平方的预响应盘算时间，与典型模子存在根蒂互异，这使得性能相比变得清贫，因此在本次评估中被遗弃在外。
这可能不够具像化。
Anthropic提供了一个演示，在2分钟的视频中，盘考员给Claude薄情了一个指示：
我的一又友要来旧金山，我念念未来早上和他通盘在金门大桥看日出。咱们将从太平洋高地启航。你能帮咱们找到一个绝佳的不雅赏场合，稽查一下开车时间和日出时间，然后安排一个日期手脚，让咱们有宽裕的时间到达那儿吗？
Claude的修起最初是，“让我搜索谷歌寻找最好日出不雅赏场合”，并自行开放了Google运转搜索。
Claude以用户的居住地为起点，在舆图中check了驾驶时间，随后，Claude不仅开放了一个新的网页证实未来的日出时间，还在日期中成立了行程提醒，并附上了Notes，URL和附件。
开辟者展示出Claude若何操控了我方的札记本电脑，丝滑地完成了一个任务。
Anthropic默示，“咱们并莫得制作特定器具来匡助 Claude 完成单个任务，而是教它通用的盘算机手段——允许它使用为东谈主类联想的各式程序器具和软件要津。咱们构建了一个 API，使 Claude 粗略感知盘算机界面并与之交互。该 API 使 Claude 粗略将教唆翻译成盘算机大叫。开辟东谈主员可以使用它来自动施行近似性任务、进行测试和 QA 以及进行开放式盘考”。
在其他的demo中，开辟者还让Claude填写了一份来自蚂蚁竖立公司的供应商申请表，需要填写的数据分散在电脑的各个边缘，Claude跨欺诈进行了搜索，切换到CRM系统中，升沉页面，查找填表所需的系数信息，然后提交了表格。
AI操作电脑的才气代表了一种全新的东谈主工智能开辟步调，国内开辟者也泄暴露在该鸿沟久了的起劲。
10月23日，在荣耀MagicOS 9.0发布会上，新升级的YOYO智能体也展现出 AI 手机端操作才气的类似特质，不仅帮演示者提交了咖啡订单，还填写了博物馆场馆预约信息。
一部分热心者对此满怀期待，合计这意味着责任中好多不得不作念的繁琐事项，齐可以交由AI 代劳了。
不外，固然Claude仍是获得了一些得益，但咱们日常使用电脑时的好多操作，如拖拽、缩放等，Claude齐还无法作念到。
何况，它的操作仍然相对逐渐，且像东谈主类相通会出错。在一次演示中，Claude不严防点击住手了一个万古期运行的屏幕录制，导致系数摄像齐付诸东流。而在另一次编码演示中，Claude则倏得“跑神”，运转饶有真谛地浏览起黄石国度公园的像片。
但圆善无缺，这并不妨碍咱们像莎士比亚相通，将Claude的新时刻比作“夏季”。