Claude 3.5 Sonnet现身了！？
Anthropic 公司的生成 AI 模型「Claude」最新版本，Claude 3.5 Sonnet 登场了。
Introducing Claude 3.5 Sonnet \ Anthropic
Claude 3.5的特点
旧世代的Claude 3按性能顺序分为Opus > Sonnet > Haiku三种模型。这次发布的Claude 3.5版本中，中等性能的Sonnet率先登场。
（图片引用自Anthropic官方网站）
与旧世代中最高性能的Claude 3 Opus以及其他公司的最新LLM的比较如下：
- 与Claude 3 Opus相比，速度提升了2倍
- 价格与Claude 3 Sonnet相同（即Opus的1/5）
- 在多个基准测试中，得分与竞争对手的LLM相同或更高
（图片引用自Anthropic官方网站）
依然支持多模态输入，在图像识别的基准测试中也普遍获得了业界顶尖的分数。
（图片引用自Anthropic官方网站）
此外，虽然性能显著提升，但Anthropic强调的“安全性”也依旧维持了Claude 3相同的标准。
新功能「Artifact」
模型版本之外，Claude的官方Web应用程序「Claude.ai」新增了一个名为“Artifact”的功能。
将“Artifact”作为实验性功能启用后，Claude生成的内容会显示在屏幕右侧。
这种设置改变了以往的聊天界面，提供了一种仿佛与Claude一起创造成果物的体验。
如何使用呢？
可以通过Claude的官方Web应用程序「Claude.ai」立即免费使用。在发送聊天时选择模型“Claude 3.5 Sonnet”。还可以启用前述的Artifact功能。
还可以使用iOS版应用程序。
上述之外呢，还可以通过Claude官方API使用Claude 3.5 Sonnet。
最推荐的方式是在Amazon Bedrock上进行尝鲜试用。
在AWS的Bedrock上进行测试时，可以通过北弗吉尼亚区域的模型访问来启用和使用该功能。
在Amazon Bedrock进行试用
通过GUI（AWS管理控制台）进行试用。
API（Python SDK）
Claude 3.5 Sonnet的模型ID是anthropic.claude-3-5-sonnet-20240620-v1:0。
示例代码如下：
# 导入外部库
import json
import boto3
# 创建Bedrock客户端
bedrock = boto3.client("bedrock-runtime")
# 定义请求主体
body = json.dumps(
{
"anthropic_version": "bedrock-2023-05-31",
"max_tokens": 1000,
"messages": [
{
"role": "user",
"content": "Bedrockってどういう意味？",
}
],
}
)
# 定义模型（Claude 3.5 Sonnet）
modelId = "anthropic.claude-3-5-sonnet-20240620-v1:0"
# 定义HTTP头
accept = "application/json"
contentType = "application/json"
# 定义响应
response = bedrock.invoke_model(
body=body, modelId=modelId, accept=accept, contentType=contentType
)
response_body = json.loads(response.get("body").read())
answer = response_body["content"][0]["text"]
# 在控制台显示生成的文本
print(answer)输出内容
此外，使用LangChain的AWS专用包，还可以轻松编写流式输出。
示例代码如下：
from langchain_aws import ChatBedrock
from langchain_core.messages import HumanMessage
chat = ChatBedrock(model_id="anthropic.claude-3-5-sonnet-20240620-v1:0")
messages = [HumanMessage(content="朗诵琵琶行")]
for chunk in chat.stream(messages):
print(chunk.content, end="", flush=True)
print()Coming soon...
这次发布的是Sonnet版本，但上位型号“Opus”和高速低价型号“Haiku”也将于近期推出。最顶级的Claude 3.5 Opus将展现何种高性能，令人充满期待！
