Cloudflare Workers AI 模型试用
Workers AI 是 Cloudflare 发布的在全球网络上运行、无服务器、GPU 支持的机器学习模型网络。 Workers AI 允许在 Cloudflare 网络上低代码运行机器学习模型，支持在 Cloudflare 自身开发的 Workers、Pages 调用，也可以使用 Token 通过 REST API 调用。
有哪些模型？
| 模型 | 名称 | 介绍说明 |
|---|---|---|
| @cf/meta/llama-2-7b-chat-int8 | 大语言模型（LLM） | Llama 2 是一个生成文本模型系列，可适用于各种自然语言生成任务。 |
| @cf/openai/whisper | 语音转文字 | Whisper 是一种自动语音识别 (ASR) 系统，经过 680,000 小时从网络收集的多语言和多任务监督数据的训练。 |
| @cf/meta/m2m100-1.2b | 文本翻译 | M2M100 是一种多语言编码器-解码器 (seq-to-seq) 模型，经过训练可进行多对多多语言翻译，支持英语、中文、法语、西班牙语、阿拉伯语、俄语、德语、日语、葡萄牙语、印地语 |
| @cf/huggingface/distilbert-sst-2-int8 | 文本情绪分析 | DistilBERT-SST-2 是一个精炼的 BERT 模型，在 SST-2 上进行了微调，用于情感分类。 |
| @cf/microsoft/resnet-50 | 图像分类 | ResNet 模型执行图像分类 - 它们将图像作为输入并对图像中的主要对象进行分类。 |
| @cf/baai/bge-base-en-v1.5 | 嵌入 | 特征提取模型将原始数据转换为可以处理的数字特征，同时保留原始数据集中的信息。这些模型非常适合作为构建矢量搜索应用程序或使用大型语言模型 (LLM) 的检索增强生成工作流程的一部分。 |
| @cf/stabilityai/stable-diffusion-xl-base-1.0 | 文字生成图片 ｜ Stability AI 基于扩散的文本到图像生成模型 stable-diffusion， 根据文本提示生成和修改图像。 |
详细文档：Workers AI DOC
使用示例
Workers 调用
在 Worker 创建界面，Cloudflare 贴心的提供了 每个模型的示例额，可以快速上手体验。
LLM 使用示例（对中文没优化）
import { Ai } from './vendor/@cloudflare/ai.js';
export default {
async fetch(request, env) {
const tasks = [];
const ai = new Ai(env.AI);
// prompt - simple completion style input
let simple = {
prompt: '用中文讲一个关于天气的笑话'
};
let response = await ai.run('@cf/meta/llama-2-7b-chat-int8', simple);
tasks.push({ inputs: simple, response });
return Response.json(tasks);
}
};
返回：
[{
"inputs": {
"prompt": "用中文讲一个关于天气的笑话"
},
"response": {
"response": "：\n\n一个人问天气预报员：“今天天气好像不太好。”天气预报员回答：“不要担心，今天天气只是一个‘干旱’。”这个人觉得很有趣，于是问：“你知道干旱有什么好处吗？”天气预报员笑着说：“好吧，我告诉你一个秘密：干旱可以让你的头发变得更加柔软。”"
}
}]
文本翻译示例
import { Ai } from './vendor/@cloudflare/ai.js';
export default {
async fetch(request, env) {
const ai = new Ai(env.AI);
const inputs = {
text: 'Wordupr 是关于最新VPS教程、区块链、Web3、AI消息的博客',
source_lang: 'chinese',
target_lang: 'english'
};
const response = await ai.run('@cf/meta/m2m100-1.2b', inputs);
return Response.json({ inputs, response });
}
};
返回：
{
"inputs": {
"text": "Wordupr 是关于最新VPS教程、区块链、Web3、AI消息的博客",
"source_lang": "chinese",
"target_lang": "english"
},
"response": {
"translated_text": "Wordupr is a blog about the latest VPS tutorials, blockchain, Web3, and AI news."
}
}
文本生成图片
使用记录：使用 Cloudflare Workers AI 免费搭建 stable-diffusion 绘画 API
REST API 调用
curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/run/@cf/meta/llama-2-7b-chat-int8 \
-H 'Authorization: Bearer {API_TOKEN}' \
-d '{ "prompt": "Where did the phrase Hello World come from" }'
返回：
{
"result": {
"response": "Hello, World first appeared in 1974 at Bell Labs when Brian Kernighan included it in the C programming language example. It became widely used as a basic test program due to simplicity and clarity. It represents an inviting greeting from a program to the world."
},
"success": true,
"errors": [],
"messages": []
}
使用体验
Workers AI 可能是目前使用成本最低的开源模型方案了，目前还在测试阶段，个人应用完全可以尝尝鲜，Cloudflare 真是创意十足的良心企业。
