Cloudflare Agents官网

Cloudflare Agents 图文介绍：

Cloudflare Agents 是一个专为构建智能代理（agents）而设计的平台，旨在帮助开发者创建具有自主性、目标导向推理和适应性决策能力的 AI 代理。这些代理超越了传统的生成式 AI，能够主动规划、迭代并与环境互动，以实现复杂目标。以下是对 Cloudflare Agents 的详细介绍：

核心概念

• 什么是代理（Agents）？
  • 自主性（Autonomy）：代理能够独立执行任务，无需人工干预。
  • 目标导向推理（Goal-Directed Reasoning）：代理能够根据设定的目标进行推理和规划。
  • 适应性决策（Adaptive Decision-Making）：代理能够根据环境变化动态调整决策。
  • 与传统生成式 AI 的区别：传统的生成式 AI 通常被动响应提示，而代理 AI 主动规划和执行任务。

产品套件

Cloudflare 提供了一整套产品，支持开发者在同一个平台上构建完整的 AI 代理。

构建流程

1. 获取用户输入
   • 支持多种输入方式，如电子邮件、聊天或语音。
   • Cloudflare 提供多种工具帮助开发者接收和处理用户输入。
2. 连接到 AI 模型
   • 代理需要连接到大型语言模型（LLM）以进行推理和生成内容。
   • 开发者可以选择直接在 Cloudflare 上运行 LLM，或通过 AI Gateway 连接到流行的 LLM 提供商。
3. 保证执行
   • 代理需要一个执行引擎，结合状态管理和计算能力。
   • Cloudflare 的 Durable Objects 提供了持久化执行环境，确保任务的连续性和可靠性。
4. 采取行动
   • 代理需要访问工具来完成任务，如调用 API、操作数据和与外部系统集成。
   • Cloudflare 提供丰富的工具支持，帮助代理实现复杂任务。

成本优势

• 按需付费
  • 与传统的超大规模云服务提供商不同，Cloudflare 的 Workers AI 仅按实际使用量收费，避免了资源浪费。
  • GPU 利用率通常较低（20-40%），Cloudflare 的按需付费模式帮助开发者节省成本。
• 计费方式
  • 按实际执行时间计费：与传统的按墙钟时间计费不同，Cloudflare 按实际执行时间计费，避免了因 I/O 等待导致的额外费用。
  • WebSocket 休眠：许多代理依赖 WebSocket 进行通信，Cloudflare 的 Durable Objects 支持 WebSocket 休眠，当没有活动时自动关闭，节省成本。

代码示例

以下是一个简单的代码示例，展示如何使用 Cloudflare Agents 构建一个帮助办公室同事选择午餐的代理。

import { Agent, unstable_callable as callable } from 'agents';
import { searchMenusByAgent, chooseWinners } from '../utils';

export class LunchAgent extends Agent<Env, LunchState> {
    onStart() {
        this.schedule('weekdays at 11:30pm', 'chooseLunch');
        this.schedule('daily at 5pm', 'resetLunch');
    }

    @callable()
    async nominateRestaurant(restaurantName: string) {
        // 使用浏览器搜索工具查找餐厅信息
        // 查找菜单并存储到 Vectorize
        // 成功后更新代理状态，添加可用餐厅
        await this.env.RESTAURANT_RESEARCHER_WORKFLOW.create({
            restaurantName,
            agent: this.name,
            near: this.state.officeAddress,
        });
    }

    @callable()
    async searchRestaurants(query: string) {
        // 使用 Vector 存储结果，按元数据过滤，限制为当前代理
        const results = await searchMenusByAgent(query, this.name);
        return results.map((result) => result.metadata.restaurantName);
    }

    @callable()
    async vote(username: string, restaurantName: string) {
        const votes = this.state.todaysVotes;
        votes.push({
            username,
            restaurantName,
        });
        // 向所有连接的用户发送更新
        this.setState({
            ...this.state,
            todaysVotes: votes,
        });
    }

    async resetLunch() {
        const state = this.state;
        state.todaysVotes = [];
        state.todaysRuling = undefined;
        this.setState(state);
    }

    async chooseLunch() {
        const restaurantWinners = chooseWinners(this.state.todaysVotes);
        const { response } = await this.env.AI.run("@cf/meta/llama-3.3-70b-instruct-fp8-fast", {
            messages: [
                { role: "system", content: `
                    你帮助一群同事选择午餐。
                    用户将提供选项。
                    你的任务是让选择听起来令人兴奋，让投票给其他选项的人也感到满意。
                ` },
                { role: "user", content: restaurantWinners?.join(", ") as string }
            ],
        });
        this.setState({
            ...this.state,
            todaysRuling: response
        });
    }
}

export type Restaurant = {
    cuisine: string;
    name: string;
    address: string;
};

export type Vote = {
    username: string;
    restaurantName: string;
};

export type LunchState = {
    officeAddress: string;
    todaysVotes: Vote[];
    todaysRuling?: string;
    restaurants: Restaurant[];
};

优势与应用场景

• 低延迟和高可用性：Cloudflare 的全球网络确保代理的低延迟和高可用性。
• 安全性和隐私保护：Cloudflare 提供强大的安全功能，保护用户数据和隐私。
• 灵活性和可扩展性：Cloudflare 的平台支持灵活的部署和扩展，适应不同规模的应用需求。

Cloudflare Agents 提供了一个强大的平台，帮助开发者构建具有自主性和适应性的 AI 代理。通过其丰富的工具和灵活的计费模式，Cloudflare Agents 为开发者提供了构建下一代智能应用的理想选择。