Anyscale
用 Ray 跑生产级 AI，但不必自建 Ray 平台
Anyscale 是 Ray 原创团队创立的托管式 AI 计算平台，为分布式模型训练、批量推理、RAG 管线、智能体编排与强化学习后训练提供生产级基础设施。基于 Ray 这一被 OpenAI、Uber、Shopify 等广泛使用的开源分布式引擎，支持多云（AWS / GCP / Azure 等）与 Bring-Your-Own-Cloud，按用量计费，新用户赠 $100 额度。
免费试用 · 无需下载即可在线体验
Ray 原班人马的托管平台
Anyscale
Anyscale 由 Ray 开源分布式计算框架的原创团队创立，把 Ray 从编程模型升级为生产就绪的托管平台。Ray 本身已被 OpenAI、Uber、Shopify、Instacart 等用于大规模 AI 与 ML 负载，累计下载超过 5 亿次、GitHub 41K+ Stars。Anyscale 让团队免去了自建内部 Ray 平台的重担。
平台统一覆盖 AI 工作负载的完整生命周期：多模态数据清洗、分布式模型训练、批量 embedding 生成、基于 Ray Serve / vLLM 的 LLM 在线服务，以及 SkyRL、veRL 等后训练框架。你用熟悉的 Python API（一个装饰器即可在数千节点上编排任务），无需改写云厂商专属基础设施。
Anyscale 支持多云编排（AWS、GCP、Azure、Nebius、CoreWeave），并提供 Bring-Your-Own-Cloud（BYOC）在自有 VPC 内运行以满足数据驻留与合规；细粒度硬件分配让函数与类分别跑在不同 CPU / GPU / TPU 配置上。新账户赠 $100 额度，按用量计费、无固定月费；企业可签承诺合同获得量价折扣与 24×7 支持。
核心功能一览
六大核心能力，覆盖创作全流程
托管 Ray 工作负载
围绕 Ray 构建的生产平台：用 Python API 跨大规模集群扩展工作负载，无需重写底层基础设施。
分布式训练
基于 Ray Train 跨 GPU 集群编排模型训练，支持弹性扩缩、末端数据预处理与 GPU 可观测。
批量推理与 Embedding
跨多个 GPU Worker 并行生成 embedding 与批量推理，服务检索、训练与下游管线。
LLM 在线服务
基于 Ray Serve 与 vLLM 提供 OpenAI 兼容推理端点，支持多模型与动态多 LoRA 部署。
多云与 BYOC
同一套代码跑在 AWS / GCP / Azure 等五朵云；BYOC 在自有 VPC 内运行，满足合规与数据驻留。
零基础快速上手
4 步完成你的第一件 AI 作品，无需任何设计经验
安装 Ray 与 Anyscale
用 pip install ray[default] anyscale 安装，注册账户并领取 $100 启动额度。
在 Workspace 开发
使用带 VS Code / JupyterLab 的云工作区编写 Ray 代码，或直接连接本地编辑器远程开发。
提交分布式训练
用 Ray Train 编排跨 GPU 集群的训练作业，配置弹性扩缩与 GPU 可观测后提交为托管任务。
部署为在线服务
用 Ray Serve 把模型发布为 OpenAI 兼容端点，开启自动扩缩与零停机升级，进入生产。
常见问题解答
遇到问题？这里可能有你想要的答案
Anyscale 和直接用开源 Ray 有什么不同？
开源 Ray 只提供编程模型；Anyscale 在其上提供托管的生产生命周期——集群供给、环境打包、调度、失败重试、可观测、安全治理与在线服务，让团队专注算法而非运维。
Anyscale 还有按 token 的推理 API 吗？
没有。Anyscale 已于 2024 年 8 月退役自带的按 token Endpoints API；LLM 推理现在作为 Ray Serve 工作负载在平台上运行，沿用同一套按量计算计费。
与同类 AI 计算平台对比
和同类工具横向对比，帮你选对工具。
| 对比维度 | Anyscale | Vertex AI | SageMaker | Databricks |
|---|---|---|---|---|
| 核心引擎 | Ray | Google 托管栈 | AWS 托管栈 | Spark / MLflow |
| 部署形态 | 托管 / BYOC / K8s | 全托管 | 全托管 | 托管 / 自托管 |
| 多云 | AWS/GCP/Azure 等 5 朵云 | GCP 为主 | AWS 为主 | 多云 |
| 计费 | 按量 + 承诺合同 | 按量 | 按量 | 按量 / 订阅 |
同类推荐工具
发现更多优质 AI 创作工具，找到最适合你的那一款
AI21 Labs
AI21 Labs 是 2017 年成立的独立基础模型公司，主打 Jamba 系列开源权重大模型——采用 Mamba-Transformer 混合架构、支持 256K 上下文，并以 Maestro 编排平台服务金融、医疗等受监管行业。
阿里云百炼
阿里云百炼（Model Studio）是一站式大模型开发平台，集成通义千问全 系列与 DeepSeek、Kimi、智谱 GLM 等三方模型，提供模型推理、微调（SFT/CPT/DPO）、部署、Agent 开发、RAG 知识库与 MCP 注册能力，并兼容 OpenAI 接口。
Apache Airflow
Apache 顶级开源项目，用 Python 代码定义有向无环图（DAG）来编排批处理工作流，拥有 1500+ 算子与庞大生态，是数据管道调度领域的事实标准。
Azure AI
微软 Azure 上的托管式 AI 服务，通过 Azure AI Foundry 提供 OpenAI 旗舰模型、智能体服务与微调能力，兼顾数据驻留、私有网络与企业合规。