关于 Modal
像写本地函数一样用云端 GPU
Modal 是 Python 原生的无服务器平台，被称为「GPU 版的 Vercel」。它的理念是：你只写普通 Python 函数，用装饰器声明所需硬件与依赖，一条命令就能部署到云端 GPU 上运行，无需管理 Docker、Kubernetes 或任何基础设施。
硬件目录覆盖从 CPU 容器到 Nvidia T4、L4、A10、A100、H100、H200 乃至 Blackwell B200/B300，全部按需可用、无需预约。计费按秒粒度：H100 约 $3.95/小时、A100 80GB 约 $2.50/小时，空闲时函数缩容到零、不收费。
Starter 方案免费，每月含 $30 算力额度、最多 100 容器与 10 张并发 GPU；Team 方案 $250/月含 $100 额度与更高并发；Enterprise 定制。平台宣称亚秒级冷启动、可从零扩到 1000+ GPU，并通过镜像缓存与内存快照进一步压缩启动时间。已获 SOC 2 与 HIPAA 合规。
核心功能一览
六大核心能力，覆盖创作全流程
Python 原生部署
用 @app.function 装饰器声明 GPU 与依赖，本地写函数、云端运行，无需 Dockerfile 或 K8s。
按秒计费 / 缩容到零
只为代码实际消耗的 CPU、内存与 GPU 秒数付费，无流量时成本为零。
亚秒级冷启动
通过镜像缓存与 GPU 检查点 / 恢复，把大模型冷启动从分钟级压缩到秒级。
全 GPU 目录
T4 到 H100、H200、Blackwell B200/B300 按需可用，支持多节点分布式训练。
Sandboxes 安全沙箱
毫秒级开销的临时隔离环境，安全运行 Agent 生成或不可信代码。
零基础快速上手
4 步完成你的第一件 AI 作品，无需任何设计经验
安装并登录
pip install modal 后运行 modal setup 完成账号授权，无需信用卡即可用免费额度。
写带装饰器的函数
用 @app.function(gpu="H100") 声明硬件，函数体内直接写 PyTorch / vLLM 逻辑。
一行部署运行
modal run 把函数部署到云端 GPU 执行，平台负责容器构建、调度与网络。
暴露推理端点
用 @modal.fastapi_endpoint 把模型包装成 API，空闲自动缩容到零。
监控与扩缩容
在控制台查看用量与日志，按流量从零扩到上千 GPU，只为活跃秒数付费。
常见问题解答
遇到问题？这里可能有你想要的答案
Modal 免费吗？
Starter 方案 $0/月，含每月 $30 算力额度、最多 100 容器与 10 张并发 GPU，无需信用卡即可开始；超出额度按秒计费。
和 RunPod 怎么选？
Modal 开发体验更好（纯 Python、弹性缩容），适合快速原型与突发推理；RunPod 更便宜，适合长时间稳定跑的任务。
能跑 70B 大模型吗？
技术上可以——量化后的 70B 可放进 A100 80GB，约 12 个活跃小时消耗完免费额度；持续服务会很快超出免费 层。
支持哪些框架？
PyTorch、TensorFlow、vLLM、Hugging Face 等任意 Python 代码都可运行，无需改写。
同类对比
和同类工具横向对比，帮你选对工具。
| 对比维度 | Modal | RunPod | Lambda Labs | Together AI |
|---|---|---|---|---|
| 模型 | Python 函数 | 容器 / VM | GPU 实例 | API 推理 |
| 冷启动 | 亚秒级 | 秒~分钟 | 分钟级 | API 调用 |
| 缩容到零 | 支持 | 手动 | 手动 | 天然 |
| 最适合 | 弹性推理 / 批处理 | 长时训练 | 长时训练 | 直接调模型 |
| 免费额度 | $30/月 | 无 | 无 | 有限 |
同类推荐工具
发现更多优质 AI 创作工具，找到最适合你的那一款
AI21 Labs
AI21 Labs 是 2017 年成立的独立基础模型公司，主打 Jamba 系列开源权重大模型——采用 Mamba-Transformer 混合架构、支持 256K 上下文，并以 Maestro 编排平台服务金融、医疗等受监管行业。
阿里云百炼
阿里云百炼（Model Studio）是一站式大模型开发平台，集成通义千问全 系列与 DeepSeek、Kimi、智谱 GLM 等三方模型，提供模型推理、微调（SFT/CPT/DPO）、部署、Agent 开发、RAG 知识库与 MCP 注册能力，并兼容 OpenAI 接口。
Anyscale
Anyscale 是 Ray 原创团队创立的托管式 AI 计算平台，为分布式模型训练、批量推理、RAG 管线、智能体编排与强化学习后训练提供生产级基础设施。基于 Ray 这一被 OpenAI、Uber、Shopify 等广泛使用的开源分布式引擎，支持多云（AWS / GCP / Azure 等）与 Bring-Your-Own-Cloud，按用量计费，新用户赠 $100 额度。
Apache Airflow
Apache 顶级开源项目，用 Python 代码定义有向无环图（DAG）来编排批处理工作流，拥有 1500+ 算子与庞大生态，是数据管道调度领域的事实标准。