Modal 概览

Modal 是一个无服务器云函数平台，旨在从根本上简化运行计算密集型代码的过程，尤其适用于人工智能、机器学习和数据处理工作负载。它为开发人员提供了一种在云中执行 Python 函数的优雅方式，抽象化了基础设施管理的所有复杂性。借助 Modal，您只需最少的代码更改，即可从本地开发无缝过渡到大规模云端执行，从而让您专注于应用程序逻辑，而不是与 Kubernetes、Docker 或云提供商的配置作斗争。

该平台构建于一个自定义的高性能技术栈之上，包括一个基于 Rust 的容器系统，可实现亚秒级的容器启动时间。这意味着您在云中迭代的速度可以像在本地计算机上一样快。Modal 的核心理念是“基础设施即代码”，所有资源需求，如特定的 GPU 类型、内存或密钥，都直接在您的 Python 脚本中定义，无需像 YAML 这样的独立配置文件。

如何使用Modal

Modal 的入门过程设计得非常简单，只需几个简单的步骤：

安装： 使用 pip 安装 Modal Python 客户端库：pip install modal。
认证： 通过在终端中运行一个命令，将您的机器连接到您的 Modal 帐户：modal setup。这会打开一个浏览器窗口，供您登录并创建 API 令牌。
编写代码： 通过使用 @app.function() 装饰器来装饰一个标准的 Python 函数，从而定义您的云函数。在此装饰器中，您可以指定所有资源需求。例如，要在 NVIDIA A100 GPU 上运行函数，您可以使用 @app.function(gpu="A100")。您还可以在代码中定义自定义容器环境，指定 Python 包或系统依赖项。
远程运行： 要在云中执行您的函数，只需使用 .remote() 方法调用它。例如：my_function.remote(arg1, arg2)。Modal 会处理剩下的所有事情：打包您的代码、配置指定的资源、执行函数，并将结果流式传输回来。

Modal的核心功能

无服务器 GPU 和 CPU 计算： 无需任何手动设置，即可即时访问各种 GPU（包括 H100、A100、L40S、T4）和高核心数 CPU。
即时自动扩展： 在几秒钟内从零自动扩展到数千个容器以处理突发工作负载，并能缩减回零，因此您永远不会为闲置资源付费。
零配置环境： 直接在 Python 中定义您的容器镜像、依赖项和硬件要求。无需 Dockerfile 或 YAML。
持久化存储： 利用 modal.Volume 等有状态组件实现持久化、高吞吐量的文件存储，modal.Dict 用于键值存储，modal.Queue 用于分布式任务队列。
作业调度和 Web 端点： 轻松将函数部署为 cron 作业以执行计划任务，或部署为安全的 HTTPS Web 端点以提供模型和应用程序服务，支持流式传输和 WebSockets。
安全沙箱： 在隔离环境中安全地执行不受信任的代码，这是构建 AI 代理或代码解释器的关键功能。
无缝集成： 与 Datadog 和 OpenTelemetry 等工具原生集成以实现可观察性，并允许轻松挂载 S3 和 R2 等云存储。
内置调试： 通过在运行的容器内使用交互式 TTY shell (modal shell) 来有效排查问题。

Modal的使用案例

Modal 功能多样且强大，适用于广泛的应用：

生成式 AI： 使用 vLLM 和 TensorRT-LLM 等框架部署和扩展 LLM 推理，对自定义数据进行模型微调，并运行大规模训练作业。
批处理： 对 Whisper 音频转录、文档 OCR 或大型数据集（如 S3 上的 Parquet 文件）的数据分析等任务执行大规模并行处理。
图像、视频和 3D 生成： 部署像 Stable Diffusion 和 Flux 这样的扩散模型，或为 Blender 等工具运行渲染农场。
计算生物学： 运行用于蛋白质折叠和分子结构预测的复杂模拟。
检索增强生成 (RAG)： 构建和托管可扩展的 RAG 管道，可以查询文档并引用来源。
AI 驱动的代理： 创建并运行可以在安全沙箱环境中执行代码的 AI 代理。

Modal的优势特点

Modal 通过专注于开发者体验 (DX) 和性能，提供了显著的竞争优势。与 AWS Lambda 或 Cloud Run 等传统云服务相比，Modal 提供了更简单、Python 原生的工作流程。其主要优势在于速度（亚秒级冷启动和快速扩展）、成本效益（按秒计费和扩展至零）以及对基础设施的完全抽象，这极大地加快了开发周期并降低了运营开销。

定价和计划

Modal 采用免费增值和按需付费模式，使其适用于从个人开发者到大型企业的各类用户。

入门计划： 这个免费计划非常适合个人和小型团队。它每月包含价值 30 美元的免费计算额度。
按需付费： 超出免费额度后，您只需为您消耗的资源付费，按秒计费。这包括 GPU、CPU 和内存。示例 GPU 每秒价格为：T4 约 0.000164 美元，A10G 约 0.000306 美元，H100 约 0.001097 美元。
团队计划： 专为初创公司和成长型组织设计，提供协作功能和更高的并发限制。
企业计划： 适用于需要增强安全性（SOC 2、HIPAA）、专属支持和 SSO 等功能的大型组织。

Modal 评论 (0)

登录后发表评论。

暂无评论。

流量分析

地理位置

Top 5 国家/地区

🇺🇸美国
66.6%
🇮🇳印度
13.7%
🇨🇳中国
7.9%
🇻🇳越南
6.0%
🇬🇧英国
5.8%

流量来源

来源类型	百分比
直接访问	95.2%
外链引荐	3.7%
邮件	1.1%

合计

100%

直接访问95.2%

外链引荐3.7%

邮件1.1%

Modal 的相关 YouTube 视频