|
|
云显卡平台 ，质量还行 ，但是要有一定的编程基础。可薅！主要是个拿来做训练的 serverless GPU，整个平台是为了最大化效率设计的，所以得写代码。
本质上就是往你要让 GPU 跑的东西加上 python 装饰器，只有在需要用 GPU 的东西才在 GPU 容器上跑，然后根据负载可以动态调整 GPU 容器的数量，不为没用到的 GPU 时间付费。
可以让 AI 写 modal 的代码，但这玩意儿五月的时候改了一次 API，如果 AI 不联网或是看到了网上的旧 blog，会写错。你得明确告诉 AI 要只看 modal.com 的官方文档和代码案例，不能看第三方 blog。坦白说这个平台还是挺需要折腾的…
我之前就折腾过，弄了个跑 comfyui 工作流的网页。他们有个 web endpoint 的功能，可以用 fastapi 写个后端，然后在有调用的时候才启动 GPU 容器计费，其他时间会自动缩容，不花钱。
我记得 b 站上有直接拿这个东西跑 comfyui webui 的视频，不过视频是改 API 之前的事了，所以他的具体写法可能有些不好用了，但思想应该不会差太多 https://www.bilibili.com/video/BV1sWqNYpEKP/
modal 的文档里面还有跑别的东西的案例，可以一看。
https://modal.com/docs/examples |
|
雷达卡
发表于 
照妖镜
