IO Cloud 的目的是部署和管理按需去中心化 GPU 集群。
理想的结果是为用户提供对 GPU 资源的灵活且可扩展的访问,而无需昂贵的硬件投资和基础设施管理。该平台旨在利用来自去中心化节点网络的分布式资源[IO工作者];该平台旨在为机器学习工程师/开发人员提供与任何云提供商相同的体验,即使节点是去中心化的。
IO Cloud 是运行 AI/ML 应用的地方。它与 IO-SDK 无缝集成,为扩展 AI 和 Python 应用程序提供了全面的解决方案。IO Cloud 专为高性能和易用性而设计,可提供无限的计算能力,同时简化 GPU/CPU 资源的部署和管理。
IO Cloud 的基本构建块是集群。集群是完全网状的自我修复 GPU。
一个分布式、去中心化的 GPU/CPU 网络,能够执行基于 Python 的 ML 代码。这个易于扩展的系统可以适应不断变化的需求。
主要特点:
- 旨在成为全球最大、最具成本效益的 GPU 按需云,为 AI/ML 训练/推理提供无限可扩展性。
- 与 IO SDK 平滑集成:轻松将 IO Cloud 的 GPU 资源与 IO SDK 的分布式计算能力连接起来,为您的 AI 项目创建统一的高性能环境。
- 提供无与伦比的可负担性,每 TFLOP 最多可便宜 -90%。
- 全球分布的 GPU 资源,充当 ML 服务和推理的 CDN,使 GPU 更接近最终用户。
- 由 OpenAI 用于在 300K 服务器上训练 GPT3 和 GP4 的 RAY 分布式计算 python 框架进行原生支持并经过实战测试。提供前所未有的简单框架,以任何规模扩展 Python 应用程序。
- 对 OpenAI ChatGPT 插件的私有访问,我们在其中构建了一个训练集群的提示部署。
io.net 致力于成为加密采矿 2.0 的领导者,通过将采矿转变为有效的流程,通过增强 ML 和 AI 生态系统来应对现实世界的挑战,从而彻底改变行业。
应用演练
主页:
主页是用户访问各种功能的中心枢纽,例如部署集群、浏览 GPU 市场、快速监控操作和入门。
集群主页 :
集群页面允许用户通过提供包含名称、加速器 (GPU)、状态和进度等详细信息的所有集群列表来管理其集群。用户可以在其集群上执行重命名、扩展和终止等操作。以及快速访问必要的链接,例如 Visual Studio、Jupyter Notebook 和 Ray Dash 进行管理。
用户可以点击集群,进入以下页面(集群详情)
集群详情页面:
此页面允许用户进一步监控他们的集群并跟踪数据,例如集群年龄、发票(在 SOLSCAN 上)和集群中涉及的 Worker。他们还可以执行快速操作并访问必要的链接。
集群创建页面:
“创建新集群”功能通过命名集群、选择位置、选择类型(GPU 或 CPU)和数量、选择安全合规性和连接层、选择基础映像、设置持续时间和使用 SOLANA Pay 付款来促进新计算集群的创建。
Kubernetes 集群创建页面:
此页面与创建集群页面非常相似,只是某些选项是预先选择的,用户可以将 Kuberay 部署为 Operator。
IO Cloud 开发原则
IO Cloud 专为现代用户而设计,强调实时交互、强大的安全性、完整的用户控制和易用性。我们了解无缝用户体验的重要性,我们的门户反映了我们对实现这一目标的承诺。
一、易用性
UX/UI。我们非常重视用户体验。我们时尚、直观的仪表板经过精心设计,可立即为用户提供他们需要的信息。设置简单明了,用户只需几秒钟即可上手。通过 ReactJS 和 Tailwind 的集成,我们确保用户体验流畅轻量级。
二、实时性
时间就是金钱。在快节奏的数字时代,实时反馈至关重要。我们的门户提供实时交互和更新,所有这些都由专门为客户门户设计的专用 Python API 层驱动。
三、可定制性
您的任务。我们认识到用户的不同需求。我们的门户网站拥有广泛的自定义选项,确保用户可以根据自己的喜好精确定制他们的环境。这意味着花在设置上的时间更少,而在实际任务上花费的时间更多。无论是 Ray、Ludwig、Hugging Face 还是任何其他堆栈,我们只需点击几下即可覆盖您。
四、安全
强化。安全性不仅仅是一项功能;这是一种承诺。我们的门户受到多层保护,保护用户数据和操作。强大的防火墙、严格的访问控制和模块化设计可最大限度地降低潜在风险,隔离不同的功能以增加安全性。