칩 제조 업체 Tenstorrent가 약 7억 달러의 자금을 조달한 지 몇 주 만에, 개발자들은 이제 Koyeb에서 Tenstorrent의 AI 가속기를 시도해 볼 수 있습니다. Tenstorrent는 RISC-V 명령어 집합 아키텍처를 기반으로 한 AI 프로세서를 판매하고 있으며, 자체 오픈 소스 신경망 라이브러리 TT-NN 및 오픈 소스 저수준 프로그래밍 모델 TT-Metalium을 개발했습니다.
Tenstorrent는 Nvidia GPU 및 해당 회사의 CUDA 라이브러리에 대체품을 만들려는 기업 그룹의 일부입니다. Axelera, Etched, Groq 등과 경쟁하고 있습니다.
Koyeb는 Scaleway의 이전 임원들에 의해 설립되었으며, 클라우드 인프라 수준에서 추상화 레이어를 찾고 있는 개발자들을 위한 서버리스 클라우드 플랫폼 개발에 초점을 맞추고 있습니다. Fly.io, Railway, Render와 경쟁합니다.
Koyeb는 코드 저장소와 통합한 후 커맨드 라인 인터페이스 또는 git push를 사용하여 여러 가상 머신에 응용 프로그램을 배포하도록 개발자에게 허용합니다. Docker 컨테이너 및 많은 인기 있는 언어를 지원합니다.
Koyeb의 주요 기능 중 하나는 필요할 때 응용 프로그램을 수백 대의 서버로 자동으로 확장할 수 있으며, 트래픽이 적을 때 서버 인프라를 자동으로 축소시킬 수 있다는 것입니다.
최근 몇 달간 Koyeb는 특히 AI 앱에 집중해 왔습니다. 플랫폼의 서버리스 특성으로 인해 AI 워크로드에 대한 저지연 경험을 제공할 수 있습니다.
하드웨어 측면에서 Koyeb는 자사 데이터 센터에 Tenstorrent의 PCIe 보드를 배치했습니다. 개발자들은 호스트 및 커널 프로그램을 작성하기 위해 Tenstorrent의 저수준 TT-Metalium SDK에 액세스할 수 있습니다.
개발자들은 Koyeb의 설명서와 관리 패널에서 두 가지 새로운 유형의 인스턴스를 찾을 수 있습니다:
- TT-N300S 인스턴스는 24GB의 GDDR6 메모리, 192MB의 SRAM을 제공하며 최대 466 FP8 TFLOPS를 제공합니다. 64GB의 RAM 및 4개의 vCPU가 함께 제공됩니다.
- TT-Loudbox 인스턴스는 네 개의 N300S를 갖고 있습니다. 개발자는 96GB의 GDDR6, 768MB의 SRAM, 그리고 최대 1,864 FP8 TFLOPS를 얻게 됩니다. 256GB의 RAM 및 16개의 vCPU가 포함되어 있습니다.
이 릴리스로 Koyeb는 하드웨어에 중립적인 클라우드 플랫폼으로 위치를 확립하려고 합니다. Koyeb의 공동 창업자 및 CEO 인 Yann Leger는 TechCrunch에게 말했습니다. "Scaleway와 함께 ARM을 서버 시장에 고성능 칩으로 공개했던 것을 생각납니다. 이를 통해 다양한 아키텍처를 배포하고 다양한 하드웨어를 운영하는 경험을 가지고 있습니다."
Tenstorrent는 오픈 소스 프로그래밍 모델을 중심으로 개발자 생태계를 구축할 파트너를 찾고 있습니다. Nvidia의 AI 스택 대체품을 제공하기 위해서는 많은 협력이 필요합니다.
