리투아니아의 유니콘인 Nord Security의 창업자들이 세계적으로 가장 유명한 브랜드 중 하나인 Nexos.ai를 시작하고, 초기에는 대형 언어 모델 (LLMs)에 더 많은 가시성, 보안 및 적응성을 가져다주는 데 초점을 맞추고 있습니다.
스타트업 Nexos.ai는 Tomas Okmanas(위 사진)와 Eimantas Sabaliauskas의 작품으로, 리투아니아 뿐만 아니라 유럽 전역에서 가장 유명한 브랜드 중 하나를 만들어낸 인물들입니다. NordVPN이라는 플래그십 VPN 제품으로 가장 잘 알려진 Nord Security는 10년의 첫 해를 부스트랩으로 거쳐 2022년 눈부신 1억 달러 투자를 받고 16억 달러 가치로 평가 받았으며(이후 추가 기금 조달 과정에서 30억 달러 가치에 이르렀습니다)
이들의 새로운 회사는 오늘 800만 달러의 투자를 받아 인덱스 벤처스(Index Ventures)를 비롯한 일련의 고프로파일 투자자들로부터 지원을 받았는데, 이 중에서 최우선 투자자인 인덱스 벤처스 기업이 리투아니아로 최초의 투자를 하였습니다.
“우리는 토마스의 일과 그가 수 년 동안 만들어온 일에 대해 오랫동안 알고 있었기 때문에, 그가 인공지능 분야에서 새로운 회사를 만들고 이 [이른 시기]에 벤처 자본을 받아드려야 한다고 들었을 때, 우리는 매우 간절했습니다,”라고 인덱스 벤처스 파트너 한나 실은 TechCrunch에 말했습니다.
또 다른 주목할만한 투자자로 크리앤덤(Creandum)과 딕 벤처스가 있으며, Datadog, Klarna, Supercell, Wix 등의 CEO들도 참여했습니다.
발전의 공기를 빌려
현재 제품화를 원하는 팀들은 수많은 도구들을 연결해야 하며, 이는 필요한 기술을 보유한 팀을 모집하고 구축하는 과정을 포함할 가능성이 높습니다. 이 때 Nexos.ai가 개입하고자 합니다.
“전문적으로 인공지능을 기업에서 제품화한다는 것은 실험에서 운용까지 가기 위한 큰 격차가 있다는 것을 보았습니다,”라고 Okmanas는 TechCrunch와의 인터뷰에서 말했습니다. “랩에서 AI를 테스트할 때 동작하고 유용할 수 있지만, 기업에서 운용하고 싶을 때는 어떻게 고가용성을 보장할 수 있을까요? 보안을 어떻게 보장할 수 있을까요? 비용을 어떻게 관리할 수 있을까요?”
Nord Security는 10년 이상 활동해 왔지만, 5년 전에는 2십여 개 이상의 사업을 보유한 부모회사인 Tesonet으로 병합되었습니다. 이 중 하나는 웹 호스팅 회사 Hostinger로, 최근 AI를 사용하여 웹 사이트 제작 도구에 스마트 기능을 추가했습니다. 호스팅 접시, 호스텔 호텔 호스팅 경영 이사회 위원이자 주주인 Okmanas는 몇 가지 문제가 넥소스.ai를 만들게 된 계기가 된다고 말했습니다.
“우리는 웹 사이트 빌더에서 AI를 사용하기를 원했기 때문에 OpenAI를 켰고 테스트를 시작했으며 실행에 수행했습니다,”Okmanas는 말했다. “8월에는 15만 달러가 청구되었습니다. 무엇을 위한 것인가? 왜 그렇게 비용이 비싼 것인가? 가시성이 없었습니다.”
그리고 OpenAI가 몇 차례 다운되자, Okmanas는 기관이 필요한 “커다란 유도 모델의 점점 복잡해지는 생태계를 배치, 관리 및 최적화하는 것을 더 쉽게 만들어야 한다고 확신”했습니다.
간단한 API(애플리케이션 프로그래밍 인터페이스)를 통해 고객은 대형 기존 제공 업체인 OpenAI와 Anthropic부터 작은 특별한 LLM까지 200여 개의 AI 모델에 접근할 수 있습니다. 아이디어는 OpenAI가 다운되면 회사가 단계를 멈추지 않고 임시로(및 자동으로) 다른 제공업체로 전환할 수 있도록 하는 것입니다. 또는 특정 LLM에 액세스하는 데 소요된 비용이 어떤 이유로 인해 급증하는 경우, 회사는 비용을 절감하기 위해 다른 모델로 전환할 수 있습니다.
Nexos.ai 는 또한 “지능적인 캐싱”을 도입합니다. 여러 사용자에 의해 반복되는 특정 질문이 있을 경우, 시스템은 LLM에 계속 참가하는 대신 자체 데이터베이스로 넘어갈 수 있습니다.
보안 및 규정 준수 측면에서, Nexos.ai는 개인이 LLM 제공업체에 개인 데이터를 보내는 것을 방지합니다. 또는 직원이 회사를 떠났을 때, 그들의 액세스를 즉시 중단할 수 있습니다.
그러나 기업이 AI를 수용하기에 소극적일 수밖에 없는 한 가지 이유는 불안정한 데이터 보안 문제입니다. 의료 기업, 은행 또는 보험 회사는 모든 중요 정보를 LLM 제공자에게 신뢰할 수 없습니다. 2019년 Hostinger 자체에 데이터 유출 사건이 발생했으며, NordVPN도 과거에 해킹을 당했습니다. - 오늘날 모든 기업이 직면한 공격 종류입니다.
이런 데이터와 관계된 문제들을 고려할 때, Nexos.ai가 어떻게 이 데이터를 처리하는지에 대한 의문이 제기됩니다. 자체 인프라에 모든 것을 호스팅하는 Nexos.ai는 미래에 자체 호스팅을 제공할 가능성이 있으며, 이미 기업의 내부 LLM 연동을 지원하고 있습니다.
또한 개인 식별 정보(PII)와 같은 데이터가 전송되는 것을 감지할 수 있도록 가드레일을 갖추고 있습니다. 이러한 경우, 데이터를 원래 회사의 LLM이나 데이터베이스로 다시 경로를 변경할 수 있습니다. 그러나 고객이 AI 대행자에게 위치 및 영업 시간에 대한 세부 정보를 요청하는 등 쿼리가 일반적인 경우, 그 쿼리는 Nexos.ai 측에서 처리됩니다.
아이디어에서 실현까지
아이디어에서 공식적인 법인화까지 넥소스.ai에는 약 6주가 소요되었으며, 자금 조달 속도의 대부분은 창립자들의 출신에 달렸다는 것이 사실이지만, 그것은 단순히 시기 때문이기도 했습니다.
“우리는 이제 드디어 AI의 흥행 너머로 나아갔다고 느끼며, 이제 현실적인 응용이 나오고 있습니다.”Seal은 덧붙였다. “모든 대기업들이 이것이 정말 의미 있으며, 규모에 맞게 AI를 채택해야 한다는 것을 깨닫고 있습니다. 이제 모델과 인프라가 따라가야 할 때입니다.”
그러나 실행 속도는 크게 Tesonet의 더 넓은 기관적 구성에 기인하며, 이는 포트폴리오 전체에 약 4,000명의 직원이 있는 조직을 이루고 있습니다. Okmanas는 Nexos.ai에 대해 전문적으로 일하는 약 30명의 팀을 신속하게 모을 수 있는 사람들을 빠르게 조직할 수 있도록 했다.
“우리는 매우 큰 존재 형상을 가진 팀들을 가지고 있습니다. 그들은 여러 해 동안 함께 일한 경험이 있기 때문에 무엇을 해야 할지 말할 필요가 없습니다.”Okmanas는 말했습니다. “우리는 외부에서 고용할 수도 있지만, 그것은 훨씬 더 많은 시간이 걸립니다.”
Nexos.ai의 플랫폼은 3월 말까지 시작될 예정이지만, Okmanas는 이미 “베타 고객 및 디자인 파트너들”과 함께 일하고 있다고 말했습니다.
