AI Summer Night Rave

오간 이야기

실내 강의실을 벗어나 200평 규모의 야외 카페를 대관했습니다. 콘셉트는 Deep House, Deep Learning. 딥하우스가 흐르는 공간에서 딥러닝을 이야기하는, 세미나와 파티를 섞은 여름밤이었습니다. 640여 명이 신청했고 그중 300명을 모셨습니다. 직무는 엔지니어가 52퍼센트로 가장 많았고 기획과 마케팅, 디자이너, 영업과 사업개발이 뒤를 이었습니다.

첫 번째 파이어사이드는 VESSL AI의 안재만 대표였습니다. 카이스트에서 전기전자와 수학을 공부하고 왓챠를 거쳐, 쿠키런에서는 AWS가 막 등장하던 시절 천만 명에서 1억 명이 쓰는 게임 인프라를 총괄했습니다. 게임도 잘되고 있던 어느 날 어머니가 암 진단을 받았습니다. 자기가 할 수 있는 게 없더라고 했습니다. 게임을 만드는 일은 그 문제를 풀어주지 않았습니다.

그때 떠올린 선택지는 둘이었습니다. 의대에 가서 암 치료제를 개발하는 것, 그리고 AI라면 풀 수 있겠다는 것. 앞의 길은 10년이 걸릴 일이라 의료 AI 회사로 옮겼습니다. 그런데 의료 AI에서 직접 문제를 푸는 일은 너무 어려웠고 생각이 이 문제를 푸는 전 세계 연구자들을 더 빠르게 만들면 해결에 가까워지지 않겠느냐는 쪽으로 옮겨갔습니다. 병목은 AI 인프라에 있었고 그 인프라를 더 잘 쓰게 하자는 생각으로 6년 전에 창업했습니다.

VESSL AI는 오래 MLOps 플랫폼으로 알려져 있었는데 최근에는 GPU 클라우드, 네오 클라우드로 불립니다. 시작은 역시 MLOps였습니다. 의료 AI 회사 시절 GPU 서버를 사놓고도 누가 언제 쓸지를 엑셀로 관리하는 걸 보고 이걸 관리해주는 소프트웨어가 필요하겠다고 생각했는데, 시장의 반응은 냉정했습니다. 우리는 GPU도 없는데 GPU 관리 소프트웨어를 왜 사냐는 것이었고 그러면 저희가 GPU를 드리겠다고 한 것이 지금의 시작이었습니다.

GPU가 필요한 곳은 자체 모델을 직접 개발하는 기업들입니다. LLM뿐 아니라 피지컬 AI나 이미지, 사운드, 비디오를 학습하는 곳들입니다. 상용 LLM을 쓰다가 토큰 비용이 연 억 단위로 치솟으면, 직접 사서 돌리는 편이 낫지 않을까 고민하게 됩니다. GPU가 없으면 자기 데이터로 모델을 개발할 수 없습니다. 상용 LLM을 쓰는 선에서 그치고 비용은 계속 불어납니다. 젠슨 황도 말했지만 GPU는 많이 살수록 더 많이 법니다. 많이 살수록 모델을 더 잘 만들고 그걸로 더 큰 해자를 확보합니다.

지금은 전 세계가 GPU 품귀라 AWS도 구글도 마이크로소프트도 구하기 어렵고 고사양 블랙웰은 더 그렇습니다. 바로 여기에 한국의 기회가 있다고 했습니다. GPU 공급의 가장 큰 병목이 HBM 메모리이고 한국은 그 지위를 활용해 GPU를 확보할 수 있습니다. 엔비디아도 이제 한국에 GPU를 안 줄 수가 없다는 것입니다. 이 속도라면 한국이 전 세계에서 세 손가락 안에 꼽힐 만큼 GPU를 확보해 AI 인프라의 중심지가 되어갈 거라고 봤습니다. VESSL AI는 대형 클라우드와 반대로 GPU 한 장도 초 단위와 시간 단위로 빌려줍니다. 커피 한 잔 값으로 LLM을 파인튜닝할 수 있게 하자는 것입니다.

GPU 수요가 폭증하는 이유로 먼저 꼽은 것은 에이전트 AI였습니다. 예전엔 질문 하나에 답 하나로 끝났는데 이제는 AI에게 일을 시키니 하루 종일 돌아가며 한 사람이 쓰는 토큰이 몇백, 몇천 배가 됩니다. 여기에 피지컬 AI는 월드 모델까지 학습하고 소버린 AI는 각 국가가 자국 모델을 가지려 하니 수요가 동시에 몰립니다.

6년의 항해에 데스밸리는 없었느냐는 질문에는 항상 있다고 답했습니다. 매 투자 라운드마다 3일 뒤에 돈이 들어오지 않으면 끝나는 상황이었고 돈을 넣어둔 실리콘밸리 은행이 파산해 예금이 사라진 적도 있었습니다. 그럴 때 어떻게 마음을 잡느냐는 물음에는 할 수 있는 게 없으니 어쩔 수 없지, 내가 할 수 있는 걸 하자는 식으로 간다는 담백한 답이 돌아왔습니다. 올해 초 100장이던 GPU는 지금 5천 장이고 내년엔 5만 장으로 늘립니다. GPU 한 장이 1억 원이니 20만 장이면 20조가 필요한데, 그 20조를 어떻게 구할 것인가가 요즘 모든 네오 클라우드의 고민이라고 했습니다.

두 번째 파이어사이드는 인스타그램에서 AI 콘텐츠로 화제인 takitani.lab의 고민성 님이었습니다. 그날 행사장 곳곳의 대형 현수막과 포스터도 그의 작품입니다. 원래 영상과 시나리오를 하던 사람인데, AI를 쓰면 서사보다 비주얼에 더 집중할 수 있겠다 싶었다고 합니다. 왜 하필 조선이었을까요. 취미로 디제잉을 하는데 그냥 디제잉은 보기에 재미가 없습니다. 그래서 그 행위에서 가장 멀리 떨어진 대상을 찾았고 그게 조선이었습니다.

그가 세운 공식은 단순합니다. 인물과 행위는 고정하고 그것이 놓일 장소만 계속 바꿉니다. 조선과 디제잉이 시각적으로 충돌하는 지점이 많아 사람들이 더 집중해서 봅니다. 워크플로우도 진화해서 세 달 전 초반에는 15초짜리 영상 하나에 여섯 시간이 걸렸는데 지금은 두 시간이면 만듭니다. 이미지를 만들고 영상으로 바꾸고 음악을 붙이는 순서인데, 릴스 특성상 긴박감이 중요해 멜로디보다 비트 중심으로 갑니다.

흥미로운 건 팔로워 3만 3천 명의 국적 비중이었습니다. 한국이 30퍼센트 안쪽입니다. 70퍼센트 이상이 해외, 특히 미국과 독일, 프랑스, 스페인이었습니다. 우리에게 올드해 보이는 한국의 이미지가 외국 사람들에게는 힙하고 트렌디한 전통미로 보이는 것 같다고 했습니다.

기술 트렌드를 좇는 것에 대해서는 분명한 입장이 있었습니다. 새 영상 모델에 맞춰 콘텐츠를 만들면, 그 기술이 낡는 순간 콘텐츠도 낡습니다. 그래서 기술을 좇지 않습니다. 자기가 생각한 아이디어를 구현해낼 수 있는 기술을 나중에 사는 편이라고 했습니다. 한 디자이너가 콘텐츠가 쏟아지는 시대에 무엇으로 살아남느냐고 물었을 때, 그는 자신의 공식을 다시 꺼냈습니다. 조선인이 디제잉을 하는데 공룡 앞에 있다는 건 어디에도 없으니, 사람들에게 팔리는 건 없던 데서 나온다는 것이었습니다.

두 번의 파이어사이드 사이사이, 그리고 그 뒤로도 조별 네트워킹이 길게 이어졌습니다. 메타코미디 김태현 님의 AI 스탠드업 코미디로 분위기가 한 번 더 달아올랐고 럭키드로우에서 500달러어치 GPU 크레딧의 주인공이 나왔습니다. 보물찾기를 뒤지는 사람들, DJ 팀이 깔아주는 비트, 오가는 Bloom 칵테일. 세미나와 파티의 경계가 흐려진 네 시간이었습니다.