ㆍ집에 고성능 컴퓨터 구축하는 로컬 AI 열풍 ㆍ비용 절감과 개인정보 보호·속도 개선 목적 ㆍPC 업체 특수와 실내 열·소음 부작용
챗GPT 생성 이미지/오픈AI 미국 워싱턴주 벨뷰의 한 주택 지하실.소파와 대형 스크린,펠로톤 러닝머신 사이에 다소 생뚱맞은 장비가 자리 잡고 있다.철제 프레임에 엔비디아 그래픽 처리 장치(GPU) 7개를 주렁주렁 매단 맞춤형 컴퓨터다.마이크로소프트(MS) 임원 출신 스타트업 창업자 게리 플레이크가 직접 만든‘홈 AI 컴퓨터’다.플레이크는 뇌파 검사(EEG)에서 얻은 수테라바이트(TB) 데이터를 이용해 맞춤형 AI 모델을 훈련시키기 위해 이 장비를 만들었다.
그는 아마존웹서비스(AWS)나 MS의 클라우드를 빌릴 수도 있었지만 직접 장비를 사는 쪽을 택했다.중고·할인 부품을 활용해 컴퓨터 자체를 만드는 데 들어간 돈은 6000달러(약 850만원) 미만이었다.다만 GPU가 뿜어내는 열을 감당하기 위해 전기 설비를 손보고 냉난방 시스템(HVAC)을 새로 설치하는 데만 1만~2만달러를 추가로 썼다.그럼에도 플레이크는 매달 클라우드 이용료를 내는 것보다 싸다고 했다.이 사례를 소개한 미 IT 전문 매체 디 인포메이션에 “나는 빌리고 싶지 않다.소유하고 싶다”고 했다.
인공지능(AI) 붐과 함께 미국 테크 업계에서 집 다락방,와인셀러 등에 고성능 컴퓨터를 직접 구축해 AI 모델을 돌리는‘로컬 AI’열풍이 확산하고 있다.2000년대 초에는 MP3와 동영상 파일을 저장하기 위해 대용량 홈 서버를 만들었고,이후 암호화폐 채굴 붐 때는 GPU를 여러 장 꽂은‘채굴기’가 집으로 들어왔던 것처럼 이제‘미니 데이터센터가’집안으로 들어온 것이다.
쇼피파이 최고경영자(CEO) 토비 뤼트케는 지난달 자신의 집에 설치한 컴퓨터 랙 3개를 공개해 테크업계에서 화제가 됐다.분홍색 LED 조명이 켜진 랙에는 엔비디아가‘궁극의 데스크사이드 슈퍼컴퓨터’라고 홍보하는 고성능 GPU 탑재 델 컴퓨터도 들어 있었다.
로컬 AI 확산은 PC 업체에도 뜻밖의 특수가 되고 있다.애플의‘맥 미니’와‘맥 스튜디오’는 AI 에이전트 개발자들이 선호하는 장비로 떠올랐고,델 역시 홈 AI 커뮤니티에서 수요가 크게 늘었다고 밝혔다.델의 마크 해먼스 수석 엔지니어는 “올해 오픈클로(오픈소스 AI 에이전트 플랫폼)가 등장한 뒤 폭발적인 성장을 봤다”고 했다.
가장 큰 이유는 비용이다.고성능 AI 모델을 클라우드에서 장기간 돌릴 경우 이용료가 빠르게 불어날 수 있어,용과 같이 마작 리치일정 수준 이상 사용하면 직접 장비를 사는 편이 오히려 싸다고 보는 개발자들이 늘고 있다.여기에 일부 개발자들 사이에서는 자신의 AI를 직접 소유하고 통제해야 한다는 인식도 커지고 있다.디 인포에 따르면 향후 정부나 기업이 특정 AI 서비스의 접근을 제한하거나 가격을 올리더라도,올인 구조대 볼트 카지노자체 장비와 모델을 갖고 있으면 외부 정책이나 서비스 변화의 영향을 덜 받을 수 있다는 것이다.
문제는 열과 소음이다.소프트웨어 스타트업 크레이지에그의 히텐 샤 CEO는 자택에 맥 미니와 맥 스튜디오 14대를 포함해 컴퓨터 18대를 두고 있다.그는 “컴퓨터를 돌리면 실내 온도가 화씨 85도,인천 카지노리조트섭씨 약 29도까지 오른다”며 “에어컨을 설치해야 할 것 같다”고 했다.폴란드의 한 테크 컨설턴트 겸 유튜버는 엔비디아 GPU 4대를 홈오피스에서 사용하다 장비가 너무 시끄럽고 방이 지나치게 건조하고 뜨거워지자 결국 다락방으로 옮겼다.
“Finding NoiseAware was a miracle for us. We now have peace of mind that our neighbors have a peaceful neighborhood.”
"Every single unit that we have has NoiseAware. Every single unit that we go into will have NoiseAware. It's our first line of defense."
"We let neighbors know we're using NoiseAware to prevent parties. We want to show them that having great neighborly relationships is a priority for us, and for the whole short-term-rental community."
"I can tell my owners, 'Not only do we have insurance, but we also have guest screening and we have NoiseAware. We have multiple layers of protection for your property."
