AI가 작아지기 시작했다.

구글이 AI를 6분의 1로 줄였다. 정확도는 그대로다. 그 말이 뭘 의미하는지, 아직 실감 못 한 사람이 많다.

지금까지의 AI는 무겁다. 서버가 필요하다. 전기가 필요하다. 클라우드가 필요하다. 스마트폰 앱이 AI를 쓴다는 건, 사실 데이터센터에 신호를 보내 답을 받아오는 것이다.

구글이 2026년 3월 24일, TurboQuant를 공개했다. AI의 메모리 사용량을 6배 줄이는 압축 알고리즘. 정확도 손실 없이.

6배가 얼마나 큰가

지금 스마트폰 최고급 모델의 RAM은 12~16GB. 대형 AI 모델은 그 몇십 배가 필요하다. 그래서 서버에 있다. 그래서 인터넷이 필요하다.

TurboQuant가 AI를 6배 가볍게 만들면, 지금 서버에서만 돌아가던 AI가 기기 안으로 들어올 수 있다.

인터넷 없이. 지연 없이. 조용히.

2년 전, 음성 인식은 클라우드에 있었다. 지금, 애플 시리는 기기 안에서 돌아간다. 느껴지는 차이: 더 빠르다. 인터넷 꺼도 된다.

AI도 같은 경로를 걷는다. 클라우드 → 기기. 무겁다 → 가볍다. 느리다 → 즉각이다.

구글이 알고리즘을 공개한 이유는 하나다. 다음 AI는 서버에 없다는 것.

AI가 기기 안에서 돌아간다는 건, 촬영 순간에 AI가 개입할 수 있다는 뜻이다.

지금은 찍은 다음, 서버에 보내고, 결과를 받는다. TurboQuant 이후 세대는 찍는 순간, 기기 안에서 처리한다. 서버 없이. 업로드 없이. 기다림 없이.

찍으면, 완성. 그 말이 지금보다 더 문자 그대로가 된다.

AI가 강해지는 방향은 두 가지다. 더 크게. 더 작게.

지금까지는 “더 크게"가 이겼다. GPT-4, Gemini, Claude — 모두 더 많은 파라미터, 더 많은 메모리, 더 큰 서버.

TurboQuant는 반대 방향을 민다. 같은 성능, 6분의 1 크기.

미래는 하나의 방향으로만 오지 않는다. 다음 AI 혁명은 서버실이 아니라, 당신 손 안에서 일어날 수 있다.

📎 출처