즉시성의 마법

최근 Tiro: Your note-taking copilot을 만들면서 '기술력'의 의미에 대해 고민하게 됐다. 보통 기술력이라고 하면 복잡한 시스템이나 높은 성능, 가용성(장애 없이 정상 작동하는 정도)을 떠올리기 마련이다. 하지만 웹과 앱 세계에서는 종종 간과하는, 그러나 실제로는 높은 기술력을 요구하는 요소가 있다. 바로 즉시성이다.

빠른 로딩 속도와 낮은 지연 시간은 겉으로 보기에 단순해 보일 수 있지만, 실제로 구현하기란 결코 쉽지 않다. 내가 원하는 것​이 클릭하자마자 바로 뜨는 경험. 이는 Obsidian, Google Search, Zed, Apple Notes, Superhuman, Perplexity, Spotify 같은 앱들에서 느낄 수 있다.

Spotify의 재생 지연 시간playback latency은 265ms에 불과하다. 이는 재생 버튼을 누른 후 첫 음악이 들리기까지의 시간이다. 네트워크 전송, 압축 해제, 복호화 과정을 모두 거치는데도 사람이 대화하는 지연 시간인 300ms보다 짧다. 내 Mac에서 Spotify를 켜고 노래를 선택하면 즉시 내 에어팟에서 음악이 나온다. 마법같은 일이다.

반대 사례도 있다. Notion은 답답함의 결정체다. 떠오르는 생각을 바로 내려적고자 앱을 켜면 한참이나 빙글 돌아가는 로딩 바를 보고 있어야 한다. 이 답답함에 회사에서 Notion을 사용하면 안되는 이유 12개조 논제를 제시하며 다른 문서 워크스페이스 툴 이전을 진행한 적도있다. (Evernote는 더 심각하니 말도 꺼내지 말라)

Obsidian을 보라. 내 Mac에서 Obsidian 아이콘을 누르면? 곧바로 내 생각을 내리 적을 수 있다. Ivan Zhao는 내가 존경하는 기업가이고 그의 여정은 내 롤모델 첫 순위에 자주 등장한다. 하지만 나중에 그를 만나면 Notion이 나에게서 앗아간 시간들에 대해 항의하리라.

그런 의미에서 베타 버전에 있는 우리 Tiro는 아직 많이 부족하다. 필요할때 녹음을 시작하는 여정이 길고, 녹음 버튼을 누르고 첫 받아쓰기 결과가 뜨기까지 3초가 넘게 걸린다. 사용자 입장에선 영원과도 같은 시간이다.

최근 팀의 Yeoul이 Vercel Edge 서버 호스팅을 워싱턴에서 서울로 옮겨주면서 상황이 많이 나아졌다. 하지만 곧바로 새로운 고민이 생겼다. 독일에 있는 우리 유저들은 어떨까? 그들에겐 우리가 겪었던 문제가 그대로겠지.

최근 구독을 시작한 Hey email의 사례가 떠오른다. 너무 느린 속도 때문에 무료 체험 기간의 끝까지 깊은 고민을 했다. Basecamp의 Hey는 클라우드를 사용하지 않아 서버 확장이 느리고, 아시아엔 아예 서버가 없다. Reddit을 찾아보니 싱가포르에 사는 한 유저가 강한 불만을 제기했는데 "계획이 없고 VPN을 쓰라"고 답변을 받았다고 한다(Basecamp는 product roadmap을 공개하지 않는 제품 철학이 있다. Jason Fried의 다음 글을 읽어보라: Promise not to promise). 그 유저의 말 한마디 한마디가 정말 공감됐다. @hey.com이라는 멋진 주소 때문에 참았지만, trial 기간의 끝무렵에 아시아 레이턴시가 40%(여전히 느림) 개선되지 않았다면 결국 결제하지 않았을 것이다.

Tiro의 지연 시간 경험은 어떻게 개선할 수 있을까? 곧 한 번 로그인하면 1년간 사이트 접속 즉시 핵심 동작에 접근할 수 있도록 바꿀 것이고, STT Provider를 지연 시간이 250ms 수준으로 작은(사람 대화보다 빠른) 업체로 이전할 것이다. 하지만 우리의 제한된 자금력과 시간을 고려했을때 이렇게 물리적이고 화학적인 방식으로만 문제를 푸는데에는 언제나 한계가 있을 수밖에 없다.

문득 자판기가 떠올랐다. 자판기도 실제로는 꽤 느리다. 그런데 왜 덜 답답하게 느껴질까? 버튼을 누르면 소리가 나고, 기계가 움직이는 게 보이니까. 만약 자판기가 완전히 방음된 블랙박스였다면 아무도 음료를 사 마시지 않았을 것이다.

여기서 힌트를 얻었다. Tiro도 이런 식의 인터랙션을 줄 수 있지 않을까? 실제 처리 속도는 그대로지만, 뭔가 진행되고 있다는 걸 보여주는 거다. 음성 파형을 실시간으로 보여준다거나, 처리 과정을 시각화하는 방법 등이 떠오른다.

<Alchemy: The Surprising Power of Ideas That Don't Make Sense>에서 말하는 것처럼, 납을 금으로 바꾸는 일은 논리가 아닌 심리의 영역에서 일어난다. 10배 더 성능이 좋거나 10배 더 저렴한 제품은 만들기 어렵다. 하지만 10배 더 귀여운 제품은 만들 수 있다. 마찬가지로 지연 시간을 어떻게 개선할지가 아니라 유저의 지연시간 경험을 어떻게 개선할지에 답을 해보고 싶다.

Most people make the mistake of thinking design is what it looks like, People think it's this veneer – that the designers are handed this box and told, 'Make it look good!'

That's not what we think design is. It's not just what it looks like and feels like.

Design is how it works.

- Steve Jobs, New York Times Interview