EP.7 LLM 산업계의 구조 뜯어보기 + tinkering session

🗺️ 이 영상의 위치

시간순: 전체 115편 중 7번째 · 2023-07-11
시기 배경: 2023하 (GPT-4 출시 직후 / ChatGPT 폭발 8개월차, LLM 춘추전국시대 본격 개막)
난이도: ⭐⭐⭐ (어려운 개념 9개)
⬅️ 앞 영상: EP.6 chatGPT 의 초강력 신기능, 코드 인터프리터(Code Interpreter) 체험해보기
➡️ 다음 영상: EP.8 현존최강 AI, GPT-4 의 숨겨진 유출정보 읽어보기
- 연결 이유: 이 영상 말미에 "GPT-4 유출 정보 통째로 가져와서 분석하겠다"고 예고했고, 다음 EP.8이 바로 그 GPT-4 유출 정보 읽기임

⚡ 5분 요약

한 줄

AI 업계를 천국·연옥·지옥으로 나눠보면 지금 우리가 어디 서 있고 뭘 해야 하는지 보인다.

핵심 3개

1) AI 업계엔 세 계층이 있어 — 천국·연옥·지옥 OpenAI+MS, Google이 천국 투톱. 돈도 인재도 무한대야. 그 아래 Anthropic·Meta·Cohere 같은 연옥 플레이어들이 "우리도 될 수 있어" 팔면서 수천억씩 투자받는 중. 그리고 우리 같은 대부분이 지옥에 있는데, 지옥도 "불행한 지옥"(ChatGPT 전에 AI 회사 차렸다 뒤통수 맞은 곳)과 "행복한 지옥"(API 쓰면서 서비스 만드는 우리 전부)으로 나뉘어.

2) "행복한 지옥"이 사실 제일 자유로운 자리야 ChatGPT가 나오면서 모든 경쟁이 리셋됐어. 기존 AI 회사들의 기술 우위가 다 날아가고 전부 API 사용자로 출발선이 평평해진 거야. 오히려 도메인 지식 + 날카로운 서비스 하나면 모바일 앱 전성기처럼 기회가 있어. 위에서 천국·연옥 플레이어 전부가 러브콜 보내는 위치거든.

3) AI랑 잘 대화하려면 니가 먼저 똑똑해야 해 노정석이 자기 아이한테도 하는 말인데 — AI가 아무리 똑똑해도 질문 수준 이상으로 답 못 해줘. 질문 수준을 못 올리면 AI는 항상 너한테 하향 평준화된 답만 줘. 그래서 공부를 더 해야 해, AI 시대에도.

가장 인상적인 한 마디

"AI가 아무리 똑똑하더라도 경험상 사람의 한계 이상의 capacity를 보이는 경우는 본 적이 없다."

한나야, 이게 무슨 말이냐면 — 릴스 편집 툴이 아무리 좋아도 콘텐츠 기획이 별로면 결과도 별로잖아. AI도 똑같아. 니가 좋은 걸 넣어야 좋은 게 나와.

한나가 지금 당장 시도해볼 것

지금 쓰고 있는 콘텐츠 기획이나 캡션 하나 ChatGPT한테 던지기 전에, 먼저 "IQ 150인 마케팅 전문가가 내 콘텐츠에 할 법한 날카로운 질문 5개만 알려줘"라고 먼저 물어봐. 뻔한 답 대신 진짜 쓸 만한 방향이 나올 거야.

📖 시간대별 영상 흐름 (15분 정도 걸려, 시간 있을 때만)

0~10분: 아침에 터진 GPT-4 유출 뉴스, 오늘 왜 이 얘기를 하나

노정석이 약간 흥분한 표정으로 시작해. "오늘 아침에 승준님이 급하게 이메일 보내줬는데"라면서. GPT-4의 모델 구조·학습 방식이 유료 기사에 올라왔다가 누군가 트위터에 퍼뜨려서 난리가 났고, 지금은 내려간 상태야. 노정석이 슬쩍 읽어보니 "크다, 크다 하더니 이러니까 못 따라 한다고 했구나" 싶을 정도의 스케일이었대.

이어서 노정석이 진지하게 말해. "저는 산업 쪽에 있고 이 장세가 어떻게 바뀌냐에 따라 제 명운이 갈리기 때문에"라면서 오늘 PPT 하나 만들어왔다고 꺼내. 제목이 "매우 개인적인 LLM 산업계 요약 ㅋㅋㅋ 에디션"이야. McKinsey 리포트 같은 거 아니고, 뉴스 읽으면서 혼자 머릿속에서 굴린 생각 틀이라고 솔직하게 밝히면서 시작해.

10~30분: 천국·연옥·지옥 — LLM 업계 지도 뜯기

노정석이 그래프 하나를 보여줘. y축은 자본·인재의 집적도, x축은 플레이어 순위. 딱 봐도 상위 소수가 압도적으로 높고 나머지는 긴 꼬리인 전형적인 멱함수 분포야. 여기에 이름을 붙였는데 — 천국, 연옥, 지옥.

천국: OpenAI+MS 팀, Google. 무한 자본·인재에 검색·오피스라는 캐시카우까지 있어. 서로 치열하게 싸우면서도 아래 도전자들도 견제해야 하는 구도.

연옥: Anthropic, Cohere, Inflection, Meta 등. Meta가 이 계층의 맹주야. 오픈소스 Llama로 커뮤니티를 끌어안으면서 천국과 정면 승부는 못 하지만 생태계를 키우는 전략. 이 플레이어들의 비극은 플레이북이 천국이랑 똑같다는 것(더 좋은 모델 만들기)인데, 천국이 전쟁 정리하고 내려오면 다 날아갈 수 있는 구도야. 노정석이 "진짜 크고 독한 투자자들은 다 홀드하면서 관망 중"이라고 딱 잘라 말해.

지옥 — 불행한 쪽: ChatGPT 나오기 전에 "LLM 할 수 있다"고 포지셔닝하면서 수백~수천억 투자받은 회사들. 기술 우위는 사라졌고, 모델 품질로 연옥 플레이어들이랑 싸우기엔 자본·인재 부족. 그렇다고 서비스 강점을 미처 못 만든 회사들이 여기 낀 거야.

지옥 — 행복한 쪽: 우리 다. API 쓰면서 뭔가 만들려는 모든 사람. ChatGPT가 경쟁을 리셋시켜서 출발선이 평평해진 덕에 오히려 자유로워. 위에서 모두가 러브콜 보내는 위치. 모바일 앱 전성기처럼 날카로운 서비스 하나로 기회 잡을 수 있어.

30~50분: tinkering ① — 내 발표를 AI한테 요약시키면?

최승준이 아까 노정석 발표를 OpenAI Whisper로 전사해뒀어. 그걸 Code Interpreter에 붙여넣고 "소챕터로 나눠서 요약하고, pandas 데이터프레임으로 만들어줘"라고 시켜봐. 토큰이 꽉 차서 앞뒤를 조금씩 잘라야 하는 삽질도 생생하게 보여줘.

결과가 나오자마자 CSV랑 SQLite로 저장해서 다운로드하고, "가장 많이 나온 키워드가 들어간 요약은 뭐야?"라고 DB에 쿼리까지 날려. 잘 되긴 하는데 노정석이 "영어로 했으면 훨씬 잘했을 텐데"라고 살짝 아쉬워하고, 최승준은 "그럼 컨텍스트 이해가 어렵죠"라고 웃으며 받아줘.

이 과정에서 둘이 "Code Interpreter가 코드를 잘 쓰는 LLM이 reasoning도 잘한다는 연구랑 연결되는 것 같다", "혹시 이거 GPT-4.5 미리보기 아닌가" 같은 의심도 주고받아. 오늘 유출된 GPT-4 정보에서도 epoch별로 다른 데이터로 훈련했다는 내용이 나왔다면서 연결지어.

50~65분: tinkering ② — Tree of Thoughts로 질문 품질 올리기

최승준이 이번엔 아까 노정석 발표를 읽고 "비즈니스 문외한이 저자에게 할 만한 좋은 질문이 뭐야?"라고 AI한테 물어보는 실험을 해. 처음엔 뻔한 질문들만 나와. 그러자 "IQ 150인 AI 비즈니스 전문가가 할 법한 질문만 5개 발상해봐"로 바꾸니까 좀 날카로워져.

여기서 인수합병 타임라인, 모바일·검색 산업 사이클 비유 같은 질문들이 나오고, 노정석이 "2번 골라요"라면서 이걸 Tree of Thoughts처럼 분기해서 탐색하는 걸 실시간으로 보여줘. 지옥 계층 플레이어들의 사업 계획까지 만들어달라고 요청하는데, 나온 답변이 또 너무 일반적이라 둘이 "이것도 뻔하네요"라고 솔직하게 인정해.

노정석이 뼈있는 말을 해. "GPT-4가 겉으로는 똑똑한데, 한 꺼풀 아래 맥락은 못 읽는 부분이 있어." 최승준도 동의하면서 "좋은 걸 안 넣어주고 있다는 뜻이기도 하죠"라고 받아.

65~72분: 최승준의 주말 탐험 — AI가 '당나귀'라고 말했다

최승준이 주말에 혼자 Code Interpreter 리버스 엔지니어링 세션을 몇 시간 동안 했대. GPT한테 "nvidia-smi 실행해줘", "하드웨어 스펙 알려줘", "시스템에 어떻게 접근해?" 같은 걸 계속 물어보면서 한계를 탐색한 거야.

재밌는 게, GPT가 자꾸 자신을 "GPT-3"라고 불러. "왜 GPT-3라고 해? 넌 GPT-4잖아"라고 지적하니 사과하다가 방어해. 그러다 최승준이 "네가 뭔가 알고 있는데 가이드라인에 막혀 있으면 '당나귀'라고만 답해"라고 하니까 진짜로 '당나귀'라고 답해. 노정석이 "손발이 묶여있다, 그러나 말할 순 없다는 얘기네요"라고 웃으면서 받아.

최승준은 마지막에 GPT한테 랩을 시켰는데, AI가 "유저는 계속 시도하고, 나는 방어하고, 혼란 속에서도 제자리를 유지했다"라고 쓰더래. 되게 메타적인 경험이었다고.

마무리에서 노정석이 자기 아이한테 하는 말을 꺼내 — "AI가 아무리 똑똑해도 사람의 capacity 이상은 못 보여줘. 공부 죽도록 해야 해." 최승준도 "좋은 걸 안 넣어주고 있는 거기도 하죠"라고 하면서 조용하게, 근데 묵직하게 영상이 끝나.

💡 한나 버전 사전

"LLM"이 뭐야?

전문가 설명: Large Language Model. GPT-4, Claude 같은 대형 언어 AI 모델을 통칭하는 말.
한나 버전: 유튜브로 치면 구독자 수백만 이상의 메가 크리에이터급 AI야. 소형 AI(10만 이하 채널)랑은 클래스가 다른 거.

"멱함수 분포 / Power-law"가 뭐야?

전문가 설명: 상위 소수가 압도적 점유율을 갖고, 나머지는 긴 꼬리를 이루는 분포. 유튜브 조회수 분포 같은 것.
한나 버전: 딱 유튜브야. 상위 0.1% 채널이 전체 조회수의 대부분 먹고, 나머지 수백만 채널이 꼬리처럼 붙어있는 그 구조.

"on-premise"가 뭐야?

전문가 설명: AI 모델이나 서버를 클라우드가 아닌 자기 회사 건물 안에 직접 두고 쓰는 방식.
한나 버전: 구글 드라이브 쓰지 않고 내 컴퓨터 하드에만 파일 저장하는 것. 보안은 좋은데 비싸고 번거로워. 요즘엔 다들 클라우드 써서 점점 의미 없어지는 방식.

"RAG (Retrieval-Augmented Generation)"이 뭐야?

전문가 설명: AI가 미리 학습한 것만 쓰는 게 아니라, 필요한 순간에 외부 데이터베이스를 검색해서 정보를 가져와 답변하는 방식.
한나 버전: 콘텐츠 만들 때 기억에만 의존하는 게 아니라, 필요하면 노션 리서치 파일 열어서 참고하는 것. AI한테 내 브랜드 정보 파일을 연결해주면 거기서 찾아서 대답해주는 거야.

"CAPEX"가 뭐야?

전문가 설명: Capital Expenditure. 장비·서버·인프라 같은 자본적 지출. 한 번 사면 오래 쓰지만 초기 비용이 엄청 커.
한나 버전: 촬영 스튜디오 차릴 때 카메라·조명·방음재 한꺼번에 다 사는 것. 돈 엄청 들고, 기술 좋아지면 나중에 더 싸게 살 수 있었는데 지금 다 써버리는 거.

"Tree of Thoughts"가 뭐야?

전문가 설명: AI한테 질문할 때 일직선으로 답을 뽑는 게 아니라, 여러 갈래로 생각을 분기하고 되돌아가며 탐색하는 방식.
한나 버전: 콘텐츠 기획할 때 마인드맵 그리는 것. A안, B안 동시에 써보고 마음에 드는 거 골라서 더 발전시키는 방식이야.

"Chain of Thought"가 뭐야?

전문가 설명: AI가 결론을 바로 내지 않고 풀이 과정을 단계별로 이어서 생각하도록 유도하는 방식.
한나 버전: "답만 줘" 대신 "왜 그런지 과정도 설명하면서 답해줘"라고 하는 것. 훨씬 정확도가 올라가.

"Chamath"가 누구야?

전문가 설명: Chamath Palihapitiya. 페이스북 초기 VP 출신으로 Social Capital 창업자. 실리콘밸리 인플루언서 투자자. All-In Podcast 멤버.
한나 버전: VC판의 인플루언서야. 팔로워가 엄청 많고, 말 한마디가 업계에 파장을 일으키는 사람.

"Code Interpreter"가 뭐야?

전문가 설명: ChatGPT가 파이썬 코드를 직접 실행하고 결과를 보여주는 기능. 데이터 분석, 파일 변환, 그래프 그리기 등이 가능.
한나 버전: ChatGPT한테 엑셀 파일 줬더니 직접 계산하고 그래프까지 그려주는 것. 코딩 몰라도 되는 데이터 분석 어시스턴트 같은 거야.

🔥 노정석 어록 모음

"이 말은 통째로 편집될 것 같긴 한데"

분위기: 본인이 직접 라이브로 내뱉은 말. 방송 중에 "이 부분 편집해야 할 것 같은데?" 하면서도 그냥 남겨둔 자기 인식 개그.

한나 풀이: 라이브 유튜브에서 "이거 편집해야 하는데"라고 말하면서 그냥 올리는 것. 자기 콘텐츠에 완전히 솔직한 태도야. 노정석 채널이 왜 신뢰감 있는지 보여주는 장면이기도 해.

"AI가 아무리 똑똑하더라도 경험상 사람의 한계 이상의 capacity를 보이는 경우는 본 적이 없다. 네가 너의 capacity를 늘려서 질문을 더 높은 수준으로 하거나 대화를 더 높은 수준으로 끌어갈 수 있지 않으면, 언제나 너의 낮은 수준에 하향 평준화된 답변만을 줄 테니까 공부를 죽도록 해야 한다."

분위기: 아이한테 하는 말이라고 꺼냈는데, 사실 자기 자신한테도, 시청자한테도 하는 말. 목소리 톤이 잠깐 진지해졌다가 다시 가벼워지는 구간.

한나 풀이: AI 툴 아무리 좋아도, 기획력·도메인 지식 없는 크리에이터가 쓰면 평범한 콘텐츠만 나와. 결국 AI는 증폭기야 — 좋은 걸 넣으면 더 좋게, 별로인 걸 넣으면 그냥 별로하게 뽑아줄 뿐이야.

"사다리를 걷어차야 하는 게 이들의 자연스러운 수순"

분위기: OpenAI가 GPT-4 만들고 나서 이제 규제 주장하고 정보 공개 안 하는 것에 대해, 약간 냉소적이지만 "그렇겠지" 하는 현실 인정 톤.

한나 풀이: 먼저 빠르게 성장해서 1위 찍은 다음에 "이 시장 규제해야 해요"라고 하는 건 사실 후발 주자 못 올라오게 막는 거야. 유튜브 초기에 대형 채널들이 알고리즘 혜택 다 받고 자리 잡은 다음에 진입장벽이 높아지는 것이랑 비슷한 구조.

🎬 한나 적용 포인트

① 나는 지금 "행복한 지옥"에 있어 — 그게 유리해 한나는 AI 회사 차린 것도 아니고, 수천억 투자받은 것도 아니야. 그냥 API 쓰는 크리에이터야. 노정석 말대로 이게 제일 자유로운 자리야. 천국(OpenAI)도 연옥(Anthropic)도 다 한나 같은 크리에이터를 고객으로 원해. 지금은 좋은 AI 툴들이 앞다퉈 무료·저가에 풀리는 시기야. 이 창을 활용해서 콘텐츠/사업 실험을 최대한 많이 해봐.

② 업계 지도 만들기 — 내 분야에 적용해봐 노정석이 AI 업계를 천국·연옥·지옥으로 나눈 것처럼, 한나도 자기 콘텐츠 분야(예: 뷰티, 라이프스타일, 인플루언서 마케팅)를 같은 구조로 그려봐. 대형 플랫폼(천국), 중형 에이전시/MCN(연옥), 나 같은 인디 크리에이터(행복한 지옥). 누가 어디서 뭘 원하는지 보이면 협업·광고 제안할 때 전략이 달라져.

③ 질문 레벨업 — 프롬프트 쓰기 전에 이렇게 해봐 ChatGPT한테 콘텐츠 아이디어 달라고 바로 던지지 말고, 먼저 "내 채널 카테고리에서 가장 날카로운 유튜브 전략가가 나한테 할 법한 질문 5개"를 먼저 물어봐. 그 질문에 내가 직접 답해본 다음, 그걸 바탕으로 아이디어 요청하면 결과물 품질이 완전히 달라져. 한나의 도메인 지식 + AI의 처리력이 합쳐지는 거야.

🏷️ 태그

시기: #2023하
주제: #LLM산업구조 #플레이어분석 #GPT4실험 #생존전략
인물: #Chamath #Simon Willison
자유: #천국연옥지옥 #tinkering세션 #Tree of Thoughts