지난 12일 수요일, 오호츠크 '동동의 테크타운' 필자인 동동이 서울의 직장인 스터디모임 HFK에서 발표한 내용입니다.
HFK의 김재윤 대표님이 발표 내용을 요약해주셔서 오호츠크 독자들과 공유합니다.
1부는 발표 본편, 2부는 뒷풀이에서 오간 질의응답입니다. 발표자의 말투와 예시를 최대한 살리되, 흐름이 보이도록 소단원으로 재구성했습니다.
현장 강연을 녹취, 요약한 것이라 내용에 틀린 점이 있을 수 있습니다. 외부에 인용하실 때는 숫자나 팩트를 꼭 따로 체크해 주세요.
Part 01발표
AI 산업의 현재와 다음 반년
발표자는 반도체 회사에 있는 실무자이자 스타트업 컨설팅을 함께 하는 사람으로서, 미국·유럽·시애틀 현장에서 최근 만난 개발자·경영진들의 이야기와 자기 회사에서 관찰한 변화를 바탕으로 이야기를 풀었습니다.
01Opening
정부가 처음으로 AI에 제동을 걸다
이제 사업을 시작하면 AI로 먼저 시범 운영을 해보는 게 당연해졌습니다. AI 엔지니어, 운용 엔지니어처럼 기존 SaaS를 대체하는 엔지니어링 분야가 빠르게 크고 있습니다.
그리고 역사상 처음으로 정부가 AI에 제동을 건 일이 있었습니다. Farfalle이 5월에 나왔다가 6월 한 달 내내 정부에 막혀 있다가 이제야 풀렸습니다. 정부와 기업가가 본격적으로 부딪히기 시작한 겁니다.
지금 전 세계 AI에서 가장 힘이 센 사람은 젠슨 황입니다. 그가 가리키는 쪽으로 시장이 움직입니다. 그래픽카드 성장률이나 판매량이 조금이라도 꺾인다는 말이 나오는 순간 곧 거품이 꺼지는 것과 마찬가지라, 젠슨 황은 어떻게든 이 판을 살리고 물건을 팔아야 하는 자리에 있습니다.
그래서 작년에는 에이전트와 로봇을 팔았고, 올해는 나라마다 성격에 맞춘 데이터센터라는 이야기를 앞세워 팔고 있습니다. 삼성이 갤럭시 A와 S를 나눠 파는 것과 비슷하다고 보시면 됩니다.
02Capital & Bubble
훈련 비용은 내려갔는데, 추론 부담이 감당 못 할 정도로 커졌다
2025년부터 AI 거품은 부정할 수 없을 만큼 커졌습니다. 스타트업 리포트로 유명한 메리 미커가 작년에 다시 나서서 방대한 자료를 정리했는데, 요점은 이렇습니다.
- 첫째, 변화 속도가 유례없이 빠릅니다. 인스타그램이 1억 명을 모으는 데 1년 반이 걸렸는데, 챗GPT는 이미 10억 명을 넘겼고 제미나이도 지난주 10억 명 돌파를 발표했습니다.
- 둘째, 역사상 가장 큰 규모의 설비투자가 지금 벌어지고 있습니다.
- 셋째, 그동안은 학습 비용이 문제였는데 올해는 추론 비용이 더 큰 문제가 됐습니다.
추론 비용 자체는 10년 동안 10만 분의 1로 줄었습니다. 그런데 사용량이 그 감소분을 훌쩍 넘어설 만큼 폭증했습니다. 예전 GPT-4o 시절과 비교하면, 딥시크가 촉발한 생각의 사슬 방식 이후 모델들은 한 번 답하는 데 어마어마한 토큰을 씁니다.
분기 자본지출
180조원
5~6개 회사 합산 (FT 보도)
M7 연간 지출
~1,000조원
애플 제외 6개사 기준
앤트로픽 ARR
30조원+
2026 상반기, 전년비 급증
추론 비용
1/100,000
10년간 감소, 그러나 총량은 증가
우버가 처음으로 영업이익을 낸 게 몇 년 되지 않았는데, 앤트로픽이 우버보다 영업이익을 더 낸다는 이야기까지 나옵니다. 이 병목 구간에서 실제로 돈을 번 건 사실상 클로드 코드 하나였던 셈입니다.
아직 산업으로서 성공을 말할 단계는 아닙니다. PC 혁명이 일어나고 나서 페이스북과 유튜브가 나오기까지 5년에서 10년이 걸렸습니다. 2007년 아이폰이 나온 뒤에도 한참이 지나서야 판이 바뀌었습니다. 지금은 하드웨어가 소프트웨어와 AI 모델의 발전 속도를 1년 반에서 2년쯤 뒤에서 쫓아가는 상황이라, 세상이 어떻게 바뀔지 누구도 장담하지 못합니다.
지난주에 중국 오픈소스 모델 Kimi K3가 화제였습니다. 그런데 이 모델을 그래픽카드에 올려놓는 것만으로도 서버 두 대에 최소 20억 원이 듭니다. 게다가 한 질문을 처리하는 동안에는 다른 요청을 받지 못합니다. 순서대로 줄을 세워 처리하니 동시 접속은 열 명이 한계입니다. 백 명을 받으려면 단순 계산으로 200억 원이 필요해지는 셈입니다. GPU가 이 문제를 풀어줄 때까지 앞으로 2~3년은 견디는 수밖에 없습니다.
03Developer Reality
올해 미국 빅테크 기업에서 코드를 손으로 짠 사람은 없었다
발표자가 최근 시애틀에서 메타와 마이크로소프트 개발자들을 만났고, 유럽에서는 최상위 스타트업 인력들을 만났습니다. 여기에 자기 회사 인력까지 다 합쳐서 보니, 올해 코드를 손으로 제대로 짠 사람은 아무도 없었다고 합니다.
마이크로소프트에서 온 분은 이렇게 말했습니다. 1년 동안 팀 전체가 하던 일을 지금은 혼자서 한 달에 끝낸다고요. 생산성 격차가 그만큼 벌어졌습니다.
보수적일 것 같은 반도체 회사도 마찬가지였습니다. 메타에서 파이토치 커널을 개발하던 사람이 와서 이렇게 하면 안 된다고, 자기들은 전부 클로드와 오픈AI로 한다고 말했다고 합니다. 시니어 사이언티스트들조차 이제 코드를 직접 짜지 않습니다.
그럼 코드 리뷰는 어떻게 하나
외국에서는 코드를 넘길 때 설명용 에이전트를 같이 만들어 준다고 합니다. 코드 규모가 사람이 전부 이해하기 어려운 수준이 됐으니, 궁금한 게 있으면 그 에이전트한테 물어보라는 식입니다. 테스트도 AI가 맡는 쪽으로 흐르고 있습니다.
다만 올해 장애 사고가 적지 않게 났습니다. AWS 장애도 그중 하나입니다. 그래서 사람의 개발 역량은 여전히 필요하다는 반론도 나옵니다.
저희 회사도 개인당 계정을 사서 씁니다. 미국 회사들은 대부분 API 크레딧으로 쓰고, 시애틀에서 만난 메타·MS 개발자들은 그냥 테스트 용도로만 한 번에 1000불씩 태우더라고요.
04Engineering Vocab
에이전트 · 하네스 · 루프 · 그래프 엔지니어링
올해 쏟아진 엔지니어링 용어들을 하나하나 뜯어볼 필요는 없습니다. 네 가지만 보겠습니다.
- 첫째, 에이전트 엔지니어링. 모델이 커지고 종류도 많아졌으니 역할별로 개체를 나눠 각자 본업을 맡기자는 겁니다. 대단한 기술이 아닙니다. 대부분은 그냥 역할 문서 한 장을 넣어주는 일입니다. 기획자, 디자이너, 검증자, 전략가처럼 회사 맥락에 맞춘 헌법 같은 문서를 저장해두면 에이전트가 그 문서를 먼저 읽고 움직입니다. 컨텍스트 창이 커진 덕에 가능해졌습니다.
- 둘째, 하네스 엔지니어링. 에이전트들이 너무 많이 일하고 사방으로 번지니, 이들을 하나의 팀으로 묶어 회사 차원에서 관리할 수 있게 만드는 개념입니다.
- 셋째, 루프 엔지니어링. 매번 사람이 승인하는 절차를 줄이려고, 결과가 나올 때까지 스스로 고쳐가며 반복하게 만드는 방식입니다. 토큰을 정말 많이 쓰는 분들은 대개 하네스와 루프를 쓰는 분들입니다.
- 넷째, 그래프 엔지니어링. RAG가 다시 소환되면서, 데이터를 더 정확히 넣고 꺼내기 위한 방법으로 논의되고 있습니다.
이런 것들이 맞물리면서 산업 지형이 실제로 바뀌고 있습니다. 스타트업에서는 그동안 SaaS에 돈 내고 쓰던 것들 상당수를 바이브코딩으로 직접 만들 수 있는 수준까지 왔습니다. 남는 건 대기업 특유의 정치적 맥락이나 SAP급 보안 요구 정도입니다.
05Model Landscape
모델은 통합되고, 모델 안에서 다시 에이전트화된다
예전에는 기본 모델, 추론 모델, 작지만 강한 모델이 다 따로 있었습니다. GPT-3.5, GPT-4o, GPT-4 mini처럼요. 지금은 오픈AI가 GPT-5로, 구글이 제미나이 3.6으로, 앤트로픽이 오퍼스와 페이블로 정리했습니다. 대신 모델 하나 안에 수백 개의 서브 에이전트가 붙어 있는 형태로 바뀌었습니다. 과학 특화, 토론 특화, 코딩 특화 에이전트가 질문에 따라 골라 켜지는 구조입니다.
학습 데이터 쪽을 보면, 사람이 만든 텍스트 데이터는 2년 전에 사실상 바닥났습니다. 그 뒤로는 세 가지 축으로 굴러갑니다.
- 첫째, AI가 만들어낸 합성 데이터.
- 둘째, 영상과 오디오, 물리 시뮬레이션 결과 같은 미디어 데이터.
- 셋째, 사람이 직접 붙이는 라벨링, 즉 정답지입니다.
한국의 이른바 소버린 파운데이션 모델 시도는 대부분 Qwen이나 딥시크의 구조와 가중치를 가져와 1~2% 정도 손보는 수준입니다. 성능이 크게 벌어지려면 앞선 모델이 학습한 양보다 더 많은 양을 새로 학습시켜야 하는데, 한국 규모로는 맨바닥에서 만드는 게 사실상 불가능하다는 게 발표자의 진단입니다.
중국은 왜 오픈소스로 푸는가
오픈AI와 구글, 앤트로픽은 API와 플랫폼으로 돈을 법니다. 그런데 온프레미스 구축이나 파인튜닝이 필요한 엔터프라이즈 시장은 사정이 다릅니다. 여기서는 오픈소스 모델이 필요합니다.
작년까지만 해도 이 자리는 메타가 압도적이었습니다. 지금은 딥시크, 알리바바의 큐원, 키미가 대부분을 차지하고 있습니다. 국내 기업들도 대개 큐원이나 딥시크를 참고해 조합하는 수준입니다.
06Services
올해의 3대 키워드: 영상·오타쿠·바이브코딩
영상 생성
이미지 쪽은 사실상 승부가 났습니다. 지금 격전지는 영상입니다. 사진 200장 분량을 1초 안에 만들어내야 하는 문제인 데다, 음성 립싱크까지 맞춰야 해서 난도가 훨씬 높습니다. 구글의 Veo 계열이 앞서 있지만, 올해는 작년에 발표된 개념들이 여물어가는 시기라고 보시면 됩니다.
컨슈머 AI · 오타쿠 시장
- 오픈클로어의 Poe는 텔레그램 기반 개인 비서 서비스인데, 이 분야에서 처음으로 의미 있는 바이럴을 만들어냈습니다.
리튼 테크놀로지스의 크랙은 웹소설을 읽으면서 대화까지 나누는 플랫폼으로, 일본에서 자리를 잡으며 매출이 크게 늘었습니다.
바이트댄스의 씨댄스는 오타쿠 애니메이션 시장에서 빠르게 크고 있습니다.
지금 인스타그램과 유튜브에 올라오는 영상의 절반 이상이 AI로 만든 것이라는 이야기까지 나옵니다.
바이브코딩
작년까지는 발표자가 전도사처럼 소개하고 다니는 단계였습니다. 이제는 실제로 제품을 만들어 배포까지 가는 도구가 됐습니다. 레퍼런스 몇 개와 PDF 몇 장 넣고 만들어달라고 하면 웬만한 수준은 나옵니다. 체감으로는 개발자가 쓸 때 AI 기여도가 95~99%, 도메인 전문가가 쓸 때는 80~90% 정도입니다.
07Enterprise
기업용 에이전트: 개인은 90% AI 사용, 에이전트 조직 배포는 10% 이하
최근 아폴로 매니지먼트 조사를 보면, 미국에서 업무 중 하나 이상에 AI를 쓴다는 응답이 70~80%대로 나옵니다. 한국은 90~95%까지 왔다고 봐도 될 수준입니다. 그런데 이걸 업무용 에이전트 형태로 배포해서 쓰는 비율은 10%가 채 안 됩니다.
올해의 화두는 기업용 에이전트를 어떻게 잘 쓸 것인가입니다. 조직 차원으로 에이전트를 확장한다는 개념이 하반기의 방향입니다.
미국에서는 텔레마케팅과 문자·메일 발송, 고객 응대 업무가 가장 먼저 대체되고 있습니다. 한국은 개인이 알아서 하는 업무 방식과 외주 관행이 얽혀 있어 속도가 더딥니다.
저의 조언은 이렇습니다.
- 첫째, 팀에서 쓰는 자료를 구글 드라이브든 노션이든 한 곳으로 모으는 것부터 시작하십시오.
- 둘째, 회의록과 음성 파일도 같이 넣어두고, 슬랙에 클로드를 붙여 요약과 할 일 정리를 자동으로 돌리십시오.
- 셋째, 어떤 일을 자동화할 수 있는지, 자료를 어떻게 쌓아두면 좋은지를 AI에게 먼저 물어보는 습관을 회사 차원에서 만드십시오.
주니어 스타의 함정
스타트업에서 이런 도구를 잘 만드는 사람은 대개 똘똘한 주니어 20~30%입니다. 문제는 그다음입니다. 사람들이 하나둘 그 친구에게 일을 부탁하기 시작합니다. 처음에는 재미로 만들던 게 어느새 본업이 되고, 이 친구가 회사를 옮기면 그동안 만들어놓은 도구가 전부 멈춥니다. 개인이 아니라 팀 단위로 굴러가게 데이터를 모아두는 일이 그래서 먼저입니다.
08Korea
한국의 위치: 반도체 메모리와 도파모
한국 정부도 데이터센터 구축에 100조 원 넘게 넣고 있습니다. 다만 작년에 협약한 데이터센터들이 아직 다 들어오지는 않았습니다. 하드웨어 공급이 달려서 시간이 걸립니다. 정치적 이슈 덕에 한국이 오히려 소버린 AI 쪽에서 앞선 자리에 서게 된 면도 있습니다.
반도체 쪽에서 봐야 할 건 결국 메모리입니다. 1테라바이트짜리 모델을 올리려면 그만큼의 HBM이 필요합니다. Kimi K3처럼 덩치 큰 모델이 늘어날수록 이 수요는 계속됩니다. 삼성과 하이닉스를 보실 때는 다른 지표 대신 메모리 수요 하나만 보시면 됩니다.
한국어 쪽에서는 사정이 다릅니다. 중국 오픈소스 모델이 아무리 좋아도 한국어 대응은 약합니다. 이 지점에서 국내의 소버린 모델 시도나 파인튜닝 역량은 여전히 의미가 있습니다. 다만 모델 성능 자체로 중국을 앞지르는 일은 앞으로도 거의 없다고 보셔야 합니다.
09Robotics
로봇이 갑자기 빨라진 이유
로봇에서 중요한 건 두 가지입니다. (1) 기계적으로 얼마나 잘 움직이느냐, (2) 상황에 맞춰 얼마나 빨리 반응하느냐. 최근 로봇이 급격히 좋아진 건 (2)를 AI가 풀기 시작했기 때문입니다.
시뮬레이션으로 물리 계산을 훨씬 빠르게 돌릴 수 있게 됐고, 여기에 하드웨어 기반이 탄탄한 중국이 자동화 공장을 결합하면서 압도적인 결과를 내고 있습니다. 유니트리가 최근 내놓은 모델도 이 흐름의 산물입니다.
10Live Demo
라이브 세션: 오호츠크 편집자의 헥사워즈(Hexawords) 게임 만들기
오호츠크 편집자가 개인 블로그에 올린 'AI로 단어 게임 만들기' 프롬프트를 그대로 가져와 세 단계로 시연했습니다.
- 1차: 프롬프트 한 장만 주고 게임을 만들게 시켰습니다. 결과가 꽤 괜찮았습니다.
- 2차: 전략가, 마케터, 게임 전문가, UX 픽서, 검증가 다섯 페르소나를 각각 에이전트로 나눠 붙였습니다.
- 3차: 이 팀을 하네스로 묶고 루프를 돌려 스스로 고쳐나가게 했습니다.
돌려보니 게임 전문가 에이전트가 판이 너무 길다는 걸 잡아내 11×11 옵션을 추가했습니다. 난이도 조절, 마지막 수 하이라이트, 무르기, 이기는 길 미리보기 같은 기능도 알아서 넣었습니다. 반면 UX는 자기 소관이 아니라며 손대지 않았습니다.
이제는 에이전트를 하나하나 지정할 필요조차 없습니다. 하네스 플러그인을 설치하고 이 폴더 문서로 팀 구성해달라고 하면 알아서 페르소나 문서를 만들어냅니다. 다만 초반에는 한 번씩 읽어보시는 게 좋습니다. 안 잡아주면 산으로 가는 경우가 많습니다.
추천: 황민호(카카오) 님이 쓰신 책 《하네스 엔지니어링》, 그리고 GitHub에 공개된 하네스 플러그인입니다. 클로드 코드든 코덱스든 어느 쪽에서나 설치해 쓸 수 있습니다. 코덱스는 터미널 화면 부담이 덜해서 처음 쓰시는 분께 유리하고, 성능은 클로드 코드와 거의 비슷합니다.
1부 요약 ·
- AI 산업에 거품이 있는 건 분명합니다. 다만 앤트로픽이 클로드 코드를 앞세워 처음으로 우버에 견줄 만한 영업이익을 냈고, 이 산업의 한 축이 실제로 돈이 된다는 걸 보여줬습니다.
- 모델은 하나로 합쳐졌고, 대신 그 안에서 에이전트화가 일어났습니다. 쓰는 쪽도 같은 방식, 즉 에이전트와 하네스와 루프로 옮겨가야 합니다.
- 개인이 쓰는 건 이미 대중화됐습니다. 다음 반년의 문제는 조직 단위로 어떻게 배포하느냐입니다.
Part 02 Q&A
현장에서 나온 질문들
발표가 끝난 뒤 이어진 자유 대화입니다. 참석자들의 실제 업무 맥락(재무, 제조, 컨설팅, 대표 등)에서 나온 질문 위주로 정리했습니다.
Q. 중국 AI 기업들은 오픈소스로 다 풀면서 돈은 어떻게 벌고 있나요?
미국이든 중국이든 아직 손해를 보고 있는 건 마찬가지입니다. 다만 딥시크나 큐원 같은 곳들은 이미 대규모 데이터센터를 갖고 있고, 알리바바와 딥시크 모두 본업에서 나오는 수익이 큽니다. GPU도 이미 확보해둔 게 있어서 여기서 큰돈을 벌지 않아도 된다는 판단이 있는 것 같습니다.
여기에 중국 정부의 지원이 큽니다. 딥시크는 작년 말 중국 공기업이 50% 이상 반드시 써야 한다는 정책이 통과된 것으로 알려져 있고, 사용 방식은 딥시크 API입니다. API는 결국 돈을 받는 사업이니 이걸로 회수합니다.
기업가치로 보면 딥시크 60조 원, 키미 30조 원, 미니맥스 40~50조 원 안팎입니다. 오픈AI와 앤트로픽의 1,000조 원과는 여전히 격차가 큽니다.
Q. 회사에서 200불짜리 크레딧을 받았는데, 재무팀 실무자 입장에서 어떻게 알차게 쓰는 게 맞을까요?
가장 크게 달라지는 건 하네스를 잘 쓰는 것입니다. 앞서 말씀드린 황민호 님의 《하네스 엔지니어링》과 그분이 공개한 GitHub의 Harness-100이 좋은 출발점입니다.
클로드 코드에서 plugin marketplace add로 이 하네스를 설치하고, 내 프로젝트에 맞는 에이전트 팀을 구성해달라고만 하면 알아서 페르소나 문서를 만들어 줍니다. 리서치용 하네스도 있습니다. 오늘 쓴 문서들을 한 폴더에 모아놓고 이 폴더 문서를 바탕으로 팀을 구성해달라고 시작하셔도 됩니다. 초반에는 만들어진 페르소나 문서를 한 번씩 읽어보면서 방향을 잡아주시는 게 좋습니다.
Q. 제조 회사에서 일합니다. 자료가 흩어져 있고 보안 이슈도 커서 사람들을 설득하는 게 정말 어렵습니다. 도입해도 성과는 어떻게 평가해야 하나요?
지금 시점에는 오픈AI와 앤트로픽조차 아직 답을 못 낸 영역입니다. 발표자가 시소(Xiso)에서 컨설팅하며 얻은 감은 세 가지입니다.
- 경영진을 방에 가둬두고 AI로만 소통하게 하는 실험이 가장 효과적입니다. 대표와 경영진이 일주일만 에이전트를 통해 결과를 받아보게 만들면 태도가 바뀝니다.
- 회의록 요약처럼 가장 작은 것부터 시작합니다. 녹음 파일을 드라이브에 올리고 클로드를 붙이면 텍스트 변환부터 요약, 메일 초안까지 나옵니다. 여기서부터 윗사람들이 효용을 느껴야 조직이 움직입니다.
- 보안 문제는 관점이 바뀌고 있습니다. 밖으로 나가는 자료를 AI에게 한 번씩 검증시키는 편이 예전 보안 전문가가 하던 것보다 오히려 낫다는 평이 나오기 시작했습니다. 안 할 이유부터 찾으면 끝이 없다는 게 발표자의 말입니다.
성과 측정 자체는 학계에도 산업계에도 아직 정립된 답이 없습니다. 미국의 실험 결과들이 하반기에 나올 예정이라, 지금부터는 그걸 따라가며 지켜볼 시기입니다.
Q. 인도 오프쇼어 인력과 클로드 크레딧 중 하나를 골라야 하는 상황이 오면, 어떻게 될까요?
이미 시작된 이야기입니다. 재무 조직을 반으로 줄이고 나머지를 인도 서비스로 대체한 회사들에서, 시차와 영어 소통 부담 때문에 결국 담당자가 클로드 앱으로 엑셀 작업을 직접 하는 흐름이 관찰됩니다.
발표자의 관점은 이 고민이 지금이 아니라 최소 5년 뒤에나 유효해진다는 것입니다. PC 가격이 20년 전보다 지금 더 싼 것처럼, 막대한 투자를 회수하는 과정에서 어떤 식으로든 가격은 유지될 겁니다. 구글은 코딩 에이전트 경쟁에서 밀렸지만 앤트로픽과 오픈AI, 중국의 GLM 계열이 경쟁하고 있어 가격이 급격히 꺾일 이유는 없습니다.
그 전에 먼저 닥칠 화두는 소프트웨어 엔지니어의 의미가 무엇이냐입니다. 극단으로 가면 초시니어와 그 결과를 판단할 수 있는 톱티어만 남고 중간이 사라진다는 우려가 현장에서 나옵니다.
Q. 회사 내부에서 제가 개인 업무를 에이전트로 만들었더니 '너 업무 줄었으니 다른 일 하라'는 반응이 왔습니다. 만든 걸 공유해달라는 사람도 있고요. 어떻게 다뤄야 할까요?
(토론)
- 공유는 하되 전체 오픈으로 가십시오. 특정 상급자에게만 넘기면 그 사람 실적으로 흡수될 수 있습니다. 부서 전체에 공개해 크레딧을 명확히 남기셔야 합니다.
- 보상 체계와 붙여야 합니다. 참석자 중 한 곳은 부회장 주도로 워크숍과 경진대회를 열고 1등에게 승진 가점과 200~300만 원 보상을 걸었더니 확산이 시작됐습니다.
- 업무가 줄어드는 게 아니라 총량이 늘어나는 방향으로 흘러가는 게 일반적입니다. 처음부터 그 전제로 설계하시는 편이 낫습니다.
Q. 일반인이 지금 처음 배운다면 챗봇부터인가요, 아니면 바로 코딩 도구로 가는 게 나은가요?
코덱스나 클로드 코드부터 시작하는 편이 낫습니다. 이유는 두 가지입니다.
- 챗봇은 확장 기능이 너무 많아지고 답변도 지나치게 길어지는 경향이 있습니다. 코덱스와 클로드 코드는 내 로컬 문서를 참조하기 때문에 결과 수준이 다릅니다.
- 프롬프트를 잘 쓰는 훈련은 결국 에이전트 문서를 잘 쓰는 훈련과 같습니다. 여기서 시작해야 앞으로의 흐름과 이어집니다.
한국은 아이러니하게도 챗봇을 너무 일찍 잘 쓰기 시작한 탓에, 에이전트나 코드 기반 도구로 옮겨가는 속도가 오히려 미국과 유럽보다 늦다는 지적도 나왔습니다. 챗에서 벗어나야 한다는 표현이 나온 배경입니다.
Q. 교육 담당인데, 저 자신이 뭘 모르는지도 모릅니다. 조직 교육을 어떻게 시작해야 할까요?
(토론)
미국 어떤 회사에서는 1년 전에 자기가 했던 일을 지금 한 달 안에 못 하면 해고 대상이라는 기준까지 나오고 있습니다.
가장 흥미로운 국내 사례로 삼성이 언급됐습니다. 최고 경영진부터 코딩 교육을 시작해 임직원 19만 명을 올해 안에 다 가르치겠다는 계획입니다. 위에서부터 배워야 아래에서 만든 결과를 받아들일 수 있다는 판단인데, 발표자는 이 방향이 맞다고 봅니다. 리더의 이해도가 떨어지면 밑에서 아무리 좋은 시도를 해도 업무가 바뀌지 않기 때문입니다.
Q. 에이전트가 만든 결과를 걸러줄 시니어가 있어야 한다는 이야기, 어떻게 보시나요?
기계가 만든 결과에는 기계 특유의 티가 늘 남아 있어서, 최소 10년 이상 해본 사람이 이걸 걸러내야 합니다. 문제는 중간을 계속 잘라내면 그 시니어를 키울 통로가 사라진다는 것입니다.
2부 요약 · 실무 액션 리스트
- 가장 먼저 팀 자료를 드라이브 한 곳으로 모으고, 슬랙에 클로드를 붙여 요약과 할 일 정리를 자동으로 돌립니다.
- 클로드 코드나 코덱스에 하네스 플러그인을 설치해 팀 페르소나를 자동으로 구성해봅니다.
- 내가 만든 자동화는 부서 전체에 공개합니다. 특정 개인에게 넘기지 않습니다.
- 경영진을 설득하고 싶다면 빅테크 경험자 같은 외부 인사를 초빙해 리더십부터 직접 겪어보게 합니다.
- 가을에 열리는 AX 팀빌딩 프로그램에서 조직 도입을 실습으로 다뤄볼 수 있습니다.
기록 · HFK 세미나 후기 · 2026년 8월 12일 오아시스 덕수궁
발표 동동 · 참석자 발언은 익명 처리했습니다.
* HFK는 서울 덕수궁 옆에 위치한 직장인 스터디 모임입니다. 오호츠크 편집자와 동동 필자도 때론 멤버로, 때론 발표자로 즐겨 찾고 있습니다 *
지난 12일 수요일, 오호츠크 '동동의 테크타운' 필자인 동동이 서울의 직장인 스터디모임 HFK에서 발표한 내용입니다.
HFK의 김재윤 대표님이 발표 내용을 요약해주셔서 오호츠크 독자들과 공유합니다.
1부는 발표 본편, 2부는 뒷풀이에서 오간 질의응답입니다. 발표자의 말투와 예시를 최대한 살리되, 흐름이 보이도록 소단원으로 재구성했습니다.
현장 강연을 녹취, 요약한 것이라 내용에 틀린 점이 있을 수 있습니다. 외부에 인용하실 때는 숫자나 팩트를 꼭 따로 체크해 주세요.
AI 산업의 현재와 다음 반년
발표자는 반도체 회사에 있는 실무자이자 스타트업 컨설팅을 함께 하는 사람으로서, 미국·유럽·시애틀 현장에서 최근 만난 개발자·경영진들의 이야기와 자기 회사에서 관찰한 변화를 바탕으로 이야기를 풀었습니다.
정부가 처음으로 AI에 제동을 걸다
이제 사업을 시작하면 AI로 먼저 시범 운영을 해보는 게 당연해졌습니다. AI 엔지니어, 운용 엔지니어처럼 기존 SaaS를 대체하는 엔지니어링 분야가 빠르게 크고 있습니다.
그리고 역사상 처음으로 정부가 AI에 제동을 건 일이 있었습니다. Farfalle이 5월에 나왔다가 6월 한 달 내내 정부에 막혀 있다가 이제야 풀렸습니다. 정부와 기업가가 본격적으로 부딪히기 시작한 겁니다.
지금 전 세계 AI에서 가장 힘이 센 사람은 젠슨 황입니다. 그가 가리키는 쪽으로 시장이 움직입니다. 그래픽카드 성장률이나 판매량이 조금이라도 꺾인다는 말이 나오는 순간 곧 거품이 꺼지는 것과 마찬가지라, 젠슨 황은 어떻게든 이 판을 살리고 물건을 팔아야 하는 자리에 있습니다.
그래서 작년에는 에이전트와 로봇을 팔았고, 올해는 나라마다 성격에 맞춘 데이터센터라는 이야기를 앞세워 팔고 있습니다. 삼성이 갤럭시 A와 S를 나눠 파는 것과 비슷하다고 보시면 됩니다.
훈련 비용은 내려갔는데, 추론 부담이 감당 못 할 정도로 커졌다
2025년부터 AI 거품은 부정할 수 없을 만큼 커졌습니다. 스타트업 리포트로 유명한 메리 미커가 작년에 다시 나서서 방대한 자료를 정리했는데, 요점은 이렇습니다.
추론 비용 자체는 10년 동안 10만 분의 1로 줄었습니다. 그런데 사용량이 그 감소분을 훌쩍 넘어설 만큼 폭증했습니다. 예전 GPT-4o 시절과 비교하면, 딥시크가 촉발한 생각의 사슬 방식 이후 모델들은 한 번 답하는 데 어마어마한 토큰을 씁니다.
아직 산업으로서 성공을 말할 단계는 아닙니다. PC 혁명이 일어나고 나서 페이스북과 유튜브가 나오기까지 5년에서 10년이 걸렸습니다. 2007년 아이폰이 나온 뒤에도 한참이 지나서야 판이 바뀌었습니다. 지금은 하드웨어가 소프트웨어와 AI 모델의 발전 속도를 1년 반에서 2년쯤 뒤에서 쫓아가는 상황이라, 세상이 어떻게 바뀔지 누구도 장담하지 못합니다.
지난주에 중국 오픈소스 모델 Kimi K3가 화제였습니다. 그런데 이 모델을 그래픽카드에 올려놓는 것만으로도 서버 두 대에 최소 20억 원이 듭니다. 게다가 한 질문을 처리하는 동안에는 다른 요청을 받지 못합니다. 순서대로 줄을 세워 처리하니 동시 접속은 열 명이 한계입니다. 백 명을 받으려면 단순 계산으로 200억 원이 필요해지는 셈입니다. GPU가 이 문제를 풀어줄 때까지 앞으로 2~3년은 견디는 수밖에 없습니다.
올해 미국 빅테크 기업에서 코드를 손으로 짠 사람은 없었다
발표자가 최근 시애틀에서 메타와 마이크로소프트 개발자들을 만났고, 유럽에서는 최상위 스타트업 인력들을 만났습니다. 여기에 자기 회사 인력까지 다 합쳐서 보니, 올해 코드를 손으로 제대로 짠 사람은 아무도 없었다고 합니다.
마이크로소프트에서 온 분은 이렇게 말했습니다. 1년 동안 팀 전체가 하던 일을 지금은 혼자서 한 달에 끝낸다고요. 생산성 격차가 그만큼 벌어졌습니다.
보수적일 것 같은 반도체 회사도 마찬가지였습니다. 메타에서 파이토치 커널을 개발하던 사람이 와서 이렇게 하면 안 된다고, 자기들은 전부 클로드와 오픈AI로 한다고 말했다고 합니다. 시니어 사이언티스트들조차 이제 코드를 직접 짜지 않습니다.
그럼 코드 리뷰는 어떻게 하나
외국에서는 코드를 넘길 때 설명용 에이전트를 같이 만들어 준다고 합니다. 코드 규모가 사람이 전부 이해하기 어려운 수준이 됐으니, 궁금한 게 있으면 그 에이전트한테 물어보라는 식입니다. 테스트도 AI가 맡는 쪽으로 흐르고 있습니다.
다만 올해 장애 사고가 적지 않게 났습니다. AWS 장애도 그중 하나입니다. 그래서 사람의 개발 역량은 여전히 필요하다는 반론도 나옵니다.
에이전트 · 하네스 · 루프 · 그래프 엔지니어링
올해 쏟아진 엔지니어링 용어들을 하나하나 뜯어볼 필요는 없습니다. 네 가지만 보겠습니다.
이런 것들이 맞물리면서 산업 지형이 실제로 바뀌고 있습니다. 스타트업에서는 그동안 SaaS에 돈 내고 쓰던 것들 상당수를 바이브코딩으로 직접 만들 수 있는 수준까지 왔습니다. 남는 건 대기업 특유의 정치적 맥락이나 SAP급 보안 요구 정도입니다.
모델은 통합되고, 모델 안에서 다시 에이전트화된다
예전에는 기본 모델, 추론 모델, 작지만 강한 모델이 다 따로 있었습니다. GPT-3.5, GPT-4o, GPT-4 mini처럼요. 지금은 오픈AI가 GPT-5로, 구글이 제미나이 3.6으로, 앤트로픽이 오퍼스와 페이블로 정리했습니다. 대신 모델 하나 안에 수백 개의 서브 에이전트가 붙어 있는 형태로 바뀌었습니다. 과학 특화, 토론 특화, 코딩 특화 에이전트가 질문에 따라 골라 켜지는 구조입니다.
학습 데이터 쪽을 보면, 사람이 만든 텍스트 데이터는 2년 전에 사실상 바닥났습니다. 그 뒤로는 세 가지 축으로 굴러갑니다.
한국의 이른바 소버린 파운데이션 모델 시도는 대부분 Qwen이나 딥시크의 구조와 가중치를 가져와 1~2% 정도 손보는 수준입니다. 성능이 크게 벌어지려면 앞선 모델이 학습한 양보다 더 많은 양을 새로 학습시켜야 하는데, 한국 규모로는 맨바닥에서 만드는 게 사실상 불가능하다는 게 발표자의 진단입니다.
중국은 왜 오픈소스로 푸는가
오픈AI와 구글, 앤트로픽은 API와 플랫폼으로 돈을 법니다. 그런데 온프레미스 구축이나 파인튜닝이 필요한 엔터프라이즈 시장은 사정이 다릅니다. 여기서는 오픈소스 모델이 필요합니다.
작년까지만 해도 이 자리는 메타가 압도적이었습니다. 지금은 딥시크, 알리바바의 큐원, 키미가 대부분을 차지하고 있습니다. 국내 기업들도 대개 큐원이나 딥시크를 참고해 조합하는 수준입니다.
올해의 3대 키워드: 영상·오타쿠·바이브코딩
영상 생성
이미지 쪽은 사실상 승부가 났습니다. 지금 격전지는 영상입니다. 사진 200장 분량을 1초 안에 만들어내야 하는 문제인 데다, 음성 립싱크까지 맞춰야 해서 난도가 훨씬 높습니다. 구글의 Veo 계열이 앞서 있지만, 올해는 작년에 발표된 개념들이 여물어가는 시기라고 보시면 됩니다.
컨슈머 AI · 오타쿠 시장
리튼 테크놀로지스의 크랙은 웹소설을 읽으면서 대화까지 나누는 플랫폼으로, 일본에서 자리를 잡으며 매출이 크게 늘었습니다.
바이트댄스의 씨댄스는 오타쿠 애니메이션 시장에서 빠르게 크고 있습니다.
지금 인스타그램과 유튜브에 올라오는 영상의 절반 이상이 AI로 만든 것이라는 이야기까지 나옵니다.
바이브코딩
작년까지는 발표자가 전도사처럼 소개하고 다니는 단계였습니다. 이제는 실제로 제품을 만들어 배포까지 가는 도구가 됐습니다. 레퍼런스 몇 개와 PDF 몇 장 넣고 만들어달라고 하면 웬만한 수준은 나옵니다. 체감으로는 개발자가 쓸 때 AI 기여도가 95~99%, 도메인 전문가가 쓸 때는 80~90% 정도입니다.
기업용 에이전트: 개인은 90% AI 사용, 에이전트 조직 배포는 10% 이하
최근 아폴로 매니지먼트 조사를 보면, 미국에서 업무 중 하나 이상에 AI를 쓴다는 응답이 70~80%대로 나옵니다. 한국은 90~95%까지 왔다고 봐도 될 수준입니다. 그런데 이걸 업무용 에이전트 형태로 배포해서 쓰는 비율은 10%가 채 안 됩니다.
미국에서는 텔레마케팅과 문자·메일 발송, 고객 응대 업무가 가장 먼저 대체되고 있습니다. 한국은 개인이 알아서 하는 업무 방식과 외주 관행이 얽혀 있어 속도가 더딥니다.
저의 조언은 이렇습니다.
주니어 스타의 함정
스타트업에서 이런 도구를 잘 만드는 사람은 대개 똘똘한 주니어 20~30%입니다. 문제는 그다음입니다. 사람들이 하나둘 그 친구에게 일을 부탁하기 시작합니다. 처음에는 재미로 만들던 게 어느새 본업이 되고, 이 친구가 회사를 옮기면 그동안 만들어놓은 도구가 전부 멈춥니다. 개인이 아니라 팀 단위로 굴러가게 데이터를 모아두는 일이 그래서 먼저입니다.
한국의 위치: 반도체 메모리와 도파모
한국 정부도 데이터센터 구축에 100조 원 넘게 넣고 있습니다. 다만 작년에 협약한 데이터센터들이 아직 다 들어오지는 않았습니다. 하드웨어 공급이 달려서 시간이 걸립니다. 정치적 이슈 덕에 한국이 오히려 소버린 AI 쪽에서 앞선 자리에 서게 된 면도 있습니다.
반도체 쪽에서 봐야 할 건 결국 메모리입니다. 1테라바이트짜리 모델을 올리려면 그만큼의 HBM이 필요합니다. Kimi K3처럼 덩치 큰 모델이 늘어날수록 이 수요는 계속됩니다. 삼성과 하이닉스를 보실 때는 다른 지표 대신 메모리 수요 하나만 보시면 됩니다.
한국어 쪽에서는 사정이 다릅니다. 중국 오픈소스 모델이 아무리 좋아도 한국어 대응은 약합니다. 이 지점에서 국내의 소버린 모델 시도나 파인튜닝 역량은 여전히 의미가 있습니다. 다만 모델 성능 자체로 중국을 앞지르는 일은 앞으로도 거의 없다고 보셔야 합니다.
로봇이 갑자기 빨라진 이유
로봇에서 중요한 건 두 가지입니다. (1) 기계적으로 얼마나 잘 움직이느냐, (2) 상황에 맞춰 얼마나 빨리 반응하느냐. 최근 로봇이 급격히 좋아진 건 (2)를 AI가 풀기 시작했기 때문입니다.
시뮬레이션으로 물리 계산을 훨씬 빠르게 돌릴 수 있게 됐고, 여기에 하드웨어 기반이 탄탄한 중국이 자동화 공장을 결합하면서 압도적인 결과를 내고 있습니다. 유니트리가 최근 내놓은 모델도 이 흐름의 산물입니다.
라이브 세션: 오호츠크 편집자의 헥사워즈(Hexawords) 게임 만들기
오호츠크 편집자가 개인 블로그에 올린 'AI로 단어 게임 만들기' 프롬프트를 그대로 가져와 세 단계로 시연했습니다.
돌려보니 게임 전문가 에이전트가 판이 너무 길다는 걸 잡아내 11×11 옵션을 추가했습니다. 난이도 조절, 마지막 수 하이라이트, 무르기, 이기는 길 미리보기 같은 기능도 알아서 넣었습니다. 반면 UX는 자기 소관이 아니라며 손대지 않았습니다.
추천: 황민호(카카오) 님이 쓰신 책 《하네스 엔지니어링》, 그리고 GitHub에 공개된 하네스 플러그인입니다. 클로드 코드든 코덱스든 어느 쪽에서나 설치해 쓸 수 있습니다. 코덱스는 터미널 화면 부담이 덜해서 처음 쓰시는 분께 유리하고, 성능은 클로드 코드와 거의 비슷합니다.
1부 요약 ·
현장에서 나온 질문들
발표가 끝난 뒤 이어진 자유 대화입니다. 참석자들의 실제 업무 맥락(재무, 제조, 컨설팅, 대표 등)에서 나온 질문 위주로 정리했습니다.
Q. 중국 AI 기업들은 오픈소스로 다 풀면서 돈은 어떻게 벌고 있나요?
미국이든 중국이든 아직 손해를 보고 있는 건 마찬가지입니다. 다만 딥시크나 큐원 같은 곳들은 이미 대규모 데이터센터를 갖고 있고, 알리바바와 딥시크 모두 본업에서 나오는 수익이 큽니다. GPU도 이미 확보해둔 게 있어서 여기서 큰돈을 벌지 않아도 된다는 판단이 있는 것 같습니다.
여기에 중국 정부의 지원이 큽니다. 딥시크는 작년 말 중국 공기업이 50% 이상 반드시 써야 한다는 정책이 통과된 것으로 알려져 있고, 사용 방식은 딥시크 API입니다. API는 결국 돈을 받는 사업이니 이걸로 회수합니다.
기업가치로 보면 딥시크 60조 원, 키미 30조 원, 미니맥스 40~50조 원 안팎입니다. 오픈AI와 앤트로픽의 1,000조 원과는 여전히 격차가 큽니다.
Q. 회사에서 200불짜리 크레딧을 받았는데, 재무팀 실무자 입장에서 어떻게 알차게 쓰는 게 맞을까요?
가장 크게 달라지는 건 하네스를 잘 쓰는 것입니다. 앞서 말씀드린 황민호 님의 《하네스 엔지니어링》과 그분이 공개한 GitHub의 Harness-100이 좋은 출발점입니다.
클로드 코드에서 plugin marketplace add로 이 하네스를 설치하고, 내 프로젝트에 맞는 에이전트 팀을 구성해달라고만 하면 알아서 페르소나 문서를 만들어 줍니다. 리서치용 하네스도 있습니다. 오늘 쓴 문서들을 한 폴더에 모아놓고 이 폴더 문서를 바탕으로 팀을 구성해달라고 시작하셔도 됩니다. 초반에는 만들어진 페르소나 문서를 한 번씩 읽어보면서 방향을 잡아주시는 게 좋습니다.
Q. 제조 회사에서 일합니다. 자료가 흩어져 있고 보안 이슈도 커서 사람들을 설득하는 게 정말 어렵습니다. 도입해도 성과는 어떻게 평가해야 하나요?
지금 시점에는 오픈AI와 앤트로픽조차 아직 답을 못 낸 영역입니다. 발표자가 시소(Xiso)에서 컨설팅하며 얻은 감은 세 가지입니다.
성과 측정 자체는 학계에도 산업계에도 아직 정립된 답이 없습니다. 미국의 실험 결과들이 하반기에 나올 예정이라, 지금부터는 그걸 따라가며 지켜볼 시기입니다.
Q. 인도 오프쇼어 인력과 클로드 크레딧 중 하나를 골라야 하는 상황이 오면, 어떻게 될까요?
이미 시작된 이야기입니다. 재무 조직을 반으로 줄이고 나머지를 인도 서비스로 대체한 회사들에서, 시차와 영어 소통 부담 때문에 결국 담당자가 클로드 앱으로 엑셀 작업을 직접 하는 흐름이 관찰됩니다.
발표자의 관점은 이 고민이 지금이 아니라 최소 5년 뒤에나 유효해진다는 것입니다. PC 가격이 20년 전보다 지금 더 싼 것처럼, 막대한 투자를 회수하는 과정에서 어떤 식으로든 가격은 유지될 겁니다. 구글은 코딩 에이전트 경쟁에서 밀렸지만 앤트로픽과 오픈AI, 중국의 GLM 계열이 경쟁하고 있어 가격이 급격히 꺾일 이유는 없습니다.
그 전에 먼저 닥칠 화두는 소프트웨어 엔지니어의 의미가 무엇이냐입니다. 극단으로 가면 초시니어와 그 결과를 판단할 수 있는 톱티어만 남고 중간이 사라진다는 우려가 현장에서 나옵니다.
Q. 회사 내부에서 제가 개인 업무를 에이전트로 만들었더니 '너 업무 줄었으니 다른 일 하라'는 반응이 왔습니다. 만든 걸 공유해달라는 사람도 있고요. 어떻게 다뤄야 할까요?
(토론)
Q. 일반인이 지금 처음 배운다면 챗봇부터인가요, 아니면 바로 코딩 도구로 가는 게 나은가요?
코덱스나 클로드 코드부터 시작하는 편이 낫습니다. 이유는 두 가지입니다.
한국은 아이러니하게도 챗봇을 너무 일찍 잘 쓰기 시작한 탓에, 에이전트나 코드 기반 도구로 옮겨가는 속도가 오히려 미국과 유럽보다 늦다는 지적도 나왔습니다. 챗에서 벗어나야 한다는 표현이 나온 배경입니다.
Q. 교육 담당인데, 저 자신이 뭘 모르는지도 모릅니다. 조직 교육을 어떻게 시작해야 할까요?
(토론)
미국 어떤 회사에서는 1년 전에 자기가 했던 일을 지금 한 달 안에 못 하면 해고 대상이라는 기준까지 나오고 있습니다.
가장 흥미로운 국내 사례로 삼성이 언급됐습니다. 최고 경영진부터 코딩 교육을 시작해 임직원 19만 명을 올해 안에 다 가르치겠다는 계획입니다. 위에서부터 배워야 아래에서 만든 결과를 받아들일 수 있다는 판단인데, 발표자는 이 방향이 맞다고 봅니다. 리더의 이해도가 떨어지면 밑에서 아무리 좋은 시도를 해도 업무가 바뀌지 않기 때문입니다.
Q. 에이전트가 만든 결과를 걸러줄 시니어가 있어야 한다는 이야기, 어떻게 보시나요?
기계가 만든 결과에는 기계 특유의 티가 늘 남아 있어서, 최소 10년 이상 해본 사람이 이걸 걸러내야 합니다. 문제는 중간을 계속 잘라내면 그 시니어를 키울 통로가 사라진다는 것입니다.
2부 요약 · 실무 액션 리스트
기록 · HFK 세미나 후기 · 2026년 8월 12일 오아시스 덕수궁
발표 동동 · 참석자 발언은 익명 처리했습니다.
* HFK는 서울 덕수궁 옆에 위치한 직장인 스터디 모임입니다. 오호츠크 편집자와 동동 필자도 때론 멤버로, 때론 발표자로 즐겨 찾고 있습니다 *