Full Stack
& AI▲ 만들다 막힌 지점과 풀어낸 방법의 기록
26강을 관통한 네 갈래를 되짚고, 상식을 손에 쥔 지금 실제로 어디서부터 손대면 되는지 현실적인 순서를 그린다.
4강에서 위치만 찍어두고 미뤄뒀던 그 합성 공고를 다시 꺼낸다. 24강까지 배운 걸 그대로 대입해, 이번엔 한 줄씩 뜻까지 채운다.
22강까지 그린 파이프라인 위에 네 직무를 자리 앉힌다. 이름이 뒤섞여 보이는 이유와, 회사마다 무게가 갈리는 이유를 본다.
21강의 서빙과 22강의 데이터 파이프라인을 하나의 순환 고리로 잇는다. 모델은 배포하고 끝이 아니라는 것, 그리고 이 모든 과정에 돈이 어디서 드는지를 본다.
21강은 이미 학습된 모델을 서비스로 만드는 법을 봤다. 이번엔 반대편이다. 그 모델이 배운 데이터는 애초에 어디서 와서 어떻게 정제되는가.
학습이 끝난 모델은 그 자체로 서비스가 되지 않는다. 학습과 추론을 가르고, API 호출 한 번이 실제로 무슨 일을 하는지 그림으로 본다.
17강의 문제 제기, 18강의 임베딩, 19강의 벡터DB를 한 줄로 잇는다. RAG 전체 흐름을 완성하고, 검색을 넘어 도구를 쥐는 에이전트까지 본다.
18강에서 만든 좌표를 수백만 개 저장하고, 질문마다 가장 가까운 것들을 빠르게 찾아내는 창고. 일반 데이터베이스와 무엇이 다른지 연다.
17강이 던진 문제, 단어가 달라도 뜻이 같은 문서를 어떻게 찾나. 문장을 숫자 좌표로 바꿔 거리로 재는 법을 연다.
14강의 파인튜닝 한계와 15강의 컨텍스트 윈도우가 여기서 만난다. 회사 내부 문서를 모델이 어떻게 알게 만드는지, 그 첫 조각을 연다.
같은 모델인데 왜 누구는 좋은 답을 받고 누구는 못 받나. 12~15강에서 본 모델의 작동 방식으로 프롬프트가 왜 이렇게 중요한지를 설명한다.
숨겼는데 경고가 안 사라졌다. ul 을 줬는데 ul 이 아니라고 했다. 도구가 맞았고 내가 틀렸다. 다만 하나는 알면서 안 고쳤다.
14강 끝에서 미뤄둔 질문. 모델이 왜 가끔 자신 있게 틀린 말을 하는지, 그리고 한 번에 읽을 수 있는 글의 길이가 왜 유한한지를 같이 본다.
카드 상세의 개인 맞춤 분석은 외부 AI를 한 번도 부르지 않는다. 문장 조각 124개와 가중치 규칙만으로 수천 가지 결과를 만든다. 그리고 같은 사람은 언제나 같은 결과를 받는다.
13강에서 GPT 의 P 를 사전학습이라 미뤄뒀다. 모델이 어떻게 두 단계를 거쳐 지금의 챗봇이 되는지, 사전학습과 파인튜닝을 가른다.
12강에서 다음 토큰의 확률만 본다고 했다. 그 확률을 계산할 때 어떤 토큰을 더 볼지 정하는 장치가 attention이다. 이름의 유래인 트랜스포머까지, 구조는 깊이 파지 않는다.
테스트 82개가 전부 초록불인데 배포하면 502가 반복됐다. 로그를 볼 수 없는 곳에서, 볼 수 있게 만드는 것부터 시작해야 했다.
혼자 다 해내는 실험을 반년. 끝에 남은 건 혼자의 뿌듯함이 아니라, 이 방식을 팀에 붙이면 어떨까 하는 상상이었다.
외부 API가 실패해도 페이지 전체가 무너지지 않게 하는 전략. 에러 상태도 디자인의 일부다.
11강 끝에서 미뤄둔 그 문장을 연다. ChatGPT·Claude 가 실제로 하는 일은 다음 토큰을 확률로 고르는 것뿐이다. 그게 왜 문장을 쓰는 일이 되는지 본다.