안녕하세요! AI 엔지니어링 책을 완독해서 리뷰적으러 왔습니다!
경어체를 사용해서 적어보겠습니당~~
책 정보
책 이름: AI Engineering
지음: 칩 후옌
옮김: 변성윤
대상 독자
: 이 책은 AI 엔지니어와 ML 엔지니어를 중심으로, 데이터 사이언티스트, 엔지니어링 매니저, 테크니컬 PM 등 AI 기술을 실제 제품과 조직에 적용하는 실무자를 주요 독자로 한다.
특히 AI 애플리케이션을 개발·운영하면서 환각, 보안, 지연 시간, 비용 문제를 겪고 있는 팀이나, 파운데이션 모델을 활용해 비즈니스 성과를 내고 싶은 조직에 적합하다.
또한 AI 도구 개발자, 연구자, AI 엔지니어 직무를 목표로 하는 구직자처럼 AI 생태계를 넓은 관점에서 이해하고 싶은 사람에게도 도움이 된다.
읽게 된 이유
최근 다양한 AI 서비스가 빠르게 등장하면서, AI 기능이 어떤 구조로 설계되고 실제 서비스 안에서 어떻게 구현되는지에 대한 궁금증이 생겼다.
iOS와 백엔드 개발을 하며 AI 기능이 기존 애플리케이션에 점점 더 자연스럽게 포함되는 흐름을 접했고, 그 과정에서 파운데이션 모델을 활용한 AI 시스템이 어떤 방식으로 구성되고 서비스와 연결되는지 알고 싶어졌다.
특히 모델에 대한 깊은 지식이나 AI 전문 직군이 아닌 개발자도, 이 책을 통해 실제로 AI 애플리케이션을 만들 수 있을지 스스로 확인해보고 싶었다.
이 책을 통해 모델 자체보다는 AI 애플리케이션과 시스템을 구축하는 관점의 AI 엔지니어링을 이해하고, 완독 후에는 작더라도 하나의 AI 앱을 직접 만들어보는 것을 목표로 읽게 되었다.
핵심 요약
- AI 애플리케이션 설계의 출발점
- AI가 필요한 문제 정의, 기대치 설정, 유지보수까지 포함한 기획 프로세스를 다룸 (1장)
- 단순히 모델 사용이 아니라 서비스 설계 관점이 중요
- 파운데이션 모델의 구조와 동작
- 학습 데이터, 모델 아키텍처·크기, 샘플링 전략과 사후 학습(파인튜닝/선호도 학습)이 애플리케이션 성능에 결정적 영향 (2장)
- 모델이 왜 특정 응답을 생성하는지 구조적 이해 제공
- 평가(Evaluation)의 체계화
- 언어 모델 평가 지표 이해 → AI 평가자 활용 → 평가 파이프라인 설계 (3–4장)
- 평가가 AI 개발 전 단계에서 필수적이며 가장 어려운 작업
- 성능 향상 실전 기법
- 프롬프트 엔지니어링의 모범 사례와 방어 기법 (5장)
- RAG/에이전트 기반 컨텍스트 구성 (6장)
- 파인튜닝/데이터셋 엔지니어링/추론 최적화 등 성능·효율 극대화 방법 (7–9장)
- 엔드투엔드 아키텍처와 피드백
- 컨텍스트 보강, 가드레일, 모델 라우터, 캐시, 에이전트 패턴 및 모니터링 구성 (10장)
- 사용자 피드백을 체계적으로 설계하고 반영하는 방법
인상 깊었던 내용
1. AI 엔지니어링의 큰 그림을 잡아준 1장
1장은 언어 모델에서 파운데이션 모델, 그리고 AI 엔지니어링으로 이어지는 흐름을 중심으로 AI 애플리케이션이 어떻게 기획되고 설계되는지를 설명한다. 모델 자체보다는 문제 정의, 기대치 설정, 유지보수까지 포함한 애플리케이션 관점의 접근이 강조된다.
왜 도움이 됐는지
AI 엔지니어가 아닌 입장에서 생소한 용어와 모델들을 한 번에 훑어볼 수 있어 전체 맥락을 이해하는 데 도움이 됐다. 깊이 들어가기 전에 지형도를 먼저 제시해 주는 구성이라 부담 없이 읽을 수 있었다.
업무/코드 연결
AI 기능을 추가할 때 모델 선택부터 고민하기보다, 해당 기능에 AI가 정말 필요한지와 서비스 구조 안에서 어떤 역할을 맡는지를 먼저 정의해야 한다는 기준을 갖게 됐다.
2. AI 시스템 평가는 기준을 설계하는 일
책은 AI 평가를 단순한 성능 비교가 아니라 시스템 품질 관리의 문제로 다룬다. 좋은 응답의 기준으로 관련성, 사실 일관성, 안정성을 제시하고, 이를 바탕으로 평가 가이드라인과 평가 파이프라인을 설계하는 방법을 설명한다.
왜 도움이 됐는지
AI 시스템이 늘어나고 있지만, 무엇을 기준으로 “잘 동작한다”고 말할 수 있는지는 늘 모호했다. 이 장을 통해 평가가 감각이나 인상에 의존하는 영역이 아니라 명확히 설계할 수 있는 영역이라는 점이 인상 깊었다.
업무/코드 연결
평가 지표를 비즈니스 지표와 연결해, 모델 성능이 실제 자동화 수준이나 서비스 품질에 어떤 영향을 미치는지 설명할 수 있다. 이는 기술적인 수치를 의사결정에 활용하는 데 직접적으로 도움이 된다.
3. LLM 성능의 핵심은 데이터 설계
실무에서 성능을 좌우하는 결정적 요인이 데이터 설계에 있는 경우가 많다고 설명한다. 데이터 품질, 커버리지, 구성 비율이 애플리케이션 성능을 좌우하며, 데이터셋 엔지니어링이 가장 중요한 레버라고 강조한다.
왜 도움이 됐는지
성능 향상을 위해 더 큰 모델을 찾는 데 집중하던 시각에서 벗어나, 내가 직접 통제하고 개선할 수 있는 영역이 어디인지 분명해졌다.
업무/코드 연결
프롬프트 설계, RAG에서의 문서 선택, 파인튜닝 데이터 구성 등 모델 호출 이전 단계의 설계가 결과에 큰 영향을 준다는 점을 인식하게 됐다.
4. 데이터 큐레이션은 모델의 행동을 설계하는 일
데이터는 단순히 많이 모으는 대상이 아니라, 모델이 어떤 행동을 하도록 가르칠지 결정하는 도구다. 좋은 행동을 강화하는 데이터뿐 아니라, 바람직하지 않은 행동을 유발하는 데이터를 제거하는 과정도 데이터 큐레이션에 포함된다.
왜 도움이 됐는지
모델의 이상한 응답을 단순히 “모델 한계”로 넘기지 않고, 어떤 데이터를 학습했는지로 원인을 되짚어보게 됐다.
업무/코드 연결
로그 데이터 정제, 사용자 입력 필터링, RAG 문서 관리 등 기존 백엔드 작업들이 AI 성능과 직접적으로 연결된다는 점을 이해하게 됐다.
비판적 의견
1. 초반 진입 장벽은 여전히 존재한다
AI 엔지니어링의 큰 흐름을 잘 정리해주지만, 모델·데이터·평가 지표에 익숙하지 않은 독자에게는 일부 장에서 개념 밀도가 높게 느껴질 수 있다. 전체 그림을 잡는 데는 도움이 되지만, 각 개념을 바로 실습으로 옮기기에는 추가적인 자료가 필요하다는 인상을 받았다.
2. 실무 코드 예시는 상대적으로 적다
책은 설계와 판단 기준을 중심으로 설명하기 때문에, 실제 코드 수준의 예시는 제한적이다.
개념을 이해하는 데는 충분하지만, 바로 구현 단계로 넘어가려는 독자에게는 다소 추상적으로 느껴질 수 있다.
3. 이상적인 구조와 현실의 간극
평가 파이프라인, 데이터 큐레이션, 사용자 피드백 설계 등은 매우 정교하게 제시되지만, 소규모 팀이나 개인 개발자가 모두 적용하기에는 부담스러운 부분도 있다. 실제 환경에서는 일부 개념을 축약하거나 타협해야 할 지점이 있을 것이라 느꼈다.
마무리하며..
이런 사람에게 추천!
- AI 엔지니어는 아니지만 파운데이션 모델을 활용해 AI 애플리케이션을 만들어보고 싶은 개발자
- 백엔드, 프론트 등 기존 소프트웨어 개발 경험이 있고 AI 기능을 서비스에 어떻게 붙여야 할지 고민하는 사람
- 모델 구현보다 설계, 평가, 데이터, 운영 관점의 AI 엔지니어링에 관심 있는 사람
이런 사람에게는 안 맞을 수 있음!
- 수식 중심의 모델 학습 이론이나 딥러닝 내부 구현을 깊게 다루는 책을 기대하는 사람
한줄로 요약하면 AI 모델을 만드는 법보다, AI를 서비스로 만들기 위한 사고방식을 배우고 싶은 개발자에게 잘 맞는 책인 것 같다!
+ 번외
완독에 큰 도움을 줬던 인프런 챌린지 후기도 같이 적어보겠습니당! 개인적인 후기라 편하게 쓸게요1!! (말투 바뀜 주의)
[완독 챌린지] AI 엔지니어링 5주만에 함께 읽기! 후기 _ 인프런
저는 인프런 챌린지 덕분에 AI 엔지니어링 책을 완독할 수 있었다고해도 과언이 아닌데요?!
기술책이기도하고 생소한 개념도 조금 있어서 혼자 읽었다면 완독을 못 했을 것 같아요... (초반에 계속 미룸)
이미지 처럼 평일에 읽을 할당량이 있고, 독후감 미션이 매주 있었습니다!
그렇다고~ 꼭 그 날에 읽어야하는건 아니고 개인 스케줄에 따라 읽어도 되서 자유도가 높았답니당
하지만 일요일 자정까지 독후감을 제출해야하기때문에 평일에 못 읽었으면 주말에 몰아서 읽어야해요,,
(미래의 내가 해..주겠찌.. --> 이럼 안됨)
챌린지에는 슬랙 채널도 있었는데요!
챌린지 시작할때 자기소개 채널에서 자기소개를 했고, 자료 공유와 질문 채널도 종종 좋은 자료와 질문들이 올라와서 많은 도움을 받았어요.
무엇보다 오늘 읽었어요 인증 채널이 좋았는데, 다른 분들이 인증하시면서 같이 올려주시는 내용이 공감도 가고 나도 꾸준히 해봐야지! 하는 생각을 계속 할 수 있게 도와준 것 같습니다!
사실 초반에... 계속 주말에 몰아읽다가 넘 힘들오서...
온라인으로 같이 읽는 공간을 만들고 지인들이랑 평일 9시에 같이 읽기로 약속을 했는데, 생각해보니 다른분들도 같이하면 좋을 것 같아서
자유로운 대화 채널에 용기내서 글도 올려보았답니다! (많이 오시진 않았지만ㄴ요...)
지인들이랑은 꽤나 꾸준히 9시에 들어와서 같이 읽었는데요!? 정말 전우애 상승이었어요!!!
책 다 읽고 지인들과 저만 있어서 제가 좋아하는 보라 피크민을 자랑했던 화면입니댜ㅋㅋㅋㅋ
같이 읽으니까 딴짓 안하고 읽게되서 좋더라구요!!!!!>< (끝나곤 했지만)
그로케 어찌저찌 완강을 했숩니다,,
처음에 AI나 데이터 분야가 아닌 내가 잘 할 수 있을까 걱정을 많이하고 겁냈는데, 오히려 이 마음이 저를 한계에 가두고 있더라구요.
깨닫고 난 후에는 "소프트웨어 엔지니어"로써 책을 읽어보려고 노력 많이 했던 것 같아요.
완독을 한 지금 시점에는 내년초에 독서 노트 요약하고 질문해주는 AI 애플리케이션을(RAG + 간단한 평가 구조 포함) 만들어보고싶다는 생각도 하게되었답니다!!
직접 만들어보면 또 다른 질문이 생기겠죠?! 정말 기대됩니다!