한빛미디어가 2026년 8월 31일 출간한 『밑바닥부터 시작하는 딥러닝 6』은 LLM을 구성하는 핵심 요소를 직접 구현하는 데 초점을 둔 개발서다. 책은 외부 토크나이저 라이브러리를 쓰지 않고 BPE 토크나이저를 만들고, 디코더 전용 트랜스포머를 순수 파이썬과 파이토치로 구현하는 흐름을 담았다. 여기에 지도 파인튜닝(SFT)과 GRPO·DPO 기반 강화학습까지 이어 붙여, 언어 모델이 만들어지고 다듬어지는 과정을 코드 중심으로 설명한다.
기술적으로 중요한 지점은 최신 LLM의 성능과 효율에 연결되는 요소를 구현 단위에서 다룬다는 점이다. 책은 RoPE, SwiGLU, KV 캐시, FlashAttention 같은 기법도 함께 짚는다. 또 CodeBot, StoryBot, WebBot 세 가지 예제를 통해 데이터와 규모가 달라질 때 같은 구조가 어떻게 적용되는지 비교하게 한다. 사전 학습 이후 SFT, 다시 강화학습으로 이어지는 실제 개발 순서를 따라가며, 모델의 응답이 왜 달라지는지 내부 메커니즘을 이해하려는 독자에게 기초를 제공하는 구성이 핵심이다.