반디앤루니스 인터넷서점
전체

로고이미지

검색

  • ▼
HOT ISSUE

네비게이션 실시간 인기 책

    LLM을 활용한 실전 AI 애플리케이션 개발

    베스트

    LLM을 활용한 실전 AI 애플리케이션 개발 LLM의 기본부터 모델 학습, 임베딩, 벡터 데이터베이스로 만드는 RAG까지

    • 허정준 저
    • 책만
    • 2024년 07월 25일
    • 정가
      32,000원
    • 판매가
      28,800원 [10% 할인]
    • 결제 혜택
      무이자
    • 적립금
      1,600원 적립 [5%P]

      NAVER Pay 결제 시 네이버페이 포인트 5% 적립 ?

    • 배송구분
      업체배송(반디북)
    • 배송료
      무료배송
    • 출고예정일

      출고예정일 안내

      ※ 출고예정일은 도서 재고상황에 따라 변동될 수 있습니다.

      close

      2025년 05월 12일(월)

      ※ 출고예정일은 도서 재고상황에 따라 변동될 수 있습니다.

    수량
    바로 구매 쇼핑카트 담기 위시리스트
    회원리뷰
    - [0]
    ISBN: 9791189909703 556쪽 1,056g 184 x 240 (㎜)

    지금 이책은

    이 분야의 베스트셀러

    이 책이 속한 분야

    책 소개

    상품문의 / 정보수정 요청 >

    이 책은

    트랜스포머 아키텍처부터 RAG 개발, 모델 학습, 배포, 최적화, 운영까지 라마인덱스와 LLM을 활용한 AI 애플리케이션 개발의 모든 것. 이 책에서는 LLM의 기본 아키텍처에서 출발해 애플리케이션의 요구사항에 맞춰 LLM을 길들이고 제한된 컴퓨팅 환경에서 동작하게 경량화해서 원활하게 서빙하게끔 기초를 다진 다음에 RAG라는 LLM의 대표적인 애플리케이션을 만드는 방법을 차근차근 설명한다. 여기서 끝나지 않고 실제 운영과정에서 부딪히는 어려움을 해소하는 방법과 멀티 모달과 더불어 에이전트와 같은 고급 주제까지 다룬다.

    LLM 시대를 맞이하여 필수적으로 갖춰야 하는 개발 지식을 이론과 실무 양쪽 관점에서 설명하고 있으므로, 새로운 패러다임에 적응하고자 하는 개발자들에게 가뭄의 단비처럼 다가올 것이다.


     


     


    출판사 리뷰

    트랜스포머 아키텍처부터 RAG 개발, 모델 학습, 배포, 최적화, 운영까지
    라마인덱스와 LLM을 활용한 AI 애플리케이션 개발의 모든 것

    이 책에서는 LLM의 기본 아키텍처에서 출발해 애플리케이션의 요구사항에 맞춰 LLM을 길들이고 제한된 컴퓨팅 환경에서 동작하게 경량화해서 원활하게 서빙하게끔 기초를 다진 다음에 RAG라는 LLM의 대표적인 애플리케이션을 만드는 방법을 차근차근 설명한다. 여기서 끝나지 않고 실제 운영과정에서 부딪히는 어려움을 해소하는 방법과 멀티 모달과 더불어 에이전트와 같은 고급 주제까지 다룬다.
    LLM 시대를 맞이하여 필수적으로 갖춰야 하는 개발 지식을 이론과 실무 양쪽 관점에서 설명하고 있으므로, 새로운 패러다임에 적응하고자 하는 개발자들에게 가뭄의 단비처럼 다가올 것이다.

    | 이 책에서 다루는 내용 |
    - LLM의 핵심인 트랜스포머 아키텍처
    - 챗GPT를 만드는 방법: 지도 미세 조정과 RLHF
    - 오픈소스 LLM을 나만의 데이터로 추가 학습하기
    - LLM 애플리케이션 운영을 위한 모델 경량화
    - 라마인덱스를 활용한 RAG 구현과 개선
    - 이미지와 음성도 처리하는 멀티 모달 LLM
    - LLM에 장기 기억과 도구를 결합한 에이전트 아키텍처

    | 이 책의 대상 독자 |
    - LLM을 활용해 AI 애플리케이션을 개발하려는 개발자
    - LLM API의 단순한 활용보다는 모델의 원리와 기반 기술도 궁금한 개발자
    - AI 엔지니어가 되고자 하는 학생 및 취업준비생
    - 짧은 시간에 LLM과 관련된 논문과 기술을 정리하고 싶은 대학원생

    | 깃허브 실습 코드 다운로드 |
    실습 코드는 책의 깃허브 저장소(https://github.com/onlybooks/llm)에서 확인할 수 있습
    니다. 깃허브의 코드는 구글 코랩에서 두 가지 방법으로 활용할 수 있습니다.

    1. 로컬에서 업로드하기: 깃허브의 코드를 로컬 환경에 클론하거나 압축 파일 형태로 내
    려받은 후 진행하려는 실습 폴더의 노트북 파일(ipynb)을 구글 코랩에서 열어 실
    습을 진행할 수 있습니다.
    2. 깃허브 URL로 열기: 구글 코랩에서 노트 열기(Ctrl+O)를 선택하면 다양한 노트 열기
    방식 중 깃허브GitHub 탭에서 코드의 URL을 통해 실습 노트북을 열 수 있습니다.

    | 이 책의 코드 실행 환경 |
    이 책의 실습은 구글 코랩에서 실행한다. 구글 코랩은 구글에서 제공하는 노트북 실
    행 환경으로, 파이썬의 주피터 노트북과 유사한 UI로 브라우저에서 실행할 수 있다.
    또 구글 코랩에서는 무료로 T4 GPU(16GB)를 사용할 수 있도록 제공한다. 구글 코랩
    의 무료 버전은 12시간의 런타임 제한이 있으며, 장시간 사용하지 않으면 연결이 끊길
    수 있다.

    | 이 책의 구성 |
    [1부 LLM의 기초 뼈대 세우기]
    1장 ‘LLM 지도’에서는 대규모 언어 모델이라는 빠르게 발전하고 있는 분야에서 독자들이 길을 잃지 않도록 큰 흐름을 먼저 살펴본다. 1장을 통해 LLM 지도를 얻고 나면 이 책과 LLM에 대해 큰 줄기를 잡을 수 있다.
    2장 ‘LLM의 중추, 트랜스포머 아키텍처 살펴보기’에서는 현대 LLM의 기반이 되는 트랜스포머 아키텍처를 알아본다. 트랜스포머 아키텍처는 처음 접했을 때 직관적으로 이해하기가 쉽지는 않지만, 친절한 설명과 함께 코드 레벨에서도 살펴봄으로써 트랜스포머 아키텍처라는 큰 산을 넘어가도록 돕는다.
    3장 ‘트랜스포머 모델을 다루기 위한 허깅페이스 트랜스포머 라이브러리’에서는 트랜스포머 아키텍처 기반 모델을 쉽게 활용할 수 있도록 도와주는 허깅페이스의 트랜스포머 라이브러리 사용법을 알아본다. 허깅페이스 트랜스포머 라이브러리는 오픈소스 LLM을 활용할 때 자주 사용되며 이제는 거의 표준에 가까운 라이브러리가 됐다. 3장에서 라이브러리 사용법을 잘 익히고 나면, 다양한 모델을 거의 동일한 방법으로 활용할 수 있다.
    4장 ‘말 잘 듣는 모델 만들기’에서는 말을 ‘잘 만들기만 하던’ 언어 모델이 어떻게 사용자의 말을 ‘잘 듣고 지시에 따르는’ 모델로 바뀌었는지 살펴본다. 2022년 11월 공개된 OpenAI의 챗GPT는 사용자의 말을 찰떡같이 알아듣고 사용자의 지시에 따라 응답함으로써 가장 성공적인 AI 제품이 됐다. 4장에서는 OpenAI가 어떻게 챗GPT같이 말 잘 듣는 모델을 만들었는지 살펴본다.

    [2부 LLM 길들이기]
    5장 ‘GPU 효율적인 학습’에서는 LLM처럼 파라미터가 많고 용량이 큰 모델을 작은 GPU에서도 학습시킬 수 있는 방법을 알아본다. 이 책에서 개발 환경으로 사용하는 구글 코랩(Colab)은 무료 버전에서는 메모리가 16GB인 GPU를 지원한다. 모델 자체의 용량만 10GB가 넘는 언어 모델을 어떻게 메모리가 16GB인 작은 GPU에서 학습시킬 수 있는지 5장에서 확인할 수 있다.
    6장 ‘sLLM 학습하기’에서는 직접 작은 언어 모델(sLLM)을 실습데이터로 학습시켜 자연어에서 SQL을 생성하는 Text2SQL 모델을 만들어 본다. Text2SQL 모델은 기업에서 자주 발생하는 데이터 추출 요청을 언어 모델이 수행함으로써 데이터 조직의 생산성을 높이고 SQL에 익숙하지 않은 팀원의 데이터 접근성을 높이는 데 기여할 수 있다. 6장에서는 LLM을 통한 학습 데이터의 생성과 LLM미세 조정을 통해 준수한 성능의 sLLM을 만드는 방법을 알아본다.
    7장 ‘모델 가볍게 만들기’에서는 언어 모델을 작게 만드는 방법과 효율적으로 추론하도록 만드는 방법을 알아본다. sLLM을 활용하는 경우 대부분의 GPU 비용은 학습이 아닌 서빙에서 발생한다. 따라서 학습시킨 모델을 작게 만들고 효율적으로 추론하도록 만들어서 GPU 비용을 크게 낮출 수 있다. 7장에서는 비용 효율적으로 LLM을 서빙하기 위한 다양한 방법을 살펴본다.
    8장 ‘sLLM 서빙하기’에서는 LLM을 효율적으로 서빙할 수 있도록 도와주는 vLLM 라이브러리를 활용해 LLM을 서빙하는 방법을 알아본다. 6장에서 학습시킨 모델을 허깅페이스 트랜스포머 라이브러리로 실행할 때와 vLLM으로 실행할 때의 속도 차이를 확인함으로써 vLLM의 강력함을 확인할 수 있다.

    [3부 LLM을 활용한 실전 애플리케이션 개발]
    9장 ‘LLM 애플리케이션 개발하기’에서는 LLM 애플리케이션을 개발하기 위해 모델 이외에도 다양한 구성요소가 필요하다는 사실을 살펴본다. LLM 애플리케이션은 중심이 되는 모델과 모델에 최신 정보나 조직의 내부 정보를 추가하는 검색 증강 생성, LLM 추론 비용을 줄이는 LLM 캐시, 생성된 결과를 검토하는 데이터 검증 등이 필요한다.
    10장 ‘임베딩 모델로 데이터 의미 압축하기’에서는 검색 증강 생성에서 정보를 저장하고 검색할 때 사용하는 임베딩 모델에 대해 알아본다. 임베딩이란 데이터의 의미를 유지하면서 숫자의 배열인 벡터 형태로 변환하는 방법을 말한다. 임베딩 모델을 활용해 텍스트 데이터를 벡터로 변환하면 의미적으로 유사하거나 관련 있는 데이터를 검색해 활용할 수 있다.
    11장 ‘자신의 데이터에 맞춘 임베딩 모델 만들기: RAG 개선하기’에서는 10장에서 살펴본 임베딩 모델을 자신의 데이터에 맞춰 미세 조정할 수 있는 방법을 알아본다. 검색 증강 생성을 활용하려는 데이터가 임베딩 모델을 학습할 때 사용되지 않은 기업의 내부 데이터이거나 최신의 데이터라면, 기존에 학습된 임베딩 모델을 활용할 경우 검색 성능이 만족스럽지 않을 수 있다. 그런 경우 임베딩 모델을 자신의 데이터에 맞춰 추가 학습함으로써 검색 성능을 높일 수 있다. 또 검색 쿼리와 검색 문서를 직접 비교해서 관련도(relevancy)에 따라 검색 순위를 재조정하는 리랭커(Reranker)를 활용해 검색 성능을 높이는 방법도 살펴본다.
    12장 ‘벡터 데이터베이스로 확장하기: RAG 구현하기’에서는 벡터로 변환된 텍스트 임베딩을 저장하고 검색할 때 사용하는 특수한 데이터베이스인 벡터 데이터베이스에 대해 알아본다. 벡터 데이터베이스에서 많이 활용되는 저장 및 검색 알고리즘인 HNSW(Hierarchical Navigable Small World)의 원리와 최적화 방법을 살펴보고 대표적인 벡터 데이터베이스인 파인콘(Pinecone)을 활용해 멀티 모달 검색을 구현하는 실습을 진행한다.
    13장 ‘LLM 운영하기’에서는 머신러닝 모델을 효과적으로 운영하기 위해 사용하던 MLOps를 LLM에 맞춰 확장한 LLMOps에 대해 알아본다.
    기존의 머신러닝 모델과 LLM의 차이점을 통해 LLMOps에서 더 집중해야 하는 부분을 소개한다. 대표적으로 LLM은 기존 머신러닝 모델에 비해 평가하기 어렵다. 아직까지도 LLM의 평가는 정답이 없고 모두가 고민하고 있는 주제다. 13장을 통해 LLM의 평가가 왜 어려운지, LM을 평가하기 위한 여러 접근 방식을 살펴본다.

    [4부 멀티 모달, 에이전트 그리고 LLM의 미래]
    14장 ‘멀티 모달 LLM’에서는 텍스트 이외에 이미지를 처리하는 LLM에 대해 알아본다. 이미지와 텍스트 데이터를 함께 처리해서 동일한 임베딩 공간에서 매핑할 수 있는 OpenAI의 CLIP 모델과 텍스트 입력을 바탕으로 이미지를 생성하는 DALL-E 모델을 알아보고 이미지와 텍스트를 함께 입력으로 받아 처리하는 오픈소스 모델인 LLaVa를 통해 멀티 모달 LLM의 기본 원리를 살펴본다.
    15장 ‘LLM 에이전트’에서는 LLM을 확장하는 에이전트 아키텍처에 대해 알아본다. 에이전트 아키텍처란 LLM에 장기 기억, 인터넷 검색과 같은 도구, 작업을 분해하고 순차적으로 해결하는 계획 기능 등을 추가해 LLM의 성능을 몇 단계 높이는 더 발전된 LLM 시스템이다. 15장에서는 대표적인 에이전트 라이브러리인 마이크로소프트의 AutoGen을 활용해 LLM 에이전트를 구현하는 실습을 진행한다.
    16장 ‘새로운 아키텍처’에서는 입력이 길어질수록 추론에 많은 시간과 연산 비용이 드는 트랜스포머 아키텍처의 단점을 보완하기 위해 새롭게 제안된 맘바(Mamba) 아키텍처에 대해 알아본다. 맘바 아키텍처는 기존에 자연어 처리에서 사용하던 순환신경망(Recurrent Neural Network, RNN)을 변형해 추론의 효율성을 유지하면서도 트랜스포머 아키텍처와 비슷한 성능을 보여 많은 주목을 받았다. 16장에서는 맘바 아키텍처에 대해 알아보며 새로운 아키텍처의 가능성을 살펴본다.

    부록 '실습을 위한 준비 사항'에서는 이 책의 실습을 진행할 때 필요한 사항을 소개한다. 먼저 실습 환경인 구글 코랩 사용법을 살펴본 다음, 실습에 사용한 LLM과 데이터셋을 업로드하고 다운로드할 때 필요한 허깅페이스 토큰을 확인하는 방법을 설명한다. 마지막으로 대표적인 상용 LLM API인 OpenAI의 API 토큰을 생성하고 확인하는 방법을 소개한다.


     


     


    저자 소개

    허정준

    저자 : 허정준

    서울대학교 기계항공공학부를 졸업하고 롯데면세점 빅데이터팀 데이터 분석가를 거쳐 현재는 프리랜서 마켓 크몽에서 AI 엔지니어로 일하고 있다. 『파이토치 라이트닝으로 시작하는 딥러닝』을 번역했으며, 최근에는 LLM을 활용한 어시스턴트(에이전트) 개발에 관심이 많다.

     

    그림 : 정진호

    개발자 출신 화가, 작가, 일러스트레이터, 비주얼씽킹 전문가. 글로벌 인터넷 기업에서 엔지니어로 일했고, 독학으로 12년간 그림을 그렸다. 《비주얼씽킹》, 《똥손 탈출 100일 100 드로잉》 등 20여 종의 저서와 역서를 출간하고 8권의 도서 일러스트를 담당했다. 기업, 학교, 공공기관 등에서 다양한 시각화 관련 강의와 프로젝트를 수행하며 아날로그와 디지털을 넘나드는 창작 활동을 즐기고 있다. 8회의 개인전을 열었고, 국내 최고령 일러스트레이터가 되는 소박한 꿈을 품고 매일 작업하고 있다.

     

    감수 : 박재호

    포항공과대학교 컴퓨터공학과 학부와 대학원을 졸업했다. 임베디드 시스템 개발, 기업용 백업 소프트웨어 개발, 방송국 콘텐츠 수신제한 시스템 개발과 운영 지원, 클라우드에서 동작하는 서비스 개발에 이르기까지 다양한 실무 경험을 토대로 고성능 고가용성 시스템을 설계하고 있다. 코스닥 상장사인 엑셈 CTO로 인공지능과 스마트팩토리 관련 개발을 총괄했으며, 클라우드용 모니터링 시스템을 위한 아키텍처 설계도 주도했다. 『마이크로서비스 도입, 이렇게 한다』(책만, 2021), 『Clean Code 클린 코드』(인사이트, 2013), 『피플웨어』(인사이트, 2014) 번역, 『엘라스틱 스택 개발부터 운영까지』(책만, 2021) 감수 등 번역·감수하거나 집필한 책이 40여 권이 넘는다.

    목차


    [1부] LLM의 기초 뼈대 세우기
    1장 LLM 지도
    1.1 딥러닝과 언어 모델링
    __1.1.1 데이터의 특징을 스스로 추출하는 딥러닝
    __1.1.2 임베딩: 딥러닝 모델이 데이터를 표현하는 방식
    __1.1.3 언어 모델링: 딥러닝 모델의 언어 학습법
    1.2 언어 모델이 챗GPT가 되기까지
    __1.2.1 RNN에서 트랜스포머 아키텍처로
    __1.2.2 GPT 시리즈로 보는 모델 크기와 성능의 관계
    __1.2.3 챗GPT의 등장
    1.3 LLM 애플리케이션의 시대가 열리다
    __1.3.1 지식 사용법을 획기적으로 바꾼 LLM
    __1.3.2 sLLM: 더 작고 효율적인 모델 만들기
    __1.3.3 더 효율적인 학습과 추론을 위한 기술
    __1.3.4 LLM의 환각 현상을 대처하는 검색 증강 생성(RAG) 기술
    1.4 LLM의 미래: 인식과 행동의 확장
    1.5 정리

    2장 LLM의 중추, 트랜스포머 아키텍처 살펴보기
    2.1 트랜스포머 아키텍처란
    2.2 텍스트를 임베딩으로 변환하기
    __2.2.1 토큰화
    __2.2.2 토큰 임베딩으로 변환하기
    __2.2.3 위치 인코딩
    2.3 어텐션 이해하기
    __2.3.1 사람이 글을 읽는 방법과 어텐션
    __2.3.2 쿼리, 키, 값 이해하기
    __2.3.3 코드로 보는 어텐션
    __2.3.4 멀티 헤드 어텐션
    2.4 정규화와 피드 포워드 층
    __2.4.1 층 정규화 이해하기
    __2.4.2 피드 포워드 층
    2.5 인코더
    2.6 디코더
    2.7 BERT, GPT, T5 등 트랜스포머를 활용한 아키텍처
    __2.7.1 인코더를 활용한 BERT
    __2.7.2 디코더를 활용한 GPT
    __2.7.3 인코더와 디코더를 모두 사용하는 BART, T5
    2.8 주요 사전 학습 메커니즘
    __2.8.1 인과적 언어 모델링
    __2.8.2 마스크 언어 모델링
    2.9 정리

    3장 트랜스포머 모델을 다루기 위한 허깅페이스 트랜스포머 라이브러리
    3.1 허깅페이스 트랜스포머란
    3.2 허깅페이스 허브 탐색하기
    __3.2.1 모델 허브
    __3.2.2 데이터셋 허브
    __3.2.3 모델 데모를 공개하고 사용할 수 있는 스페이스
    3.3 허깅페이스 라이브러리 사용법 익히기
    __3.3.1 모델 활용하기
    __3.3.2 토크나이저 활용하기
    __3.3.3 데이터셋 활용하기
    3.4 모델 학습시키기
    __3.4.1 데이터 준비
    __3.4.2 트레이너 API를 사용해 학습하기
    __3.4.3 트레이너 API를 사용하지 않고 학습하기
    __3.4.4 학습한 모델 업로드하기
    3.5 모델 추론하기
    __3.5.1 파이프라인을 활용한 추론
    __3.5.2 직접 추론하기
    3.6 정리

    4장 말 잘 듣는 모델 만들기
    4.1 코딩 테스트 통과하기: 사전 학습과 지도 미세 조정
    __4.1.1 코딩 개념 익히기: LLM의 사전 학습
    __4.1.2 연습문제 풀어보기: 지도 미세 조정
    __4.1.3 좋은 지시 데이터셋이 갖춰야 할 조건
    4.2 채점 모델로 코드 가독성 높이기
    __4.2.1 선호 데이터셋을 사용한 채점 모델 만들기
    __4.2.2 강화 학습: 높은 코드 가독성 점수를 향해
    __4.2.3 PPO: 보상 해킹 피하기
    __4.2.4 RLHF: 멋지지만 피할 수 있다면…
    4.3 강화 학습이 꼭 필요할까?
    __4.3.1 기각 샘플링: 단순히 가장 점수가 높은 데이터를 사용한다면?
    __4.3.2 DPO: 선호 데이터셋을 직접 학습하기
    __4.3.3 DPO를 사용해 학습한 모델들
    4.4 정리

    [2부 LLM 길들이기]
    5장 GPU 효율적인 학습
    5.1 GPU에 올라가는 데이터 살펴보기
    __5.1.1 딥러닝 모델의 데이터 타입
    __5.1.2 양자화로 모델 용량 줄이기
    __5.1.3 GPU 메모리 분해하기
    5.2 단일 GPU 효율적으로 활용하기
    __5.2.1 그레이디언트 누적
    __5.2.2 그레이디언트 체크포인팅
    5.3 분산 학습과 ZeRO
    __5.3.1 분산 학습
    __5.3.2 데이터 병렬화에서 중복 저장 줄이기(ZeRO)
    5.4 효율적인 학습 방법(PEFT): LoRA
    __5.4.1 모델 파라미터의 일부만 재구성해 학습하는 LoRA
    __5.4.2 LoRA 설정 살펴보기
    __5.4.3 코드로 LoRA 학습 사용하기
    5.5 효율적인 학습 방법(PEFT): QLoRA
    __5.5.1 4비트 양자화와 2차 양자화
    __5.5.2 페이지 옵티마이저
    __5.5.3 코드로 QLoRA 모델 활용하기
    5.6 정리

    6장 sLLM 학습하기
    6.1 Text2SQL 데이터셋
    __6.1.1 대표적인 Text2SQL 데이터셋
    __6.1.2 한국어 데이터셋
    __6.1.3 합성 데이터 활용
    6.2 성능 평가 파이프라인 준비하기
    __6.2.1 Text2SQL 평가 방식
    __6.2.2 평가 데이터셋 구축
    __6.2.3 SQL 생성 프롬프트
    __6.2.4 GPT-4 평가 프롬프트와 코드 준비
    6.3 실습: 미세 조정 수행하기
    __6.3.1 기초 모델 평가하기
    __6.3.2 미세 조정 수행
    __6.3.3 학습 데이터 정제와 미세 조정
    __6.3.4 기초 모델 변경
    __6.3.5 모델 성능 비교
    6.4 정리

    7장 모델 가볍게 만들기
    7.1 언어 모델 추론 이해하기
    __7.1.1 언어 모델이 언어를 생성하는 방법
    __7.1.2 중복 연산을 줄이는 KV 캐시
    __7.1.3 GPU 구조와 최적의 배치 크기
    __7.1.4 KV 캐시 메모리 줄이기
    7.2 양자화로 모델 용량 줄이기
    __7.2.1 비츠앤바이츠
    __7.2.2 GPTQ
    __7.2.3 AWQ
    7.3 지식 증류 활용하기
    7.4 정리

    8장 sLLM 서빙하기
    8.1 효율적인 배치 전략
    __8.1.1 일반 배치(정적 배치)
    __8.1.2 동적 배치
    __8.1.3 연속 배치
    8.2 효율적인 트랜스포머 연산
    __8.2.1 플래시어텐션
    __8.2.2 플래시어텐션 2
    __8.2.3 상대적 위치 인코딩
    8.3 효율적인 추론 전략
    __8.3.1 커널 퓨전
    __8.3.2 페이지어텐션
    __8.3.3 추측 디코딩
    8.4 실습: LLM 서빙 프레임워크
    __8.4.1 오프라인 서빙
    __8.4.2 온라인 서빙
    8.5 정리

    [3부] LLM을 활용한 실전 애플리케이션 개발
    9장 LLM 애플리케이션 개발하기
    9.1 검색 증강 생성(RAG)
    __9.1.1 데이터 저장
    __9.1.2 프롬프트에 검색 결과 통합
    __9.1.3 실습: 라마인덱스로 RAG 구현하기
    9.2 LLM 캐시
    __9.2.1 LLM 캐시 작동 원리
    __9.2.2 실습: OpenAI API 캐시 구현
    9.3 데이터 검증
    __9.3.1 데이터 검증 방식
    __9.3.2 데이터 검증 실습
    9.4 데이터 로깅
    __9.4.1 OpenAI API 로깅
    __9.4.2 라마인덱스 로깅
    9.5 정리

    10장 임베딩 모델로 데이터 의미 압축하기
    10.1 텍스트 임베딩 이해하기
    __10.1.1 문장 임베딩 방식의 장점
    __10.1.2 원핫 인코딩
    __10.1.3 백오브워즈
    __10.1.4 TF-IDF
    __10.1.5 워드투벡
    10.2 문장 임베딩 방식
    __10.2.1 문장 사이의 관계를 계산하는 두 가지 방법
    __10.2.2 바이 인코더 모델 구조
    __10.2.3 Sentence-Transformers로 텍스트와 이미지 임베딩 생성해 보기
    __10.2.4 오픈소스와 상업용 임베딩 모델 비교하기
    10.3 실습: 의미 검색 구현하기
    __10.3.1 의미 검색 구현하기
    __10.3.2 라마인덱스에서 Sentence-Transformers 모델 사용하기
    10.4 검색 방식을 조합해 성능 높이기
    __10.4.1 키워드 검색 방식: BM25
    __10.4.2 상호 순위 조합 이해하기
    10.5 실습: 하이브리드 검색 구현하기
    __10.5.1 BM25 구현하기
    __10.5.2 상호 순위 조합 구현하기
    __10.5.3 하이브리드 검색 구현하기
    10.6 정리

    11장 자신의 데이터에 맞춘 임베딩 모델 만들기: RAG 개선하기
    11.1 검색 성능을 높이기 위한 두 가지 방법
    11.2 언어 모델을 임베딩 모델로 만들기
    __11.2.1 대조 학습
    __11.2.2 실습: 학습 준비하기
    __11.2.3 실습: 유사한 문장 데이터로 임베딩 모델 학습하기
    11.3 임베딩 모델 미세 조정하기
    __11.3.1 실습: 학습 준비
    __11.3.2 MNR 손실을 활용해 미세 조정하기
    11.4 검색 품질을 높이는 순위 재정렬
    11.5 바이 인코더와 교차 인코더로 개선된 RAG 구현하기
    __11.5.1 기본 임베딩 모델로 검색하기
    __11.5.2 미세 조정한 임베딩 모델로 검색하기
    __11.5.3 미세 조정한 임베딩 모델과 교차 인코더 조합하기
    11.6 정리

    12장 벡터 데이터베이스로 확장하기: RAG 구현하기
    12.1 벡터 데이터베이스란
    __12.1.1 딥러닝과 벡터 데이터베이스
    __12.1.2 벡터 데이터베이스 지형 파악하기
    12.2 벡터 데이터베이스 작동 원리
    __12.2.1 KNN 검색과 그 한계
    __12.2.2 ANN 검색이란
    __12.2.3 탐색 가능한 작은 세계(NSW)
    __12.2.4 계층 구조
    12.3 실습: HNSW 인덱스의 핵심 파라미터 이해하기
    __12.3.1 파라미터 m 이해하기
    __12.3.2 파라미터 ef_construction 이해하기
    __12.3.3 파라미터 ef_search 이해하기
    12.4 실습: 파인콘으로 벡터 검색 구현하기
    __12.4.1 파인콘 클라이언트 사용법
    __12.4.2 라마인덱스에서 벡터 데이터베이스 변경하기
    12.5 실습: 파인콘을 활용해 멀티 모달 검색 구현하기
    __12.5.1 데이터셋
    __12.5.2 실습 흐름
    __12.5.3 GPT-4o로 이미지 설명 생성하기
    __12.5.4 프롬프트 저장
    __12.5.5 이미지 임베딩 검색
    __12.5.6 DALL-E 3로 이미지 생성
    12.6 정리

    13장 LLM 운영하기
    13.1 MLOps
    __13.1.1 데이터 관리
    __13.1.2 실험 관리
    __13.1.3 모델 저장소
    __13.1.4 모델 모니터링
    13.2 LLMOps는 무엇이 다를까?
    __13.2.1 상업용 모델과 오픈소스 모델 선택하기
    __13.2.2 모델 최적화 방법의 변화
    __13.2.3 LLM 평가의 어려움
    13.3 LLM 평가하기
    __13.3.1 정량적 지표
    __13.3.2 벤치마크 데이터셋을 활용한 평가
    __13.3.3 사람이 직접 평가하는 방식
    __13.3.4 LLM을 통한 평가
    __13.3.4 RAG 평가
    13.4 정리

    [4부] 멀티 모달, 에이전트 그리고 LLM의 미래
    14장 멀티 모달
    LLM 14.1 멀티 모달 LLM이란
    __14.1.1 멀티 모달 LLM의 구성요소
    __14.1.2 멀티 모달 LLM 학습 과정
    14.2 이미지와 텍스트를 연결하는 모델: CLIP
    __14.2.1 CLIP 모델이란
    __14.2.2 CLIP 모델의 학습 방법
    __14.2.3 CLIP 모델의 활용과 뛰어난 성능
    __14.2.4 CLIP 모델 직접 활용하기
    14.3 텍스트로 이미지를 생성하는 모델: DALL-E
    __14.3.1 디퓨전 모델 원리
    __14.3.2 DALL-E 모델
    14.4 LLaVA
    __14.4.1 LLaVA의 학습 데이터
    __14.4.2 LLaVA 모델 구조
    __14.4.3 LLaVA 1.5
    __14.4.4 LLaVA NeXT
    14.5 정리

    15장 LLM 에이전트
    15.1 에이전트란
    __15.1.1 에이전트의 구성요소
    __15.1.2 에이전트의 두뇌
    __15.1.3 에이전트의 감각
    __15.1.4 에이전트의 행동
    15.2 에이전트 시스템의 형태
    __15.2.1 단일 에이전트
    __15.2.2 사용자와 에이전트의 상호작용
    __15.2.3 멀티 에이전트
    15.3 에이전트 평가하기
    15.4 실습: 에이전트 구현
    __15.4.1 AutoGen 기본 사용법
    __15.4.2 RAG 에이전트
    __15.4.3 멀티 모달 에이전트
    15.5 정리

    16장 새로운 아키텍처
    16.1 기존 아키텍처의 장단점
    16.2 SSM
    __16.2.1 S4
    16.3 선택 메커니즘
    16.4 맘바
    __16.4.1 맘바의 성능
    __16.4.2 기존 아키텍처와의 비교
    16.5 코드로 보는 맘바

    부록 | 실습을 위한 준비사항
    A.1 구글 코랩 사용법
    A.2 허깅페이스 토큰
    A.3 OpenAI 토큰

    배송 시 유의사항

    - 반디앤루니스에서 구매하신 도서는 물류 대행 위탁업체 웅진 북센을 통해 배송됩니다.
     (배송 포장에 "웅진 북센"으로 표기될 수 있습니다.)

    - 구매한 상품의 품질과 배송 관련 문의는 반디앤루니스로 문의 바랍니다.

    - 천재지변 및 택배사의 사정에 따라 배송이 지연될 수 있습니다.

    - 결제(입금) 완료 후 출판사 및 유통사의 사정으로 품절 또는 절판 되어 상품 구입이 어려울 수 있습니다. (별도 안내 예정)

    - 도서산간지역의 경우 추가 배송비가 발생될 수 있습니다.

    반품/교환

    상품 설명에 반품/ 교환 관련한 안내가 있는 경우 그 내용을 우선으로 합니다. (업체 사정에 따라 달라질 수 있습니다)

    반품/교환

    반품/교환
    반품/교환 방법 홈 > 고객센터 > 자주찾는질문 “반품/교환/환불” 안내 참고 또는 1:1상담게시판
    반품/교환 가능 기간 반품,교환은 배송완료 후 7일 이내, 상품의 결함 및 계약내용과 다를 경우 문제발견 후 30일 이내에 신청가능
    반품/교환 비용 변심 혹은 구매착오의 경우에만 반송료 고객 부담(별도 지정 택배사 없음)
    반품/교환 불가 사유
    • 소비자의 책임 사유로 상품 등이 손실 또는 훼손된 경우
    • 소비자의 사용, 포장 개봉에 의해 상품 등의 가치가 현저히 감소한 경우
    • 복제가 가능한 상품 등의 포장을 훼손한 경우 : 예)만화책, 잡지, 화보집 등
    • 시간의 경과에 의해 재판매가 곤란한 정도로 가치가 현저히 감소한 경우
    • 전자상거래등에서의 소비자보호에 관한 법률이 정하는 소비자 청약철회 제한 내용에 해당되는 경우
    • 해외주문 상품(해외 원서)의 경우(파본/훼손/오발송 상품을 제외)
    소비자 피해보상
    환불지연에 따른 배상
    • 상품의 불량에 의한 반품, 교환, A/S, 환불, 품질보증 및 피해보상 등에 관한 사항은
      소비자 분쟁해결 기준(공정거래위원회고시)에 준하여 처리됨
    • 대금 환불 및 환불지연에 따른 배상금 지급 조건, 절차 등은 전자상거래 등에서의
      소비자 보호에 관한 법률에 따라 처리함
    반품/교환 주소 경기도 파주시 문발로 77, 웅진북센(반디앤루니스)
    • 회사명 : (주)서울문고
    • 대표이사 : 김홍구
    • 개인정보 보호책임자 : 김홍구
    • E-mail : bandi_cs@bnl.co.kr
    • 소재지 : (06168) 서울 강남구 삼성로 96길 6
    • 사업자 등록번호 : 120-81-02543
    • 통신판매업 신고번호 : 제2023-서울강남-03728호
    • 물류센터 : (10881) 경기도 파주시 문발로 77 반디앤루니스
    copyright (c) 2016 BANDI&LUNI'S All Rights Reserved