• 本

つくりながら学ぶ!LLM自作入門

Compass Data Science

出版社名 マイナビ出版
出版年月 2025年2月
ISBNコード 978-4-8399-8780-0
4-8399-8780-7
税込価格 3,982円
頁数・縦 367P 24cm

商品内容

要旨

LLM(大規模言語モデル)をスクラッチ開発で実装して生成AIとディープラーニングの本質に触れよう!

目次

1 大規模言語モデルを理解する
2 テキストデータの準備
3 Attentionメカニズムのコーディング
4 テキストを生成するためのGPTモデルを一から実装する
5 ラベルなしデータでの事前学習
6 分類のためのファインチューニング
7 指示に従うためのファインチューニング
A PyTorch入門
B 参考資料
C 練習問題の解答
D 訓練ループに高度なテクニックを追加する
E LoRAによるパラメータ効率のよいファインチューニング

出版社・メーカーコメント

本書はGPT型の大規模言語モデル(LLM)を一から理解して構築するために書かれました。最後まで読めばLLMの仕組みがしっかりと理解でき、独自のモデルを構築するためのスキルを身につけることができます。作成するモデルは大規模な基礎モデルに比べれば規模は小さいものの概念は同じであり、最先端のLLMの構築に使われているメカニズムやテクニックを理解するための強力なツールとなるでしょう。

著者紹介

Raschka,Sebastian (RASCHKA,SEBASTIAN)   Raschka,Sebastian
PhD.セバスチャン・ラシュカ。機械学習とAIに10年以上にわたって取り組んでいる。研究者であると同時に、教育にも強い情熱を傾けている。Pythonによる機械学習に関するベストセラー書籍やオープンソースへの貢献で知られている。Lightning AIのスタッフリサーチエンジニアであり、LLMの実装と訓練に重点的に取り組んでいる。産業界に転身する前は、ウィスコンシン州立大学マディソン校の統計学の助教授を務めており、ディープラーニングの研究に精力的に取り組んでいた
巣籠 悠輔 (スゴモリ ユウスケ)  
株式会社MIRA代表取締役、日本ディープラーニング協会有識者会員。医療AIベンチャーを創業・CTOを務め、同社売却後は生成AI活用やDX等の技術支援を大手企業・ベンチャー問わず行う。2018年にForbes 30 Under 30 Asia 2018に選出(本データはこの書籍が刊行された当時に掲載されていたものです)