本講義ではLLM(大規模言語モデル)の開発にまつわる主要ライブラリの導入を行い、最終的にはデモの実装を行います。技術的な歴史や背景、開発話等を講義の合間に取り扱います。LLMが既存の自然言語処理とどう異なるのかなどの理解を深めていく講義です。
科目一覧
AI Programming Laboratory
自然言語処理を通して、機械学習・ディープラーニングを学ぶ
AIプログラミングラボ
担当講師 | 波田野 創(株式会社創環境設計) |
---|---|
分類 | ラボ |
授業形態 | 遠隔 |
授業形態詳細 | 本科目はオンラインにて実施するため、どの地域からも受講が可能です。 受講日時については日程表をご確認ください。 |
時数 | 16コマ |
時間数 | 24時間 |
到達目標 | ・ChatGPTなど大規模言語モデルの活用方法がわかる ・ディープラーニングライブラリHuggingfaceを扱えるようになる ・アプリケーションのデモを実装できるようになる |
難易度 | ★★★ |
分野別難易度 | 機械学習:★ WEB:★ Python:★★ ※履修モデルならコース内で学習できます。 |
履修上の注意 | この科目は「AIプログラミングモデル」のラボ科目です。 同モデルの事前学習科目はこちら(推奨科目) ・Python入門 ・Python WEB開発 ・深層学習 その他 ・PC(VScodeがインストールされていること) ・Googleアカウント(Google Colaboratory用) ・Pythonを使います。 |
授業計画 ・内容 |
講義はオンラインで展開し、座学はビデオを視聴する形式で、演習はハンズオン形式で実施していきます。 本講義の大まかな流れがこちらです。PyTorchなど手を動かすところから始め、LLMの活用方法を学んでいきます。ディープラーニングの一つの技術的な到達地点であるトランスフォーマーがどのように機能しているかを学び、HuggingFaceというライブラリでLLMを扱う方法を身につけます。RAGやAIエージェントに関しても取り扱います。最終課題では、学習した内容をもとにデモの実装に取り組みます。 1. Python / PyTorch入門 1 2. Python / PyTorch入門 2 3. Prompt Engineering 1 4. Prompt Engineering 2 5. LlamaIndex 1 6. LlamaIndex 2 7. LangChain 1 8. LangChain 2 9. HuggingFace入門 1 10. HuggingFace入門 2 11. HuggingFace Transformers 1 12. HuggingFace Transformers 2 13. HuggingFace Dataset / Tokenizer 1 14. HuggingFace Dataset / Tokenizer 2 15. HuggingFace Gradio 1 16. HuggingFace Gradio 2 |
事前・事後学習 の内容 |
– 講義内容が週をまたぐので、先週の内容を復習するようにしてください – 講義ごとの理解度チェックを行うので、事後の学習に活用してください |
成績評価の 方法 |
– 最終課題を除く演出の進捗状況 – 最終課題の提出およびその内容 |
教科書 ・参考書等 |
– 講義資料は座学用スライドと演習用のプログラムを配布する – ディープラーニングを支える技術:岡野原 大輔,技術評論社,2021 – ディープラーニングを支える技術2:岡野原 大輔,技術評論社,2022 |
キーワード | ディープラーニング, 自然言語処理, PyTorch |
日程 | 1/18(土)9:00-12:15、1/25(土)9:00-12:15、2/1(土)9:00-12:15、2/8(土)9:00-12:15、2/15(土)9:00-12:15、2/22(土)9:00-12:15、3/1(土)9:00-12:15、3/8(土)9:00-12:15 |