Weights & Biases LLMモデル開発ウェビナー

イベントの内容

このウェビナーでは、5月にリリースされたホワイトペーパー「LLMをゼロからトレーニングするためのベストプラクティス」(https://wandb.ai/site/llm-whitepaper-japan)の概要をレビューするとともに、オープンソースLLMモデルのファインチューニングおよびプロンプトエンジニアリングの開発における、学習・検証・デプロイワークフローをwandbを使ってどのように構築できるのかを実例を交えて紹介します。 最先端の大規模言語モデルの開発チームのほとんどがW&Bを利用しています。この無料ホワイトペーパーでは、私たちがこれまでに蓄積してきたLLM開発のノウハウをご共有します。具体的には、下記のようなテーマが含まれます： 　・学習済みLLMモデルの構築と購入の比較 　・スケーリング法則 　・データセットの収集 　・データセットの前処理 　・事前学習のステップ 　・モデル評価 　・バイアスと有害性 　・インストラクションチューニング 　・人間のフィードバックによる強化学習 また技術デモにおいてはLLMを追加の日本語データで追加学習したプロジェクトや、LangChainを使ったアプリケーション開発の事例を見ながら、W&Bを使ったLLM開発ワークフローの構築方法をレビューします。