いち早くLLM開発への取り組みを発表した、CyberAgent、富士通、Stability AI Japan、LLM-jp、東京工業大学などが採用
Weights & Biases Japan株式会社(以下、W&B Japan)は、3月の日本法人設立から積極的なビジネス展開を実行した結果、エンタープライズ・ライセンスのご利用が急拡大しています。グローバルではOpenAIをはじめNVIDIA、Cohere、EleutherAIなどの先進的な生成AI開発企業がWeights & Biasesプラットフォーム(以下、WandB)を導入していますが、日本でも早期に生成AIの開発計画を表明した先進企業が導入を開始しました。ここには株式会社サイバーエージェント、富士通株式会社、Stability AI Japanなど、日本をリードするAI開発企業が含まれます。また、国立情報学研究所の主宰するLLM-jpや、スーパーコンピューター富岳でのLLM開発を行うGPT-FugakuなどのアカデミックプロジェクトでもWandBが採用され、東京工業大学をはじめ、様々な研究機関に所属する研究者の大規模言語モデル(LLM)開発においても活発なご利用が開始しています。
採用企業からのエンドースメント
CyberAgent 機械学習エンジニア 石上亮介氏からのコメント
生成AIを開発する上でWeights & Biasesプラットフォームは必要不可欠なサービスとなっています。性能のモニタリング/チーム内での共有のような実験管理から、LLMアプリケーションのための検証まで、様々な役立つ機能が提供されており、生成AI開発における羅針盤のような役割を果たしています。
富士通株式会社 執行役員EVP 富士通研究所長 岡本青史氏
WandBは、生成AI開発において効率化と高速化を実現する優れたプラットフォームであり、その採用により、富士通のAI開発のさらなる加速を目指します。特に、スーパーコンピュータ「富岳」を活用した大規模言語モデルの分散並列学習手法の開発においては、WandBが大規模言語モデルの開発・運用・管理を効率化することで、イノベーションの創出に大きく貢献すると期待しています。今後も、WandBの活用を通じて、AI分野での技術革新を推進してまいります。
Stability AI Japan株式会社 Senior Research Scientist 秋葉拓哉氏
毎朝、起床してWandBを開くのが楽しみで仕方ありません。生成基盤モデルの学習は、大量の計算資源を利用し長期間行われます。WandBを用いることで、学習の期間中、状況を容易に確認できます。また、大規模な実験に際しては、試行回数を多く取れないことも多いため、1つ1つの実験の計画が重要になります。WandBを用いると、複数の学習の過程を比較したり、チーム内で議論したりといった分析が容易になるため、より優れた実験の計画を立て、効果的に試行することができます。このように、Stability AIにおける生成基盤モデルの構築にあたって、WandBはなくてはならない存在です。
東京工業大学 学術国際情報センター 教授 横田理央氏
WandBは2020年1月頃から研究室全体で使っており、大学の講義でも2021年度から使い方を教えています。我々はSummit, Frontier, LUMI, Fugaku, ABCIなどの複数のスパコンにまたがって膨大な数の学習を行っているのですが、WandBを使うとそれらが一箇所でまとめて管理できるのが非常に便利です。通常だと、とても管理しきれないような膨大な数の実験をチーム内で効率的に共有し、リアルタイムで分析できるのはWandBのおかげです。学生が、思ったのと違うハイパラ設定で実験していたことがWandBのログから判明して、おかしな結果の謎が解けたことが何度もありました。このような素晴らしいツールを提供していただきありがとうございます。
Weights & BiasesはOpenAIなど、世界の生成AI・LLM企業が活用
WandBは機械学習開発・運用に関わる実務者のための実験管理・MLOpsプラットフォームとしてAI開発に携わる50万人以上のユーザーが利用登録しており、日本でも既に1万5千人以上のユーザーにご利用いただいています。特に最近ではLLM開発企業から絶大な支持を獲得しており、その中にはChatGPTで知られるOpenAI、カナダのLLM開発企業Cohere、完全なオープンソース技術スタックのLLMをいち早く世に放ったEleuther AIなども含まれます。
Eleuther AI チームの開発したGPT-NeoXのWandBダッシュボード:
このような背景を踏まえ、日本の生成AI開発においてもWandBの導入が急速に広がっています。5月にLLMモデルのオープンソース公開を実現したCyberAgentや、画像生成AIの公開やLLMのリリースで注目を集めているStability AIの日本チームでもモデル学習プロセスの可視化や生成結果の評価などに活用されているほか、スーパーコンピュータ「富岳」でのLLM開発を進めるGPT-FugakuプロジェクトなどのアカデミックプロジェクトでもWandBが採用されています。
LLM開発に特化した機能をリリースし、ベストプラクティスを日本でも発信
WandBは本年4月にLLM開発支援に特化したPrompts機能をリリースするとともに、LangChainやLlamaIndexなどの主要なLLMアプリケーション開発フレームワークとのインテグレーションを発表し、この新たなパラダイムにおける開発プロセスを可視化・管理・検証するためのプラットフォームを提供しています。
LLMプロンプト開発可視化機能のダッシュボード:
また、日本においては、5月に「LLMをゼロからトレーニングするためのベストプラクティス」を公開(http://wandb.me/llm-jpdl)し、LLM開発の最新ノウハウを集約・発信するとともに、6月にはLLMモデルの性能評価プロジェクトを立ち上げ、英語でしか評価されないことの多いLLMモデルの日本語性能のリーダーボードを公開しています(https://api.wandb.ai/links/wandb/ty6c7do4)
W&B Japanでは今後も、日本でのAI開発に関わるすべての実務者の皆様に最も進んだ機械学習開発・MLOpsツールをお届けするとともに、弊社グローバルチームと連携して世界最先端のAI開発におけるベストプラクティスをご共有することを通じて、日本での生成AI開発を加速させていきます。
Weights & Biases Japan株式会社について
Weights & Biases Japan株式会社は、エンタープライズグレードのML実験管理およびエンドツーエンドMLOpsワークフローを包含する開発・運用者向けプラットフォームを販売する日本法人です。WandBは、LLM開発や画像セグメンテーション、創薬など幅広い深層学習ユースケースに対応し、NVIDIA、OpenAI、Toyotaなど、国内外で50万人以上の機械学習開発者に信頼されているAI開発の新たなベストプラクティスです。
Weighs & Biases Japan株式会社は、2023年4月に日本ディープラーニング協会に正会員として入会しました。
W&B社日本語ウェブサイト:https://wandb.jp