米Microsoft、機械学習向け推論エンジン「ONNX Runtime」をオープンソースで公開
米Microsoftは12月4日、機械学習のための高性能な推論インターフェイスエンジン「Open Neural Network Exchange(ONNX)Runtime」をオープンソースで公開した。WindowsおよびmacOS、Linuxで利用できる。
Open Neural Network Exchange(ONNX)は、Microsoftが米Facebookと共同開発した深層学習や機械学習のためのオープンなモデルフォーマット。AIモデルの相互運用性のためのエコシステムを目指している。AI開発者はこれを利用してツール間でモデルを容易に共用でき、あるフレームワークでトレーニングしたモデルを別のフレームワークで利用するといったことが可能になる。
ONNX RuntimeはONNXに対応した推論エンジンで、CPUおよびGPU(CUDA)を利用して処理を実行できる。プログラミングインターフェイスとしてはPythonおよびC、C#をサポートする。ONNX Runtimeをコードに直接組み込んで利用するほか、「Azure Machine Learning」を使ってサービスを実装して使うこともできる。
Microsoft社内では「Bing Search」「Bing Ads」などのシナリオで用いるモデルの改善に利用しているという。
対応フォーマットはONNX 1.2以上、およびONNX-MLプロファイル。継続して最新のONNX標準が使えるようにアップデートするため、最新の機能を活用できるとしている。
ONNX RuntimeはプロジェクトのWebサイトより入手できる。
Open Neural Network Exchange(ONNX)Runtime
https://github.com/microsoft/onnxruntime