車載AIの実現に向けた埋め込みモデル軽量化技術の調査・検証支援

Polaris.AIは、ある大手製造企業様を対象に、車載チップ上でのRAG（質問に対して適切な情報を検索・回答するAI機能）の実現に向けた、日本語テキスト処理に用いる「埋め込みモデル」の小型化・軽量化技術に関する研究開発支援を実施しました。

本プロジェクトの背景

クライアント企業様では、自動車の車内システムにRAGに基づくAI機能を搭載することを目標として研究開発を進めていました。

しかし、車載チップは処理能力や消費電力に制約があるため、一般的な大規模AIモデルをそのまま搭載することが技術的に困難な状況でした。一方でモデルを小さくするほど日本語の検索精度が低下するというトレードオフも存在し、どの小型化手法が有効かを判断するための体系的な知見が社内に不足していました。

そこでPolaris.AIに対し、小型化手法の技術調査および実装検証を行う研究開発パートナーとしてのご支援をご依頼いただきました。

支援内容

Polaris.AIは、単なる技術調査の代行にとどまらず、製品化を見据えた研究開発の全体設計から実装・評価まで一気通貫で支援しました。

• 軽量化手法の網羅的な論文サーベイと、車載RAGの要件に照らした評価・絞り込み

• 調査結果をもとに選定したベクトルの次元削減手法の実装と、評価スクリプトの納品

• 定期的なミーティングを通じた技術方針のすり合わせと、検証結果に基づく改善サイクルの運用

• テキストだけでなく画像・音声にも対応したAIモデルへの展開を見据えた、今後の研究開発方針の策定

技術詳細

軽量化手法の調査では、パラメータの削減・知識の転移・量子化・次元圧縮など主要な手法を幅広く調査しました。

その結果、枝刈りや量子化といった直接的なパラメータ削減は情報量の低下を招きやすく、高精度なモデルの出力ベクトルに対して次元圧縮を適用するアプローチがより有望であることが示されました。
実装・検証では、日本語の検索性能が高いモデルに対して以下を実施しました。

• 単一の高次元ベクトルから任意のサイズで切り出して利用できる「マトリョーシカ表現学習」を用いた次元削減の実装と精度評価

• 次元削減前後での検索精度の定量比較と、モデルサイズ・処理コストとのトレードオフの整理

実施結果を踏まえ、精度・処理コスト・運用負荷のバランスを考慮した実用的なモデル選定や運用戦略の比較検討をクライアント企業様と共に推進しました。

Polaris.AIは今後も、AI技術を活用した研究開発支援・AI共同研究を通じて、クライアントの製品競争力強化と技術基盤の構築を技術面から支えてまいります。