オムロン サイニックエックス株式会社（本社：東京都文京区、代表取締役社長：諏訪正樹、以下 OSX）は、AI・機械学習分野におけるトップカンファレンス37th Conference on Neural Information Processing Systems（以下 NeurIPS 2023）に論文が採択されました。また、同国際会議に併設されるワークショップNeurIPS 2023 AI for Science Workshopにおいても論文が口頭発表で採択されました。本成果の詳細は、2023年12月10日から12月16日まで米国ルイジアナ州ニューオーリンズにて開催される同国際会議にて、それぞれ発表を行います。
「NeurIPS」は、AI・機械学習分野における最難関国際会議の一つです。2023年は12,343件の投稿の中から、26.1%の論文が採択されています。また、ワークショップには153件が採択され、そのうち10件が口頭発表です。
NeurIPS 2023に採択された論文では、オフライン強化学習において、学習時に最適な時系列データを収集できていない場合においても、最適に近い時系列データを生成するアルゴリズムを検討し、その成果をまとめています。また、ワークショップでは、科学的な新発見の促進を目的とした、データから数式を探し出すTransformerモデルの研究について発表します。これらを、社会実装に向けて積極的に活用いただくために、わかりやすく技術を解説する記事やGitHubでオープンソースコードとして公開しています。詳細は、論文内容のリンクからご確認ください。
今後もOSXでは、大学や社外研究機関との共同研究、インターンシップの採用などを通して、技術革新による価値創出に取り組んでまいります。
＜NeurIPS 2023に採択された論文＞ ※発表日時は現地時間です
| タイトル | Elastic Decision Transformer |
| 著者 | Yueh-Hua Wu (UC San Diego / OSXインターン: 2022年12月～2023年3月), Xiaolong Wang (UC San Diego), Masashi Hamaya (OSX) |
| 発表日時 | 12/13(水) 15:00-17:00 |
| 概要 | 強化学習（Reinforcement Learning: RL）は、累積報酬を最大化するために、エージェントがどのように行動を取るべきかを環境と相互作用しながら学習するタスクです。RLは、ロボットの動作制御や、モビリティにおける自動運転、ゲームAIなど、幅広い分野で利用されています。RLのなかでも、事前に収集したデータのみを用いるオフラインRLは、実環境とのリアルタイムな相互作用を不要とするため、データ収集に要するコストの削減が期待できます。近年では、自然言語処理やコンピュータビジョンなどの分野で広く活用されているTransformerのアーキテクチャを、オフラインRLに拡張したDecision Transformer（DT）が高い性能を示すとして注目されています。DTでは、オフラインRLを時系列モデルとして扱い、過去の時系列データをもとに、次の行動を予測・決定します。
オフラインRLでは、必ずしも最適なデータを収集できない場合があります。そこで、最適でない時系列データをつなぎ合わせ、最適な（あるいは最適に近い）時系列データの推移（軌道）を生成すること（軌道スティッチング）が求められます。しかし、DTは、短期的・長期的にどれくらいの報酬を取得できるかを考慮できず、軌道スティッチングの性能が十分でない可能性があります。 本論文では、DTの軌道スティッチングにおいて、参照する過去の時系列データの長さ（入力の長さ）を可変としたElastic Decision Transformer（EDT）を提案しました。短い時間の入力を採用すると、出力のバラツキが大きくなります。その際に、探索を促進することで、より高い報酬を得る出力を選択することができます。また、軌道がすでに最適である際には、長い時間の入力を採用し、モデルの安定性と一貫性を維持します。このように、それぞれの時刻ごとに入力の長さを可変とすることで、DTにおける軌道スティッチングの性能を向上させることができます。 シミュレーションにてRLにおけるベンチマークテストを実施し、提案するEDTが多様な適用分野や状況、タスクに対して優れた性能を示すことが確認できました。本成果は、ロボットによる未知部品の組立作業や、自動運転における車両制御や環境認識の精度向上などに応用できると期待しています。 |
| 詳細 | https://medium.com/sinicx-ja/ad5710b658cb |
＜NeurIPS 2023 AI for Science Workshopに採択された論文＞ ※発表日時は現地時間です
| タイトル | A Transformer Model for Symbolic Regression towards Scientific Discovery |
| 著者 | Florian Lalande (OIST / OSXインターン: 2023年4月～9月, 11月～12月), Yoshitomo Matsubara (Amazon Alexa), Naoya Chiba (Tohoku University), Tatsunori Taniai (OSX), Ryo Igarashi (OSX), Yoshitaka Ushiku (OSX) |
| 発表日時 | 12/16(土) 16:05-16:10 |
| 詳細 | https://github.com/omron-sinicx/transformer4sr |
オムロン サイニックエックス株式会社について
オムロン サイニックエックス株式会社は、オムロンの考える”近未来デザイン”を創出する戦略拠点です。「AI」「ロボティクス」「IoT」「センシング」など、幅広い領域の最先端技術のトップ人財が研究員として在籍し、社会的課題を解決するために、技術革新をベースに「ビジネスモデル」「技術戦略」「知財戦略」を統合し具体的な事業アーキテクチャに落とし込んだ”近未来デザイン”を創り出します。また、大学や社外研究機関との共同研究を通じて「近未来デザイン」の創出を加速していきます。詳細については、https://www.omron.com/sinicx/をご覧ください。