InternLMは、科学知能と長期ホライゾンのエージェント向けに設計された3970億パラメータのマルチモーダル基盤モデルであるIntern-S2-397Bを発表しました。このモデルは、事前トレーニング、強化学習タスクのカバレッジ、インタラクティブなエージェント環境全体でスケーリングし、一般的な推論能力とエージェント機能を強化します。

  • 新しい事前トレーニングのパラダイム: Intern-S2-397Bは、中間の構文解析を行わずにテキストと視覚の対応関係を保持しつつ、科学文献の生データページから直接学習し、記号的意味と視覚的関係の両方を同時にモデル化します。
  • 科学モーダリティの推論: 20以上の分野にわたって多様な科学強化学習タスクをスケーリングすることで、オープンソースモデルの中で最先端の一般推論性能を実現しています。
  • 長期ホライゾンのエージェント: 複数のエージェントフレームワークを大規模なサンドボックス環境に接続し、ブラックボックスのエージェント強化学習を行い、長期ホライゾンタスクにおける汎化能力を向上させます。

今回のリリースは、科学問題解決と、一般領域および科学領域の両方における長期ホライゾンタスクの能力限界において、飛躍的な進歩をもたらすことを目的としています。