В статье утверждается против использования больших языковых моделей для вывода причинных структур, предупреждая, что такие подходы рискуют спутать текстовые ассоциации с настоящими причинными доказательствами. Вместо этого предлагается, чтобы агенты лишь помогали рабочему процессу, проверяя данные и объясняя предположения, оставляя причинные утверждения опирающимися на формальные алгоритмы и диагностику.
- Агентам запрещено предоставлять рёбра, ориентации, априорные вероятности, ограничения или причинные выводы, чтобы предотвратить превращение галлюцинированных механизмов в доказательства.
- Принцип реализован в causal-learn+, онлайн-платформе, координирующей анализ данных, предварительную обработку, рекомендацию методов и интерпретацию в экосистеме causal-learn.
- Исследование на данных о «Большой пятёрке» личностных черт демонстрирует конвейер, который предотвращает превращение ненадёжности языковых моделей в причинные доказательства.
Этот подход гарантирует надёжность открытия причинности, разделяя координацию рабочего процесса с помощью агентов и строгую алгоритмическую основу, необходимую для действительных причинных утверждений.