Каузальный ИИ — это метод в искусственном интеллекте , который строит каузальную модель и может, таким образом, делать выводы, используя причинность , а не просто корреляцию. Одним из практических применений каузального ИИ является объяснение организациями процесса принятия решений и причин для решения. [1] [2]
Системы, основанные на каузальном ИИ, выявляя базовую сеть причинно-следственных связей для поведения или события, предоставляют информацию, которую исключительно прогностические модели ИИ могут не извлечь из исторических данных. [3] Анализ причинно-следственных связей может использоваться для дополнения человеческих решений в ситуациях, когда необходимо понимание причин, лежащих в основе результата, например, для количественной оценки влияния различных вмешательств, политических решений или выполнения планирования сценариев. [4] В статье 2024 года от Google DeepMind математически продемонстрировано, что «любой агент, способный адаптироваться к достаточно большому набору сдвигов распределения, должен был изучить каузальную модель». [5] В статье предлагается интерпретация, согласно которой обучение обобщению за пределами исходного обучающего набора требует изучения каузальной модели, из чего следует, что каузальный ИИ необходим для общего искусственного интеллекта .
Концепция причинного ИИ и пределы машинного обучения были подняты Джудеей Перлом , ученым-компьютерщиком и философом , лауреатом премии Тьюринга , в книге 2018 года « Книга о том, почему : новая наука о причине и следствии». Перл утверждал: «Недостаток понимания машинами причинно-следственных связей, возможно, является самым большим препятствием на пути к наделению их интеллектом человеческого уровня». [6] [7]
В 2020 году Колумбийский университет создал Лабораторию причинного ИИ под руководством директора Элиаса Барейнбойма. Исследования профессора Барейнбойма сосредоточены на причинном и контрфактуальном выводе и их применении в областях, основанных на данных, в здравоохранении и социальных науках, а также в искусственном интеллекте и машинном обучении. [8] Технологическая исследовательская и консалтинговая фирма Gartner впервые включила причинный ИИ в свой отчет Hype Cycle 2022 года , назвав его одной из пяти критических технологий в ускоренной автоматизации ИИ. [9] [10]
Одним из значительных достижений в этой области является концепция алгоритмической информационной динамики: [11] подход на основе моделей для причинного обнаружения с использованием алгоритмической теории информации и анализа возмущений. Он решает обратные причинные проблемы, изучая динамические системы вычислительным путем. Ключевым приложением является причинная деконволюция, которая разделяет генеративные механизмы в данных с помощью алгоритмических моделей, а не традиционной статистики. [12] Этот метод определяет причинные структуры в сетях и последовательностях, отходя от вероятностных и регрессионных методов, отмечая один из первых практических подходов причинного ИИ с использованием алгоритмической сложности и алгоритмической вероятности в машинном обучении . [13]
{{cite web}}
: Отсутствует или пусто |url=
( помощь )