В информационной безопасности вычислительное доверие — это создание доверенных органов или доверия пользователей посредством криптографии . В централизованных системах безопасность обычно основана на аутентифицированной идентификации внешних сторон. Жесткие механизмы аутентификации, такие как инфраструктуры открытых ключей (PKI) [1] или Kerberos [2] , позволили распространить эту модель на распределенные системы в пределах нескольких тесно взаимодействующих доменов или в пределах одного административного домена. В последние годы компьютерная наука перешла от централизованных систем к распределенным вычислениям. Эта эволюция имеет несколько последствий для моделей безопасности, политик и механизмов, необходимых для защиты информации и ресурсов пользователей во все более взаимосвязанной вычислительной инфраструктуре. [3]
Механизмы безопасности на основе идентификации не могут авторизовать операцию без аутентификации заявляющего субъекта. Это означает, что никакое взаимодействие не может произойти, если обе стороны не известны своим структурам аутентификации. Таким образом, для спонтанного взаимодействия потребуется один или несколько доверенных центров сертификации (CA). В настоящем контексте PKI не рассматривались, поскольку у них есть проблемы [ какие? ] , поэтому маловероятно, что они утвердятся в качестве эталонного стандарта в ближайшем будущем. Пользователь, желающий сотрудничать с другой стороной, может выбрать между включением безопасности и тем самым отключением спонтанного сотрудничества или отключением безопасности и включением спонтанного сотрудничества. Принципиально важно, чтобы мобильные пользователи и устройства могли проходить аутентификацию автономно, не полагаясь на общую инфраструктуру аутентификации. Чтобы решить эту проблему, нам необходимо изучить проблемы, вызванные «глобальными вычислениями» [4] , термином, введенным ЕС для обозначения будущего глобального информационного общества, и определить их влияние на безопасность.
Криптовалюты , такие как биткоин , используют такие методы, как доказательство работы (PoW), для достижения вычислительного доверия внутри сети транзакций.
Computational Trust применяет человеческое понятие доверия к цифровому миру, который рассматривается как вредоносный, а не кооперативный. Ожидаемые выгоды, по мнению Марша и др., приводят к использованию способностей других людей посредством делегирования и к расширению сотрудничества в открытой и менее защищенной среде. Исследования в области вычислительных механизмов для доверия и репутации в виртуальных обществах направлены на повышение надежности и производительности цифровых сообществ. [5]
Решение, основанное на доверии, в определенной области — это многоэтапный процесс. Первый шаг этого процесса состоит в определении и выборе надлежащих входных данных, то есть доказательств доверия. Как правило, они являются специфическими для области и выводятся из анализа, проведенного над соответствующим приложением . На следующем шаге выполняется вычисление доверия на основе доказательств для получения значений доверия, что означает оценку надежности сущностей в этой конкретной области. Выбор доказательств и последующее вычисление доверия основаны на понятии доверия, определенном в модели доверия. Наконец, решение о доверии принимается с учетом вычисленных значений и экзогенных факторов, таких как оценки диспозиции или риска .
Эти концепции стали более актуальными в последнее десятилетие в компьютерной науке, особенно в области распределенного искусственного интеллекта . Парадигма многоагентной системы и рост электронной коммерции повысили интерес к доверию и репутации. Фактически, системы доверия и репутации были признаны ключевыми факторами для электронной коммерции. Эти системы используются интеллектуальными программными агентами в качестве стимула при принятии решений, при принятии решения о том, выполнять или нет контракты, и в качестве механизма поиска надежных партнеров по обмену. В частности, репутация используется на электронных рынках в качестве механизма обеспечения доверия или как метод предотвращения обмана и мошенничества. [6]
Другая область применения этих концепций в агентной технологии — командная работа и сотрудничество. [7] Несколько определений человеческого понятия доверия были предложены в течение последних лет в различных областях от социологии , психологии до политических и деловых наук . Эти определения могут даже меняться в соответствии с областью применения. Например, недавнее определение Романо [8] пытается охватить предыдущую работу во всех этих областях:
Доверие — это субъективная оценка влияния другого человека с точки зрения степени его восприятия качества и значимости воздействия на его результаты в определенной ситуации, при этом ожидание, открытость и склонность к такому влиянию создают ощущение контроля над потенциальными результатами ситуации.
Доверие и репутация имеют социальную ценность. Когда кто-то заслуживает доверия, от него можно ожидать, что он будет действовать выгодно или, по крайней мере, не подозрительно, что гарантирует другим, с высокой вероятностью, хорошее сотрудничество с ним. Напротив, когда кто-то кажется не заслуживающим доверия, другие воздерживаются от сотрудничества, поскольку существует более низкий уровень вероятности того, что это сотрудничество будет успешным. [9]
Доверие — это определенный уровень субъективной вероятности, с которой агент оценивает, что другой агент или группа агентов выполнят определенное действие, как до того, как он сможет контролировать такое действие (или самостоятельно или с помощью своей способности когда-либо иметь возможность контролировать его), так и в контексте, в котором это влияет на его собственные действия.
Доверие тесно связано с уверенностью и подразумевает некоторую степень неопределенности, надежды или оптимизма. В конце концов, Марш [10] обратился к вопросу формализации доверия как вычислительной концепции в своей докторской диссертации. Его модель доверия основана на социальных и психологических факторах.
В литературе появилось много предложений, и здесь представлен выбор вычислительных моделей доверия и репутации, которые представляют собой хороший пример текущих исследований. [11]
Доверие и репутацию можно анализировать с разных точек зрения и применять во многих ситуациях. Следующая классификация основана на учете особенностей этих моделей и среды, в которой они развиваются.
Модель доверия и репутации можно охарактеризовать как:
В моделях, основанных на когнитивном подходе, доверие и репутация состоят из базовых убеждений и являются функцией степени этих убеждений. [12] Ментальные состояния, которые приводят к доверию другому агенту или присвоению репутации, являются неотъемлемой частью модели, так же как и ментальные последствия решения и акта доверия другому агенту;
В неврологических моделях доверия неврологические теории взаимодействия между аффективными и когнитивными состояниями моделируются на неврологическом уровне, а также с использованием теорий воплощения эмоций. [13] В этих моделях динамика доверия связана с опытом с (внешними) источниками, как с когнитивной, так и с аффективной точки зрения. Более конкретно для ощущения эмоции, связанной с психическим состоянием, моделируются сходящиеся рекурсивные телесные петли. Кроме того, на основе обучения Хебба (для прочности связей с эмоциональными реакциями) вводятся различные процессы адаптации, которые вдохновлены гипотезой соматических маркеров. [14]
Доверие и репутация считаются субъективными вероятностями, посредством которых индивид А ожидает, что индивид Б выполнит определенное действие, от которого зависит его благополучие. [15]
При таком подходе доверие и репутация являются не результатом психического состояния агента в когнитивном смысле, а результатом более прагматичной игры с функциями полезности и численным агрегированием прошлых взаимодействий.
Можно отсортировать модели, рассматривая источники информации, используемые для вычисления значений доверия и репутации. Традиционными источниками информации являются непосредственный опыт и информация от свидетелей, но в последних моделях начали учитывать связь между информацией и социологическим аспектом поведения агента. Когда модель содержит несколько источников информации, это может повысить надежность результатов, но, наоборот, это может повысить сложность модели.
Прямой опыт является наиболее релевантным и надежным источником информации для модели доверия/репутации. Можно выделить два типа прямого опыта:
Информация о свидетелях, также называемая косвенной информацией, исходит из опыта других членов сообщества. Она может быть основана на их собственном прямом опыте или на других данных, которые они собрали из опыта других. Информация о свидетелях обычно самая обильная, но ее использование сложно для моделирования доверия и репутации. Фактически, она вносит неопределенность, и агенты могут манипулировать или скрывать части информации для собственной выгоды.
Люди, принадлежащие к сообществу, устанавливают различные типы отношений. Каждый человек играет одну или несколько ролей в этом обществе, влияя на свое поведение и взаимодействие с другими людьми. В многоагентной системе, где существует множество взаимодействий, социальные отношения между агентами являются упрощенным отражением более сложных отношений их человеческих коллег. [16] Лишь немногие модели доверия и репутации принимают эту социологическую информацию, используя такие методы, как анализ социальных сетей . Эти методы изучают социальные отношения между людьми в обществе, которое возникло как набор методов анализа социальных структур, методов, которые специально позволяют исследовать реляционные аспекты этих структур. [17]
Предубеждение — еще один, хотя и необычный, механизм, влияющий на доверие и репутацию. Согласно этому методу, индивидууму придаются свойства определенной группы, которые делают его узнаваемым как ее члена. Это могут быть такие признаки, как униформа, определенное поведение и т. д. [18]
Как большинство людей сегодня используют это слово, предубеждение относится к негативному или враждебному отношению к другой социальной группе, часто определяемому по расовому признаку. Однако эта негативная коннотация должна быть пересмотрена при применении к агентским сообществам. Набор знаков, используемых в вычислительных моделях доверия и репутации, обычно находится вне этического обсуждения, в отличие от знаков, используемых в человеческих обществах, таких как цвет кожи или пол.
Большая часть литературы по когнитивным и социальным наукам утверждает, что люди демонстрируют нерациональное, предвзятое поведение в отношении доверия. Недавно были разработаны, проанализированы и проверены на основе эмпирических данных предвзятые модели человеческого доверия. Результаты показывают, что такие предвзятые модели доверия способны предсказывать человеческое доверие значительно лучше, чем непредвзятые модели доверия. [19] [20]
Наиболее релевантными источниками информации, рассматриваемыми моделями доверия и репутации , представленными ранее, являются непосредственный опыт и свидетельская информация. На электронных рынках социологическая информация практически отсутствует, и для повышения эффективности реальных моделей доверия и репутации ее следует учитывать. Однако нет причин усложнять модели, вводящие доказательства доверия, если впоследствии их придется использовать в среде, где невозможно реализовать их возможности. Агрегация большего количества доказательств доверия и репутации полезна в вычислительной модели, но она может увеличить ее сложность, что затруднит общее решение. Несколько моделей зависят от характеристик среды, и возможным решением может быть использование адаптивных механизмов, которые могут изменять способ объединения различных источников информации в данной среде. Было представлено множество определений доверия и репутации, и есть несколько работ, которые придают смысл обеим концепциям. [21] [22] [23] [24]
Между этими двумя концепциями существует связь, которую следует рассмотреть подробно: репутация — это концепция, которая помогает строить доверие к другим. В настоящее время теория игр является преобладающей парадигмой, рассматриваемой для разработки вычислительных моделей доверия и репутации. По всей вероятности, эта теория принимается во внимание, поскольку значительное число экономистов и компьютерных ученых, имеющих большой опыт в теории игр и методах искусственного интеллекта, работают в многоагентных и электронных коммерческих контекстах. Теоретико-игровые модели дают хорошие результаты, но могут оказаться неподходящими, когда сложность агентов с точки зрения социальных отношений и взаимодействия увеличивается и становится слишком ограничительной. Следует рассмотреть исследование новых возможностей и, например, должно быть объединение когнитивных подходов с теоретико-игровыми. Помимо этого, следует рассмотреть больше доказательств доверия, а также метрики доверия, чувствительные ко времени . [25] [26] представляют собой первый шаг к поощрению улучшения вычислительного доверия. [27]
Важным вопросом в моделировании доверия является переносимость суждений о доверии различными агентами. Социологи согласны считать безусловные значения доверия непереносимыми, но более прагматичный подход пришел бы к выводу, что условные суждения о доверии стоит переносить, поскольку решения, принимаемые с учетом мнения других, лучше, чем те, которые принимаются изолированно. В [28] авторы исследовали проблему переносимости доверия в открытых распределенных средах, предложив механизм перевода, способный сделать информацию, передаваемую от одного агента другому, более точной и полезной.
В настоящее время не существует общепринятой оценочной структуры или эталона, которые позволили бы сравнивать модели при наборе репрезентативных и общих условий. Был предложен игровой теоретико-подход в этом направлении [29] , где конфигурация модели доверия оптимизируется, предполагая, что злоумышленники имеют оптимальные стратегии атаки; это позволяет на следующем этапе сравнить ожидаемую полезность различных моделей доверия. Аналогичным образом, была предложена аналитическая структура на основе моделей для прогнозирования эффективности механизмов репутации против произвольных моделей атак в произвольных моделях систем [30] для одноранговых систем.
{{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь ){{cite journal}}: Цитировать журнал требует |journal=( помощь )