VITAL ( Validating Investment Tool for Advancing Life Sciences ) — программное обеспечение для управления советом директоров, разработанное Aging Analytics, [1] компанией, зарегистрированной в Бристоле ( Англия ) и ликвидированной в 2017 году. Эндрю Гаража (старший аналитик фирмы) заявил, что проект направлен «на создание программного обеспечения, способного принимать автономные инвестиционные решения посредством итеративных релизов и обновлений». [1] По словам Ника Дайера-Уитефорда , VITAL 1.0 был «базовым алгоритмом». [2]
13 мая 2014 года гонконгская венчурная компания Deep Knowledge Ventures заявила, что назначила VITAL в свой совет директоров , чтобы доказать, что искусственный интеллект может быть инструментом для принятия инвестиционных решений. [3] [2] [4] Объявление получило широкое освещение в прессе, несмотря на то, что комментаторы считают это рекламным трюком . [5] В 2019 году Fortune сообщил, что VITAL больше не используется. [6]
Ученые и журналисты скептически отнеслись к назначению совета директоров VITAL. Профессор компьютерных наук Шеффилдского университета Ноэль Шарки назвал это «рекламной шумихой». [5] Майкл Осборн, доцент Оксфордского университета по машинному обучению , счел, что «называть это реальным членом совета директоров — это уловка». [7] Саймон Шарвуд из The Register написал, что «в этом есть сильный привкус трюка и/или рекламы». [8] В своей речи в 2019 году главный ученый Австралии Алан Финкель прокомментировал : «В то время большинство из нас, вероятно, отнеслись к Vital как к PR-упражнению. Признаюсь, три года назад я использовал ее историю, чтобы вызвать смех в одной из своих речей». [9]
Флориан Мёсляйн, профессор права в Университете Марбурга , написал в 2018 году, что «Vital широко признан «первым в мире директором компании с искусственным интеллектом»». [4] Вице- журналист Джейсон Кёблер предположил, что программное обеспечение не имеет никаких возможностей для анализа статей, и пришел к выводу, что «VITAL не может говорить, не может слышать и не может быть настоящим, функциональным руководителем компании». [10] Шарвуд из The Register отметил, что, поскольку VITAL не является физическим лицом , он не может быть членом совета директоров в соответствии с законами Гонконга о корпоративном управлении . [8] Однако в интервью The Nikkei в 2017 году Дмитрий Каминский, управляющий партнер Deep Knowledge Ventures, заявил, что VITAL имеет статус наблюдателя в совете директоров и не имеет права голоса. [11]
Профессор компьютерных наук Шеффилдского университета Ноэль Шарки сказал о VITAL: «На первый взгляд это выглядит как футуристическая идея, но если подумать, то это на самом деле немного рекламной шумихи». [5] Вице- журналист Джейсон Кёблер сказал: «Это трюк» и сказал: «Нет буквально ничего, что указывало бы на то, что VITAL обладает какими-либо возможностями, выходящими за рамки любого другого фирменного аналитического программного обеспечения». [10] Майкл Осборн, доцент Оксфордского университета по машинному обучению , счел назначение VITAL не заслуживающим доверия, заявив, что «это своего рода трюк — называть это фактическим членом совета директоров». Осборн сказал, что основная обязанность членов совета директоров — общаться друг с другом, на что алгоритм не способен, поэтому его более вероятная функциональность — служить трамплином для общения между другими членами совета директоров. [7] В своей речи в 2019 году главный научный сотрудник Австралии Алан Финкель прокомментировал : «В то время большинство из нас, вероятно, отнеслись к Витал как к средству пиара. Признаюсь, три года назад я использовал ее историю, чтобы вызвать смех в одной из своих речей». [9]
VITAL был создан группой программистов, работающих в Aging Analytics [12]. По словам Эндрю Гаража, старшего аналитика Aging Analytics, VITAL не был алгоритмом машинного обучения, поскольку необходимые наборы данных по инвестиционным раундам , интеллектуальной собственности и результатам клинических испытаний, как правило, не раскрываются. [1] Вместо этого VITAL использовал нечеткую логику [1] на основе 50 параметров для оценки факторов риска. [11]
Aging Analytics предоставила лицензию на программное обеспечение Deep Knowledge Ventures. [13] Оно использовалось для помощи членам совета директоров Deep Knowledge Venture в принятии инвестиционных решений в биотехнологических компаниях. [1] Например, оно поддерживало инвестиции в Insilico Medicine , [14] которая создает способы, с помощью которых компьютеры могут помочь найти лекарства в исследованиях старения. [4] VITAL также поддерживала инвестиции в Pathway Pharmaceuticals, [15] которая использует алгоритм OncoFinder [16] для выбора и оценки методов лечения рака . [15] По словам Дмитрия Каминского, управляющего партнера Deep Knowledge Ventures, мотивацией использования VITAL было большое количество неудачных инвестиций в биотехнологический сектор и желание избежать инвестиций в компании, которые, скорее всего, потерпят неудачу. [11]
Ученые обсудили вопросы, связанные с безопасностью, конфиденциальностью, прозрачностью подотчетности и предвзятостью алгоритмов.
В своей статье в философском журнале Multitudes академик Ариэль Киру поднял вопросы о последствиях ошибки, допущенной алгоритмом, рекомендующим опасные инвестиции. [17] Он выдвинул гипотезу, согласно которой VITAL смог убедить совет директоров инвестировать в стартап, который внешне занимался исследованиями в области лечения возрастных заболеваний, но на самом деле управлялся террористами, которые собирали средства. [17] Киру поднял ряд вопросов о том, кого общество обвинит в ошибке VITAL. [17] Должна ли компания Deep Knowledge Ventures нести ответственность как владелец VITAL или, скорее, компании, поставлявшие данные VITAL, или люди, создавшие VITAL, должны быть привлечены к ответственности? [17]
Саймон Шарвуд из The Register написал, что поскольку назначение программного обеспечения в совет директоров юридически неосуществимо в Гонконге, в этом «сильно чувствуется обман и/или реклама». Ссылаясь на веб-сайт Thomson Reuters, описывающий законодательство Гонконга, касающееся корпоративного управления , Шарвуд указал, что в Гонконге «совет состоит из всех директоров компании» и «директор обычно должен быть физическим лицом , за исключением того, что частная компания может иметь юридическое лицо в качестве своего директора, если компания не является членом листинговой группы ». Он пришел к выводу, что, поскольку VITAL нельзя считать «физическим лицом», это всего лишь «косметическое» назначение в совет и что «это программное обеспечение не является членом совета директоров больше, чем лошадь Калигулы была сенатором». Шарвуд далее утверждал, что корпорации часто покупают страхование ответственности директоров и должностных лиц , но что было бы практически невозможно получить такое страхование для VITAL. Шарвуд также написал, что если VITAL будет взломан, любая дезинформация, которую он выводит, может считаться «ложной и вводящей в заблуждение информацией» [8] .
В книге Research Handbook on the Law of Artificial Intelligence Флориан Молейн написал, что VITAL не может стать директором, как определено в корпоративном законодательстве Гонконга, поэтому другие директора просто подходили к нему как к «члену совета директоров со статусом наблюдателя». [4] Линь Шаовэй выразил обеспокоенность в статье в журнале Восточно-Китайского университета политических наук и права о том, как появление программного обеспечения побудило к сложному вопросу о взаимосвязи корпоративного права и искусственного интеллекта. VITAL можно считать либо директором совета директоров, имеющим право голоса, либо наблюдателем, у которого его нет. Линь сказал, что любой выбор поднимает вопросы о том, подчиняется ли VITAL корпоративному законодательству и кто будет нести ответственность, если VITAL рекомендует выбор, который окажется губительным для компании. [13]
Дэвид Тео Голдберг в Critical Times, рецензируемом журнале в Critical Global Theory, утверждает, что VITAL обработал набор данных [18], чтобы предсказать наиболее выгодные инвестиционные возможности. Опираясь на свой анализ на статью из Business Insider , [19] Голдберг описывает предсказательную способность принятия решений VITAL, основанную «на распознавании поверхностных образов и выявлении закономерностей и/или нерегулярностей». [18] Другими словами, Голдберг утверждает, что «нормативность поверхности» объясняет алгоритмическое знание «продукта», такого как VITAL. [18] [ релевантно? ]
В Homo Deus Юваль Ной Харари упоминает VITAL как пример будущих рисков, с которыми сталкивается человечество. [20] Харари утверждает, что человеческий разум заменяется миром, в котором алгоритмы и данные принимают решения. В частности, утверждается, что «поскольку алгоритмы вытесняют людей с рынка труда», исполнительные советы, управляемые искусственным интеллектом, с большей вероятностью будут отдавать приоритет алгоритмам, а не людям. [20]