DeepMind Technologies Limited , [4] ведущая бизнес как Google DeepMind , — британско-американская исследовательская лаборатория искусственного интеллекта , которая является дочерней компанией Google . Основанная в Великобритании в 2010 году, она была приобретена Google в 2014 году. [5] Компания базируется в Лондоне , а исследовательские центры находятся в Канаде, [6] Франции, [7] Германии и США.
Google DeepMind создал модели нейронных сетей , которые учатся играть в видеоигры так же, как это делают люди, [8] , а также нейронные машины Тьюринга (нейронные сети, которые могут получать доступ к внешней памяти, как обычная машина Тьюринга ), [9] В результате появился компьютер, который отдаленно напоминает кратковременную память человеческого мозга. [10] [11]
DeepMind попала в заголовки газет в 2016 году после того, как ее программа AlphaGo победила профессионального игрока в го Ли Седоля , чемпиона мира, в матче из пяти игр , о котором был снят документальный фильм. [12] Более общая программа, AlphaZero , победила самые мощные программы, играющие в го , шахматы и сёги (японские шахматы) после нескольких дней игры против самой себя с использованием обучения с подкреплением . [13]
В 2020 году DeepMind добилась значительных успехов в проблеме сворачивания белков с помощью AlphaFold . [14] В июле 2022 года было объявлено, что в базе данных AlphaFold будет опубликовано более 200 миллионов предсказанных белковых структур, представляющих практически все известные белки. [15] [16]
28 апреля 2022 года компания DeepMind опубликовала сообщение в блоге о единой модели визуального языка (VLM) под названием Flamingo, которая может точно описать изображение чего-либо с помощью всего лишь нескольких обучающих изображений. [17] [18] В июле 2022 года DeepMind объявила о разработке DeepNash, безмодальной многоагентной системы обучения с подкреплением, способной играть в настольную игру Stratego на уровне человека-эксперта. [19] В апреле 2023 года компания объединилась с подразделением Google Brain компании Google AI и стала Google DeepMind.
В ноябре 2023 года Google DeepMind анонсировала сеть графов с открытым исходным кодом для исследования материалов (GNoME). Инструмент предлагает миллионы материалов, ранее неизвестных в химии, в том числе несколько сотен тысяч стабильных кристаллических структур, из которых 736 были экспериментально получены Массачусетским технологическим институтом на момент выпуска. [20] [21]
Стартап был основан Демисом Хассабисом , Шейном Леггом и Мустафой Сулейманом в сентябре 2010 года. [ 22] [23] Хассабис и Легг впервые встретились в отделе вычислительной нейронауки «Гэтсби» Университетского колледжа Лондона (UCL). [24]
Демис Хассабис рассказал, что стартап начал работать над технологией искусственного интеллекта, обучая его играть в старые игры семидесятых и восьмидесятых годов, которые относительно примитивны по сравнению с теми, которые доступны сегодня. Некоторые из этих игр включали Breakout , Pong и Space Invaders . ИИ вводился в одну игру за раз, без какого-либо предварительного знания ее правил. Потратив некоторое время на изучение игры, ИИ в конечном итоге стал в ней экспертом. «Говорят, что когнитивные процессы, через которые проходит ИИ, очень похожи на те, которые использует человек, никогда не видевший игру, чтобы понять и попытаться овладеть ею». [25] Цель основателей — создать универсальный ИИ, который может быть полезен и эффективен практически во всем.
В компанию инвестировали крупные венчурные фирмы Horizons Ventures и Founders Fund , [26] , а также предприниматели Скотт Банистер , [27] Питер Тиль , [28] и Илон Маск . [29] Яан Таллинн был одним из первых инвесторов и консультантом компании. [30] 26 января 2014 года Google подтвердила приобретение DeepMind по цене, предположительно, от 400 до 650 миллионов долларов. [31] [32] [33] и что она согласилась взять на себя управление DeepMind Technologies. Продажа Google произошла после того, как Facebook , как сообщается, завершил переговоры с DeepMind Technologies в 2013 году. [34] Впоследствии компания была переименована в Google DeepMind и сохраняла это название около двух лет. [35]
В 2014 году DeepMind получила награду «Компания года» от Кембриджской компьютерной лаборатории . [36]
В сентябре 2015 года DeepMind и Royal Free NHS Trust подписали первоначальное соглашение об обмене информацией о совместной разработке приложения для управления клиническими задачами Streams. [37]
После приобретения Google компания учредила совет по этике искусственного интеллекта . [38] Совет по этике исследований искусственного интеллекта остается загадкой: и Google, и DeepMind отказываются раскрывать список членов совета. [39] DeepMind открыла новое подразделение под названием «Этика и общество DeepMind», которое сосредоточилось на этических и социальных вопросах, поднятых искусственным интеллектом, при участии выдающегося философа Ника Бострома в качестве советника. [40] В октябре 2017 года DeepMind создала новую исследовательскую группу для изучения этики ИИ. [41] [42]
В декабре 2019 года соучредитель Сулейман объявил, что покидает DeepMind, чтобы присоединиться к Google, занимая политическую должность. [43]
В апреле 2023 года DeepMind объединилась с подразделением Google Brain компании Google AI и образовала Google DeepMind в рамках продолжающихся усилий компании по ускорению работы над ИИ в ответ на ChatGPT OpenAI . [44] Это ознаменовало конец многолетней борьбы руководителей DeepMind за обеспечение большей автономии от Google. [45]
В 2016 году компания Google Research опубликовала документ, посвященный безопасности ИИ и предотвращению нежелательного поведения в процессе обучения ИИ. [46] В 2017 году компания DeepMind выпустила GridWorld, испытательный стенд с открытым исходным кодом для оценки того, учится ли алгоритм отключать аварийный переключатель или иным образом демонстрирует определенное нежелательное поведение. [47] [48]
В июле 2018 года исследователи из DeepMind обучили одну из своих систем игре в компьютерную игру Quake III Arena . [49]
По состоянию на 2020 год DeepMind опубликовал более тысячи статей, в том числе тринадцать статей, которые были приняты журналами Nature или Science . [ нужна ссылка ] DeepMind привлекла внимание средств массовой информации в период существования AlphaGo; Согласно поиску LexisNexis , в 2016 году DeepMind упоминалось в 1842 опубликованных новостях, а в 2019 году их количество снизилось до 1363. [50]
В отличие от более ранних ИИ, таких как Deep Blue или Watson от IBM , которые были разработаны для заранее определенной цели и функционировали только в рамках этой области, первоначальные алгоритмы DeepMind должны были быть общими. Они использовали обучение с подкреплением — алгоритм, который учится на основе опыта, используя в качестве входных данных только необработанные пиксели. Их первоначальный подход использовал глубокое Q-обучение со сверточной нейронной сетью . [35] [51] Они протестировали систему на видеоиграх, особенно на ранних аркадных играх , таких как Space Invaders или Breakout . [51] [52] Без изменения кода тот же ИИ мог играть в определенные игры более эффективно, чем когда-либо мог это сделать любой человек. [52]
В 2013 году компания DeepMind опубликовала исследование системы искусственного интеллекта, которая превзошла человеческие возможности в таких играх, как Pong , Breakout и Enduro , а также превзошла самые современные производительности в Seaquest , Beamrider и Q*bert . [53] [54] Сообщается, что эта работа привела к приобретению компании Google. [8] ИИ DeepMind применялся в видеоиграх, созданных в 1970-х и 1980-х годах ; продолжалась работа над более сложными 3D-играми, такими как Quake , впервые появившаяся в 1990-х годах. [52]
В 2020 году DeepMind опубликовала Agent57, [55] [56] ИИ-агент, который превосходит производительность человеческого уровня во всех 57 играх из пакета Atari 2600. [57]
В 2014 году компания опубликовала исследование компьютерных систем, способных играть в Го . [58]
В октябре 2015 года компьютерная программа го под названием AlphaGo, разработанная DeepMind, обыграла чемпиона Европы по го Фань Хуэя , профессионала с 2 даном (из 9 возможных) со счетом пять: ноль. [59] Это был первый случай, когда искусственный интеллект (ИИ) победил профессионального игрока в го. [60] Раньше было известно, что компьютеры играли в го только на «любительском» уровне. [59] [61] Го считается гораздо более сложной задачей для компьютеров по сравнению с другими играми, такими как шахматы , из-за гораздо большего количества возможностей, что делает его непомерно трудным для традиционных методов ИИ, таких как грубая сила . [59] [61]
В марте 2016 года он обыграл Ли Седоля — игрока 9 дана в го и одного из игроков с самым высоким рейтингом в мире — со счетом 4–1 в матче из пяти игр .
На саммите Future of Go в 2017 году AlphaGo выиграла матч из трёх игр у Кэ Цзе , который на тот момент непрерывно занимал первое место в мировом рейтинге в течение двух лет. [62] [63] Он использовал протокол обучения с учителем , изучая большое количество игр, в которые люди играют друг против друга. [64]
В 2017 году улучшенная версия AlphaGo Zero победила AlphaGo 100 со счетом 0. Стратегии AlphaGo Zero были самообученными. AlphaGo Zero смог превзойти своего предшественника всего за три дня с меньшей вычислительной мощностью, чем у AlphaGo; для сравнения, оригинальному AlphaGo потребовались месяцы, чтобы научиться играть. [65]
Позже в том же году AlphaZero, модифицированная версия AlphaGo Zero, предназначенная для управления любой игрой с полной информацией для двух игроков, приобрела сверхчеловеческие способности в шахматах и сёги. Как и AlphaGo Zero, AlphaZero обучалась исключительно посредством самостоятельной игры .
Исследователи DeepMind опубликовали новую модель под названием MuZero, которая освоила области го , шахмат , сёги и игр Atari 2600 без человеческих данных, знаний предметной области или известных правил. [66] [67]
Исследователи применили MuZero для решения реальной проблемы сжатия видео с заданным числом битов относительно интернет-трафика на таких сайтах, как YouTube , Twitch и Google Meet . Цель MuZero — оптимально сжать видео, чтобы сохранить качество видео при сокращении объема данных. Конечным результатом использования MuZero стало среднее снижение битрейта на 6,28%. [68] [69]
В октябре 2022 года DeepMind представила новую версию AlphaZero под названием AlphaTensor в статье, опубликованной в журнале Nature . [70] [71] Версия обнаружила более быстрый способ выполнения умножения матриц – одной из самых фундаментальных задач в вычислениях – с использованием обучения с подкреплением. [70] [71] Например, AlphaTensor выяснил, как умножить две матрицы mod-2 4x4 всего за 47 умножений, неожиданно побив рекорд алгоритма Штрассена 1969 года в 49 умножений. [72]
Технология AlphaGo была разработана на основе подхода глубокого обучения с подкреплением . Это отличает AlphaGo от остальных технологий искусственного интеллекта, представленных на рынке. При этом «мозг» AlphaGo был представлен различным ходам, основанным на исторических данных турниров. Количество ходов постепенно увеличивалось, пока в конечном итоге не было обработано более 30 миллионов из них. Цель заключалась в том, чтобы система имитировала игрока-человека и со временем стала лучше. Он играл против самого себя и учился не только на собственных поражениях, но и на победах; таким образом, со временем он научился совершенствоваться и в результате увеличил свой процент выигрышей. [ нужна цитата ]
AlphaGo использовала две глубокие нейронные сети: политическую сеть для оценки вероятности хода и сеть стоимости для оценки позиций. Сеть политики обучалась посредством контролируемого обучения, а затем была усовершенствована с помощью обучения с подкреплением градиента политики . Сеть создания стоимости научилась предсказывать победителей в играх, которые политическая сеть ведет против себя. После обучения эти сети использовали предварительный поиск по дереву Монте-Карло (MCTS), используя сеть политик для определения возможных ходов с высокой вероятностью, в то время как сеть создания ценности (в сочетании с развертыванием Монте-Карло с использованием политики быстрого развертывания) оценивала позиции дерева. [73]
AlphaGo Zero обучалась с использованием обучения с подкреплением, в ходе которого система сыграла миллионы игр сама с собой. Единственным ориентиром было увеличение процента выигрышей. Он сделал это, не извлекая уроков из игр, в которые играют люди. Его единственные входные элементы — это черные и белые камни с доски. Он использует единую нейронную сеть, а не отдельные сети политики и ценности. Его упрощенный поиск по дереву опирается на эту нейронную сеть для оценки позиций и перемещений выборки. Новый алгоритм обучения с подкреплением включает упреждающий поиск внутри цикла обучения. [73] В AlphaGo Zero занято около 15 человек и миллионы вычислительных ресурсов. [74] В конечном счете, ему требовалось гораздо меньше вычислительной мощности, чем AlphaGo, работающему на четырех специализированных процессорах искусственного интеллекта (Google TPU ), вместо 48 у AlphaGo. [75]
В 2016 году DeepMind обратила свой искусственный интеллект к сворачиванию белков — давней проблеме молекулярной биологии . В декабре 2018 года AlphaFold компании DeepMind выиграла 13-ю критическую оценку методов прогнозирования структуры белка (CASP), успешно предсказав наиболее точную структуру 25 из 43 белков. «Это проект-маяк, наша первая крупная инвестиция с точки зрения людей и ресурсов в фундаментальную, очень важную, реальную научную проблему», — сказал Хассабис The Guardian . [76] В 2020 году в рамках 14-го CASP прогнозы AlphaFold достигли точности, сравнимой с лабораторными методами. Доктор Андрей Крыштафович, один из научных экспертов, назвал это достижение «поистине выдающимся» и сказал, что проблема предсказания того, как сворачиваются белки, «в значительной степени решена». [77] [78] [79]
В июле 2021 года были выпущены RoseTTAFold и AlphaFold2 с открытым исходным кодом, позволяющие ученым запускать свои собственные версии инструментов. Неделю спустя DeepMind объявила, что AlphaFold завершила предсказание почти всех белков человека, а также целых протеомов 20 других широко изученных организмов. [80] Структуры были опубликованы в базе данных структур белков AlphaFold. В июле 2022 года было объявлено, что предсказания более 200 миллионов белков, представляющих практически все известные белки, будут опубликованы в базе данных AlphaFold. [15] [16]
В 2016 году DeepMind представила WaveNet, систему преобразования текста в речь . Изначально он был слишком вычислительно интенсивным для использования в потребительских продуктах, но в конце 2017 года он стал готов к использованию в потребительских приложениях, таких как Google Assistant . [81] [82] В 2018 году Google запустил коммерческий продукт преобразования текста в речь Cloud Text-to-Speech на основе WaveNet. [83] [84]
В 2018 году DeepMind представила более эффективную модель под названием WaveRNN, разработанную совместно с Google AI . [85] [86] В 2020 году был представлен WaveNetEQ, метод сокрытия потери пакетов, основанный на архитектуре WaveRNN. [87] В 2019 году Google начал распространять WaveRNN с WavenetEQ для пользователей Google Duo . [88]
В 2016 году Хассабис обсуждал игру StarCraft как вызов будущего, поскольку она требует стратегического мышления и обработки несовершенной информации. [89]
В январе 2019 года DeepMind представила AlphaStar — программу, играющую в стратегическую игру в реальном времени StarCraft II . AlphaStar использовала обучение с подкреплением на основе повторов игроков-людей, а затем играла против себя, чтобы улучшить свои навыки. На момент презентации AlphaStar обладала знаниями, эквивалентными 200 годам игрового времени. Он выиграл 10 матчей подряд у двух профессиональных игроков, хотя у него было несправедливое преимущество: он мог видеть все поле, в отличие от игрока-человека, которому приходится перемещать камеру вручную. Предварительная версия, в которой это преимущество было зафиксировано, проиграла последующий матч. [90]
В июле 2019 года AlphaStar начала играть против случайных людей в общедоступной европейской многопользовательской игре 1 на 1. В отличие от первой версии AlphaStar, в которой играли только протоссы против протоссов, в этой версии играли за все расы игры, и ранее были исправлены несправедливые преимущества. [91] [92] К октябрю 2019 года AlphaStar достигла уровня гроссмейстера в лестнице StarCraft II во всех трех гонках StarCraft , став первым ИИ, достигшим высшей лиги широко популярного киберспорта без каких-либо игровых ограничений. [93]
В 2022 году DeepMind представила AlphaCode, механизм кодирования на базе искусственного интеллекта, который создает компьютерные программы со скоростью, сравнимой со скоростью среднего программиста, при этом компания тестирует систему на предмет проблем с кодированием, создаваемых Codeforces , используемых в соревнованиях по программированию среди людей . [94] AlphaCode получила рейтинг, эквивалентный 54 % от среднего балла на Codeforces, после обучения на данных GitHub , а также проблемах и решениях Codeforce. Программа должна была найти уникальное решение и отказаться от дублирования ответов.
Gato, выпущенная в мае 2022 года, представляет собой поливалентную мультимодальную модель. Он был обучен выполнению 604 задач, таких как подписи к изображениям, диалоги или расположение блоков. По данным DeepMind, в 450 из этих задач Гато превосходил экспертов-людей как минимум в половине случаев. [95] В отличие от таких моделей, как MuZero, Gato не нужно переобучать, чтобы переключаться с одной задачи на другую.
RoboCat, выпущенный в июне 2023 года, представляет собой модель искусственного интеллекта, которая может управлять роботизированными руками. Модель может адаптироваться к новым моделям роботизированного оружия и новым типам задач. [96] [97]
Google заявила, что алгоритмы DeepMind значительно повысили эффективность охлаждения центров обработки данных, автоматически балансируя стоимость сбоев оборудования и стоимость охлаждения. [98] Кроме того, DeepMind (вместе с другими исследователями Alphabet AI) помогает Google Play персонализировать рекомендации приложений. [83] DeepMind также сотрудничал с командой Android в Google для создания двух новых функций, которые стали доступны людям с устройствами под управлением Android Pie, девятой версии мобильной операционной системы Google. Эти функции, адаптивная батарея и адаптивная яркость, используют машинное обучение для экономии энергии и упрощают использование устройств под управлением операционной системы. Впервые DeepMind использует эти методы в таком небольшом масштабе, поскольку типичные приложения машинного обучения требуют на несколько порядков большей вычислительной мощности. [99]
Исследователи DeepMind применили модели машинного обучения к футболу , который в Северной Америке часто называют футболом, моделируя поведение футболистов, включая вратаря, защитников и нападающих, в различных сценариях, таких как пенальти. Исследователи использовали тепловые карты и кластерный анализ, чтобы организовать игроков на основе их склонности вести себя определенным образом во время игры, когда им приходится решать, как забить или помешать другой команде забить.
Исследователи отмечают, что модели машинного обучения можно использовать для демократизации футбольной индустрии за счет автоматического выбора интересных видеоклипов игры, которые будут служить в качестве основных моментов. Это можно сделать путем поиска видео по определенным событиям, что возможно, поскольку анализ видео является общепринятой областью машинного обучения. Это также возможно благодаря обширной спортивной аналитике, основанной на данных, включая аннотированные передачи или удары, датчиках, которые многократно фиксируют данные о движениях игроков в течение игры, а также моделях теории игр. [100] [101]
Google представил новую программу археологических документов, названную Итака в честь греческого острова в «Одиссее » Гомера . [102] Эта глубокая нейронная сеть помогает исследователям восстанавливать пустой текст поврежденных греческих документов, а также определять их дату и географическое происхождение. [103] Работа основана на другой сети анализа текста, выпущенной DeepMind в 2019 году, под названием Pythia. [103] Итака достигает 62% точности восстановления поврежденных текстов и 71% точности определения местоположения, а точность датировки составляет 30 лет. [103] Команда работает над распространением модели на другие древние языки, включая демотический , аккадский , иврит и майя . [102]
Sparrow — это чат-бот на базе искусственного интеллекта, разработанный DeepMind для создания более безопасных систем машинного обучения с использованием сочетания отзывов людей и предложений поиска Google. [104]
Chinchilla AI — языковая модель, разработанная DeepMind. [105]
Gemini — это мультимодальная модель большого языка , выпущенная 6 декабря 2023 года. [106] Она является преемницей языковых моделей Google LaMDA и PaLM 2 и призвана бросить вызов GPT-4 OpenAI . [107] Gemini выпускается в трех размерах: Nano, Pro и Ultra. [108] Gemini — это также название чат-бота, который интегрирует Gemini (и который ранее назывался Bard ). [109]
Gemma — это семейство легких больших языковых моделей с открытым исходным кодом, выпущенное 21 февраля 2024 года. Оно доступно в двух различных размерах: модель с 7 миллиардами параметров, оптимизированная для использования графического процессора и TPU, и модель с 2 миллиардами параметров, предназначенная для процессоров и процессоров. приложения на устройстве. Модели Gemma были обучены на 6 триллионах текстовых токенов с использованием тех же архитектур, наборов данных и методологий обучения, что и семейство моделей Gemini. [110]
В марте 2024 года DeepMind представила масштабируемый инструктируемый многословный агент, или SIMA, ИИ-агент, способный понимать и следовать инструкциям на естественном языке для выполнения задач в различных виртуальных трехмерных средах. SIMA, обученная девяти видеоиграм из восьми студий и четырех исследовательских сред, продемонстрировала способность адаптироваться к новым задачам и настройкам, не требуя доступа к исходному коду игры или API. Агент включает в себя предварительно обученное компьютерное зрение и языковые модели, точно настроенные на игровые данные, причем язык имеет решающее значение для понимания и выполнения заданных задач в соответствии с инструкциями. Исследование DeepMind было направлено на разработку более полезных агентов ИИ путем перевода расширенных возможностей ИИ в реальные действия через языковой интерфейс. [111] [112]
В июле 2016 года было объявлено о сотрудничестве между DeepMind и Moorfields Eye Hospital по разработке приложений искусственного интеллекта для здравоохранения . [113] DeepMind будет применяться для анализа анонимных сканирований глаз в поисках ранних признаков заболеваний, приводящих к слепоте .
В августе 2016 года было объявлено об исследовательской программе с больницей Университетского колледжа Лондона с целью разработки алгоритма, который сможет автоматически различать здоровые и раковые ткани в областях головы и шеи. [114]
Существуют также проекты с фондом Royal Free London NHS Foundation Trust и Imperial College Healthcare NHS Trust по разработке новых клинических мобильных приложений, связанных с электронными записями пациентов . [115] В декабре 2017 года сотрудники Royal Free Hospital заявили, что доступ к данным пациентов через приложение сэкономил «огромное количество времени» и произвел «феноменальную» разницу в лечении пациентов с острым повреждением почек. Данные о результатах теста отправляются на мобильные телефоны сотрудников и предупреждают их об изменениях в состоянии пациента. Это также позволяет персоналу видеть, отреагировал ли кто-то еще, и показывать пациентам свои результаты в визуальной форме. [116] [ ненадежный источник? ]
В ноябре 2017 года DeepMind объявила об исследовательском партнерстве с Британским центром онкологических исследований Имперского колледжа Лондона с целью улучшить выявление рака молочной железы путем применения машинного обучения к маммографии. [117] Кроме того, в феврале 2018 года DeepMind объявила, что сотрудничает с Министерством по делам ветеранов США в попытке использовать машинное обучение для прогнозирования возникновения острого повреждения почек у пациентов, а также, в более широком смысле, общего ухудшения состояния пациентов во время операции. пребывание в больнице, чтобы врачи и медсестры могли быстрее оказать помощь нуждающимся пациентам. [118]
DeepMind разработала приложение под названием Streams, которое отправляет врачам оповещения о пациентах, которым грозит острое повреждение почек. [119] 13 ноября 2018 года компания DeepMind объявила, что ее подразделение здравоохранения и приложение Streams будут поглощены Google Health . [120] Защитники конфиденциальности заявили, что это объявление предает доверие пациентов и, по-видимому, противоречит предыдущим заявлениям DeepMind о том, что данные пациентов не будут связаны с учетными записями или сервисами Google. [121] [122] Представитель DeepMind заявил, что данные пациентов по-прежнему будут храниться отдельно от сервисов и проектов Google. [123]
В апреле 2016 года New Scientist получила копию соглашения об обмене данными между DeepMind и Royal Free London NHS Foundation Trust . Последний управляет тремя лондонскими больницами, где ежегодно проходят лечение около 1,6 миллиона пациентов. Соглашение показывает, что DeepMind Health имела доступ к данным о госпитализации, выписке и переводе, несчастных случаях и неотложной помощи, патологии и радиологии, а также интенсивной терапии в этих больницах. Сюда входили личные данные, например, был ли у пациентов диагностирован ВИЧ , страдали ли они от депрессии или когда-либо делали аборт , чтобы провести исследование для поиска лучших результатов при различных состояниях здоровья. [124] [125]
В Управление комиссара по информации (ICO) была подана жалоба , в которой утверждалось, что данные должны быть псевдонимизированы и зашифрованы. [126] В мае 2016 года журнал New Scientist опубликовал еще одну статью, в которой утверждалось, что проект не получил одобрения Консультативной группы по конфиденциальности Агентства по регулированию лекарственных средств и товаров медицинского назначения . [127]
В 2017 году ICO завершило годичное расследование, в котором основное внимание уделялось тому, как Фонд Royal Free NHS Foundation Trust тестировал приложение Streams в конце 2015 и 2016 годов. [128] ICO обнаружило, что Royal Free не соблюдает требования по защите данных. Act, когда компания предоставила DeepMind сведения о пациентах и обнаружила несколько недостатков в обработке данных, в том числе то, что пациенты не были должным образом проинформированы о том, что их данные будут использоваться в рамках теста. DeepMind опубликовала свои мысли [129] о расследовании в июле 2017 года, заявив, что «нам нужно действовать лучше», и выделив несколько мероприятий и инициатив, которые они инициировали для обеспечения прозрачности, надзора и взаимодействия. Это включало разработку стратегии вовлечения пациентов и общественности [130] и обеспечение прозрачности партнерских отношений.
В мае 2017 года Sky News опубликовал просочившееся письмо от National Data Guardian дамы Фионы Калдикотт , в котором говорилось, что, по ее «обдуманному мнению», соглашение об обмене данными между DeepMind и Royal Free было заключено на «ненадлежащей правовой основе». [131] В июле 2017 года Управление комиссара по информации постановило, что больница Royal Free не выполнила требования Закона о защите данных, когда передала компании DeepMind личные данные 1,6 млн пациентов. [132]
В октябре 2017 года DeepMind объявила о создании нового исследовательского подразделения DeepMind Ethics & Society. [133] Их цель — финансировать внешние исследования по следующим темам: конфиденциальность, прозрачность и справедливость; экономические последствия; управление и подотчетность; управление рисками ИИ; мораль и ценности ИИ; и как ИИ может решить мировые проблемы. В результате команда надеется глубже понять этические последствия ИИ и помочь обществу увидеть, что ИИ может быть полезным. [134]
Это новое подразделение DeepMind является полностью отдельным подразделением от партнерства ведущих компаний, использующих искусственный интеллект, научных кругов, организаций гражданского общества и некоммерческих организаций под названием « Партнерство по искусственному интеллекту на благо людей и общества», частью которого также является DeepMind. [135] Совет по этике и обществу DeepMind также отличается от обсуждаемого совета по этике ИИ, который Google первоначально согласился сформировать при приобретении DeepMind. [136]
DeepMind спонсирует три кафедры машинного обучения: