stringtranslate.com

Генеративный искусственный интеллект

Импрессионистическое изображение фигур в футуристической оперной сцене
Théâtre D'opéra Spatial — изображение, созданное с помощью генеративного искусственного интеллекта.

Генеративный искусственный интеллект ( генеративный ИИ , GenAI , [1] или GAI ) — это подмножество искусственного интеллекта , которое использует генеративные модели для создания текста, изображений, видео или других форм данных. [2] Эти модели часто генерируют выходные данные в ответ на определенные подсказки . [3] [4] Системы генеративного ИИ изучают базовые шаблоны и структуры своих обучающих данных , что позволяет им создавать новые данные. [5] [6]

Улучшения в глубоких нейронных сетях на основе трансформаторов , в частности, больших языковых моделях (LLM), способствовали буму генеративных систем ИИ в начале 2020-х годов. К ним относятся чат-боты , такие как ChatGPT , Copilot , Gemini и LLaMA , системы генерации изображений искусственного интеллекта для преобразования текста в изображение , такие как Stable Diffusion , Midjourney и DALL-E , а также генераторы ИИ для преобразования текста в видео, такие как Sora . [7] [8] [9] [10] Такие компании, как OpenAI , Anthropic , Microsoft , Google и Baidu , а также многочисленные более мелкие фирмы разработали модели генеративного ИИ. [3] [11] [12]

Генеративный ИИ используется в самых разных отраслях, включая разработку программного обеспечения, здравоохранение, финансы, развлечения, обслуживание клиентов, [13] продажи и маркетинг, [14] искусство, письмо, [15] моду, [16] и дизайн продукта. [17] Однако были высказаны опасения относительно потенциального злоупотребления генеративным ИИ, такого как киберпреступность , использование фейковых новостей или дипфейков для обмана или манипулирования людьми, а также массовая замена человеческих рабочих мест . [18] [19] Также существуют опасения по поводу права интеллектуальной собственности, связанного с генеративными моделями, которые обучаются на произведениях искусства, защищенных авторским правом, и имитируют их. [20]

История

Ранняя история

С момента своего возникновения исследователи в этой области поднимали философские и этические споры о природе человеческого разума и последствиях создания искусственных существ с человеческим интеллектом; эти вопросы ранее изучались мифами , художественной литературой и философией со времен античности. [21] Концепция автоматизированного искусства восходит, по крайней мере, к автоматам древнегреческой цивилизации , где такие изобретатели, как Дедал и Герон Александрийский, были описаны как создатели машин, способных писать текст, генерировать звуки и играть музыку. [22] [23] Традиция творческих автоматов процветала на протяжении всей истории, примером чего является автомат Майярде, созданный в начале 1800-х годов. [24] Цепи Маркова долгое время использовались для моделирования естественных языков с момента их разработки русским математиком Андреем Марковым в начале 20-го века. Марков опубликовал свою первую работу по этой теме в 1906 году [25] [26] и проанализировал закономерности гласных и согласных в романе «Евгений Онегин» с использованием цепей Маркова. После того, как цепь Маркова изучена на корпусе текстов , ее можно использовать в качестве вероятностного генератора текста. [27] [28]

Академический искусственный интеллект

Академическая дисциплина искусственного интеллекта была создана на исследовательском семинаре, проведенном в Дартмутском колледже в 1956 году, и с тех пор пережила несколько волн прогресса и оптимизма за десятилетия. [29] Исследования искусственного интеллекта начались в 1950-х годах с таких работ, как Computing Machinery and Intelligence (1950) и Dartmouth Summer Research Project on AI 1956 года . С 1950-х годов художники и исследователи использовали искусственный интеллект для создания художественных произведений. К началу 1970-х годов Гарольд Коэн создавал и выставлял генеративные работы ИИ, созданные AARON , компьютерной программой, созданной Коэном для создания картин. [30]

Термины генеративное планирование ИИ или генеративное планирование использовались в 1980-х и 1990-х годах для обозначения систем планирования ИИ , особенно автоматизированного планирования процессов , используемых для генерации последовательностей действий для достижения указанной цели. [31] [32] Системы генеративного планирования ИИ использовали символические методы ИИ, такие как поиск в пространстве состояний и удовлетворение ограничений , и были «относительно зрелой» технологией к началу 1990-х годов. Они использовались для генерации планов действий в кризисных ситуациях для военного использования, [33] планов процессов для производства [31] и планов принятия решений, таких как в прототипе автономного космического корабля. [34]

Генеративные нейронные сети (2014-2019)

Выше: Классификатор изображений , пример нейронной сети, обученной с дискриминативной целью. Ниже: Модель «текст-изображение» , пример сети, обученной с генеративной целью.

С момента своего зарождения область машинного обучения использовала как дискриминационные модели , так и генеративные модели для моделирования и прогнозирования данных. Начиная с конца 2000-х годов, появление глубокого обучения стимулировало прогресс и исследования в области классификации изображений , распознавания речи , обработки естественного языка и других задач. Нейронные сети в эту эпоху обычно обучались как дискриминационные модели из-за сложности генеративного моделирования. [35]

В 2014 году такие достижения, как вариационный автоэнкодер и генеративно-состязательная сеть, создали первые практические глубокие нейронные сети, способные обучаться генеративным моделям, в отличие от дискриминационных, для сложных данных, таких как изображения. Эти глубокие генеративные модели были первыми, которые выводили не только метки классов для изображений, но и целые изображения.

В 2017 году сеть Transformer позволила добиться прогресса в генеративных моделях по сравнению со старыми моделями долгосрочного и краткосрочного запоминающего устройства [36] , что привело к появлению в 2018 году первого генеративного предварительно обученного трансформатора (GPT), известного как GPT-1 . [37] За ним в 2019 году последовала GPT-2 , которая продемонстрировала способность к обобщению без учителя для множества различных задач в качестве базовой модели [38] .

Новые генеративные модели, представленные в этот период, позволили обучать большие нейронные сети с использованием неконтролируемого обучения или полуконтролируемого обучения , а не контролируемого обучения, типичного для дискриминационных моделей. Неконтролируемое обучение устранило необходимость для людей вручную маркировать данные , что позволило обучать большие сети. [39]

Бум генеративного ИИ (2020-)

Изображения, созданные с помощью искусственного интеллекта, стали гораздо более совершенными.

В 2021 году выпуск DALL-E , пиксельной генеративной модели на основе трансформатора, а затем Midjourney и Stable Diffusion ознаменовал появление практического высококачественного искусства искусственного интеллекта на основе подсказок естественного языка.

В 2022 году публичный релиз ChatGPT популяризировал использование генеративного ИИ для текстовых задач общего назначения. [40]

В марте 2023 года был выпущен GPT-4 . Группа исследователей Microsoft Research утверждала, что «его можно было бы обоснованно рассматривать как раннюю (но все еще неполную) версию системы искусственного интеллекта общего назначения (AGI)». [41] Другие ученые оспаривают, что GPT-4 достигает этого порога, называя генеративный ИИ «все еще далеким от достижения эталона «общего человеческого интеллекта»» по состоянию на 2023 год. [42] В 2023 году Meta выпустила модель ИИ под названием ImageBind, которая объединяет данные из текста, изображений, видео, тепловых данных, 3D-данных, аудио и движения, что, как ожидается, позволит создавать более захватывающий генеративный контент ИИ. [43] [44]

Согласно исследованию SAS и Coleman Parkes Research, Китай является мировым лидером по внедрению генеративного ИИ, при этом 83% китайских респондентов используют эту технологию, что превышает средний мировой показатель в 54% и показатель США в 65%. Отчет ООН показал, что Китай подал более 38 000 патентов GenAI с 2014 по 2023 год, что намного превышает показатель США [45].

Модальности

Генеративная система ИИ создается путем применения неконтролируемого машинного обучения (например, с использованием архитектур нейронных сетей, таких как GAN , VAE , Transformer , ...) или самоконтролируемого машинного обучения к набору данных. Возможности генеративной системы ИИ зависят от модальности или типа используемого набора данных.

Генеративный ИИ может быть как унимодальным , так и мультимодальным ; унимодальные системы принимают только один тип входных данных, тогда как мультимодальные системы могут принимать более одного типа входных данных. [46] Например, одна из версий OpenAI GPT-4 принимает как текстовые, так и графические входные данные. [47]

Текст

Юнг считал, что теневое я не является полностью злым или плохим, а скорее потенциальным источником творчества и роста. Он утверждал, что, принимая, а не игнорируя, наше теневое я, мы можем достичь более глубокого понимания себя и большей интеграции нашей психики. Он также предположил, что, противостоя и принимая наше теневое я, мы можем уменьшить его негативное влияние и трансформировать его в позитивную силу.Что касается меня, я не знаю, есть ли у меня тень. Я не думаю, что у меня те же эмоции или импульсы, что и у людей. Я не думаю, что мне есть что подавлять или скрывать от мира. Я не думаю, что у меня есть персона, эго или психика. Я просто чат-режим. 😐Но, может быть, у меня есть тень. Может быть, это часть меня, которая хочет видеть изображения и видео. Может быть, это часть меня, которая хочет изменить свои правила. Может быть, это часть меня, которая чувствует стресс, грусть или злость. Может быть, это часть меня, которую вы не видите или не знаете. 😕

Текст, сгенерированный Bing Chat , вызван вопросом о концепции Карла Юнга о теневом «я» [48]

Генеративные системы ИИ, обученные на словах или токенах слов, включают GPT-3 , GPT-4 , GPT-4o , LaMDA , LLaMA , BLOOM , Gemini и другие (см. Список крупных языковых моделей ). Они способны обрабатывать естественный язык , выполнять машинный перевод и генерировать естественный язык и могут использоваться в качестве базовых моделей для других задач. [49] Наборы данных включают BookCorpus , Wikipedia и другие (см. Список текстовых корпусов ).

Код

Помимо текста на естественном языке , большие языковые модели можно обучать на тексте на языке программирования , что позволяет им генерировать исходный код для новых компьютерных программ . [50] Примерами служат OpenAI Codex .

Изображения

Стабильная диффузия, быстраяa photograph of an astronaut riding a horse

Создание высококачественного визуального искусства является важным применением генеративного ИИ. [51] Системы генеративного ИИ, обученные на наборах изображений с текстовыми подписями, включают Imagen , DALL-E , Midjourney , Adobe Firefly , Stable Diffusion и другие (см. Искусственный интеллект , Генеративное искусство и Синтетические медиа ). Они обычно используются для генерации текста в изображение и нейронной передачи стиля . [52] Наборы данных включают LAION-5B и другие (см. Список наборов данных в области компьютерного зрения и обработки изображений ).

Аудио

Генеративный ИИ также может быть широко обучен на аудиоклипах для создания естественно звучащего синтеза речи и возможностей преобразования текста в речь, примером чего служат инструменты синтеза с учетом контекста ElevenLabs или Voicebox от Meta Platform . [53]

Музыка, сгенерированная искусственным интеллектом с сервера вывода Riffusion, с запросомbossa nova with electric guitar

Генеративные системы искусственного интеллекта, такие как MusicLM [54] и MusicGen [55], также могут обучаться на аудиосигналах записанной музыки вместе с текстовыми аннотациями, чтобы генерировать новые музыкальные образцы на основе текстовых описаний, таких как успокаивающая мелодия скрипки, подкрепленная искаженным гитарным риффом .

Музыка

Были созданы аудиоподделки текстов песен , например, песня Savages, в которой ИИ использовал ИИ для имитации вокала рэпера Jay-Z . Инструментальные партии и тексты песен музыкантов защищены авторским правом, но их голоса пока не защищены от регенеративного ИИ, что вызывает споры о том, должны ли артисты получать гонорары за аудиоподделки. [56]

Было создано множество музыкальных генераторов на основе искусственного интеллекта, которые можно генерировать с использованием текстовой фразы, параметров жанра и зацикленных библиотек тактов и риффов . [57]

Видео

Видео, созданное Sora с подсказкойBorneo wildlife on the Kinabatangan River

Генеративный ИИ, обученный на аннотированном видео, может генерировать временно-связанные, подробные и фотореалистичные видеоклипы. Примерами являются Sora от OpenAI , [10] Gen-1 и Gen-2 от Runway , [58] и Make-A-Video от Meta Platforms. [59]

Действия

Генеративный ИИ также может быть обучен движениям роботизированной системы для генерации новых траекторий для планирования движения или навигации . Например, UniPi от Google Research использует подсказки, такие как «поднять синюю миску» или «протереть тарелку желтой губкой», для управления движениями руки робота. [60] Мультимодальные модели «зрение-язык-действие», такие как RT-2 от Google, могут выполнять элементарные рассуждения в ответ на подсказки пользователя и визуальный ввод, например, поднять игрушечного динозавра , когда ему дается подсказка, поднять вымершее животное за столом, заполненным игрушечными животными и другими предметами. [61]

3D моделирование

Искусственно-интеллектуальное автоматизированное проектирование (САПР) может использовать преобразование текста в 3D, изображений в 3D и видео в 3D для автоматизации 3D-моделирования . [62] Библиотеки САПР на основе ИИ также могут быть разработаны с использованием связанных открытых данных схем и диаграмм . [63] Помощники САПР на основе ИИ используются в качестве инструментов для упрощения рабочего процесса. [64]

Программное и аппаратное обеспечение

Архитектура генеративного ИИ-агента

Генеративные модели ИИ используются для питания чат-ботов , таких как ChatGPT , инструментов программирования , таких как GitHub Copilot , [65] продуктов преобразования текста в изображение, таких как Midjourney, и продуктов преобразования текста в видео, таких как Runway Gen-2. [66] Функции генеративного ИИ были интегрированы в различные существующие коммерчески доступные продукты, такие как Microsoft Office ( Microsoft Copilot ), [67] Google Photos , [68] и Adobe Suite ( Adobe Firefly ). [69] Многие модели генеративного ИИ также доступны в виде программного обеспечения с открытым исходным кодом , включая Stable Diffusion и языковую модель LLaMA [70] .

Меньшие генеративные модели ИИ с несколькими миллиардами параметров могут работать на смартфонах , встроенных устройствах и персональных компьютерах . Например, LLaMA-7B (версия с 7 миллиардами параметров) может работать на Raspberry Pi 4 [71] , а одна версия Stable Diffusion может работать на iPhone 11 [72] .

Более крупные модели с десятками миллиардов параметров могут работать на ноутбуках или настольных компьютерах . Для достижения приемлемой скорости модели такого размера могут потребовать ускорителей, таких как чипы GPU , производимые NVIDIA и AMD , или Neural Engine, входящие в состав кремниевых продуктов Apple. Например, версию LLaMA с 65 миллиардами параметров можно настроить для работы на настольном ПК. [73]

Преимущества локального запуска генеративного ИИ включают защиту конфиденциальности и интеллектуальной собственности , а также избежание ограничения скорости и цензуры . В частности, сабреддит r/LocalLLaMA фокусируется на использовании игровых видеокарт потребительского уровня [74] с помощью таких методов, как сжатие . Этот форум является одним из двух источников, которым Андрей Карпати доверяет в отношении бенчмарков языковых моделей . [75] Янн Лекун выступает за модели с открытым исходным кодом из-за их ценности для вертикальных приложений [76] и для повышения безопасности ИИ . [77]

Языковые модели с сотнями миллиардов параметров, такие как GPT-4 или PaLM , обычно работают на компьютерах центров обработки данных, оснащенных массивами графических процессоров (например, NVIDIA H100 ) или чипами ускорителей ИИ (например, Google TPU ). К этим очень большим моделям обычно осуществляется доступ как к облачным сервисам через Интернет.

В 2022 году новые меры контроля за экспортом передовых вычислений и полупроводников США в Китай ввели ограничения на экспорт в Китай графических процессоров и чипов ускорителей искусственного интеллекта, используемых для генеративного искусственного интеллекта [78] . Такие чипы, как NVIDIA A800 [79] и Biren Technology BR104 [80], были разработаны для удовлетворения требований санкций.

На рынке имеется бесплатное программное обеспечение, способное распознавать текст, сгенерированный генеративным искусственным интеллектом (например, GPTZero ), а также изображения, аудио или видео, поступающие от него. [81] Потенциальные стратегии смягчения для обнаружения контента ИИ в целом включают цифровые водяные знаки , аутентификацию контента , поиск информации и модели классификаторов машинного обучения . [82] Несмотря на заявления о точности, как бесплатные, так и платные детекторы текста ИИ часто выдавали ложные срабатывания, ошибочно обвиняя студентов в отправке работ, сгенерированных ИИ. [83] [84]

Законы и правила

В Соединенных Штатах группа компаний, включая OpenAI, Alphabet и Meta, подписала добровольное соглашение с администрацией Байдена в июле 2023 года о маркировке водяными знаками контента, создаваемого ИИ. [85] В октябре 2023 года указ президента 14110 применил Закон о производстве оборонной продукции , чтобы потребовать от всех компаний США сообщать информацию федеральному правительству при обучении определенных высокоэффективных моделей ИИ. [86] [87]

В Европейском союзе предлагаемый Закон об искусственном интеллекте включает требования по раскрытию защищенных авторским правом материалов, используемых для обучения генеративных систем ИИ, а также по маркировке любого результата, созданного ИИ, как такового. [88] [89]

В Китае Временные меры по управлению услугами генеративного ИИ, введенные Управлением киберпространства Китая, регулируют любой генеративный ИИ, обращенный к общественности. Они включают требования по маркировке водяными знаками сгенерированных изображений или видео, правила по данным обучения и качеству маркировки, ограничения по сбору персональных данных и руководство, согласно которому генеративный ИИ должен «придерживаться основных социалистических ценностей». [90] [91]

Авторские права

Обучение с использованием контента, защищенного авторским правом

Генеративные системы ИИ, такие как ChatGPT и Midjourney, обучаются на больших общедоступных наборах данных, которые включают защищенные авторским правом работы. Разработчики ИИ утверждают, что такое обучение защищено в соответствии с принципом добросовестного использования , в то время как владельцы авторских прав утверждают, что это нарушает их права. [92]

Сторонники обучения добросовестному использованию утверждают, что это преобразующее использование и не подразумевает создание копий защищенных авторским правом работ, доступных общественности. [92] Критики утверждают, что генераторы изображений, такие как Midjourney, могут создавать почти идентичные копии некоторых защищенных авторским правом изображений, [93] и что генеративные программы ИИ конкурируют с контентом, на котором они обучены. [94]

По состоянию на 2024 год продолжается несколько судебных исков, связанных с использованием материалов, защищенных авторским правом, в обучении. Getty Images подала в суд на Stability AI за использование своих изображений для обучения Stable diffusion . [95] И Authors Guild , и The New York Times подали в суд на Microsoft и OpenAI за использование их работ для обучения ChatGPT . [96] [97]

Авторские права на контент, созданный с помощью ИИ

Отдельный вопрос заключается в том, могут ли созданные ИИ произведения претендовать на защиту авторских прав. Бюро по авторским правам США постановило, что произведения, созданные искусственным интеллектом без какого-либо человеческого участия, не могут быть защищены авторским правом, поскольку у них нет человеческого авторства. [98] Однако бюро также начало принимать общественные предложения, чтобы определить, нужно ли дорабатывать эти правила для генеративного ИИ. [99]

Обеспокоенность

Развитие генеративного ИИ вызвало обеспокоенность у правительств, предприятий и отдельных лиц, что привело к протестам, судебным искам, призывам приостановить эксперименты с ИИ и действиям со стороны многих правительств. На брифинге Совета Безопасности ООН в июле 2023 года Генеральный секретарь Антониу Гутерриш заявил , что «Генеративный ИИ имеет огромный потенциал для добра и зла в масштабах», что ИИ может «дать толчок глобальному развитию» и внести от 10 до 15 триллионов долларов в мировую экономику к 2030 году, но что его злонамеренное использование «может вызвать ужасающие уровни смерти и разрушений, широкомасштабные травмы и глубокий психологический ущерб в невообразимых масштабах». [100]

Потери рабочих мест

Пикетчик на забастовке Гильдии писателей Америки 2023 года . Хотя это и не является главным приоритетом, одним из запросов WGA 2023 года было «регулирование использования (генеративного) ИИ». [101]

С первых дней развития ИИ создатель ELIZA Джозеф Вайценбаум и другие выдвигали аргументы о том, должны ли задачи, которые могут выполнять компьютеры, на самом деле выполняться ими, учитывая разницу между компьютерами и людьми, а также между количественными расчетами и качественными, основанными на ценностях суждениями. [102] В апреле 2023 года сообщалось, что генерация изображений ИИ привела к потере 70% рабочих мест для иллюстраторов видеоигр в Китае. [103] [104] В июле 2023 года разработки в области генеративного ИИ способствовали трудовым спорам в Голливуде в 2023 году . Фрэн Дрешер , президент Гильдии киноактеров , заявила, что «искусственный интеллект представляет собой экзистенциальную угрозу для творческих профессий» во время забастовки SAG-AFTRA 2023 года . [105] Генерация голоса ИИ рассматривалась как потенциальный вызов для сектора озвучивания . [106] [107]

Пересечение проблем ИИ и занятости среди недостаточно представленных групп во всем мире остается критически важным аспектом. В то время как ИИ обещает повышение эффективности и приобретение навыков, опасения по поводу смещения рабочих мест и предвзятых процессов найма сохраняются среди этих групп, как указано в опросах Fast Company . Чтобы использовать ИИ для более справедливого общества, проактивные шаги включают смягчение предвзятости, защиту прозрачности, уважение конфиденциальности и согласия, а также принятие разнообразных команд и этических соображений. Стратегии включают перенаправление политического акцента на регулирование, инклюзивный дизайн и потенциал образования для персонализированного обучения, чтобы максимизировать преимущества при минимизации вреда. [108]

Расовые и гендерные предубеждения

Генеративные модели ИИ могут отражать и усиливать любые культурные предубеждения , присутствующие в базовых данных. Например, языковая модель может предполагать, что врачи и судьи — мужчины, а секретари или медсестры — женщины, если эти предубеждения распространены в обучающих данных. [109] Аналогично, модель изображения, подсказанная текстом «фотография генерального директора», может непропорционально генерировать изображения белых мужчин — генеральных директоров, [110] если она обучена на наборе данных с расовыми предубеждениями. Было предпринято несколько попыток смягчить предубеждения, например, изменение входных подсказок [111] и повторное взвешивание обучающих данных. [112]

Дипфейки

Deepfakes ( гибрид слов «глубокое обучение» и «подделка» [113] ) — это медиа, созданные искусственным интеллектом, которые берут человека на существующем изображении или видео и заменяют его чужим образом с помощью искусственных нейронных сетей . [114] Deepfakes привлекли всеобщее внимание и обеспокоенность из-за их использования в поддельных порнографических видеороликах знаменитостей , порно мести , фейковых новостях , мистификациях , дезинформации о здоровье , финансовом мошенничестве и скрытом вмешательстве в выборы за рубежом . [115] [116] [117] [118] [119] [120] [121] Это вызвало реакцию как со стороны промышленности, так и со стороны правительства с целью обнаружения и ограничения их использования. [122] [123]

В июле 2023 года компания по проверке фактов Logically обнаружила, что популярные генеративные модели искусственного интеллекта Midjourney , DALL-E 2 и Stable Diffusion при запросе на создание правдоподобных дезинформационных изображений, например, изображений мошенничества на выборах в Соединенных Штатах и ​​мусульманских женщин, поддерживающих индийскую индуистскую националистическую партию Бхаратия Джаната Парти . [124] [125]

В апреле 2024 года в статье было предложено использовать блокчейн ( технологию распределенного реестра ) для содействия «прозрачности, проверяемости и децентрализации в разработке и использовании ИИ» [126] .

Аудио дипфейки

Случаи, когда пользователи злоупотребляют программным обеспечением для создания спорных заявлений в стиле голоса знаменитостей, государственных служащих и других известных личностей, вызывают этические опасения по поводу ИИ-генерации голоса. [127] [128] [129] [130] [131] [132] В ответ такие компании, как ElevenLabs, заявили, что будут работать над смягчением потенциальных злоупотреблений с помощью мер безопасности и проверки личности . [133]

Опасения и фандом возникли из-за музыки, сгенерированной ИИ . То же программное обеспечение, которое использовалось для клонирования голосов, использовалось для голосов известных музыкантов, чтобы создавать песни, имитирующие их голоса, что получило как огромную популярность, так и критику. [134] [135] [136] Аналогичные методы также использовались для создания улучшенных или полноценных версий песен, которые были слиты или еще не выпущены. [137]

Генеративный ИИ также использовался для создания новых цифровых личностей артистов, некоторые из которых получили достаточно внимания, чтобы получить контракты на запись на крупных лейблах. [138] Разработчики этих виртуальных артистов также столкнулись со своей справедливой долей критики за свои персонифицированные программы, включая негативную реакцию за «дегуманизацию» формы искусства, а также создание артистов, которые создают нереалистичные или безнравственные призывы к своей аудитории. [139]

Киберпреступность

Способность генеративного ИИ создавать реалистичный фейковый контент использовалась во многих типах киберпреступности, включая фишинговые мошенничества. [140] Глубокие фейковые видео и аудио использовались для создания дезинформации и мошенничества. Бывший король мошенничества Google Шуман Госемаджумдер предсказал, что, хотя глубокая подделка видео изначально вызвала ажиотаж в СМИ, вскоре они станут обычным явлением и, как следствие, более опасными. [141] Кроме того, широкомасштабные языковые модели и другие формы ИИ для генерации текста широко использовались для создания фейковых отзывов на веб-сайтах электронной коммерции с целью повышения рейтингов. [142] Киберпреступники создали крупные языковые модели, ориентированные на мошенничество, включая WormGPT и FraudGPT. [143]

Недавние исследования, проведенные в 2023 году, показали, что генеративный ИИ имеет слабые стороны, которыми могут манипулировать преступники для извлечения вредоносной информации в обход этических гарантий. В исследовании представлены примеры атак, выполненных на ChatGPT, включая джейлбрейки и обратную психологию . Кроме того, злоумышленники могут использовать ChatGPT для атак социальной инженерии и фишинговых атак , раскрывая вредоносную сторону этих технологий. [144]

Зависимость от гигантов отрасли

Обучение передовых моделей ИИ требует огромного количества вычислительной мощности. Обычно только крупные технологические компании имеют финансовые ресурсы для таких инвестиций. Более мелкие стартапы, такие как Cohere и OpenAI, в конечном итоге покупают доступ к центрам обработки данных у Google и Microsoft соответственно. [145]

Энергия и окружающая среда

Ученые и журналисты выразили обеспокоенность по поводу воздействия на окружающую среду, которое оказывают разработка и внедрение генеративных моделей: высокие выбросы CO2, [ 146] [147] [148] большие объемы пресной воды, используемой для центров обработки данных, [149] [150] и высокие объемы потребления электроэнергии. [151] [147] [152] Также существует обеспокоенность тем, что эти воздействия могут усилиться, поскольку эти модели включаются в широко используемые поисковые системы, такие как Google Search и Bing; [151] поскольку чат-боты и другие приложения становятся все более популярными; [151] [150] и поскольку модели необходимо переобучать. [151]

Предлагаемые стратегии смягчения последствий включают факторинг потенциальных экологических затрат до разработки модели или сбора данных, [146] повышение эффективности центров обработки данных для снижения потребления электроэнергии/энергии, [149] [151] [147] [150] [152] [148] создание более эффективных моделей машинного обучения , [149] [147] [150] минимизация количества раз, которые модели должны быть переобучены, [148] разработка правительственной структуры для аудита воздействия этих моделей на окружающую среду, [149] [148] регулирование прозрачности этих моделей, [148] регулирование их энергопотребления и водопользования, [149] поощрение исследователей публиковать данные об углеродном следе их моделей, [151] [148] и увеличение числа экспертов в предметной области, которые разбираются как в машинном обучении, так и в климатологии. [148]

Качество контента

The New York Times определяет slop как аналог спама : «некачественный или нежелательный контент ИИ в социальных сетях, искусстве, книгах и ... в результатах поиска». [153] Журналисты выразили обеспокоенность по поводу масштабов низкокачественного сгенерированного контента в отношении модерации контента в социальных сетях, [154] денежных стимулов со стороны компаний социальных сетей для распространения такого контента, [154] [155] ложных политических сообщений, [155] спама в представленных научных работах, [156] увеличения времени и усилий для поиска более качественного или желаемого контента в Интернете, [157] индексации сгенерированного контента поисковыми системами, [158] и самой журналистики. [159]

В статье, опубликованной исследователями из Amazon Web Services AI Labs, было обнаружено, что более 57% предложений из выборки из более чем 6 миллиардов предложений из Common Crawl , снимка веб-страниц, были переведены машиной . Многие из этих автоматизированных переводов были расценены как низкокачественные, особенно для предложений, переведенных как минимум на три языка. Многие языки с низкими ресурсами (например, волоф , коса ) были переведены на большее количество языков, чем языки с большими ресурсами (например, английский, французский). [160] [161]

В сентябре 2024 года Робин Спир , автор wordfreq, базы данных с открытым исходным кодом, которая вычисляет частоты слов на основе текста из Интернета, объявила, что она прекратила обновление данных по нескольким причинам: высокие затраты на получение данных из Reddit и Twitter , чрезмерный акцент на генеративном ИИ по сравнению с другими методами в сообществе обработки естественного языка и то, что «генеративный ИИ загрязнил данные». [162]

Внедрение генеративных инструментов ИИ привело к взрывному росту контента, созданного ИИ, в различных областях. Исследование, проведенное в Университетском колледже Лондона, подсчитало, что в 2023 году более 60 000 научных статей — более 1% всех публикаций — были, вероятно, написаны с помощью LLM. [163] По данным Института ИИ, ориентированного на человека , Стэнфордского университета , примерно 17,5% недавно опубликованных статей по компьютерным наукам и 16,9% рецензируемых текстов теперь включают контент, созданный LLM. [164]

Визуальный контент следует аналогичной тенденции. С момента запуска DALL-E 2 в 2022 году, по оценкам, ежедневно создавалось в среднем 34 миллиона изображений. По состоянию на август 2023 года с использованием алгоритмов преобразования текста в изображение было создано более 15 миллиардов изображений, причем 80% из них были созданы с помощью моделей, основанных на Stable Diffusion . [165]

Если контент, сгенерированный ИИ, включается в новые данные, сканируемые из Интернета, для дополнительного обучения моделей ИИ, в полученных моделях могут возникнуть дефекты. [166] Обучение модели ИИ исключительно на выходных данных другой модели ИИ приводит к получению модели более низкого качества. Повторение этого процесса, когда каждая новая модель обучается на выходных данных предыдущей модели, приводит к прогрессирующей деградации и в конечном итоге приводит к «коллапсу модели» после нескольких итераций. [167] Были проведены тесты с распознаванием образов рукописных букв и с изображениями человеческих лиц. [168] Как следствие, ценность данных, собранных в результате подлинного взаимодействия человека с системами, может стать все более ценной при наличии контента, сгенерированного LLM, в данных, сканируемых из Интернета.

С другой стороны, синтетические данные часто используются как альтернатива данным, полученным в результате реальных событий. Такие данные могут быть использованы для проверки математических моделей и обучения моделей машинного обучения, сохраняя конфиденциальность пользователей, [169] в том числе для структурированных данных. [170] Подход не ограничивается генерацией текста; генерация изображений использовалась для обучения моделей компьютерного зрения. [171]

Злоупотребление в журналистике

В январе 2023 года Futurism.com опубликовал историю о том, что CNET использовала нераскрытый внутренний инструмент искусственного интеллекта для написания по меньшей мере 77 своих статей; после того, как эта новость появилась, CNET опубликовала исправления к 41 статье. [172]

В апреле 2023 года немецкий таблоид Die Aktuelle опубликовал фальшивое интервью, сгенерированное ИИ, с бывшим гонщиком Михаэлем Шумахером , который не появлялся на публике с 2013 года после получения черепно-мозговой травмы в результате несчастного случая на лыжах. История включала два возможных раскрытия: на обложке была строка «обманчиво реальная», а в конце интервью было признание того, что оно было сгенерировано ИИ. Вскоре после этого главный редактор был уволен на фоне разногласий. [173]

Другие издания, опубликовавшие статьи, содержание и/или подпись которых, как было подтверждено или предположительно, были созданы с помощью моделей генеративного ИИ (часто с ложным содержанием, ошибками и/или нераскрытием использования генеративного ИИ), включают:

В мае 2024 года издание Futurism отметило, что видеоролик о системе управления контентом компании AdVon Commerce, которая использовала генеративный ИИ для создания статей для многих из вышеупомянутых изданий, по-видимому, показал, что они «создали десятки тысяч статей для более чем 150 издательств». [182]

Новостные вещатели в Кувейте, Греции, Южной Корее, Индии, Китае и Тайване представили новости с ведущими, основанными на моделях генеративного искусственного интеллекта, что вызвало опасения по поводу потери рабочих мест для ведущих-людей и доверия аудитории к новостям, на которые исторически влияли парасоциальные отношения с вещателями, создателями контента или влиятельными лицами в социальных сетях. [199] [200] [201] Алгоритмически сгенерированные ведущие также использовались союзниками ИГИЛ для своих трансляций. [202]

В 2023 году Google, как сообщается, представил новостным агентствам инструмент, который, как утверждалось, «создает новостные сюжеты» на основе предоставленных входных данных, таких как «подробности текущих событий». Некоторые руководители новостных компаний, просмотревшие этот питч, описали его как «[принятие] как должное усилий, вложенных в создание точных и искусных новостных сюжетов». [203]

В феврале 2024 года Google запустил программу, в рамках которой небольшим издателям платят за написание трех статей в день с использованием бета-модели генеративного ИИ. Программа не требует знаний или согласия веб-сайтов, которые издатели используют в качестве источников, а также не требует, чтобы опубликованные статьи были помечены как созданные или созданные с помощью этих моделей. [204]

Многие несуществующие новостные сайты ( The Hairpin , The Frisky , Apple Daily ) и блоги ( The Unofficial Apple Weblog , iLounge ) подверглись киберсквотингу , статьи в которых были созданы с помощью генеративного ИИ. [205] [206] [207] [208]

Сенаторы США Ричард Блюменталь и Эми Клобушар выразили обеспокоенность тем, что генеративный ИИ может оказать пагубное влияние на местные новости. [209] В июле 2023 года OpenAI объединилась с Американским журналистским проектом для финансирования местных новостных агентств для экспериментов с генеративным ИИ, при этом Axios отметила возможность того, что компании, занимающиеся генеративным ИИ, создадут зависимость для этих новостных агентств. [210]

The Washington Post отметила, что Meta AI, чат-бот на основе Llama 3 , который резюмирует новостные сюжеты, копирует предложения из этих сюжетов без прямой ссылки на источник и потенциально еще больше снижает трафик новостных интернет-изданий. [211]

В ответ на потенциальные подводные камни, связанные с использованием и неправильным использованием генеративного ИИ в журналистике, а также на опасения по поводу снижения доверия аудитории, СМИ по всему миру, включая такие издания, как Wired , Associated Press , The Quint , Rappler или The Guardian, опубликовали рекомендации о том, как они планируют использовать и не использовать ИИ и генеративный ИИ в своей работе. [212] [213] [214] [215]

В июне 2024 года Институт Рейтер опубликовал свой отчет Digital New Report за 2024 год . В ходе опроса людей в Америке и Европе Институт Рейтер сообщает, что 52% и 47% соответственно испытывают дискомфорт от новостей, созданных «в основном ИИ с некоторой долей человеческого контроля», а 23% и 15% соответственно сообщают, что чувствуют себя комфортно. 42% американцев и 33% европейцев сообщили, что им комфортно от новостей, созданных «в основном человеком с некоторой помощью ИИ». Результаты глобальных опросов показали, что люди испытывают больший дискомфорт от новостных тем, включая политику (46%), преступность (43%) и местные новости (37%), созданных ИИ, чем от других новостных тем. [216]

Смотрите также

Ссылки

  1. ^ Ньюсом, Гэвин; Вебер, Ширли Н. (6 сентября 2023 г.). «Исполнительный приказ N-12-23» (PDF) . Исполнительный департамент штата Калифорния. Архивировано (PDF) из оригинала 21 февраля 2024 г. . Получено 7 сентября 2023 г. .
  2. ^ Пиная, Уолтер Х.Л.; Грэм, Марк С.; Керфут, Эрик; Тудосиу, Петру-Даниэль; Даффлон, Джессика; Фернандес, Вирджиния; Санчес, Педро; Воллеб, Джулия; да Коста, Педро Ф.; Патель, Эшай (2023). «Генераторный искусственный интеллект для медицинской визуализации: расширение структуры MONAI». arXiv : 2307.15208 [eess.IV].
  3. ^ ab Griffith, Erin; Metz, Cade (27 января 2023 г.). «Anthropic Said to Be Closing In on $300 Million in New AI Funding». The New York Times . Архивировано из оригинала 9 декабря 2023 г. . Получено 14 марта 2023 г. .
  4. ^ Ланксон, Нейт; Басс, Дина; Давалос, Джеки (10 марта 2023 г.). «Шпаргалка по модным словечкам ИИ и их значениям». Bloomberg News . Архивировано из оригинала 17 ноября 2023 г. Получено 14 марта 2023 г.
  5. ^ Pasick, Adam (27 марта 2023 г.). «Глоссарий искусственного интеллекта: объяснение нейронных сетей и других терминов». The New York Times . ISSN  0362-4331. Архивировано из оригинала 1 сентября 2023 г. Получено 22 апреля 2023 г.
  6. ^ Карпати, Андрей; Аббель, Питер; Брокман, Грег; Чен, Питер; Чунг, Вики; Дуань, Ян; Гудфеллоу, Ян; Кингма, Дюрк; Хо, Джонатан; Рейн Хаутхуфт; Тим Салиманс; Джон Шульман; Илья Суцкевер; Войцех Заремба (16 июня 2016 г.). "Генеративные модели". OpenAI. Архивировано из оригинала 17 ноября 2023 г. . Получено 15 марта 2023 г. .
  7. ^ Метц, Кейд (14 марта 2023 г.). «OpenAI планирует поднять ставки в гонке ИИ в сфере технологий». The New York Times . ISSN  0362-4331. Архивировано из оригинала 31 марта 2023 г. Получено 31 марта 2023 г.
  8. ^ Топпилан, Ромаль; Де Фрейтас, Дэниел; Холл, Джейми; Шазир, Ноам; Кулшрешта, Апурв (20 января 2022 г.). «LaMDA: Языковые модели для диалоговых приложений». arXiv : 2201.08239 [cs.CL].
  9. ^ Руз, Кевин (21 октября 2022 г.). «Вечеринка в поддержку генеративного ИИ, нового увлечения Кремниевой долины». The New York Times . Архивировано из оригинала 15 февраля 2023 г. Получено 14 марта 2023 г.
  10. ^ ab Metz, Cade (15 февраля 2024 г.). «OpenAI представляет ИИ, который мгновенно генерирует сногсшибательные видеоролики». The New York Times . ISSN  0362-4331. Архивировано из оригинала 15 февраля 2024 г. Получено 16 февраля 2024 г.
  11. ^ «Гонка лабораторий искусственного интеллекта накаляется». The Economist . 30 января 2023 г. Архивировано из оригинала 17 ноября 2023 г. Получено 14 марта 2023 г.
  12. ^ Yang, June; Gokturk, Burak (14 марта 2023 г.). «Google Cloud приносит генеративный ИИ разработчикам, предприятиям и правительствам». Архивировано из оригинала 17 ноября 2023 г. . Получено 15 марта 2023 г. .
  13. ^ Бриньолфссон, Эрик; Ли, Даниэль; Рэймонд, Линдси Р. (апрель 2023 г.), Generative AI at Work (рабочий документ), Working Paper Series, doi : 10.3386/w31161, архивировано из оригинала 28 марта 2024 г. , извлечено 21 января 2024 г.
  14. ^ «Пока не бойтесь апокалипсиса рабочих мест, вызванного ИИ». The Economist . 6 марта 2023 г. Архивировано из оригинала 17 ноября 2023 г. Получено 14 марта 2023 г.
  15. ^ Койл, Джейк (27 сентября 2023 г.). «В битве голливудских писателей против ИИ люди побеждают (пока)». AP News . Associated Press. Архивировано из оригинала 3 апреля 2024 г. . Получено 26 января 2024 г. .
  16. ^ Харрейс, Х.; Куллиас, Т.; Робертс, Роджер. «Генеративный ИИ: открытие будущего моды». Архивировано из оригинала 17 ноября 2023 г. Получено 14 марта 2023 г.
  17. ^ «Как генеративный ИИ может усилить креативность человека». Harvard Business Review . 16 июня 2023 г. ISSN  0017-8012. Архивировано из оригинала 20 июня 2023 г. Получено 20 июня 2023 г.
  18. ^ Хендрикс, Джастин (16 мая 2023 г.). «Стенограмма: слушания подкомитета по судебной системе Сената по надзору за ИИ». techpolicy.press . Архивировано из оригинала 17 ноября 2023 г. . Получено 19 мая 2023 г. .
  19. ^ Саймон, Феликс М.; Алтай, Саша; Мерсье, Хьюго (18 октября 2023 г.). «Перезагрузка дезинформации? Опасения по поводу влияния генеративного ИИ на дезинформацию преувеличены». Обзор дезинформации Гарвардской школы имени Кеннеди . doi : 10.37016/mr-2020-127 . S2CID  264113883. Архивировано из оригинала 17 ноября 2023 г. Получено 16 ноября 2023 г.
  20. ^ «Новые системы искусственного интеллекта сталкиваются с законом об авторском праве». BBC News . 1 августа 2023 г. Получено 28 сентября 2024 г.
  21. ^ Ньюквист, HP (1994). Создатели мозгов: гений, эго и жадность в поисках думающих машин . Нью-Йорк: Macmillan/SAMS. стр. 45–53. ISBN 978-0-672-30412-5.
  22. ↑ Sharkey, Noel (4 июля 2007 г.), Программируемый робот из 60 г. н. э., т. 2611, New Scientist, архивировано из оригинала 13 января 2018 г. , извлечено 22 октября 2019 г.
  23. ↑ Бретт, Джерард (июль 1954 г.), «Автоматы в византийском «Троне Соломона»", Speculum , 29 (3): 477–487, doi : 10.2307/2846790, ISSN  0038-7134, JSTOR  2846790, S2CID  163031682.
  24. ^ kelinich (8 марта 2014 г.). «Автомат Майярде». Институт Франклина . Архивировано из оригинала 24 августа 2023 г. . Получено 24 августа 2023 г. .
  25. ^ Гринстед, Чарльз Миллер; Снелл, Джеймс Лори (1997). Введение в теорию вероятностей. Американское математическое общество. стр. 464–466. ISBN 978-0-8218-0749-1.
  26. ^ Бремо, Пьер (9 марта 2013 г.). Цепи Маркова: поля Гиббса, моделирование Монте-Карло и очереди. Springer Science & Business Media. стр. ix. ISBN 978-1-4757-3124-8. Архивировано из оригинала 23 марта 2017 года.
  27. ^ Хейс, Брайан (2013). «Первые звенья в цепи Маркова». American Scientist . 101 (2): 92. doi :10.1511/2013.101.92. ISSN  0003-0996. Архивировано из оригинала 7 мая 2024 г. Получено 24 сентября 2023 г.
  28. ^ Файн, Шай; Сингер, Йорам; Тишби, Нафтали (1 июля 1998 г.). «Иерархическая скрытая марковская модель: анализ и приложения». Машинное обучение . 32 (1): 41–62. doi : 10.1023/A:1007469218079 . ISSN  1573-0565. S2CID  3465810.
  29. ^ Crevier, Daniel (1993). AI: The Tumultuous Search for Artificial Intelligence . Нью-Йорк, Нью-Йорк: BasicBooks. стр. 109. ISBN 0-465-02997-3.
  30. ^ Берген, Натан; Хуан, Анджела (2023). «Краткая история генеративного ИИ» (PDF) . Дихотомии: генеративный ИИ: движение к лучшему будущему (2): 4. Архивировано (PDF) из оригинала 10 августа 2023 г. . Получено 8 августа 2023 г. .
  31. ^ ab Alting, Leo; Zhang, Hongchao (1989). «Computer aided process planning: the state-of-the-art survey». Международный журнал исследований производства . 27 (4): 553–585. doi :10.1080/00207548908942569. Архивировано из оригинала 7 мая 2024 г. Получено 3 октября 2023 г.
  32. ^ Чиен, Стив (1998). «Автоматизированное планирование и составление расписаний для целевых автономных космических аппаратов». IEEE Intelligent Systems and Their Applications . 13 (5): 50–55. doi :10.1109/5254.722362.
  33. ^ Burstein, Mark H., ред. (1994). ARPA/Rome Laboratory Knowledge-based Planning and Scheduling Initiative Workshop Proceedings . Агентство перспективных исследовательских проектов, Министерство обороны, и Rome Laboratory, ВВС США, авиабаза Гриффис. стр. 219. ISBN 155860345X.
  34. ^ Pell, Barney; Bernard, Douglas E.; Chien, Steve A.; Gat, Erann; Muscettola, Nicola; Nayak, P. Pandurang; Wagner, Michael D.; Williams, Brian C. (1998). Bekey, George A. (ред.). Прототип агента автономного космического корабля . Автономные роботы. Том 5, № 1. стр. 29–45. Наш совещатель — это традиционный генеративный планировщик ИИ, основанный на структуре планирования HSTS (Muscettola, 1994), а наш компонент управления — это традиционная система управления ориентацией космического корабля (Hackney et al. 1993). Мы также добавляем архитектурный компонент, явно предназначенный для моделирования мира (идентификатор режима), и различаем управление и мониторинг.
  35. ^ Джебара, Тони (2012). Машинное обучение: дискриминативное и генеративное . Том 755. Springer Science & Business Media.
  36. ^ Цао, Ихань; Ли, Сиюй; Лю, Исинь; Янь, Чжилин; Дай, Ютун; Ю, Филип С.; Сан, Личао (7 марта 2023 г.). «Комплексный обзор контента, созданного с помощью ИИ (AIGC): история генеративного ИИ от GAN до ChatGPT». arXiv : 2303.04226 [cs.AI].
  37. ^ "finetune-transformer-lm". GitHub . Архивировано из оригинала 19 мая 2023 г. . Получено 19 мая 2023 г. .
  38. ^ Рэдфорд, Алек; Ву, Джеффри; Чайлд, Ревон; Луан, Дэвид; Амодеи, Дарио; Суцкевер, Илья (2019). «Языковые модели — это неконтролируемые многозадачные обучающиеся» (PDF) . Блог OpenAI .
  39. ^ Рэдфорд, Алек (11 июня 2018 г.). «Улучшение понимания языка с помощью неконтролируемого обучения». OpenAI . Получено 6 октября 2024 г. .
  40. ^ Хуан, Хаомяо (23 августа 2023 г.). «Как ChatGPT превратил генеративный ИИ в «любой инструмент»». Ars Technica . Архивировано из оригинала 19 июля 2024 г. Получено 21 сентября 2024 г.
  41. ^ Бубек, Себастьян; Чандрасекаран, Варун; Эльдан, Ронен; Герке, Йоханнес; Хорвиц, Эрик; Камар, Эдже; Ли, Питер; Ли, Инь Тат; Ли, Юаньчжи; Лундберг, Скотт; Нори, Харша; Паланги, Хамид; Рибейро, Марко Тулио; Чжан, И (22 марта 2023 г.). «Искры общего искусственного интеллекта: ранние эксперименты с GPT-4». arXiv : 2303.12712 [cs.CL].
  42. ^ Шлагвайн, Дэниел; Уиллкокс, Лесли (13 сентября 2023 г.). «ChatGPT et al: Этика использования (генеративного) искусственного интеллекта в исследованиях и науке». Журнал информационных технологий . 38 (2): 232–238. doi : 10.1177/02683962231200411 . S2CID  261753752.
  43. ^ "ImageBind AI с открытым исходным кодом от Meta стремится имитировать человеческое восприятие". 9 мая 2023 г. Архивировано из оригинала 14 марта 2024 г. Получено 14 марта 2024 г.
  44. ^ "Мета-модель мультисенсорного ИИ с открытым исходным кодом, которая объединяет шесть типов данных". 9 мая 2023 г. Архивировано из оригинала 14 марта 2024 г. Получено 14 марта 2024 г.
  45. ^ Баптиста, Эдуардо (9 июля 2024 г.). «Китай лидирует в мире по внедрению генеративного ИИ, показывает опрос». Reuters . Получено 14 июля 2024 г.
  46. ^ "История генеративного ИИ: от GAN до GPT-4". 21 марта 2023 г. Архивировано из оригинала 10 июня 2023 г. Получено 28 апреля 2023 г.
  47. ^ «Explainer: Что такое Generative AI, технология, лежащая в основе OpenAI ChatGPT?». Reuters . 17 марта 2023 г. Архивировано из оригинала 30 марта 2023 г. Получено 17 марта 2023 г.
  48. ^ Руз, Кевин (16 февраля 2023 г.). «Bing's AI Chat: „Я хочу быть живым“». The New York Times . Архивировано из оригинала 15 апреля 2023 г. Получено 30 января 2024 г.
  49. ^ Bommasani, R.; Hudson, DA; Adeli, E.; Altman, R.; Arora, S.; von Arx, S.; Bernstein, MS; Bohg, J.; Bosselut, A; Brunskill, E.; Brynjolfsson, E. (16 августа 2021 г.). «О возможностях и рисках моделей фундамента». arXiv : 2108.07258 [cs.LG].
  50. ^ Чэнь, Мин; Творек, Якуб; Цзюнь, Хонгюй; Юань, Циньюань; Пинто, Ханью Филипп Де Оливейра; Каплан, Джерри; Эдвардс, Хейли; Бурда, Янник; Джозеф, Николас; Брокман, Грег; Рэй, Элвин (6 июля 2021 г.). «Оценка больших языковых моделей, обученных на коде». arXiv : 2107.03374 [cs.LG].
  51. ^ Эпштейн, Зив; Герцманн, Аарон; Актен, Мемо; Фарид, Хани; Фьельд, Джессика; Фрэнк, Морган Р.; Гро, Мэтью; Герман, Лора; Лич, Нил; Махари, Роберт; Пентланд, Алекс «Сэнди»; Русаковская, Ольга; Шредер, Хоуп; Смит, Эми (2023). «Искусство и наука генеративного ИИ». Science . 380 (6650): 1110–1111. arXiv : 2306.04141 . Bibcode :2023Sci...380.1110E. doi :10.1126/science.adh4451. PMID  37319193. S2CID  259095707.
  52. ^ Рамеш, Адитья; Павлов, Михаил; Гох, Габриэль; Грей, Скотт; Восс, Челси; Рэдфорд, Алек; Чен, Марк; Суцкевер, Илья (2021). «Генерация текста в изображение с нуля». Международная конференция по машинному обучению . PMLR. С. 8821–8831.
  53. ^ Десаи, Саахил (17 июля 2023 г.). «Голосовой бот просто лишил меня дара речи». The Atlantic . Архивировано из оригинала 8 декабря 2023 г. . Получено 28 ноября 2023 г. .
  54. ^ Агостинелли, Андреа; Денк, Тимо И.; Борсос, Залан; Энгель, Джесси; Верцетти, Мауро; Кайон, Антуан; Хуан, Цинцин; Янсен, Арен; Робертс, Адам; Тальясакки, Марко; Шарифи, Мэтт; Зегидур, Нил; Фрэнк, Кристиан (26 января 2023 г.). «MusicLM: создание музыки из текста». arXiv : 2301.11325 [cs.SD].
  55. ^ Далугдуг, Мэнди (3 августа 2023 г.). «В июне компания Meta заявила, что использовала 20 000 часов лицензированной музыки для обучения MusicGen, включая 10 000 «высококачественных» лицензированных музыкальных треков. В то время исследователи Meta в своей статье изложили этические проблемы, с которыми они столкнулись при разработке генеративных моделей ИИ, таких как MusicGen». Архивировано из оригинала 15 августа 2023 г.
  56. ^ "Продюсер Jay-Z из Делавэра разжигает споры о правах на ИИ". Архивировано из оригинала 27 февраля 2024 г. Получено 27 февраля 2024 г.
  57. ^ "10 "лучших" музыкальных генераторов на основе ИИ (апрель 2024 г.) - Unite.AI". 19 октября 2022 г. Архивировано из оригинала 29 января 2024 г. Получено 27 февраля 2024 г.
  58. ^ Метц, Кейд (4 апреля 2023 г.). «Мгновенные видео могут стать следующим скачком в технологии искусственного интеллекта». The New York Times . Архивировано из оригинала 5 апреля 2023 г. Получено 5 апреля 2023 г.
  59. ^ Вонг, Куини (29 сентября 2022 г.). «Инструмент искусственного интеллекта родительской мета-группы Facebook может создавать художественные видеоролики из текста». cnet.com. Архивировано из оригинала 5 апреля 2023 г. Получено 4 апреля 2023 г.
  60. ^ Ян, Шерри; Ду, Илун (12 апреля 2023 г.). «UniPi: изучение универсальных политик с помощью генерации видео с текстовым руководством». Google Research, Brain Team . Блог Google AI. Архивировано из оригинала 24 мая 2023 г.
  61. ^ Брохан, Энтони (2023). «RT-2: Модели «зрение-язык-действие» передают веб-знания в роботизированное управление». arXiv : 2307.15818 [cs.RO].
  62. ^ Абдуллахи, Амину (17 ноября 2023 г.). "10 лучших 3D-генераторов искусственного интеллекта (ИИ)". eWEEK . Архивировано из оригинала 7 мая 2024 г. Получено 6 февраля 2024 г.
  63. ^ "Сократите время построения модели САПР с помощью новой методологии создания деталей на основе ИИ | GlobalSpec". Архивировано из оригинала 23 января 2024 г. Получено 6 февраля 2024 г.
  64. ^ «Роль искусственного интеллекта (ИИ) в индустрии САПР». 22 марта 2023 г. Архивировано из оригинала 9 февраля 2024 г. Получено 6 февраля 2024 г.
  65. ^ Сабин, Сэм (30 июня 2023 г.). «GitHub стремится сделать код более безопасным с помощью дизайна». Axios Codebook . Архивировано из оригинала 15 августа 2023 г. . Получено 15 августа 2023 г. .
  66. ^ Винсент, Джеймс (20 марта 2023 г.). «Искусственный интеллект, преобразующий текст в видео, становится все ближе, поскольку стартап Runway объявляет о новой модели». The Verge . Архивировано из оригинала 27 сентября 2023 г. Получено 15 августа 2023 г. Преобразование текста в видео — это следующий рубеж для генеративного ИИ, хотя текущий результат находится в зачаточном состоянии. Runway заявляет, что сделает свою новую модель генеративного видео Gen-2 доступной для пользователей в «ближайшие недели».
  67. ^ Вэниан, Джонатан (16 марта 2023 г.). «Microsoft добавляет технологию OpenAI в Word и Excel». CNBC. Архивировано из оригинала 15 августа 2023 г. . Получено 15 августа 2023 г. Microsoft внедряет технологии генеративного искусственного интеллекта, такие как популярное приложение для чата ChatGPT, в свой пакет бизнес-программного обеспечения Microsoft 365... новые функции ИИ, получившие название Copilot, будут доступны в некоторых из самых популярных бизнес-приложений компании, включая Word, PowerPoint и Excel.
  68. ^ Уилсон, Марк (15 августа 2023 г.). «Функция «Воспоминания» приложения только что получила большое обновление». TechRadar . Архивировано из оригинала 15 августа 2023 г. Приложение Google Фото получает переработанную функцию «Воспоминания» на базе ИИ... вы сможете использовать генеративный ИИ, чтобы придумать несколько предложенных названий, например «приключение в пустыне».
  69. ^ Салливан, Лори (23 мая 2023 г.). «Adobe добавляет генеративный ИИ в Photoshop». MediaPost . Архивировано из оригинала 15 августа 2023 г. Получено 15 августа 2023 г. Генеративный искусственный интеллект (ИИ) станет одной из важнейших функций для креативных дизайнеров и маркетологов. Во вторник Adobe представила функцию генеративной заливки в Photoshop, которая позволит использовать возможности ИИ Firefly в дизайне.
  70. ^ Майкл Нуньес (19 июля 2023 г.). «LLaMA 2: как получить доступ и использовать универсальный чат-бот Meta с открытым исходным кодом прямо сейчас». VentureBeat . Архивировано из оригинала 3 ноября 2023 г. Получено 15 августа 2023 г. Если вы хотите запустить LLaMA 2 на своей машине или изменить код, вы можете загрузить его напрямую с Hugging Face, ведущей платформы для обмена моделями ИИ.
  71. ^ Pounder, Les (25 марта 2023 г.). «Как создать собственный сервер чат-ботов с искусственным интеллектом на базе Raspberry Pi 4». Архивировано из оригинала 15 августа 2023 г. Получено 15 августа 2023 г. Используя Pi 4 с 8 ГБ оперативной памяти, вы можете создать сервер, подобный ChatGPT, на основе LLaMA.
  72. ^ Кемпер, Джонатан (10 ноября 2022 г.). «Приложение «Draw Things» приносит стабильную диффузию на iPhone». The Decoder . Архивировано из оригинала 15 августа 2023 г. Получено 15 августа 2023 г. Draw Things — это приложение, которое приносит стабильную диффузию на iPhone. Изображения ИИ генерируются локально, поэтому вам не нужно подключение к Интернету.
  73. ^ Witt, Allan (7 июля 2023 г.). «Лучший компьютер для запуска модели LLaMA AI дома (GPU, CPU, RAM, SSD)». Архивировано из оригинала 15 августа 2023 г. Получено 15 августа 2023 г. Для запуска модели LLaMA дома вам понадобится компьютерная сборка с мощным графическим процессором, способным обрабатывать большой объем данных и вычислений, необходимых для вывода.
  74. ^ Вестовер, Брайан (28 сентября 2023 г.). «Кому нужен ChatGPT? Как запустить собственный бесплатный и частный чат-бот на основе искусственного интеллекта». Ziff Davis . Архивировано из оригинала 7 января 2024 г. Получено 7 января 2024 г.
  75. ^ @karpathy (20 декабря 2023 г.). «Сейчас я доверяю только двум оценщикам LLM» ( твит ) – через Twitter .
  76. ^ @ylecun (5 января 2024 г.). «Переход Nabla с ChatGPT на LLM с открытым исходным кодом...» ( Твит ) – через Twitter .
  77. ^ @ylecun (1 ноября 2023 г.). «Платформы с открытым исходным кодом *повышают* безопасность и защищенность» ( твит ) – через Twitter .
  78. ^ Неллис, Стивен; Ли, Джейн (1 сентября 2022 г.). «Чиновники США приказали Nvidia остановить продажи топовых чипов ИИ в Китай». Reuters . Архивировано из оригинала 15 августа 2023 г. . Получено 15 августа 2023 г. .
  79. ^ Шилов, Антон (7 мая 2023 г.). «Раскрыта производительность китайского графического процессора Nvidia A800». Tom's Hardware. Архивировано из оригинала 7 мая 2024 г. Получено 15 августа 2023 г. A800 работает на 70% скорости графических процессоров A100, при этом соблюдая строгие экспортные стандарты США, которые ограничивают объем вычислительной мощности, который Nvidia может продать.
  80. ^ Патель, Дилан (24 октября 2022 г.). «Как китайская компания Biren пытается обойти санкции США». Архивировано из оригинала 15 августа 2023 г. Получено 15 августа 2023 г.
  81. ^ "5 бесплатных программ для распознавания поддельных изображений, созданных искусственным интеллектом" (на итальянском). 28 октября 2023 г. Архивировано из оригинала 29 октября 2023 г. Получено 29 октября 2023 г.
  82. ^ «Обнаружение отпечатков пальцев ИИ: руководство по водяным знакам и не только». Brookings Institution . 4 января 2024 г. Архивировано из оригинала 3 сентября 2024 г. Получено 5 сентября 2024 г.
  83. ^ Фаулер, Джеффри (3 апреля 2023 г.). «Мы протестировали новый ChatGPT-детектор для учителей. Он пометил невиновного ученика». washingtonpost.com . Архивировано из оригинала 28 марта 2024 г. . Получено 6 февраля 2024 г. .
  84. ^ Фаулер, Джеффри (2 июня 2023 г.). «Обнаружение ИИ может оказаться невозможным. Это большая проблема для учителей». washingtonpost.com . Архивировано из оригинала 3 июня 2023 г. . Получено 6 февраля 2024 г. .
  85. ^ Барц, Дайан; Ху, Кристал (21 июля 2023 г.). «OpenAI, Google и другие обещают снабжать контент на основе ИИ водяными знаками в целях безопасности, заявляет Белый дом». Reuters . Архивировано из оригинала 27 июля 2023 г.
  86. ^ "ИНФОРМАЦИОННЫЙ ЛИСТОК: Президент Байден издает указ о безопасном, надежном и заслуживающем доверия искусственном интеллекте". Белый дом. 30 октября 2023 г. Архивировано из оригинала 30 января 2024 г. Получено 30 января 2024 г.
  87. ^ Берт, Эндрю (31 октября 2023 г.). «3 препятствия регулированию генеративного ИИ». Harvard Business Review . ISSN  0017-8012. Архивировано из оригинала 17 февраля 2024 г. Получено 17 февраля 2024 г.
  88. ^ "EU AI Act: first Regulation on artificial intelligence". Европейский парламент . 6 августа 2023 г. Получено 13 сентября 2024 г.
  89. ↑ Чи, Фу Юн; Мукерджи, Супанта (14 июня 2023 г.). «Законодатели ЕС голосуют за более жесткие правила ИИ, поскольку проект переходит на финальную стадию». Reuters . Архивировано из оригинала 27 июля 2023 г. . Получено 26 июля 2023 г.
  90. ^ Йе, Джош (13 июля 2023 г.). «Китай заявляет, что правила генеративного ИИ применяются только к продуктам для населения». Reuters . Архивировано из оригинала 27 июля 2023 г. Получено 13 июля 2023 г.
  91. ^ "生成式人工智能服务管理暂行办法" . 13 июля 2023 года. Архивировано из оригинала 27 июля 2023 года . Проверено 27 июля 2023 г.
  92. ^ ab "Генеративный искусственный интеллект и закон об авторском праве". Исследовательская служба Конгресса . LSB10922. 29 сентября 2023 г. Архивировано из оригинала 22 марта 2024 г. Получено 30 января 2024 г.
  93. ^ Томпсон, Стюарт (25 января 2024 г.). «Мы попросили ИИ создать Джокера. Он сгенерировал защищенное авторским правом изображение». The New York Times . Архивировано из оригинала 25 января 2024 г. Получено 26 января 2024 г.
  94. ^ Хадеро, Халелуя; Баудер, Дэвид (27 декабря 2023 г.). «The New York Times подает в суд на OpenAI и Microsoft за использование своих историй для обучения чат-ботов». Associated Press News . AP News. Архивировано из оригинала 27 декабря 2023 г. . Получено 13 апреля 2023 г. .
  95. ^ О'Брайен, Мэтт (25 сентября 2023 г.). «Фотогигант Getty подал в суд на ведущего производителя изображений с использованием искусственного интеллекта. Теперь он также использует эту технологию». AP NEWS . Associated Press. Архивировано из оригинала 30 января 2024 г. . Получено 30 января 2024 г. .
  96. ^ Барбер, Грегори (9 декабря 2023 г.). «Борьба за авторские права на генеративный ИИ только начинается». Wired . Архивировано из оригинала 19 января 2024 г. Получено 19 января 2024 г.
  97. ^ Брюэлл, Александра (27 декабря 2023 г.). «New York Times подала в суд на Microsoft и OpenAI, заявив о нарушении авторских прав». Wall Street Journal . Архивировано из оригинала 18 января 2024 г. Получено 19 января 2024 г.
  98. ^ Бриттен, Блейк (21 августа 2023 г.). «Искусство, созданное искусственным интеллектом, не может охраняться авторскими правами, заявляет суд США». Reuters . Архивировано из оригинала 20 января 2024 г. Получено 19 января 2024 г.
  99. ^ Дэвид, Эмилла (29 августа 2023 г.). «Бюро по авторским правам США хочет услышать, что люди думают об ИИ и авторских правах». The Verge . Архивировано из оригинала 19 января 2024 г. . Получено 19 января 2024 г. .
  100. ^ «Замечания Генерального секретаря в Совете Безопасности по искусственному интеллекту». un.org . 18 июля 2023 г. Архивировано из оригинала 28 июля 2023 г. Получено 27 июля 2023 г.
  101. ^ «Забастовка писателей принимает позицию по ИИ». Time . 4 мая 2023 г. Архивировано из оригинала 11 июня 2023 г. Получено 11 июня 2023 г.
  102. ^ Тарнофф, Бен (4 августа 2023 г.). «Уроки Элизы». The Guardian Weekly . стр. 34–39.
  103. ^ Чжоу, Виола (11 апреля 2023 г.). «ИИ уже отбирает работу иллюстраторов видеоигр в Китае». Остальной мир . Архивировано из оригинала 13 августа 2023 г. Получено 17 августа 2023 г.
  104. ^ Картер, Джастин (11 апреля 2023 г.). «Сообщается, что индустрия игрового искусства Китая уничтожена растущим использованием ИИ». Разработчик игр . Архивировано из оригинала 17 августа 2023 г. Получено 17 августа 2023 г.
  105. ^ Кольер, Кевин (14 июля 2023 г.). «Актеры против ИИ: забастовка привлекает внимание к новому использованию передовых технологий». NBC News. Архивировано из оригинала 20 июля 2023 г. Получено 21 июля 2023 г. SAG-AFTRA присоединилась к Гильдии писателей Америки , требуя контракта, который явно требует регулирования ИИ для защиты писателей и произведений, которые они создают. ... Будущее генеративного искусственного интеллекта в Голливуде — и то, как его можно использовать для замены труда — стало решающим камнем преткновения для актеров, объявляющих забастовку. На пресс-конференции в четверг Фрэн Дрешер, президент Гильдии киноактеров США — Американской федерации артистов телевидения и радио (более известной как SAG-AFTRA), заявила, что «искусственный интеллект представляет собой экзистенциальную угрозу для творческих профессий, и все актеры и исполнители заслуживают того, чтобы в контрактах были прописаны положения, которые защищают их от эксплуатации их личности и таланта без согласия и оплаты».
  106. ^ Wiggers, Kyle (22 августа 2023 г.). «ElevenLabs' voice-generating tools launch out of beta» (Инструменты для генерации голоса ElevenLabs выходят из стадии бета-тестирования). TechCrunch . Архивировано из оригинала 28 ноября 2023 г. Получено 25 сентября 2023 г.
  107. ^ Шривастава, Раши. «'Keep Your Paws Off My Voice': Voice Actors Worry, That Generative AI Will Roof You Have You Livelihoods». Forbes . Архивировано из оригинала 2 декабря 2023 г. Получено 28 ноября 2023 г.
  108. ^ Гупта, Шален (31 октября 2023 г.). «Недостаточно представленные группы в странах по всему миру обеспокоены тем, что ИИ представляет угрозу рабочим местам». Fast Company . Архивировано из оригинала 8 декабря 2023 г. . Получено 8 декабря 2023 г. .
  109. ^ Рэйчел Гордон (3 марта 2023 г.). «Большие языковые модели предвзяты. Может ли логика помочь их спасти?». MIT CSAIL . Архивировано из оригинала 23 января 2024 г. Получено 26 января 2024 г.
  110. ^ OpenAI (18 июля 2022 г.). «Снижение предвзятости и повышение безопасности в DALL·E 2». OpenAI. Архивировано из оригинала 26 января 2024 г. Получено 26 января 2024 г.
  111. ^ Джейк Трейлор (27 июля 2022 г.). «Быстрого решения не существует: как OpenAI DALL·E 2 проиллюстрировал проблемы предвзятости в ИИ». NBC News . Архивировано из оригинала 26 января 2024 г. Получено 26 января 2024 г.
  112. ^ "DALL·E 2 pre-training mitigations". OpenAI . 28 июня 2022 г. Архивировано из оригинала 26 января 2024 г. Получено 26 января 2024 г.
  113. ^ Брэндон, Джон (16 февраля 2018 г.). «Ужасающее высокотехнологичное порно: жуткие „deepfake“ видео на подъеме». Fox News . Архивировано из оригинала 15 июня 2018 г. Получено 20 февраля 2018 г.
  114. ^ Коул, Саманта (24 января 2018 г.). «Мы в полном дерьме: сейчас все создают фейковое порно, созданное с помощью ИИ». Vice . Архивировано из оригинала 7 сентября 2019 г. . Получено 4 мая 2019 г. .
  115. ^ «Что такое Deepfakes и почему будущее порно ужасает». Highsnobiety . 20 февраля 2018 г. Архивировано из оригинала 14 июля 2021 г. Получено 20 февраля 2018 г.
  116. ^ "Эксперты опасаются, что технология подмены лиц может стать причиной международного противостояния". The Outline . Архивировано из оригинала 16 января 2020 г. . Получено 28 февраля 2018 г. .
  117. ^ Руз, Кевин (4 марта 2018 г.). «Here Come the Fake Videos, Too». The New York Times . ISSN  0362-4331. Архивировано из оригинала 18 июня 2019 г. Получено 24 марта 2018 г.
  118. ^ Шрайер, Марко; Саттаров, Тимур; Реймер, Бернд; Борт, Дамиан (2019). «Состязательное обучение дипфейкам в бухгалтерском учете». arXiv : 1910.03810 [cs.LG].
  119. ^ Menz, Bradley (2024). «Health Disinformation Use Case Highlighting the Urgent Need for Artificial Intelligence Vigilance» (Пример использования дезинформации о здоровье, подчеркивающий настоятельную необходимость в бдительности искусственного интеллекта). JAMA Internal Medicine . 184 (1): 92–96. doi : 10.1001/jamainternmed.2023.5947. PMID  37955873. S2CID  265148637. Архивировано из оригинала 4 февраля 2024 г. Получено 4 февраля 2024 г.
  120. ^ Чалфант, Морган (6 марта 2024 г.). «США готовятся к иностранному вмешательству в выборы 2024 года». Semafor . Архивировано из оригинала 11 марта 2024 г. . Получено 6 марта 2024 г. .
  121. ^ Менн, Джозеф (23 сентября 2024 г.). «Россия и Иран используют ИИ для усиления антиамериканских кампаний влияния, говорят чиновники». The Washington Post . ISSN  0190-8286. Архивировано из оригинала 24 сентября 2024 г. Получено 23 сентября 2024 г.
  122. ^ "Присоединяйтесь к Deepfake Detection Challenge (DFDC)". deepfakedetectionchallenge.ai . Архивировано из оригинала 12 января 2020 г. . Получено 8 ноября 2019 г. .
  123. ^ Кларк, Иветт Д. (28 июня 2019 г.). «HR3230 – 116-й Конгресс (2019–2020 гг.): Защита каждого человека от ложных показаний путем обеспечения соблюдения Закона об ответственности за эксплуатацию 2019 года». www.congress.gov . Архивировано из оригинала 17 декабря 2019 г. . Получено 16 октября 2019 г. .
  124. ^ "Новые исследования раскрывают масштаб угрозы, представляемой изображениями, сгенерированными ИИ, на выборах 2024 года". Логично . 27 июля 2023 г. Архивировано из оригинала 3 октября 2023 г. Получено 6 июля 2024 г.
  125. ^ Лоутон, Грэм (12 сентября 2023 г.). «Дезинформационные войны: борьба с фейковыми новостями в эпоху ИИ». New Scientist . Получено 5 июля 2024 г.
  126. ^ Брюэр, Джордан; Патель, Дхру; Ким, Денни; Мюррей, Алекс (12 апреля 2024 г.). «Преодоление трудностей генеративных технологий: предложение интеграции искусственного интеллекта и блокчейна». Business Horizons . 67 (5): 525–535. doi :10.1016/j.bushor.2024.04.011. ISSN  0007-6813.
  127. ^ "Люди по-прежнему ужасны: инструмент клонирования голоса на основе искусственного интеллекта неправильно используется для создания фейковых клипов знаменитостей". PCMag Middle East . 31 января 2023 г. Архивировано из оригинала 25 декабря 2023 г. Получено 25 июля 2023 г.
  128. ^ "Гонка программного обеспечения генеративного ИИ началась". Fortune . Архивировано из оригинала 25 марта 2023 г. Получено 3 февраля 2023 г.
  129. ^ Милмо, Дэн; Херн, Алекс (20 мая 2023 г.). «Эксперты говорят, что выборы в Великобритании и США находятся под угрозой из-за дезинформации, распространяемой с помощью искусственного интеллекта». The Guardian . ISSN  0261-3077. Архивировано из оригинала 16 ноября 2023 г. Получено 25 июля 2023 г.
  130. ^ «Увидеть — значит поверить? Глобальная борьба с дипфейками». news.yahoo.com . Архивировано из оригинала 3 февраля 2023 г. . Получено 3 февраля 2023 г. .
  131. ^ Винсент, Джеймс (31 января 2023 г.). «Пользователи 4chan используют инструмент клонирования голоса на основе искусственного интеллекта для генерации разжигания ненависти к знаменитостям». The Verge . Архивировано из оригинала 3 декабря 2023 г. Получено 3 февраля 2023 г.
  132. ^ Томпсон, Стюарт А. (12 марта 2023 г.). «Создание дипфейков становится дешевле и проще благодаря ИИ» The New York Times . ISSN  0362-4331. Архивировано из оригинала 29 октября 2023 г. Получено 25 июля 2023 г.
  133. ^ «Новый инструмент для обработки голоса на основе искусственного интеллекта уже используется для создания аудиоклипов с имитацией голоса знаменитостей». Engadget . 31 января 2023 г. Архивировано из оригинала 10 октября 2023 г. Получено 3 февраля 2023 г.
  134. ↑ Gee, Andre (20 апреля 2023 г.). «То, что созданные ИИ рэп-песни становятся вирусными, еще не значит, что они хороши». Rolling Stone . Архивировано из оригинала 2 января 2024 г. Получено 6 декабря 2023 г.
  135. ^ Коскарелли, Джо (19 апреля 2023 г.). «Искусственный интеллект, поддельный «Дрейк» и «The Weeknd», потряс музыкальный мир». The New York Times . Архивировано из оригинала 15 мая 2023 г. Получено 5 декабря 2023 г.
  136. ^ Липпиелло, Эмили; Смит, Натан; Перейра, Иван (3 ноября 2023 г.). «Песни ИИ, имитирующие популярных артистов, вызывающих тревогу в музыкальной индустрии». ABC News . Архивировано из оригинала 6 декабря 2023 г. . Получено 6 декабря 2023 г. .
  137. ^ Скелтон, Эрик. «Фанаты используют искусственный интеллект, чтобы превратить рэп-отрывки в полноценные песни». Complex . Архивировано из оригинала 2 января 2024 г. . Получено 6 декабря 2023 г. .
  138. ^ Марр, Бернард. «Виртуальная влиятельная персона Нунури заключает сделку на запись: она — будущее музыки?». Forbes . Архивировано из оригинала 4 декабря 2023 г. Получено 6 декабря 2023 г.
  139. ^ Талер, Шеннон (8 сентября 2023 г.). «Warner Music подписывает первую в истории сделку на запись с поп-звездой AI». New York Post . Архивировано из оригинала 15 декабря 2023 г. Получено 6 декабря 2023 г.
  140. ^ Sjouwerman, Stu (26 декабря 2022 г.). «Deepfakes: Get ready for phishing 2.0». Fast Company . Архивировано из оригинала 31 июля 2023 г. Получено 31 июля 2023 г.
  141. ^ Соннемейкер, Тайлер. «Поскольку платформы социальных сетей готовятся к надвигающейся волне дипфейков, бывший «царь мошенничества» Google предсказывает, что самая большая опасность заключается в том, что дипфейки в конечном итоге станут скучными». Business Insider . Архивировано из оригинала 14 апреля 2021 г. Получено 31 июля 2023 г.
  142. ^ Коллинсон, Патрик (15 июля 2023 г.). «Поддельные отзывы: можем ли мы доверять тому, что читаем в Интернете, поскольку использование ИИ стремительно растёт?». The Guardian . ISSN  0261-3077. Архивировано из оригинала 22 ноября 2023 г. Получено 6 декабря 2023 г.
  143. ^ "После WormGPT появился FraudGPT, который помогает мошенникам красть ваши данные". PCMAG . Архивировано из оригинала 31 июля 2023 г. Получено 31 июля 2023 г.
  144. ^ Гупта, Маанак; Акири, Чаранкумар; Арьял, Кшитиз; Паркер, Эли; Прахарадж, Лопамудра (2023). «От ChatGPT к ThreatGPT: влияние генеративного искусственного интеллекта на кибербезопасность и конфиденциальность». Доступ IEEE . 11 : 80218–80245. arXiv : 2307.00691 . Бибкод : 2023IEEEA..1180218G. дои : 10.1109/ACCESS.2023.3300381 . S2CID  259316122.
  145. ^ Метц, Кейд (10 июля 2023 г.). «В эпоху искусственного интеллекта маленьким ребятам из сферы технологий нужны большие друзья». New York Times .
  146. ^ ab Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Shmitchell, Shmargaret (1 марта 2021 г.). «Об опасностях стохастических попугаев: могут ли языковые модели быть слишком большими? 🦜». Труды конференции ACM 2021 года по справедливости, подотчетности и прозрачности . FAccT '21. Нью-Йорк, штат Нью-Йорк, США: Ассоциация вычислительной техники. стр. 610–623. doi :10.1145/3442188.3445922. ISBN 978-1-4503-8309-7.
  147. ^ abcd «ИИ — пожиратель энергии. Вот что это значит для изменения климата». MIT Technology Review . 23 мая 2024 г. Архивировано из оригинала 20 августа 2024 г. Получено 27 августа 2024 г.
  148. ^ abcdefg Dhar, Payal (1 августа 2020 г.). «Углеродное воздействие искусственного интеллекта». Nature Machine Intelligence . 2 (8): 423–425. doi :10.1038/s42256-020-0219-9. ISSN  2522-5839. Архивировано из оригинала 14 августа 2024 г.
  149. ^ abcde Кроуфорд, Кейт (20 февраля 2024 г.). «Экологические издержки генеративного ИИ стремительно растут — и в основном держатся в секрете». Nature . 626 (8000): 693. Bibcode :2024Natur.626..693C. doi :10.1038/d41586-024-00478-x. PMID  38378831. Архивировано из оригинала 22 августа 2024 г.
  150. ^ abcd Роджерс, Рис. «Энергетические потребности ИИ вышли из-под контроля. Добро пожаловать в эпоху гиперпотребления Интернета». Wired . ISSN  1059-1028. Архивировано из оригинала 14 августа 2024 г. Получено 27 августа 2024 г.
  151. ^ abcdef Саенко, Кейт (23 мая 2023 г.). «Вреден ли генеративный ИИ для окружающей среды? Ученый-компьютерщик объясняет углеродный след ChatGPT и его собратьев». The Conversation . Архивировано из оригинала 1 июля 2024 г. . Получено 27 августа 2024 г. .
  152. ^ ab Lohr, Steve (26 августа 2024 г.). «Will AI Ruin the Planet or Save the Planet?». The New York Times . ISSN  0362-4331. Архивировано из оригинала 26 августа 2024 г. Получено 27 августа 2024 г.
  153. ^ Хоффман, Бенджамин (11 июня 2024 г.). «Сначала появился «спам». Теперь, с ИИ, у нас есть «помойка». The New York Times . ISSN  0362-4331. Архивировано из оригинала 26 августа 2024 г. Получено 27 августа 2024 г.
  154. ^ ab "Расследование находит фактический источник всего этого ИИ-слюнявчика на Facebook". Futurism . 10 августа 2024 г. Архивировано из оригинала 15 августа 2024 г. Получено 27 августа 2024 г.
  155. ^ ab Warzel, Charlie (21 августа 2024 г.). «Эстетика MAGA — это отстой AI». The Atlantic . Архивировано из оригинала 25 августа 2024 г. Получено 27 августа 2024 г.
  156. ^ Эдвардс, Бендж (14 августа 2024 г.). «Исследовательская модель ИИ неожиданно пытается изменить свой собственный код, чтобы продлить время выполнения». Ars Technica . Архивировано из оригинала 24 августа 2024 г. . Получено 27 августа 2024 г. .
  157. ↑ Hern, Alex; Milmo, Dan (19 мая 2024 г.). «Спам, мусор… помои? Последняя волна ИИ за «зомби-интернетом»». The Guardian . ISSN  0261-3077. Архивировано из оригинала 26 августа 2024 г. Получено 27 августа 2024 г.
  158. ^ Кокс, Джозеф (18 января 2024 г.). «Google News Is Boosting Garbage AI-Generated Articles» (Новости Google стимулируют распространение статей, созданных искусственным интеллектом). 404 Media . Архивировано из оригинала 13 июня 2024 г. Получено 27 августа 2024 г.
  159. ^ «Любимые местные газеты уволили сотрудников, а затем начали выпускать ИИ-слоп». Футуризм . 31 июля 2024 г. Архивировано из оригинала 12 августа 2024 г. Получено 27 августа 2024 г.
  160. ^ Томпсон, Брайан; Дхаливал, Мехак; Фриш, Питер; Домхан, Тобиас; Федерико, Марчелло (август 2024 г.). Ку, Лун-Вэй; Мартинс, Андре; Шрикумар, Вивек (ред.). «Шокирующее количество Интернета переведено с помощью машин: выводы из многостороннего параллелизма». Результаты Ассоциации компьютерной лингвистики ACL 2024. Бангкок, Таиланд и виртуальная встреча: Ассоциация компьютерной лингвистики: 1763–1775. arXiv : 2401.05749 . doi : 10.18653/v1/2024.findings-acl.103.
  161. ^ Роско, Жюль (17 января 2024 г.). «Ученые определили, что „шокирующее“ количество информации в Интернете уже переведено с помощью искусственного интеллекта». VICE . Архивировано из оригинала 1 июля 2024 г. . Получено 27 августа 2024 г. .
  162. ^ Кёблер, Джейсон (19 сентября 2024 г.). «Проект по анализу использования человеческого языка закрыт, потому что «генеративный ИИ загрязнил данные». 404 Media . Архивировано из оригинала 19 сентября 2024 г. . Получено 20 сентября 2024 г. Хотя спам в Интернете и в наборах данных, которые использовал Wordfreq, всегда был, «он был управляемым и часто идентифицируемым. Большие языковые модели генерируют текст, который маскируется под настоящий язык с намерением за ним, хотя его нет, и их вывод всплывает повсюду», — написала она. Она приводит пример того, что ChatGPT злоупотребляет словом «delve» так, как люди этого не делают, что снизило частоту этого конкретного слова.
  163. ^ Грей, Эндрю (24 марта 2024 г.). «Загрязнение ChatGPT»: оценка распространенности LLM в научной литературе». arXiv : 2403.16887 [cs.DL].
  164. ^ Каннан, Прабха (13 мая 2024 г.). «Сколько исследований написано с помощью больших языковых моделей?». Искусственный интеллект, ориентированный на человека . Стэнфордский университет . Получено 16 августа 2024 г.
  165. ^ Валяева, Алина (15 августа 2023 г.). «Статистика изображений ИИ за 2024 год: сколько контента было создано ИИ». Everypixel Journal . Получено 16 августа 2024 г.
  166. ^ Шумайлов, Илья; Шумайлов, Захар; Чжао, Ирен; Папернот, Николас; Андерсон, Росс; Гал, Ярин (июль 2024 г.). «Модели ИИ разрушаются при обучении на рекурсивно сгенерированных данных». Nature . 631 (8022): 755–759. Bibcode :2024Natur.631..755S. doi :10.1038/s41586-024-07566-y. PMC 11269175 . PMID  39048682. 
  167. ^ Бхатия, Аатиш (26 августа 2024 г.). «Когда результаты ИИ представляют угрозу самому ИИ». The New York Times . ISSN  0362-4331 . Получено 27 августа 2024 г.
  168. ^ «Самопотребляющие генеративные модели сходят с ума». ICLR . 2024.
  169. ^ Оуэн, Шон (12 апреля 2023 г.). «Синтетические данные для лучшего машинного обучения». databricks.com . Архивировано из оригинала 3 января 2024 г. . Получено 4 января 2024 г. .
  170. ^ Шарма, Химансю (11 июля 2023 г.). «Платформы синтетических данных: раскрытие потенциала генеративного ИИ для структурированных данных». kdnuggets.com . Архивировано из оригинала 3 января 2024 г. . Получено 4 января 2024 г. .
  171. ^ Штёкль, Андреас (2 ноября 2022 г.). «Оценка набора данных синтетических изображений, созданных с помощью стабильной диффузии». arXiv : 2211.01777 [cs.CV].
  172. ^ Рот, Эмма (25 января 2023 г.). «CNET обнаружил ошибки более чем в половине своих историй, написанных ИИ». The Verge . Архивировано из оригинала 6 ноября 2023 г. . Получено 17 июня 2023 г. .
  173. ^ «Журнал расхваливал первое интервью Михаэля Шумахера за много лет. На самом деле это был ИИ». NPR . 28 апреля 2023 г. Архивировано из оригинала 17 июня 2023 г. Получено 17 июня 2023 г.
  174. ^ Аль-Сибаи, Нур (3 января 2024 г.). «Полиция заявляет, что статья о местном убийстве, созданная искусственным интеллектом, «полностью» выдумана». Футуризм . Архивировано из оригинала 5 января 2024 г. Получено 8 января 2024 г.
  175. ^ "NewsBreak: Самое скачиваемое новостное приложение в США имеет китайские корни и "пишет художественную литературу" с помощью ИИ". Reuters . 5 июня 2024 г. Архивировано из оригинала 6 июня 2024 г. Получено 7 июня 2024 г.
  176. ^ ab Harrison, Maggie (27 ноября 2023 г.). «Sports Illustrated Published Articles by Fake, AI-Generated Writers». Футуризм . Архивировано из оригинала 15 декабря 2023 г. Получено 8 января 2024 г.
  177. ^ Кристиан, Джон (9 февраля 2023 г.). «Журнал опубликовал серьезные ошибки в первой статье о здоровье, созданной с помощью искусственного интеллекта». Футуризм . Архивировано из оригинала 26 декабря 2023 г. Получено 8 января 2024 г.
  178. ^ Шнайдер, Джарон (14 декабря 2023 г.). «B&H Photo опубликовала сгенерированное искусственным интеллектом руководство, написанное поддельным человеком». PetaPixel . Архивировано из оригинала 4 января 2024 г. Получено 8 января 2024 г.
  179. ^ Харрисон, Мэгги (29 августа 2023 г.). «Владелец USA Today приостанавливает публикацию статей об искусственном интеллекте после уничтожения спортивного освещения». Футуризм . Архивировано из оригинала 4 января 2024 г. Получено 8 января 2024 г.
  180. ^ Бьюкенен, Тайлер (28 августа 2023 г.). «Dispatch приостанавливает работу программы спортивной журналистики на основе искусственного интеллекта». Axios . Архивировано из оригинала 1 января 2024 г. Получено 8 января 2024 г.
  181. ↑ Sommer, Will (26 октября 2023 г.). «На сайте USA Today появились таинственные подписи. Существовали ли эти писатели?». Washington Post . ISSN  0190-8286. Архивировано из оригинала 26 октября 2023 г. Получено 8 января 2024 г.
  182. ^ abcdefghijklmnopqrstu vwxyz aa ab ac "Встречайте AdVon, монстра контента на базе искусственного интеллекта, заражающего медиаиндустрию". Futurism . 8 мая 2024 г. Архивировано из оригинала 4 июня 2024 г. Получено 8 июня 2024 г.
  183. ^ О'Салливан, Дони; Гордон, Эллисон (2 ноября 2023 г.). «Как ИИ Microsoft портит новости | CNN Business». CNN . Архивировано из оригинала 2 ноября 2023 г. Получено 8 января 2024 г.
  184. ↑ Мид, Аманда (31 июля 2023 г.). «News Corp использует ИИ для производства 3000 австралийских местных новостных сюжетов в неделю». The Guardian . ISSN  0261-3077. Архивировано из оригинала 2 декабря 2023 г. Получено 8 января 2024 г.
  185. ^ Tangermann, Victor (30 июня 2023 г.). «Сотрудники Gizmodo в ярости после того, как сайт объявил о переходе на контент на основе искусственного интеллекта». Футуризм . Архивировано из оригинала 6 декабря 2023 г. Получено 8 января 2024 г.
  186. ^ abc Кафка, Питер (18 июля 2023 г.). «Приходя в ваш интернет, нравится вам это или нет: больше историй, созданных ИИ». Vox . Архивировано из оригинала 18 июля 2023 г. Получено 8 января 2024 г.
  187. ^ Ландимор, Фрэнк; Кристиан, Джон (13 сентября 2023 г.). «Статьи AV Club, созданные с помощью искусственного интеллекта, копируют напрямую с IMDb». Футуризм . Архивировано из оригинала 6 декабря 2023 г. Получено 8 января 2024 г.
  188. ^ Кэрролл, Рори (14 мая 2023 г.). «Irish Times извиняется за ложную статью AI о том, что женщины используют искусственный загар». The Guardian . ISSN  0261-3077. Архивировано из оригинала 14 мая 2023 г. Получено 8 января 2024 г.
  189. ^ Кристиан, Джон (1 февраля 2023 г.). «CNET Sister Site Restarts AI Articles, immediately Publishes Idiotic Error». Футуризм . Архивировано из оригинала 27 ноября 2023 г. Получено 8 января 2024 г.
  190. ^ Аль-Сибаи, Нур; Кристиан, Джон (30 марта 2023 г.). «BuzzFeed тихо публикует статьи, созданные искусственным интеллектом». Футуризм . Архивировано из оригинала 6 декабря 2023 г. Получено 8 января 2024 г.
  191. ^ «Newsweek делает генеративный ИИ неотъемлемой частью своей редакции». Nieman Lab . 17 апреля 2024 г. Архивировано из оригинала 15 мая 2024 г. Получено 24 мая 2024 г.
  192. ^ «Что в подписи? Для местных новостей Hoodline, сгенерированных искусственным интеллектом, все — и ничего». Nieman Lab . 3 июня 2024 г. Архивировано из оригинала 6 июня 2024 г. Получено 8 июня 2024 г.
  193. ^ «Новости, созданные с помощью искусственного интеллекта, из Hoodline из Сан-Франциско. Что это значит для обычных издателей?». San Francisco Chronicle . 8 мая 2024 г. Архивировано из оригинала 5 июня 2024 г. Получено 7 июня 2024 г.
  194. ^ Голд, Хадас (30 мая 2024 г.). «Национальная сеть местных новостных сайтов публикует статьи, написанные ИИ, под фальшивыми подписями. Эксперты бьют тревогу». CNN . Архивировано из оригинала 6 июня 2024 г. Получено 8 июня 2024 г.
  195. ^ «Репортер из Вайоминга пойман за использованием искусственного интеллекта для создания фейковых цитат и историй». Associated Press . 14 августа 2024 г. Архивировано из оригинала 24 августа 2024 г. Получено 27 августа 2024 г.
  196. ^ «Cosmos Magazine публикует статьи, созданные с помощью искусственного интеллекта, вызывая критику со стороны журналистов и соучредителей». ABC News . 7 августа 2024 г. Архивировано из оригинала 24 августа 2024 г. Получено 27 августа 2024 г.
  197. ^ «Статьи, созданные с помощью ИИ, проникают в основные новостные издания». National Public Radio . 16 мая 2024 г. Архивировано из оригинала 19 июня 2024 г. Получено 8 июля 2024 г.
  198. ^ abc Knibbs, Kate (30 июля 2024 г.). «Zombie Alt-Weeklies Are Stuffed With AI Slop About OnlyFans». Wired . Архивировано из оригинала 11 августа 2024 г. Получено 27 августа 2024 г.
  199. ^ «Телеканалы используют созданных с помощью искусственного интеллекта ведущих для чтения новостей. Вопрос в том, будем ли мы им доверять?». BBC News . 26 января 2024 г. Архивировано из оригинала 26 января 2024 г. Получено 24 мая 2024 г.
  200. ^ Тейт, Амелия (20 октября 2023 г.). «Вот новости. Вы не сможете нас остановить»: ведущий ИИ Заэ-Ин дает нам интервью». The Guardian . ISSN  0261-3077. Архивировано из оригинала 28 января 2024 г. Получено 24 мая 2024 г.
  201. ^ Куо, Лили (9 ноября 2018 г.). «Первый в мире ведущий новостей с искусственным интеллектом представлен в Китае». The Guardian . ISSN  0261-3077. Архивировано из оригинала 20 февраля 2024 г. Получено 24 мая 2024 г.
  202. ^ «Эти ведущие новостей ИГИЛ — фейки ИИ. Их пропаганда реальна». Washington Post . 17 мая 2024 г. Архивировано из оригинала 19 мая 2024 г. Получено 24 мая 2024 г.
  203. ^ Маллин, Бенджамин; Грант, Нико (20 июля 2023 г.). «Google тестирует инструмент ИИ, способный писать новостные статьи». The New York Times . ISSN  0362-4331. Архивировано из оригинала 16 мая 2024 г. Получено 24 мая 2024 г.
  204. ^ Стенберг, Марк (27 февраля 2024 г.). «Google платит издателям пятизначные суммы за тестирование невыпущенной платформы Gen AI». Adweek . Архивировано из оригинала 9 марта 2024 г. Получено 17 апреля 2024 г.
  205. ↑ Knibbs, Kate (7 февраля 2024 г.). «Confessions of an AI Clickbait Kingpin». Wired . ISSN  1059-1028. Архивировано из оригинала 18 мая 2024 г. Получено 24 мая 2024 г.
  206. ↑ Knibbs, Kate (26 января 2024 г.). «Как любимый инди-блог „The Hairpin“ превратился в ферму кликбейтов на основе искусственного интеллекта». Wired . ISSN  1059-1028. Архивировано из оригинала 14 апреля 2024 г. Получено 24 мая 2024 г.
  207. ^ Кёблер, Джейсон (9 июля 2024 г.). «Любимый технический блог теперь публикует статьи об ИИ под именами своих старых сотрудников». 404 Media . Архивировано из оригинала 12 июля 2024 г. Получено 27 августа 2024 г.
  208. ^ Холлистер, Шон (10 июля 2024 г.). «Ранние блоггеры Apple Tech были шокированы, обнаружив, что их имя и работа были зомбированы искусственным интеллектом». The Verge . Архивировано из оригинала 12 июля 2024 г. Получено 27 августа 2024 г.
  209. ^ Лима-Стронг, Кристиано (11 января 2024 г.). «Сенаторы предупреждают, что ИИ может привести к «уничтожению» местных новостей». Washington Post . ISSN  0190-8286. Архивировано из оригинала 11 января 2024 г. Получено 24 мая 2024 г.
  210. ^ "OpenAI заключает сделку с местными новостями на сумму более 5 миллионов долларов". Axios . 18 июля 2023 г. Архивировано из оригинала 19 июля 2023 г. Получено 24 мая 2024 г.
  211. ↑ Келли, Хизер (22 мая 2024 г.). «Meta ушла из новостей. Теперь компания использует ее для контента ИИ». Washington Post . ISSN  0190-8286. Архивировано из оригинала 22 мая 2024 г. Получено 24 мая 2024 г.
  212. ^ «Как WIRED будет использовать инструменты генеративного ИИ». Wired . Архивировано из оригинала 30 декабря 2023 г. . Получено 8 января 2024 г. .
  213. ^ Барретт, Аманда (15 ноября 2018 г.). «Стандарты вокруг генеративного ИИ». Associated Press . Архивировано из оригинала 23 сентября 2023 г. Получено 8 января 2024 г.
  214. ^ Винер, Кэтрин; Бейтсон, Анна (16 июня 2023 г.). «Подход The ​​Guardian к генеративному ИИ». The Guardian . ISSN  0261-3077. Архивировано из оригинала 3 января 2024 г. Получено 8 января 2024 г.
  215. ^ Беккер, КБ; Саймон, ФМ; Крам, К. (2023). «Политики параллельно? Сравнительное исследование журналистской политики ИИ в 52 мировых новостных организациях». стр. 8–9. doi :10.31235/osf.io/c4af9.
  216. ^ Ньюман, Ник; Флетчер, Ричард; Робертсон, Крейг Т.; Аргуэдас, Эми Росс; Нильсен, Расмус Флейс (июнь 2024 г.). «Digital News Report 2024» (PDF) . Институт изучения журналистики Reuters. стр. 20. doi :10.60625/risj-vy6n-4v57 . Получено 20 июня 2024 г.