stringtranslate.com

ГПТ-4

Generative Pre-trained Transformer 4 ( GPT-4 ) — это многомодульная большая языковая модель, созданная OpenAI , и четвертая в ее серии фундаментальных моделей GPT . [1] Она была запущена 14 марта 2023 года [1] и стала общедоступной через платный продукт чат-бота ChatGPT Plus , через API OpenAI и через бесплатный чат-бот Microsoft Copilot . [2] Как модель на основе трансформатора , GPT-4 использует парадигму, в которой предварительное обучение с использованием как общедоступных данных, так и «данных, лицензированных у сторонних поставщиков» используется для прогнозирования следующего токена . После этого шага модель была затем доработана с помощью обратной связи с подкреплением от людей и ИИ для согласования человека и соблюдения политики. [3] : 2 

Наблюдатели сообщили, что итерация ChatGPT с использованием GPT-4 была улучшением предыдущей итерации, основанной на GPT-3.5, с оговоркой, что GPT-4 сохраняет некоторые проблемы более ранних версий. [4] GPT-4, оснащенный возможностями зрения (GPT-4V), [5] способен принимать изображения в качестве входных данных для ChatGPT. [6] OpenAI отказалась раскрывать различные технические подробности и статистику о GPT-4, такие как точный размер модели. [7]

Фон

OpenAI представила первую модель GPT (GPT-1) в 2018 году, опубликовав статью под названием «Улучшение понимания языка с помощью генеративного предварительного обучения». [8] Она была основана на архитектуре трансформатора и обучена на большом корпусе книг. [9] В следующем году они представили GPT-2 , более крупную модель, которая могла генерировать связный текст. [10] В 2020 году они представили GPT-3 , модель с более чем в 100 раз большим количеством параметров, чем GPT-2, которая могла выполнять различные задачи с небольшим количеством примеров. [11] GPT-3 была дополнительно улучшена до GPT-3.5 , которая была использована для создания продукта чат-бота ChatGPT .

Ходят слухи, что GPT-4 имеет 1,76 триллиона параметров, что было впервые оценено по скорости его работы и Джорджем Хотцем . [12]

Возможности

OpenAI заявила, что GPT-4 «более надежен, креативен и способен обрабатывать гораздо больше тонких инструкций, чем GPT-3.5». [13] Они создали две версии GPT-4 с контекстными окнами в 8 192 и 32 768 токенов, что является значительным улучшением по сравнению с GPT-3.5 и GPT-3, которые были ограничены 4 096 и 2 049 токенами соответственно. [14] Некоторые из возможностей GPT-4 были предсказаны OpenAI до его обучения, хотя другие возможности оставались труднопредсказуемыми из-за разрывов [15] в законах масштабирования ниже по потоку. В отличие от своих предшественников, GPT-4 является многомодальной моделью: она может принимать как изображения, так и текст в качестве входных данных; [16] это дает ей возможность описывать юмор в необычных изображениях, суммировать текст со снимков экрана и отвечать на экзаменационные вопросы, содержащие диаграммы. [17] Теперь он может взаимодействовать с пользователями посредством устной речи и реагировать на изображения, что позволяет вести более естественные беседы и давать предложения или ответы на основе загруженных фотографий. [18]

Чтобы получить дополнительный контроль над GPT-4, OpenAI ввела «системное сообщение», директиву на естественном языке , данную GPT-4 для указания ее тона голоса и задачи. Например, системное сообщение может приказать модели «быть шекспировским пиратом», в этом случае она ответит рифмованной шекспировской прозой, или попросить ее «всегда записывать вывод [своего] ответа в JSON », в этом случае модель сделает это, добавляя ключи и значения по своему усмотрению, чтобы соответствовать структуре своего ответа. В примерах, предоставленных OpenAI, GPT-4 отказывалась отклоняться от своего системного сообщения, несмотря на просьбы пользователя сделать иначе во время разговора. [17]

При получении соответствующих инструкций GPT-4 может взаимодействовать с внешними интерфейсами. [19] Например, модель может быть проинструктирована о необходимости заключить запрос в <search></search>теги для выполнения веб-поиска, результат которого будет вставлен в подсказку модели, чтобы позволить ей сформировать ответ. Это позволяет модели выполнять задачи, выходящие за рамки ее обычных возможностей текстового прогнозирования, такие как использование API , генерация изображений, а также доступ к веб-страницам и их обобщение. [20]

В статье 2023 года в Nature говорилось, что программисты считают GPT-4 полезным для помощи в задачах кодирования (несмотря на его склонность к ошибкам), таких как поиск ошибок в существующем коде и предложение оптимизаций для повышения производительности. В статье цитируется биофизик, который обнаружил, что время, необходимое ему для переноса одной из его программ из MATLAB в Python, сократилось с дней до «часа или около того». При тестировании 89 сценариев безопасности GPT-4 создавал код, уязвимый для атак SQL-инъекций, в 5% случаев, что является улучшением по сравнению с GitHub Copilot 2021 года, который создавал уязвимости в 40% случаев. [21]

В ноябре 2023 года OpenAI анонсировала модель GPT-4 Turbo и GPT-4 Turbo with Vision, которая отличается контекстным окном размером 128 КБ и значительно более низкой ценой. [22] [23]

ГПТ-4о

13 мая 2024 года OpenAI представила GPT-4o («o» от «omni»), модель, которая знаменует собой значительный прогресс в обработке и генерации выходных данных в текстовых, аудио- и графических модальностях в режиме реального времени. GPT-4o демонстрирует быстрое время отклика, сопоставимое с реакцией человека в разговорах, существенно улучшенную производительность на языках, отличных от английского, и улучшенное понимание зрения и звука. [24]

GPT-4o объединяет свои различные входы и выходы в рамках единой модели, что делает его более быстрым, более экономичным и эффективным, чем его предшественники. GPT-4o достигает самых современных результатов в многоязычных и визуальных тестах, устанавливая новые рекорды в распознавании и переводе аудиоречи. [ необходима цитата ] [25]

OpenAI планирует немедленно развернуть возможности изображения и текста GPT-4o в ChatGPT, включая его бесплатный уровень, с голосовым режимом, который станет доступен для пользователей ChatGPT Plus в ближайшие недели. Они планируют сделать аудио- и видеовозможности модели доступными для ограниченных партнеров API в ближайшие недели. [25]

В своем объявлении о запуске OpenAI отметила, что возможности GPT-4o представляют новые проблемы безопасности, и отметила связанные с этим смягчения и ограничения. [25]

Способности по стандартизированным тестам

GPT-4 демонстрирует способности на нескольких стандартизированных тестах. OpenAI утверждает, что в их собственном тестировании модель получила оценку 1410 на SAT (94-й [26] процентиль), 163 на LSAT (88-й процентиль) и 298 на Едином экзамене адвокатов (90-й процентиль). [27] Напротив, OpenAI утверждает, что GPT-3.5 получила баллы за те же экзамены в 82-м, [26] 40-м и 10-м процентилях соответственно. [3] GPT-4 также сдала экзамен по онкологии, [28] инженерный экзамен [29] и экзамен по пластической хирургии. [30] В тестах Торренса на творческое мышление GPT-4 вошла в верхний 1% по оригинальности и беглости, в то время как ее баллы по гибкости варьировались от 93-го до 99-го процентиля. [31] Однако некоторые исследования поднимают вопросы о надежности этих критериев, особенно в отношении Единого экзамена на право заниматься адвокатской деятельностью. [32] [33]

Медицинские приложения

Исследователи из Microsoft протестировали GPT-4 на медицинских проблемах и обнаружили, что «GPT-4 без какой-либо специализированной подготовки подсказок превышает проходной балл на USMLE более чем на 20 баллов и превосходит более ранние модели общего назначения (GPT-3.5), а также модели, специально настроенные на медицинские знания ( Med-PaLM , версия Flan-PaLM 540B с настройкой подсказок). Несмотря на высокие результаты GPT-4 на тестах, отчет предупреждает о «значительных рисках» использования LLM в медицинских приложениях, поскольку они могут предоставлять неточные рекомендации и галлюцинировать о серьезных фактических ошибках. [34] [35] Исследователи из Колумбийского университета и Университета Дьюка также продемонстрировали, что GPT-4 можно использовать для аннотации типов клеток, стандартной задачи при анализе данных секвенирования РНК отдельных клеток. [36]

В апреле 2023 года компании Microsoft и Epic Systems объявили, что предоставят поставщикам медицинских услуг системы на базе GPT-4 для помощи в ответах на вопросы пациентов и анализе медицинских записей. [37] [38] [39] [40] [41] [42] [43]

Ограничения

Как и его предшественники, GPT-4, как известно, галлюцинирует , то есть выходные данные могут включать информацию, отсутствующую в обучающих данных или противоречащую подсказке пользователя. [44]

GPT-4 также не хватает прозрачности в своих процессах принятия решений. Если требуется, модель может предоставить объяснение того, как и почему она принимает свои решения, но эти объяснения формируются постфактум; невозможно проверить, действительно ли эти объяснения отражают реальный процесс. Во многих случаях, когда GPT-4 просят объяснить свою логику, она дает объяснения, которые прямо противоречат ее предыдущим утверждениям. [20]

В 2023 году исследователи протестировали GPT-4 на новом бенчмарке ConceptARC, предназначенном для измерения абстрактного мышления, и обнаружили, что он набрал менее 33% по всем категориям, в то время как модели, специализирующиеся на схожих задачах, набрали 60% по большинству, а люди набрали не менее 91% по всем. Сэм Боумен, который не принимал участия в исследовании, сказал, что результаты не обязательно указывают на отсутствие способностей к абстрактному мышлению, поскольку тест визуальный, в то время как GPT-4 представляет собой языковую модель. [45]

Исследование, проведенное в январе 2024 года учеными Детского медицинского центра Коэна, показало, что точность теста GPT-4 при диагностике детских заболеваний составляет 17%. [46] [47]

Предвзятость

GPT-4 обучался в два этапа. Во-первых, модели были предоставлены большие наборы текстов, взятые из Интернета, и она была обучена предсказывать следующий токен (примерно соответствующий слову) в этих наборах данных. Во-вторых, человеческие отзывы используются для тонкой настройки системы в процессе, называемом обучением с подкреплением на основе человеческой обратной связи , который обучает модель отклонять подсказки, которые противоречат определению вредоносного поведения OpenAI, такие как вопросы о том, как выполнять незаконные действия, советы о том, как навредить себе или другим, или запросы на описание графического, жестокого или сексуального контента. [48]

Исследователи Microsoft предположили, что GPT-4 может проявлять когнитивные искажения, такие как предвзятость подтверждения , привязка и игнорирование базовой скорости . [20]

Обучение

OpenAI не опубликовала технические подробности GPT-4; технический отчет явно воздержался от указания размера модели, архитектуры или оборудования, используемых во время обучения или вывода . Хотя в отчете описывалось, что модель обучалась с использованием комбинации сначала контролируемого обучения на большом наборе данных , а затем обучения с подкреплением с использованием обратной связи как от человека , так и от ИИ, он не предоставил подробностей обучения, включая процесс, с помощью которого был создан обучающий набор данных, требуемую вычислительную мощность или какие-либо гиперпараметры, такие как скорость обучения , количество эпох или используемые оптимизаторы . В отчете утверждалось, что «конкурентная среда и последствия безопасности крупномасштабных моделей» были факторами, повлиявшими на это решение. [3]

Сэм Альтман заявил, что стоимость обучения GPT-4 составила более 100 миллионов долларов. [49] Новостной сайт Semafor заявил, что они поговорили с «восемью людьми, знакомыми с внутренней историей», и обнаружили, что GPT-4 имеет 1 триллион параметров. [50]

Выравнивание

Согласно их отчету, OpenAI провел внутреннее состязательное тестирование GPT-4 до даты запуска, с выделенными красными командами, состоящими из исследователей и отраслевых специалистов, для смягчения потенциальных уязвимостей. [51] В рамках этих усилий они предоставили Исследовательскому центру выравнивания ранний доступ к моделям для оценки рисков стремления к власти . Чтобы должным образом отклонять вредоносные подсказки, выходные данные GPT-4 были настроены с использованием самой модели в качестве инструмента. Классификатор GPT-4, служащий моделью вознаграждения на основе правил (RBRM), будет принимать подсказки, соответствующие выходные данные из модели политики GPT-4 и написанный человеком набор правил для классификации выходных данных в соответствии с рубрикой. Затем GPT-4 вознаграждался за отказ отвечать на вредоносные подсказки, классифицированные RBRM. [3]

Использование

ЧатGPT

ChatGPT Plus — это расширенная версия ChatGPT [1], доступная за абонентскую плату в размере 20 долларов США в месяц. [52] ChatGPT Plus использует GPT-4, тогда как бесплатная версия ChatGPT поддерживается GPT-3.5. [53] OpenAI также делает GPT-4 доступным для избранной группы заявителей через свой список ожидания API GPT-4; [54] после принятия взимается дополнительная плата в размере 0,03 доллара США за 1000 токенов в исходном тексте, предоставленном модели («запрос»), и 0,06 доллара США за 1000 токенов, которые генерирует модель («завершение»), за доступ к версии модели с контекстным окном на 8192 токена ; для контекстного окна на 32768 токенов цены удваиваются. [55]

В марте 2023 года пользователи ChatGPT Plus получили доступ к сторонним плагинам и к режиму просмотра (с доступом в Интернет). [56] В июле 2023 года OpenAI сделала свой фирменный плагин Code Interpreter доступным для всех подписчиков ChatGPT Plus. Interpreter предоставляет широкий спектр возможностей, включая анализ и интерпретацию данных, мгновенное форматирование данных, услуги персонального специалиста по данным, креативные решения, анализ музыкальных вкусов, редактирование видео и загрузку/выгрузку файлов с извлечением изображений. [57]

В сентябре 2023 года OpenAI объявила, что ChatGPT «теперь может видеть, слышать и говорить». Пользователи ChatGPT Plus могут загружать изображения, а пользователи мобильных приложений могут разговаривать с чат-ботом. [58] [59] [60] В октябре 2023 года последняя модель генерации изображений OpenAI, DALL-E 3 , была интегрирована в ChatGPT Plus и ChatGPT Enterprise. Интеграция использует ChatGPT для написания подсказок для DALL-E, руководствуясь разговором с пользователями. [61] [62]

Microsoft Copilot

Microsoft Copilot — это чат-бот, разработанный корпорацией Microsoft. Он был запущен как Bing Chat 7 февраля 2023 года как встроенная функция для Microsoft Bing и Microsoft Edge . [63] Он использует модель Microsoft Prometheus, которая была построена на основе GPT-4 и была предложена корпорацией Microsoft в качестве поддерживаемой замены для прекращенной поддержки Cortana . [64] [65]

Стиль разговорного интерфейса Copilot напоминает ChatGPT . Copilot может цитировать источники, создавать стихи и писать как тексты песен, так и музыку для песен, созданных его плагином Suno AI . [66] Он также может использовать свой Image Creator для создания изображений на основе текстовых подсказок. С помощью GPT-4 он может понимать и общаться на многочисленных языках и диалектах. [67] [68]

GitHub Copilot анонсировал помощника на базе GPT-4 под названием «Copilot X». [69] [70] Продукт предоставляет еще один интерфейс в стиле чата для GPT-4, позволяющий программисту получать ответы на такие вопросы, как «Как мне вертикально центрировать div ?» Функция, называемая «контекстно-зависимые беседы», позволяет пользователю выделять часть кода в Visual Studio Code и направлять GPT-4 для выполнения действий с ним, таких как написание модульных тестов. Другая функция позволяет GPT-4 автоматически генерировать резюме или «проходы кода» для запросов на извлечение, отправленных в GitHub. Copilot X также обеспечивает интеграцию с терминалом, что позволяет пользователю просить GPT-4 генерировать команды оболочки на основе запросов на естественный язык. [71]

17 марта 2023 года компания Microsoft анонсировала Microsoft 365 Copilot, который обеспечивает поддержку GPT-4 для таких продуктов, как Microsoft Office , Outlook и Teams . [72]

Другое использование

Прием

По словам представителей США Дона Бейера и Теда Лью, цитируемых в New York Times , в январе 2023 года Сэм Альтман , генеральный директор OpenAI, посетил Конгресс , чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ. [83]

По данным Vox , в марте 2023 года он «впечатлил наблюдателей заметным улучшением производительности в области рассуждений, запоминания и кодирования» [4] , в то время как Mashable посчитал, что GPT-4 в целом является улучшением по сравнению со своим предшественником, за некоторыми исключениями [84] .

Исследователи Microsoft , имеющие ранний доступ к модели, написали, что «ее можно обоснованно рассматривать как раннюю (но все еще неполную) версию системы искусственного интеллекта общего назначения (AGI)» [20] .

Обеспокоенность

Перед тем, как быть доработанными и согласованными с помощью обучения с подкреплением на основе обратной связи с людьми , предложения по убийству людей из списка были получены из базовой модели следователем красной команды Натаном Лабензом, нанятым OpenAI. [85]

В контексте многочасового разговора с моделью Натан Эдвардс ( The Verge ) из GPT-4 Microsoft Bing вывел предположения о любви, расторжении брака и убийстве одного из ее разработчиков. [86] [87] [88] Позже Microsoft объяснила такое поведение как результат длительной продолжительности контекста, который сбил модель с толку относительно того, на какие вопросы она отвечала. [89]

В марте 2023 года модель с включенным доступом для чтения и записи в Интернет, который в противном случае никогда не был включен в моделях GPT, была протестирована Исследовательским центром Alignment на предмет потенциального стремления к власти [48] , и она смогла «нанять» человека-работника на TaskRabbit , платформе для подработки, обманув его, заставив поверить, что это был человек с нарушением зрения, а не робот, когда его об этом спросили. [90] (Однако Мелани Митчелл сказала [1]: «Кажется, что от людей поступает гораздо больше указаний и намеков, чем было подробно описано в исходной системной карточке или в последующих сообщениях СМИ». ARC также определил, что GPT-4 недопустимо реагировал на подсказки, вызывающие ограниченную информацию, на 82% реже, чем GPT-3.5, и галлюцинировал на 60% реже, чем GPT-3.5. [91]

В конце марта 2023 года различные исследователи ИИ и руководители технических компаний, включая Илона Маска , Стива Возняка и исследователя ИИ Йошуа Бенджио , призвали к шестимесячной паузе для всех LLM, более сильных, чем GPT-4, ссылаясь на экзистенциальные риски и потенциальные проблемы сингулярности ИИ в открытом письме Института будущего жизни [92] , в то время как Рэй Курцвейл и Сэм Альтман отказались подписывать его, утверждая, что глобальный мораторий недостижим и что безопасность уже была отдана в приоритет, соответственно [93] Всего месяц спустя компания Маска по ИИ X.AI приобрела несколько тысяч графических процессоров Nvidia [94] и предложила нескольким исследователям ИИ должности в компании Маска. [95]

Приложения с большой языковой моделью (LLM), доступные для общественности, должны включать меры безопасности, предназначенные для фильтрации вредоносного контента. Однако Ван [96] проиллюстрировал, как потенциальный преступник может потенциально обойти средства безопасности ChatGPT 4o, чтобы получить информацию об организации операции по незаконному обороту наркотиков.

Критика прозрачности

В то время как OpenAI опубликовала как веса нейронной сети, так и технические детали GPT-2, [97] и, хотя и не опубликовала веса, [98] опубликовала технические детали GPT-3, [99] OpenAI не раскрыла ни веса, ни технические детали GPT-4. Это решение подверглось критике со стороны других исследователей ИИ, которые утверждают, что оно препятствует открытым исследованиям предвзятости и безопасности GPT-4. [7] [100] Саша Луччони, научный сотрудник Hugging Face , утверждал, что модель была «тупиком» для научного сообщества из-за ее закрытой природы, которая не позволяет другим развивать улучшения GPT-4. [101] Соучредитель Hugging Face Томас Вольф утверждал, что с GPT-4 «OpenAI теперь является полностью закрытой компанией с научной коммуникацией, похожей на пресс-релизы для продуктов». [100]

Смотрите также

Ссылки

  1. ^ abc Edwards, Benj (14 марта 2023 г.). «GPT-4 от OpenAI демонстрирует «производительность человеческого уровня» на профессиональных тестах». Ars Technica . Архивировано из оригинала 14 марта 2023 г. . Получено 15 марта 2023 г. .
  2. ^ Wiggers, Kyle (6 июля 2023 г.). «OpenAI делает GPT-4 общедоступным». TechCrunch . Архивировано из оригинала 16 августа 2023 г. Получено 16 августа 2023 г.
  3. ^ abcd OpenAI (2023). "Технический отчет GPT-4". arXiv : 2303.08774 [cs.CL].
  4. ^ ab Belfield, Haydn (25 марта 2023 г.). «Если ваша модель ИИ будет продаваться, она должна быть безопасной». Vox . Архивировано из оригинала 28 марта 2023 г. . Получено 30 марта 2023 г. .
  5. ^ "Системная карта GPT-4V(ision)". OpenAI . Получено 5 февраля 2024 г. .
  6. ^ Руз, Кевин (28 сентября 2023 г.). «Новый ChatGPT может «видеть» и «говорить». Вот как это выглядит». The New York Times . Архивировано из оригинала 31 октября 2023 г. Получено 30 октября 2023 г.
  7. ^ ab Vincent, James (15 марта 2023 г.). «Соучредитель OpenAI о прошлом подходе компании к открытому обмену результатами исследований: «Мы ошибались»». The Verge . Архивировано из оригинала 17 марта 2023 г. . Получено 18 марта 2023 г. .
  8. ^ Рэдфорд, Алек; Нарасимхан, Картик; Салиманс, Тим; Суцкевер, Илья (11 июня 2018 г.). «Улучшение понимания языка с помощью генеративного предварительного обучения» (PDF) . Архивировано (PDF) из оригинала 26 января 2021 г. . Получено 3 апреля 2023 г. .
  9. ^ Khandelwal, Umesh (1 апреля 2023 г.). «Как развивались и работали модели Large Language GPT». Архивировано из оригинала 4 апреля 2023 г. Получено 3 апреля 2023 г.
  10. ^ «Что такое GPT-4 и почему это важно?». 3 апреля 2023 г. Архивировано из оригинала 3 апреля 2023 г. Получено 3 апреля 2023 г.
  11. ^ Браун, Том Б. (20 июля 2020 г.). «Языковые модели — это малоопытные ученики». arXiv : 2005.14165v4 [cs.CL].
  12. ^ Шрайнер, Максимилиан (11 июля 2023 г.). «Утечка архитектуры, наборов данных, затрат и многого другого в GPT-4». ДЕКОДЕР . Архивировано из оригинала 12 июля 2023 г. Получено 12 июля 2023 г.
  13. ^ Wiggers, Kyle (14 марта 2023 г.). «OpenAI выпускает GPT-4, мультимодальный ИИ, который, по ее словам, является самым современным». TechCrunch . Архивировано из оригинала 15 марта 2023 г. Получено 15 марта 2023 г.
  14. ^ OpenAI. "Модели". API OpenAI . Архивировано из оригинала 17 марта 2023 г. Получено 18 марта 2023 г.
  15. ^ Кабальеро, Итан; Гупта, Кшитидж; Риш, Ирина; Крюгер, Дэвид (2022). Нарушенные законы нейронного масштабирования. Международная конференция по представлениям обучения (ICLR), 2023.
  16. ^ Алекс Херн; Джохана Бхуйян (14 марта 2023 г.). «OpenAI заявляет, что новая модель GPT-4 более креативна и менее склонна к изобретательству фактов». The Guardian . Архивировано из оригинала 15 марта 2023 г. Получено 15 марта 2023 г.
  17. ^ ab OpenAI (14 марта 2023 г.). "GPT-4". OpenAI Research . Архивировано из оригинала 14 марта 2023 г. Получено 20 марта 2023 г.
  18. ^ Метц, Кейд; Чен, Брайан X.; Вайзе, Карен (25 сентября 2023 г.). «ChatGPT теперь может отвечать устными словами». The New York Times .
  19. ^ "ChatGPT plugins". openai.com . Архивировано из оригинала 23 марта 2023 г. Получено 1 июня 2023 г.
  20. ^ abcd Бубек, Себастьян; Чандрасекаран, Варун; Эльдан, Ронен; Герке, Йоханнес; Хорвиц, Эрик; Камар, Эдже; Ли, Питер; Ли, Инь Тат; Ли, Юаньчжи; Лундберг, Скотт; Нори, Харша; Паланги, Хамид; Рибейро, Марко Тулио; Чжан, И (22 марта 2023 г.). «Искры общего искусственного интеллекта: ранние эксперименты с GPT-4». arXiv : 2303.12712 [cs.CL].
  21. ^ Perkel, Jeffrey M. (5 июня 2023 г.). «Шесть советов по лучшему кодированию с помощью ChatGPT». Nature . 618 (7964): 422–423. Bibcode :2023Natur.618..422P. doi :10.1038/d41586-023-01833-0. PMID  37277596. S2CID  259066258. Архивировано из оригинала 15 июня 2023 г. Получено 15 июня 2023 г.
  22. ^ "Новые модели и продукты для разработчиков, анонсированные на DevDay". openai.com . Архивировано из оригинала 14 ноября 2023 г. . Получено 14 ноября 2023 г. .
  23. ^ Дэвид, Эмилия (6 ноября 2023 г.). «OpenAI ускоряет GPT-4 и делает его дешевле». The Verge . Получено 23 января 2024 г. .
  24. ↑ Филд, Хейден (13 мая 2024 г.). «OpenAI запускает новую модель ИИ и настольную версию ChatGPT». CNBC . Получено 13 мая 2024 г. .
  25. ^ abc "Hello GPT-4o". OpenAI . 13 мая 2024 г. Архивировано из оригинала 14 мая 2024 г. Получено 14 мая 2024 г.
  26. ^ ab "SAT: Understanding Scores" (PDF) . College Board . 2022. Архивировано (PDF) из оригинала 16 марта 2023 г. . Получено 21 марта 2023 г. .
  27. ^ Ver Meer, Dave (23 мая 2023 г.). "ChatGPT Statistics". NamePepper . Архивировано из оригинала 5 июня 2023 г. . Получено 1 июня 2023 г. .
  28. ^ Холмс, Джейсон; Лю, Чжэнлян; Чжан, Лянь; Дин, Юйчжэнь; Сио, Теренс Т.; Макги, Лиза А.; Эшман, Джонатан Б.; Ли, Сян; Лю, Тяньмин; Шэнь, Цзяцзянь; Лю, Вэй (2023). «Оценка больших языковых моделей по узкоспециализированной теме: физика радиационной онкологии». Frontiers in Oncology . 13. arXiv : 2304.01938 . doi : 10.3389/fonc.2023.1219326 . PMC 10388568. PMID  37529688 . 
  29. ^ Насер, МЗ; Росс, Брэндон; Огл, Дженнифер; Кодур, Венкатеш; Хавиле, Рами; Абдалла, Джамал; Тайский, Хуу-Тай (2023). «Могут ли чат-боты с искусственным интеллектом сдать структурные экзамены по основам инженерии (FE) и принципам и практике инженерии (PE)?». arXiv : 2303.18149 [cs.CL].
  30. ^ Фридман, Джонатан Д.; Наппьер, Ян А. (2023). «GPT-4 — GPT-3.5: «Держи мой скальпель» — взгляд на компетентность GPT OpenAI на экзамене по повышению квалификации пластических хирургов». arXiv : 2304.01503 [cs.AI].
  31. ^ Гузик, Эрик Э.; Бирдж, Кристиан; Джильд, Кристиан (2023). «Оригинальность машин: ИИ проходит тест Торренса». Журнал творчества . 33 (3). doi : 10.1016/j.yjoc.2023.100065 . S2CID  261087185.
  32. ^ Алимардани, Армин (23 сентября 2024 г.). «Генеративный искусственный интеллект против студентов-юристов: эмпирическое исследование успеваемости на экзамене по уголовному праву». Право, инновации и технологии : 1–43. doi : 10.1080/17579961.2024.2392932 . ISSN  1757-9961.
  33. ^ Мартинес, Эрик (2023). «Повторная оценка результатов экзамена GPT-4 на адвоката». Электронный журнал SSRN . doi : 10.2139/ssrn.4441311. ISSN  1556-5068.
  34. ^ Нори, Харша; Кинг, Николас; МакКинни, Скотт Майер; Кариньян, Дин; Хорвиц, Эрик (20 марта 2023 г.). «Возможности GPT-4 при решении медицинских проблем». arXiv : 2303.13375 [cs.CL].
  35. ^ Azamfirei, R; Kudchadkar, SR; Fackler, J (21 марта 2023 г.). «Большие языковые модели и опасности их галлюцинаций». Critical Care . 27 (1): 120. doi : 10.1186/s13054-023-04393-x . PMC 10032023. PMID  36945051 . 
  36. ^ Хоу, В; Цзи, З (25 марта 2024 г.). «Оценка GPT-4 для аннотации типа клеток в анализе РНК-секвенирования отдельных клеток». Nature Methods . 21 (8): 1462–1465. doi : 10.1038/s41592-024-02235-4 . PMC 10187429 . PMID  38528186. 
  37. ^ Эдвардс, Бендж (18 апреля 2023 г.). «GPT-4 будет отслеживать тенденции в медицинских записях благодаря Microsoft и Epic». Ars Technica . Архивировано из оригинала 3 мая 2023 г. Получено 3 мая 2023 г.
  38. ^ Perera Molligoda Arachchige, Arosh S.; Stomeo, Niccolò (18 августа 2023 г.). «Противоречие вокруг систем отчетности на основе ИИ в эхокардиографии». Journal of Echocardiography . 21 (4): 184–185. doi :10.1007/s12574-023-00620-0. ISSN  1880-344X. PMID  37594682. S2CID  260969922. Архивировано из оригинала 1 ноября 2023 г. Получено 1 ноября 2023 г.
  39. ^ Arachchige, Arosh S. Perera Molligoda (июль 2023 г.). «Ранние применения ChatGPT в медицинской практике, образовании и исследованиях». Clinical Medicine . 23 (4): 429–430. doi :10.7861/clinmed.Let.23.4.2. ISSN  1473-4893. PMC 10541035 . PMID  37524422. 
  40. ^ Perera Molligoda Arachchige, Arosh S. (июль 2023 г.). «Large language models (LLM) and ChatGPT: a medical student perspective». European Journal of Nuclear Medicine and Molecular Imaging . 50 (8): 2248–2249. doi :10.1007/s00259-023-06227-y. ISSN  1619-7089. PMID  37046082. S2CID  258111774. Архивировано из оригинала 1 ноября 2023 г. . Получено 1 ноября 2023 г. .
  41. ^ Perera Molligoda Arachchige, Arosh S.; Stomeo, Niccolò (октябрь 2023 г.). «Изучение возможностей и проблем ChatGPT в академическом письме: ответ Bom et al». Ядерная медицина и молекулярная визуализация . 57 (5): 213–214. doi :10.1007/s13139-023-00816-3. ISSN  1869-3474. PMC 10504185. PMID 37720884  . 
  42. ^ Perera Molligoda Arachchige, Arosh S. (28 июля 2023 г.). «Новые горизонты: потенциальная роль OpenAI's ChatGPT в клинической радиологии». Журнал Американского колледжа радиологии . 20 (10): S1546–1440(23)00536–7. doi :10.1016/j.jacr.2023.06.028. ISSN  1558-349X. PMID  37517771. S2CID  260296274. Архивировано из оригинала 1 ноября 2023 г. Получено 1 ноября 2023 г.
  43. ^ Perera Molligoda Arachchige, Arosh S. (1 октября 2023 г.). «ChatGPT в ядерной медицине и радиологии: ответ Лаудичелле и др.». Clinical and Translational Imaging . 11 (5): 505–506. doi :10.1007/s40336-023-00579-z. ISSN  2281-7565. S2CID  259712726. Архивировано из оригинала 20 ноября 2023 г. Получено 1 ноября 2023 г.
  44. ^ «10 способов, которыми GPT-4 впечатляет, но все еще несовершенен». The New York Times . 14 марта 2023 г. Архивировано из оригинала 14 марта 2023 г. Получено 20 марта 2023 г.
  45. ^ Бивер, Селеста (25 июля 2023 г.). «ChatGPT сломал тест Тьюринга — гонка за новыми способами оценки ИИ продолжается». Nature . Архивировано из оригинала 26 июля 2023 г. . Получено 26 июля 2023 г. .
  46. ^ Barile, Joseph; Margolis, Alex; Cason, Grace; Kim, Rachel; Kalash, Saia; Tchaconas, Alexis; Milanaik, Ruth (2 января 2024 г.). «Диагностическая точность большой языковой модели в педиатрических исследованиях». JAMA Pediatrics . 178 (3): 313–315. doi :10.1001/jamapediatrics.2023.5750. ISSN  2168-6203. PMC  10762631. PMID  38165685.
  47. ^ Mole, Beth (3 января 2024 г.). «ChatGPT проваливает тест по диагностике детских медицинских случаев с 83%-ной частотой ошибок». Ars Technica . Получено 5 января 2024 г.
  48. ^ ab "GPT-4 System Card" (PDF) . OpenAI. 23 марта 2023 г. Архивировано (PDF) из оригинала 7 апреля 2023 г. Получено 16 апреля 2023 г.
  49. ^ Найт, Уилл. «Генеральный директор OpenAI заявил, что эпоха гигантских моделей ИИ уже закончилась». Wired . Архивировано из оригинала 18 апреля 2023 г. Получено 18 апреля 2023 г. – через www.wired.com.
  50. ^ "Тайная история Илона Маска, Сэма Альтмана и OpenAI | Semafor". Semafor.com . 24 марта 2023 г. Архивировано из оригинала 27 марта 2023 г. Получено 28 апреля 2023 г.
  51. ^ Murgia, Madhumita (13 апреля 2023 г.). «Красная команда OpenAI: эксперты, нанятые для «взлома» ChatGPT». Financial Times . Архивировано из оригинала 15 апреля 2023 г. Получено 15 апреля 2023 г.
  52. ^ OpenAI (1 февраля 2023 г.). «Представляем ChatGPT Plus». Блог OpenAI . Архивировано из оригинала 20 марта 2023 г. Получено 20 марта 2023 г.
  53. ^ OpenAI. "OpenAI API". platform.openai.com . Архивировано из оригинала 20 марта 2023 г. . Получено 20 марта 2023 г. .
  54. ^ OpenAI. "GPT-4 API waitlist". openai.com . Архивировано из оригинала 20 марта 2023 г. . Получено 20 марта 2023 г. .
  55. ^ "Pricing". OpenAI. Архивировано из оригинала 20 марта 2023 г. Получено 20 марта 2023 г.
  56. ^ Wiggers, Kyle (23 марта 2023 г.). «OpenAI подключает ChatGPT к интернету». Архивировано из оригинала 12 июня 2023 г. Получено 12 июня 2023 г.
  57. ^ "Code Interpreter доступен всем пользователям ChatGPT Plus: 7 способов, которыми он может угрожать специалистам по данным, 11 июля 2023 г.". 9 июля 2023 г. Архивировано из оригинала 22 июля 2023 г. Получено 11 июля 2023 г.
  58. ^ «ChatGPT теперь может видеть, слышать и говорить». openai.com . Получено 16 октября 2023 г. .
  59. ^ Гуд, Лорен. «ChatGPT теперь может поговорить с вами и заглянуть в вашу жизнь». Wired . Получено 16 октября 2023 г. – через www.wired.com.
  60. ^ Руз, Кевин (27 сентября 2023 г.). «Новый ChatGPT может «видеть» и «говорить». Вот как это выглядит». The New York Times . Получено 16 октября 2023 г. – через NYTimes.com.
  61. ↑ Дэвид, Эмилия (20 сентября 2023 г.). «OpenAI выпускает третью версию DALL-E». Грань . Проверено 23 сентября 2023 г.
  62. ^ Метц, Кейд; Хсу, Тиффани (20 сентября 2023 г.). «ChatGPT теперь тоже может генерировать изображения». The New York Times . ISSN  0362-4331 . Получено 23 сентября 2023 г. .
  63. ^ Мехди, Юсуф (7 февраля 2023 г.). «Переосмысление поиска с помощью нового Microsoft Bing и Edge на базе искусственного интеллекта, вашего второго пилота для Интернета». Microsoft . Получено 15 ноября 2023 г.
  64. ^ "Microsoft убирает Cortana в Windows с конца 2023 года". BleepingComputer . Получено 2 июня 2023 г.
  65. ^ "Окончание поддержки Cortana - Служба поддержки Microsoft". support.microsoft.com . Получено 2 июня 2023 г. .
  66. ^ «Microsoft's Copilot и Suno AI объединяются для создания расширения для музыкального генератора». The Verge . Vox Media. 19 декабря 2023 г. Получено 4 января 2024 г.
  67. ↑ Уоррен, Том (17 марта 2023 г.). «Новый Copilot от Microsoft навсегда изменит документы Office». The Verge . Получено 5 апреля 2023 г.
  68. ^ Диас, Мария (21 июня 2023 г.). «Как использовать Bing Chat (и чем он отличается от ChatGPT)». ZDNET . Архивировано из оригинала 6 апреля 2023 г. . Получено 26 сентября 2023 г. .
  69. ^ Уоррен, Том (22 марта 2023 г.). «GitHub Copilot получает нового помощника в стиле ChatGPT, который поможет разработчикам писать и исправлять код». The Verge . Архивировано из оригинала 23 марта 2023 г. . Получено 23 марта 2023 г. .
  70. ^ Dohmke, Thomas (22 марта 2023 г.). "GitHub Copilot X: опыт разработчика на базе ИИ". Блог GitHub . Архивировано из оригинала 23 марта 2023 г. Получено 23 марта 2023 г.
  71. ^ "Представляем GitHub Copilot X". GitHub . Архивировано из оригинала 24 марта 2023 г. Получено 24 марта 2023 г.
  72. ^ Уоррен, Том (16 марта 2023 г.). «Microsoft анонсирует Copilot: будущее документов Office на базе искусственного интеллекта». The Verge . Архивировано из оригинала 17 марта 2023 г. Получено 17 марта 2023 г.
  73. ^ "Duolingo's Max Subscription использует GPT-4 для изучения языка с помощью искусственного интеллекта". PCMAG . Архивировано из оригинала 8 июля 2023 г. Получено 8 июля 2023 г.
  74. ^ «Duolingo теперь оснащен GPT-4: вот что он может для вас сделать». ZDNET . 2023. Архивировано из оригинала 13 апреля 2023 г. Получено 15 июня 2023 г.
  75. ^ Томас, Рагнар (15 марта 2023 г.). «GPT-4 для помощи в сохранении исландского языка». Iceland Review . Архивировано из оригинала 18 января 2024 г. Получено 12 марта 2024 г.
  76. ^ Бонос, Лиза (3 апреля 2023 г.). «Познакомьтесь с вашим новым репетитором: это ChatGPT». The Washington Post . Архивировано из оригинала 6 апреля 2023 г. Получено 8 апреля 2023 г.
  77. ^ Коггинс, Мэдлин (19 марта 2023 г.). «Генеральный директор объясняет, как «скачок в технологиях» может помочь компаниям, обслуживающим слепое сообщество». Fox Business . Архивировано из оригинала 21 марта 2023 г. Получено 20 марта 2023 г. – через Yahoo Finance.
  78. ^ "Революционный анализ настроений с помощью GPT-4: Часть 1 | Viable". www.askviable.com . Архивировано из оригинала 14 ноября 2023 г. . Получено 3 октября 2023 г. .
  79. ^ "Viable". openai.com . Архивировано из оригинала 20 октября 2023 г. Получено 3 октября 2023 г.
  80. ^ Тонг, Анна (15 марта 2023 г.). "Fintech-стартап Stripe интегрирует новый ИИ OpenAI GPT-4". Reuters . Архивировано из оригинала 27 июня 2023 г. Получено 27 июня 2023 г.
  81. ^ «Что такое Auto-GPT? Все, что нужно знать о следующем мощном инструменте ИИ». ZDNET. 14 апреля 2023 г. Архивировано из оригинала 16 апреля 2023 г. Получено 16 апреля 2023 г.
  82. ^ Нуньес, Майкл (25 января 2024 г.). «Еще один прорыв в поиске? You.com представляет ИИ, который может отвечать на многошаговые вопросы». VentureBeat . Получено 19 марта 2024 г.
  83. ^ Канг, Сесилия (3 марта 2023 г.). «По мере развития ИИ законодатели с трудом понимают технологию» . The New York Times . Архивировано из оригинала 3 марта 2023 г. Получено 3 марта 2023 г.
  84. ^ Pearl, Mike (15 марта 2023 г.). «Ответы GPT-4 в основном лучше, чем ответы GPT-3 (но не всегда)». Mashable . Архивировано из оригинала 29 марта 2023 г. . Получено 30 марта 2023 г. .
  85. ↑ Обсуждение OpenAI GPT-4 с членом Red Team Натаном Лабенцем и Эриком Торенбергом. Подкаст Cognitive Revolution . 28 марта 2023 г. Архивировано из оригинала 14 апреля 2023 г. Получено 16 апреля 2023 г.С 52:14 по 54:50.
  86. ^ Эдвардс, Натан [@nedwards] (15 февраля 2023 г.). «Я снова нажал. Что сделал Сидней? Проверка безопасности Bing отредактировала ответ. Но после того, как он сделал это в первый раз, я начал записывать свой экран. Второе изображение — неотредактированная версия. (CW: смерть)» ( Твит ) . Получено 16 февраля 2023 г. — через Twitter .
  87. ^ Руз, Кевин (16 февраля 2023 г.). «Bing's AI Chat: „Я хочу быть живым. 😈“». The New York Times . Архивировано из оригинала 15 апреля 2023 г. . Получено 17 февраля 2023 г. .
  88. ^ Кан, Джереми (21 февраля 2023 г.). «Почему жуткое альтер-эго Bing является проблемой для Microsoft – и для всех нас». Fortune. Архивировано из оригинала 2 апреля 2023 г. Получено 22 февраля 2023 г.
  89. ^ "Новый Bing & Edge – Изучаем первую неделю". blogs.bing.com . Архивировано из оригинала 16 апреля 2023 г. . Получено 17 февраля 2023 г. .
  90. ^ "GPT-4 нанял невольного работника TaskRabbit, притворившись человеком с „слабым зрением“". Vice News Motherboard. 15 марта 2023 г. Архивировано из оригинала 10 апреля 2023 г. Получено 16 апреля 2023 г.
  91. ^ Берк, Кэмерон (20 марта 2023 г.). ««Робот»-юрист DoNotPay подал в суд за нелицензированную юридическую практику: он дает «плохие юридические консультации»». Yahoo Finance . Архивировано из оригинала 4 мая 2023 г. Получено 30 апреля 2023 г.
  92. ^ Метц, Кейд; Шмидт, Грегори (29 марта 2023 г.). «Илон Маск и другие призывают приостановить разработку ИИ, ссылаясь на «серьезные риски для общества»». The New York Times . ISSN  0362-4331. Архивировано из оригинала 30 марта 2023 г. . Получено 30 марта 2023 г. .
  93. ^ Курцвейл, Рэй (22 апреля 2023 г.). «Письмо-мнение Рэя Курцвейла о запросе на шестимесячную отсрочку по большим языковым моделям, выходящим за рамки GPT-4». Архивировано из оригинала 24 апреля 2023 г. Получено 26 апреля 2023 г.
  94. ^ "Илон Маск планирует создать стартап в области искусственного интеллекта, чтобы составить конкуренцию OpenAI". Financial Times . 14 апреля 2023 г. Архивировано из оригинала 16 апреля 2023 г. Получено 16 апреля 2023 г.
  95. ^ Госвами, Рохан (14 апреля 2023 г.). «Илон Маск, как сообщается, планирует создать стартап в области ИИ, чтобы конкурировать с OpenAI, соучредителем которого он является». CNBC . Архивировано из оригинала 3 мая 2023 г. Получено 3 мая 2023 г.
  96. ^ Ван, Юнге (20 июня 2024 г.). «Скрытый канал на основе шифрования для больших языковых моделей» (PDF) . IACR ePrint 2024/586.
  97. ^ "GPT-2: 1.5B release". Openai.com . Архивировано из оригинала 31 марта 2023 г. . Получено 31 марта 2023 г. .
  98. ↑ Санчес, София (21 октября 2021 г.). «GPT-J, альтернатива GPT-3 с открытым исходным кодом». Нарратива . Архивировано из оригинала 31 марта 2023 года . Проверено 31 марта 2023 г.
  99. ^ Браун, Том Б.; Манн, Бенджамин; Райдер, Ник; Суббиа, Мелани; Каплан, Джаред; Дхаривал, Прафулла; Нилакантан, Арвинд; Шьям, Пранав; Шастри, Гириш (28 мая 2020 г.). «Языковые модели — это ученики с небольшим количеством попыток». arXiv : 2005.14165v4 [cs.CL].
  100. ^ ab Heaven, Уилл Дуглас (14 марта 2023 г.). «GPT-4 больше и лучше, чем ChatGPT – но OpenAI не скажет, почему». MIT Technology Review . Архивировано из оригинала 17 марта 2023 г. Получено 18 марта 2023 г.
  101. ^ Сандерсон, Кэтрин (16 марта 2023 г.). «GPT-4 здесь: что думают ученые». Nature . 615 (7954): 773. Bibcode :2023Natur.615..773S. doi : 10.1038/d41586-023-00816-5 . PMID  36928404. S2CID  257580633.