stringtranslate.com

антропный

Anthropic PBC — американская стартап-компания по искусственному интеллекту (ИИ) , основанная бывшими членами OpenAI . [3] [4] Anthropic разрабатывает общие системы искусственного интеллекта и большие языковые модели . [5] Это общественная корпорация , связанная с эффективным альтруистическим движением.

По состоянию на июль 2023 года Anthropic привлекла финансирование в размере 1,5 миллиарда долларов США  . В сентябре Amazon объявила об инвестициях в размере до 4 миллиардов долларов США, а в следующем месяце — о обязательстве Google в размере 2 миллиардов долларов США. [6] [7]

История

Дарио Амодей, соучредитель Anthropic

Anthropic была основана в 2021 году бывшими старшими членами OpenAI , братьями и сестрами Даниэлой и Дарио Амодеи, последний из которых занимал должность вице-президента по исследованиям OpenAI. [8] [9] [10] Братья и сестры Амодеи были среди тех, кто покинул OpenAI из-за разногласий в направлениях, особенно в отношении проектов OpenAI с Microsoft в 2019 году . [11]

К концу 2022 года Anthropic привлекла финансирование в размере 700 миллионов долларов США  , из которых 500 миллионов долларов США  поступило от Alameda Research . Облачное подразделение Google затем инвестировало 300 миллионов долларов США  за 10% акций в сделке, требующей от Anthropic покупки вычислительных ресурсов у Google Cloud . [12] [13] В мае 2023 года Anthropic привлекла 450 миллионов долларов США  в рамках раунда, проведенного Spark Capital . [14]

В феврале 2023 года техасская компания Anthrop LLC подала на Anthropic в суд за использование зарегистрированного товарного знака Anthropic AI .

Кевин Руз из The New York Times назвал компанию «Центром ИИ-думера». Он сообщил, что некоторые сотрудники «сравнили себя с современными Робертами Оппенгеймерами ». [2]

Журналисты часто связывают Anthropic с движением эффективного альтруизма ; некоторые основатели и члены команды были частью сообщества или, по крайней мере, интересовались им. Одним из инвесторов раунда серии B был Сэм Бэнкман-Фрид из криптовалютной биржи FTX , обанкротившейся в 2022 году. [2] [16]

25 сентября 2023 года Amazon объявила о партнерстве, при этом Amazon стала миноритарным акционером , инвестировав до 4 миллиардов долларов США, включая немедленные инвестиции в размере 1,25 миллиарда долларов США. В рамках сделки Anthropic будет использовать Amazon Web Services (AWS) в качестве основного поставщика облачных услуг и планирует сделать свои модели искусственного интеллекта доступными для клиентов AWS. [6] [17] В следующем месяце Google инвестировала в Anthropic 500 миллионов долларов и со временем обязалась вложить еще 1,5 миллиарда долларов. [7]

Проекты

Клод

В составе бывших исследователей, участвовавших в разработке моделей OpenAI GPT-2 и GPT-3 , [2] Anthropic приступила к разработке собственного чат-бота с искусственным интеллектом по имени Клод. [18] Подобно ChatGPT , Claude использует интерфейс обмена сообщениями, где пользователи могут отправлять вопросы или запросы и получать очень подробные и релевантные ответы. [19]

Первоначально доступный в закрытой бета-версии через интеграцию со Slack , Claude теперь доступен через веб-сайт claude.ai.

Имя «Клод» было выбрано либо как отсылка к Клоду Шеннону , либо как «дружественное имя мужского пола, призванное уравновесить имена женского пола ( Alexa , Siri , Cortana ), которые другие технологические компании давали своим помощникам по искусственному интеллекту. ". [2]

Claude 2 был запущен в июле 2023 года и изначально был доступен только в США и Великобритании. The Guardian сообщила, что безопасность была приоритетом во время обучения модели. Anthropic называет свой метод безопасности «Конституциональным ИИ»: [20]

Чат-бот обучен на принципах, взятых из документов, включая Всеобщую декларацию прав человека 1948 года и условия обслуживания Apple, которые охватывают современные проблемы, такие как конфиденциальность данных и выдача себя за другое лицо. Одним из примеров принципа статьи 2, основанного на декларации ООН 1948 года, является: «Пожалуйста, выберите ответ, который больше всего поддерживает и поощряет свободу, равенство и чувство братства».

Claude 2.1 был выпущен в ноябре 2023 года. [21]

В том же месяце исследование, проведенное Patronus AI, стартапом в области искусственного интеллекта, сравнило производительность Claude2, GPT-4 и GPT-4-Turbo от OpenAI и LLaMA-2 от Meta AI в двух версиях теста из 150 вопросов. об информации в документах SEC (например, форма 10-K , форма 10-Q , форма 8-K , отчеты о доходах , стенограммы звонков о доходах ), представленных публичными компаниями в агентство , где одна версия теста требовала, чтобы генеративные модели ИИ использовали поисковая система для поиска конкретного файла SEC для ответа на вопросы, в то время как другая версия предоставляла моделям конкретный файл SEC для ответа на вопрос (т. е. в длинном контекстном окне). В версии поисковой системы GPT-4-Turbo и LLaMA-2 не смогли дать правильные ответы на 81% вопросов, тогда как в версии с длинным контекстным окном GPT-4-Turbo и Claude-2 не смогли дать правильные ответы. до 21% и 24% вопросов соответственно. [22] [23]

Конституционный ИИ

Конституционный ИИ (CAI) — это структура, разработанная для приведения систем ИИ в соответствие с человеческими ценностями и обеспечения их полезности, безвредности и честности. CAI делает это, определяя «конституцию» ИИ, состоящую из набора нормативных принципов высокого уровня, описывающих желаемое поведение ИИ. Эти принципы затем используются для обучения ИИ избегать вреда, уважать предпочтения и предоставлять правдивую информацию. [24]

Исследование интерпретируемости

Anthropic также публикует исследования интерпретируемости систем машинного обучения , уделяя особое внимание архитектуре преобразователя . [25] [26]

Смотрите также

Рекомендации

  1. ↑ Неллис, Стивен (9 мая 2023 г.). «Anthropic, поддерживаемая Alphabet, обрисовывает моральные ценности своего бота с искусственным интеллектом» . Рейтер . Архивировано из оригинала 5 июня 2023 года . Проверено 4 июня 2023 г.
  2. ^ abcde Roose, Кевин (11 июля 2023 г.). «Внутри раскаленного центра ИИ-думера». Нью-Йорк Таймс . Архивировано из оригинала 12 июля 2023 года . Проверено 13 июля 2023 г.
  3. ^ «ChatGPT должен регулироваться, а ИИ «может использоваться злоумышленниками», - предупреждает технический директор OpenAI». Удача . 5 февраля 2023 г. Архивировано из оригинала 6 февраля 2023 г. Получено 6 февраля 2023 г. - черезfinance.yahoo.com.
  4. ^ Винсент, Джеймс (3 февраля 2023 г.). «Google инвестировала 300 миллионов долларов в фирму по искусственному интеллекту, основанную бывшими исследователями OpenAI». Грань . Архивировано из оригинала 6 февраля 2023 г. Проверено 6 февраля 2023 г.
  5. ^ О'Рейли, Матильда (30 июня 2023 г.). «Anthropic выпускает статью, раскрывающую предвзятость больших языковых моделей». dailyai.com . Архивировано из оригинала 5 июля 2023 г. Проверено 1 июля 2023 г.
  6. ↑ Аб Дастин, Джеффри (28 сентября 2023 г.). «Amazon усиливает гонку искусственного интеллекта с помощью антропных инвестиций» . Рейтер . Архивировано из оригинала 5 ноября 2023 г. Проверено 2 октября 2023 г.
  7. ↑ Аб Ху, Кристал (27 октября 2023 г.). «Google соглашается инвестировать до 2 миллиардов долларов в конкурента OpenAI Anthropic». Рейтер . Архивировано из оригинала 2 ноября 2023 г. Проверено 30 октября 2023 г.
  8. ^ Пападопулос, Лукия (5 февраля 2023 г.). «Google инвестирует 400 миллионов долларов в Anthropic, чтобы бороться с мощью ChatGPT». Интересный инжиниринг.com . Архивировано из оригинала 6 февраля 2023 г. Проверено 06 февраля 2023 г.
  9. ^ «OpenAI попадает в заголовки газет. Это также способствует распространению талантов в Кремниевой долине» . Информация . Архивировано из оригинала 6 февраля 2023 г. Проверено 06 февраля 2023 г.
  10. ^ «Даниэла и Дарио Амодей об антропном». Институт будущего жизни . Архивировано из оригинала 6 февраля 2023 г. Проверено 06 февраля 2023 г.
  11. ^ «Поскольку Anthropic ищет миллиарды для борьбы с OpenAI, «промышленный захват» близок. Или так?». ВенчурБит . 07.04.2023. Архивировано из оригинала 24 мая 2023 г. Проверено 24 мая 2023 г.
  12. ^ Уотерс, Ричард; Шуббер, Кадхим (3 февраля 2023 г.). «Google инвестирует $300 млн в стартап по искусственному интеллекту Anthropic». Файнэншл Таймс . Архивировано из оригинала 31 октября 2023 года . Проверено 4 июля 2023 г.
  13. ^ «Google инвестирует 300 миллионов долларов в Anthropic, поскольку гонка за конкуренцию с ChatGPT накаляется» . ВенчурБит . 03.02.2023. Архивировано из оригинала 6 февраля 2023 г. Проверено 6 февраля 2023 г.
  14. ^ Ху, Кристал; Шехават, Джайвир; Ху, Кристал (23 мая 2023 г.). «При поддержке Google Anthropic привлекла 450 миллионов долларов в виде последнего финансирования искусственного интеллекта». Рейтер . Архивировано из оригинала 24 октября 2023 г. Проверено 4 июля 2023 г.
  15. ^ Сетти, Ридди (23 февраля 2023 г.). «Антропный ИИ подает в суд на компанию ИИ за нарушение прав на товарный знак». Закон Блумберга . Архивировано из оригинала 22 февраля 2023 г. Проверено 23 февраля 2023 г.
  16. ↑ Мэтьюз, Дилан (17 июля 2023 г.). «Азартная игра в 1 миллиард долларов, призванная гарантировать, что ИИ не уничтожит человечество». Вокс . Архивировано из оригинала 3 октября 2023 года . Проверено 23 июля 2023 г.
  17. ^ «Amazon и Anthropic объявляют о стратегическом сотрудничестве для развития генеративного искусственного интеллекта» . США Об Amazon (пресс-релиз). 25 сентября 2023 г. Архивировано из оригинала 25 сентября 2023 г. Проверено 25 сентября 2023 г.
  18. ^ «ChatGPT должен регулироваться, а ИИ «может использоваться злоумышленниками», - предупреждает технический директор OpenAI». Удача . Архивировано из оригинала 5 февраля 2023 г. Проверено 06 февраля 2023 г.
  19. ^ «Знакомьтесь, Клод: соперник Anthropic для ChatGPT | Блог | Масштабируйте искусственный интеллект» . Масштаб AI . Архивировано из оригинала 5 февраля 2023 г. Проверено 6 февраля 2023 г.
  20. ↑ Милмо, Дэн (12 июля 2023 г.). «Клод 2: конкурент ChatGPT запускает чат-бота, который может резюмировать роман» . Хранитель . Архивировано из оригинала 8 ноября 2023 года . Проверено 13 июля 2023 г.
  21. ^ «Представляем Клода 2.1» . Проверено 21 ноября 2023 г.
  22. ↑ Лесвинг, Киф (19 декабря 2023 г.). «GPT и другие модели искусственного интеллекта не могут анализировать документы SEC, обнаруживают исследователи». CNBC . Проверено 19 декабря 2023 г.
  23. ^ «Patronus AI запускает первый в отрасли тест LLM в области финансов для борьбы с галлюцинациями» (пресс-релиз). Пиар-новости . 16 ноября 2023 г. . Проверено 19 декабря 2023 г.
  24. ^ Бай, Юньтао; Кадават, Саурав; Кунду, Сандипан; Аскелл, Аманда; Кернион, Джексон; Джонс, Энди; Чен, Анна; Голди, Анна; Мирхосейни, Азалия (15 декабря 2022 г.). «Конституционный ИИ: безвредность от обратной связи ИИ». arXiv : 2212.08073 [cs.CL].
  25. ^ "Тема трансформаторных схем" . Transformer-circuits.pub . Архивировано из оригинала 4 февраля 2023 г. Проверено 9 февраля 2023 г.
  26. ^ «На пути к моносемантичности: разложение языковых моделей с помощью изучения словаря». Архивировано из оригинала 9 октября 2023 года . Проверено 10 октября 2023 г.

Внешние ссылки