Стартап Илона Маска по созданию искусственного интеллекта xAI, расположенный в Теннесси (США), представляет собой огромный центр обработки данных. Новый ИИ от основателя SpaceX получил название Colossus, что отсылает к одному из первых электронных вычислительных устройств, использовавшихся для расшифровки данных во времена Второй мировой войны. Colossus, как отмечает Nvidia, работает на более чем 100 000 чипах, что больше, чем у любой другой системы искусственного интеллекта на планете. Как недавно сообщил миллиардер, Colossus был, наконец, введен в эксплуатацию. На сборку мощнейшей в мире системы обучения ИИ ушло всего 122 дня — рекордный показатель на сегодняшний день. Рассказываем подробности!
Графические процессоры Nvidia (GPU) — это специальные чипы, которые ускоряют работу ИИ, делая его обучение более эффективным.
Илон Маск и искусственный интеллект
Илон Маск известен своими инновационными подходами в таких компаниях, как Tesla и SpaceX и активно интересуется разработкой искусственного интеллекта. Его взгляды на ИИ можно назвать предосторожными, при этом сам предприниматель участвует в создании технологий, способных интегрировать этот новейший инструмент в повседневную жизнь.
Одним из ключевых моментов в карьере Маска, связанным с ИИ, стало основание компании OpenAI в 2015 году, целью которой было продвижение и развитие безопасного ИИ, способного принести пользу человечеству. Однако в 2018 году миллиардер покинул совет директоров OpenAI, чтобы избежать конфликта интересов между его работой в Tesla, где ИИ используется для разработки автопилотируемых автомобилей.
В последующие годы Маск не раз высказывался о потенциальных опасностях ИИ, подчеркивая необходимость государственного регулирования. Предприниматель также подписал открытие письмо с требованием приостановить разработку ИИ-систем, более мощных, чем GPT-4.
Больше по теме: Супер-ИИ появится в 2027 году. Правда или нет?
В 2023 году миллиардер объявил о создании новой компании под названием хAI, главной целью которой является разработка ИИ следующего поколения. Маск заявил, что новая платформа будет способствовать оптимизации работы других возглавляемых им проектов, включая SpaceX и Boring Company.
Colossus – что нужно знать?
ИИ-компания Маска сотрудничает с X Corp (в которую входит социальная сеть Х, (в прошлом Twitter)) и Nvidia, благодаря чипам которой в 2023 году произошла революция в области искусственного интеллекта OpenAI. Сейчас сотрудники xAI работают над своим главным проектом – нейросетью Grok (1, 1,5, 2, mini), а также IDE – интегрированной средой разработки для быстрого проектирования и исследования интерпретируемости. Информацию об этом можно найти на официальном сайте компании.
2 сентября 2024 года Маск объявил о запуске кластера по обучению ИИ-систем под названием “Colossus”, который по сути представляет собой огромный центр обработки данных. В его работе применяются более 100 000 графических процессоров Nvidia H100, о чем миллиардер сообщил в своем аккаунте в X.
В эти выходные команда xAI запустила учебный кластер Colossus в онлайн-режиме. Работа была проделана за 122 дня. На данный момент Colossus – это самая мощная система обучения ИИ в мире. Через несколько месяцев количество чипов Nvidia возрастет до 200 000, – написал Маск.
На данный момент проект предпринимателя превосходит все существующие кластеры. Так, Googlе использует всего 90 тысяч графических процессоров Nvidia, а OpenAI — 80. Напомним, что чипы компании являются наиболее востребованными в отрасли и используются для обучения и запуска систем искусственного интеллекта, таких как чат-боты и генераторы изображений.
Еще больше интересных статей об искусственном интеллекте и квантовых компьютерах читайте на нашем канале в Яндекс.Дзен – там регулярно выходят статьи, которых нет на сайте!
Тот факт, что в ближайшие месяцы Colossus «удвоится» в размерах до 200 000 чипов, включая 50 000 графических процессоров H200, означает, что объем памяти этого ИИ будет почти вдвое больше нынешнего, а его пропускная способность вырастет на 40%.
Выходит, что компании Маска удалось сравняться по технологическим возможностям с такими лидерами области как OpenAI и Microsoft, у которых было многолетнее преимущество, как минимум впечатляет. Конечно, при условии, что миллиардер не преувеличивает.
Как отмечает Fortune, Nvidia считает Маска одним из своих лучших клиентов, поскольку он уже купил десятки тысяч графических процессоров для Tesla на сумму от 3 до 4 миллиардов долларов, прежде чем начать сотрудничество с xAI.
Не пропустите: Как изменится искусственный интеллект в 2024 году?
Более того, некоторые из приобретенных чипов, первоначально предназначенных для обучения полностью автономной системы Tesla, будут использованы для обучения ранней версии Grok.
Битва за трон
Несмотря на впечатляющие достижения, запуску Colossus, который в целом можно назвать суперкомпьютером предшествовали разногласия. Так, в конце августа жители Мемфиса, чьи дома находятся недалеко от центра обработки данных в Теннесси, пожаловались на «невыносимый уровень смога», создаваемый компанией Маска, что в будущем может привести к дальнейшим конфликтам.
Эти проблемы, вероятно, станут наименьшими для xAI, так как звание самой мощной системы обучения ИИ, несомненно, окажется под угрозой. Маловероятно, что OpenAI, Microsoft, Google и Meta, будут почивать на лаврах, дожидаясь триумфа конкурента. К тому же, некоторые из лидеров области уже обладают сотнями тысяч собственных графических процессоров.
Например, Microsoft планирует собрать 1,8 миллиона чипов искусственного интеллекта к концу года (правда, цифра звучит слишком оптимистично), а в январе Марк Цукерберг сообщил, что Meta намерена приобрести еще 350 000 Nvidia H100 к тому же сроку.
На данный момент, однако, Colossus остается единственным в своем роде поставщиком вычислительной мощности. Журналисты отмечают, что кластер будет использован для обучения Grok-3, который Маск намерен выпустить в декабре.
Вам будет интересно: Нейросети научились врать и делают это намеренно
Квантовые компьютеры
Квантовые компьютеры, такие как Colossus, используют кубиты (квантовые биты) вместо традиционных битов. Кубиты могут находиться в двух состояниях одновременно, то есть пребывать в квантовой суперпозиции. Эта особенность позволяет квантовым компьютерам обрабатывать огромные объемы данных за считанные секунды. Кроме того, кубиты могут запутываться друг с другом, вне зависимости от расстояния между ними.
Стоит ли говорить, что для работы с квантовыми компьютерами необходимы специальные алгоритмы. По этой причине Google разработала уникальный набор инструментов и программное обеспечение, позволяющее ученым и инженерам создавать и испытывать квантовые алгоритмы.
Одной из основных проблем квантовых компьютеров, включая Colossus Маска, является квантовая декогеренция — потеря квантового состояния кубитов из-за взаимодействия с окружающей средой, которая требует использования сложных систем охлаждения и изоляции, чтобы минимизировать любые внешние воздействия.
Читайте также: Суперкомпьютер обратил вспять космические часы
Кроме того, увеличение числа кубитов для масштабирования квантовых компьютеров остается техническим вызовом. Тем не менее, несмотря на текущие трудности, перспективы появления таких компьютеров довольно обнадеживающие. С их помощью во многих областях науки, включая фармацевтику и ИИ, произойдут революционные изменения.
Так, ученые всего мира продолжают поиски новых способов оптимизации и масштабирования квантовых технологий, что может привести к созданию технологий, способных решать сложнейшие задачи. Словом, пожелаем им и Илону Маску удачи и будем ждать новостей!