Китайская компания Intellifusion анонсировала выпуск ИИ-боксов DeepEyes, произведённых по 14-нм техпроцессу и стоимостью всего 1000 юаней ($140). Это устройство, предназначенное для сферы искусственного интеллекта (ИИ), обещает снижение стоимости аппаратного обеспечения для ИИ на 90 % по сравнению с традиционными графическими процессорами (GPU).

Источник изображений: zhidx.com

В качестве реакции на санкционные меры, введённые правительством США против китайской индустрии ИИ, компания Intellifusion анонсировала запуск нового ИИ-бокса под названием DeepEyes. Данное устройство, созданное по 14-нм техпроцессу и предположительно включающее в себя ASIC-технологии, гарантирует производительность на уровне 48 TOPS при стоимости около 1000 юаней.

Для первой модели DeepEyes, запланированной к выпуску в первом полугодии 2024 года, предусмотрена интеграция однокристальной системы (SoC) DeepEdge10Max, что позволит достигнуть производительности в 48 TOPS (INT8). Продолжая развитие линейки, модель, намеченная к релизу во втором полугодии того же года, будет оснащаться SoC DeepEdge10Pro, предлагая производительность до 24 TOPS. В планах компании на первое полугодие 2025 года — реализация значительного увеличения производительности за счёт внедрения SoC DeepEdge10Ultra с пиковым показателем до 96 TOPS. При этом стратегия ценообразования и возможность поддержания цен в пределах 1000 юаней остаются предметом дальнейшего обсуждения и уточнения.

Ядро архитектуры DeepEyes — инновационный чип нейронных сетей NNP400T, разработанный компанией Intellifusion. Этот чип объединяет в себе мощный 1,8 ГГц RISC CPU с конфигурацией 2+8 ядер и GPU с максимальной частотой до 800 МГц, представленный в модели DeepEdge10. Ключевым элементом системы является высокоэффективный процессор нейронных сетей (NPU), который значительно повышает общую производительность устройства. Учитывая, что для соответствия требованиям Microsoft к ИИ-ПК необходимо минимум 40 TOPS производительности NPU, разработки Intellifusion выглядят довольно перспективными. Сравнение с текущими показателями NPU, достигающими всего 16 TOPS, подчёркивает потенциал китайской новинки. Кроме того, ожидается, что перспективные чипы Snapdragon с производительностью 40 TOPS установят новые стандарты в индустрии.

Доктор Чэнь Нин (Chen Ning), председатель Intellifusion, прогнозирует, что в предстоящие три года доля компаний, активно внедряющих в свою деятельность большие языковые ИИ-модели, достигнет 80 %. В таком контексте значительные затраты на разработку и обучение передовых ИИ-моделей, которые могут достигать десятков миллионов долларов, а также расходы на приобретение специализированного оборудования, становятся серьёзным барьером для большинства компаний. Технологии, предлагаемые Intellifusion, направлены на решение этой проблемы, предоставляя высокоэффективные, но при этом экономически доступные решения для обучения и интеграции больших языковых ИИ-моделей.

Компания Intel на ИИ-саммите в Тайбэе подтвердила, что сервис Copilot компании Microsoft вскоре будет работать локально на персональных компьютерах (ПК), а не в облаке. Для следующего поколения ИИ ПК потребуется производительность ИИ-сопроцессора NPU (Neural Processing Unit) на уровне 40 TOPS. Это ключевой шаг в развитии технологий, обещающий значительные изменения в возможностях компьютеров будущего.

Источник изображения: BrianPenny / Pixabay

Microsoft и Intel совместно придумали новое название для таких устройств — ИИ ПК, которые уже поступили в продажу. Из названия следует, что такой ИИ ПК оснащён ИИ-сопроцессором NPU, центральным процессором (CPU), графическим процессором (GPU), а также сервисом Copilot компании Microsoft и физической клавишей Copilot на клавиатуре.

По мнению Тодда Левеллена (Todd Lewellen), занимающего должность вице-президента группы клиентских вычислений в Intel, в скором времени ожидается переход на новое поколение устройств, где NPU будет требовать производительности в 40 TOPS. Это позволит значительно расширить спектр задач, выполняемых на устройстве локально, включая расширенные функции ИИ-помощника Copilot.

Основное внимание Microsoft уделяет качеству пользовательского опыта при работе с Copilot. Выполнение задач ИИ-помощником на NPU, а не на GPU, обусловлено стремлением продлить время автономной работы устройства. Это решение позволяет не только освободить ресурсы CPU и GPU для других задач, но и гарантирует высокую производительность работы самого приложения.

На сегодняшний день процессоры AMD демонстрируют немного большую производительность ИИ-сопроцессора NPU, измеряемую в TOPS, по сравнению с Intel, в то время как Qualcomm анонсировала выпуск чипов с производительностью в 45 TOPS. В ответ на это Intel планирует обновление линейки процессоров, чтобы соответствовать и даже превосходить текущие и будущие требования рынка ИИ ПК.

В преддверии значительных изменений в архитектуре ПК, Intel анонсировала поддержку 300 новых функций на своих процессорах Meteor Lake, нацеленных на оптимизацию работы с ИИ. А разработчики получили доступ к новым инструментам для создания высокопроизводительных и энергоэффективных ИИ-приложений, включая среду разработки OpenVino. Ожидается, что активная работа Intel над расширением функциональности ИИ на своих процессорах значительно увеличит интерес разработчиков к созданию нового программного обеспечения. Так, Intel ставит амбициозную цель — продажу 100 миллионов ИИ-ПК к 2025 году. Это отражает уверенность компании в востребованности и популярности таких устройств среди конечных пользователей.