Разработка чипов DARPA для машинного обучения в реальном времени

Программа стремится улучшить инновационный цикл машинного обучения, автоматизируя проектирование ультра-специализированных ASIC с требованиями SWaP, задержки и адаптивности для будущих возможностеймашинного обучения в реальном времени (RTML).

Нынешнее поколение систем машинного обучения (ML) не было бы возможным без значительных улучшений вычислительной мощности, достигнутых за последние несколько десятилетий. Развитие графических процессоров (GPU) имело решающее значение для развития ML, поскольку оно обеспечило нового уровня вычислений, необходимого системам ML для обработки больших данных и обучения на них.

Обучение в реальном времени

По мере того как область искусственного интеллекта стремится выйти за рамки современных возможностей машинного обучения и продвигается в область обучения в реальном времени, необходимывсе новые уровни вычислительных мощностей. Узкоспециализированныеинтегральные схемы (ASIC) демонстрируют многообещающие физические размеры, вес и мощность (SWaP), удовлетворяющие требованиям современных ML-приложений, таких как автономные системы и 5G.

Однако из-за высокой стоимости проектирования и реализации разработка специализированных интегральных микросхем ML нецелесообразна для всех приложений, кроме больших.

«Важнейшей задачей в области вычислительной техники является создание процессоров, которые могут активно интерпретировать и извлекать уроки из данных в режиме реального времени, применять предыдущие знания для решения незнакомых проблем и работать с энергоэффективностью человеческого мозга», - говорит Андреас Олофссон (Andreas Olofsson), программный менеджер в Отделении микросистемных технологий DARPA (MTO).

«Конкурирующие проблемы низкого SWaP, задержки и низкой адаптивности требуют разработки новых алгоритмов и схем, специально предназначенных для машинного обучения в реальном времени. Что нужно, так это быстрое развитие энергоэффективного аппаратного обеспечения и архитектур ML, которые могли бы учиться на непрерывном потоке новых данных в режиме реального времени».

Программа RTML

Программа DARPA по машинному обучению в реальном времени (RTML) направлена на снижение затрат на проектирование, связанных с разработкой ASIC, адаптированных для новых приложений ML, путем разработки средств для автоматического создания новых конструкций чипов на основе платформ ML.

Цель программы RTML - создать компилятор или программную платформу, которая может принимать интегрированные среды ML, такие как Tensor Flow и Pytorch, и на основе целей конкретных алгоритмов или систем ML генерировать конфигурации аппаратного обеспечения и стандартный код Verilog, оптимизированный для конкретных нужд. В течение всего жизненного цикла программы RTML будет исследовать возможности компилятора в двух критически важных областях с большими потоками данных - сетях 5G и обработке изображений.

«Эксперты по машинному обучению хорошо разбираются в разработке алгоритмов, но практически ничего не знают о разработкемикросхем. И наоборот, разработчики микросхем не имеют опыта, необходимого для разработки специфичных для ML микросхем ASIC.RTML стремится объединить эти уникальные области знаний, делая процесс разработки ультра-специализированных ASIC более эффективным и экономически выгодным», - говорит Олофссон.

Основанный на ожидаемой гибкости и эффективности прикладного пространства, компилятор RTML обеспечивает идеальную платформу для прототипирования и тестирования фундаментальных исследовательских идей в машинном обучении, требующих новых конструкций чипов.

Таким образом, DARPA планирует сотрудничатьв этом направлении с Национальным научным фондом (NSF). NSF реализует свою собственную программу машинного обучения в реальном времени, направленную на разработку новых парадигм и архитектур ML, которые могут поддерживать вывод в реальном времени и быстрое обучение.

Глобальная программы американского правительства

После первого этапа программы DARPA RTML агентство планирует предоставить свой компилятор исследователям NSF, чтобы предоставить платформу для оценки их предлагаемых алгоритмов и архитектур ML. На втором этапе программы исследователи DARPA получат возможность оценить производительность и возможности компилятора, используя результаты, полученные NSF.

Общие ожидания от партнерства DARPA иNSF - заложить основу для совместного проектирования алгоритмов и оборудования RTML следующего поколения. «Мы рады сотрудничеству с DARPA по финансированию исследовательских групп для решения возникающих проблем в области обучения в режиме реального времени, прогнозирования и автоматического принятия решений», - говорит Джим Куросе (JimKurose), глава NSF по компьютерным и информационным наукам и инженерии.

«Этосотрудничество соответствует американской Инициативе по искусственному интеллекту и очень важно для поддержания лидерства США в области технологий и инноваций. Это будет способствовать прогрессу в области устойчивых энергетических и водных систем, логистике и доставках в здравоохранении, а также в усовершенствовании производств».

RTML является частью второй фазы Инициативы DARPA по возрождению электроники (ERI) - пятилетних инвестицияхобъемом более 1,5 млрд. долларов.

США в будущее отечественных, правительственных и оборонных электронных систем США. В рамках второгоэтапа инициативы ERI DARPA поддерживает варианты местного производства и позволяет развивать дифференцированные возможности для различных потребностей. RTML помогает выполнить эту миссию, создавая средства для быстрого и экономичного создания новых конструкций чипов для поддержки новых приложений ML.