Ученые выяснили как сделать нейронные сети компактней и умнее

Пара исследователей из Массачусетского института современных технологий открыла способ создания искусственного интеллекта размером всего лишь в одну десятую без потери вычислительных способностей.

Этот прорыв может позволить другим исследователям создавать ИИ, которые будут меньше, быстрее и такими же умными, как те, что существуют сегодня. Когда люди говорят об искусственном интеллекте, они в основном имеют в виду класс компьютерных программ, называемых искусственными нейронными сетями.

Эти программы призваны имитировать работу нашего мозга, что делает их очень умными и креативными. Они могут идентифицировать содержание фотографий, побеждать людей в абстрактных стратегических играх и даже сами управлять транспортными средствами.

Строении программы с ИИ

По своей сути программы состоят из коллекций «нейронов», как и в нашем мозгу. Эти нейроны связаны со случайным числом других нейронов. Каждый отдельный нейрон может выполнять лишь несколько базовых вычислений, но при достаточном их количестве, соединенном вместе, вычислительная мощность сети по существу безгранична. Самая важная вещь для твердой нейронной сети - это связи между нейронами.

Хорошие соединения создают хорошую сеть, но плохие соединения оставляют только мусор. Процесс установления таких связей называется обучением, и он похож на то, что делает наш собственный мозг, когда мы узнаем что-то новое. Единственная разница? Наш мозг регулярно обрезает старые соединения, которые больше не нужны, в процессе, называемом «обрезка». Мы постоянно обрезаем старые или неиспользуемые соединения, но большинство искусственных нейронных сетей удаляются только один раз, прямо в конце обучения.

Преимущества уменьшенных сетей

Поэтому исследователи MIT решили попробовать что-то новое: регулярно сокращать сеть во время обучения. Они обнаружили, что этот метод создает нейронные сети, которые были так же хороши, как и сети, обученные с использованием стандартного метода, но эти обрезанные сети были примерно на 90 процентов меньше и намного более эффективны. Им также нужно было меньше времени на обучение, и они были более точными.

В ближайшем будущем исследователи могут использовать этот метод сокращения, чтобы проектировать еще лучшие нейронные сети. Эти сети могут быть мощными и легкими, чтобы люди могли использовать их с небольшими электронными устройствами. И со временем мы могли бы иметь нейронные сети, работающие почти везде.