Инновация в нейронных сетях: оптические системы и новая эра машинного обучения

Вдохновляющее пламя науки вновь осветило путь прогресса: исследователи из Института Макса Планка разработали невиданную ранее  структуру нейронной сети, опирающуюся на световые волны, что обещает реализовать машинное обучение невероятно энергосберегающим, сообщает Taspanews.kz со ссылкой на Nature Physics.

Понимая, что алгоритмическое обучение и нейросети становятся еще больше требовательными к ресурсам, ученые ищут инновационные пути для снижения энергопотребления. К примеру, обучение модели GPT-3 поглотило более тысячи мегаватт-часов энергии, потребляемой в течение дня целым небольшим городом, подчеркивая насущную необходимость в изменении подходов. Основное внимание сосредоточено на нейроморфных вычислениях, которые приближают нас к моделированию работы мозга, используя нетрадиционные подходы к архитектуре нейронных сетей.

Оптические и фотонные системы начали рассматриваться как особенно перспективные, поскольку они открывают двери к выполнению вычислений с минимальными затратами энергии и при чрезвычайно высоких скоростях. Однако проблемы, такие как потребность в мощных лазерах и отсутствие подходящих методов обучения, долгое время стояли на пути прогресса. В своём решении учёные предложили великолепный метод, который использует изменение светопропускания для обработки входных данных, устраняя необходимость в сложного характера физических взаимодействий и обеспечивая выполнение вычислений с использованием низкоэнергетических световых полей.

Через детальное моделирование было продемонстрировано, что предложенная методика не уступает в точности, необходимой для цифровых нейронных систем при классификации изображений. Это предоставляет возможность новым поколениям нейроморфного типа устройств, способных совершать машинное обучение на многогранных площадках.