Группа исследователей продемонстрировала, что перепараметризация повышает производительность квантового машинного обучения — метода, превосходящего возможности классических компьютеров. Результаты исследования позволяют оптимизировать процесс обучения квантовых нейронных сетей и повысить производительность практических квантовых приложений.
При использовании большого числа параметров для обучения моделей машинного обучения на квантовых компьютерах лучше больше — до определенного момента.
Новаторское теоретическое доказательство показывает, что использование техники, называемой перепараметризацией, повышает производительность квантового машинного обучения для задач, которые не под силу традиционным компьютерам.
«Мы считаем, что наши результаты будут полезны при использовании машинного обучения для изучения свойств квантовых данных, например, для классификации различных фаз вещества при исследовании квантовых материалов, что очень сложно на классических компьютерах», — сказал Диего Гарсия-Мартин, постдокторант Национальной лаборатории Лос-Аламоса. Он является соавтором новой работы лос-аламосской группы, посвященной этому методу, опубликованной в журнале Nature Computational Science.
Гарсия-Мартин работал над исследованием в Летней школе квантовых вычислений Лаборатории в 2021 году, будучи аспирантом Мадридского автономного университета.
Машинное обучение, или искусственный интеллект, обычно предполагает обучение нейронных сетей обработке информации — данных — и обучению решению поставленной задачи. В двух словах, нейронную сеть можно представить себе как коробку с ручками, или параметрами, которая принимает данные на вход и выдает на выходе результат, зависящий от конфигурации ручек.
«На этапе обучения алгоритм обновляет эти параметры, пытаясь найти их оптимальное значение», — говорит Гарсия-Мартин. «После определения оптимальных параметров нейронная сеть должна быть способна экстраполировать то, что она узнала из обучающих примеров, на новые, ранее не встречавшиеся точки данных».
Как классический, так и квантовый ИИ сталкиваются с проблемой обучения параметров, поскольку в процессе обучения алгоритм может достичь неоптимальной конфигурации и заглохнуть.
Скачок в производительности
Перепараметризация — хорошо известная в классическом машинном обучении концепция, которая заключается в добавлении все новых и новых параметров, — позволяет предотвратить эту остановку.
Последствия перепараметризации в моделях квантового машинного обучения до сих пор оставались малоизученными. В новой работе команда из Лос-Аламоса создала теоретическую основу для предсказания критического числа параметров, при котором модель квантового машинного обучения становится перепараметризованной. При определенном критическом значении добавление параметров приводит к скачку производительности сети, и модель становится значительно легче обучать.
«Создав теорию, лежащую в основе перепараметризации квантовых нейронных сетей, наше исследование открывает путь к оптимизации процесса обучения и достижению более высокой производительности в практических квантовых приложениях, — пояснил Мартин Ларокка, ведущий автор рукописи и постдокторский исследователь из Лос-Аламоса.
Используя такие аспекты квантовой механики, как запутанность и суперпозиция, квантовое машинное обучение позволяет добиться гораздо большей скорости, или квантового преимущества, по сравнению с машинным обучением на классических компьютерах».
Избегание ловушек в ландшафте машинного обучения
Чтобы проиллюстрировать результаты работы команды из Лос-Аламоса, Марко Церезо, старший научный сотрудник и квантовый теоретик лаборатории, описал мысленный эксперимент, в котором пеший турист, ищущий самую высокую гору в темном ландшафте, представляет процесс обучения. Походник может двигаться только в определенных направлениях и оценивает свой прогресс, измеряя высоту с помощью ограниченной системы GPS.
В этой аналогии количество параметров в модели соответствует направлениям, по которым может двигаться турист, сказал Церезо. «Один параметр позволяет двигаться вперед-назад, два параметра — вбок и т.д.», — сказал он. В отличие от мира нашего гипотетического пешехода, ландшафт данных, скорее всего, будет иметь более трех измерений.
Слишком малое количество параметров не позволит пешеходу тщательно исследовать ландшафт и он может принять небольшой холм за самую высокую гору или застрять на ровном месте, где любой шаг кажется бесполезным. Однако с увеличением числа параметров шагоход может двигаться в большем количестве направлений в более высоких измерениях. То, что вначале казалось локальным холмом, может оказаться возвышенной долиной между вершинами. С помощью дополнительных параметров турист избегает ловушек и находит истинную вершину или решение проблемы.
Ссылка: «Теория перепараметризации в квантовых нейронных сетях» Мартин Ларокка, Натан Джу, Диего Гарсия-Мартин, Патрик Дж. Коулз и Марко Церезо, 26 июня 2023 г., Nature Computational Science . DOI: 10.1038/s43588-023-00467-6
Исследование финансировалось LDRD Лос-Аламосской национальной лаборатории.
