O kvantnih pospešitvah za nekonveksno optimizacijo prek kvantnih tunelskih sprehodov

O kvantnih pospešitvah za nekonveksno optimizacijo prek kvantnih tunelskih sprehodov

Časovni žig: 2. junij 2023 8:23
Izvorno vozlišče: 2694596

Yizhou Liu1, Weijie J. Su2in Tongyang Li3,4

1Oddelek za inženirsko mehaniko, Univerza Tsinghua, 100084 Peking, Kitajska
2Oddelek za statistiko in znanost o podatkih, Univerza v Pensilvaniji
3Center on Frontiers of Computing Studies, Pekinška univerza, 100871 Peking, Kitajska
4Fakulteta za računalništvo, Pekinška univerza, 100871 Peking, Kitajska

Se vam zdi ta članek zanimiv ali želite razpravljati? Zaslišite ali pustite komentar na SciRate.

Minimalizem

Klasični algoritmi pogosto niso učinkoviti pri reševanju nekonveksnih optimizacijskih problemov, kjer so lokalni minimumi ločeni z visokimi ovirami. V tem prispevku raziskujemo možne kvantne pospešitve za nekonveksno optimizacijo z izkoriščanjem $globalnega$ učinka kvantnega tuneliranja. Natančneje, uvedemo kvantni algoritem, imenovan kvantni tunelski sprehod (QTW), in ga uporabimo za nekonveksne probleme, kjer so lokalni minimumi približno globalni minimumi. Pokažemo, da QTW doseže kvantno pospešitev v primerjavi s klasičnimi stohastičnimi gradientnimi spusti (SGD), ko so ovire med različnimi lokalnimi minimumi visoke, a tanke in so minimumi ravni. Na podlagi tega opažanja izdelamo posebno pokrajino z dvojnimi vrtinami, kjer klasični algoritmi ne morejo učinkovito zadeti ene tarče, če dobro poznajo drugo, QTW pa lahko, če ima ustrezna začetna stanja blizu znane vrtine. Na koncu svoje ugotovitve potrdimo z numeričnimi poskusi.

[Vgrajeni vsebina]

Priljubljen povzetek

Klasični algoritmi pogosto niso učinkoviti pri reševanju nekonveksnih optimizacijskih problemov, kjer so lokalni minimumi ločeni z visokimi ovirami. V tem prispevku raziskujemo možne kvantne pospešitve za nekonveksno optimizacijo z izkoriščanjem globalnega učinka kvantnega tuneliranja. Natančneje, uvedemo kvantni algoritem, imenovan kvantni tunelski sprehod (QTW), in ga uporabimo za nekonveksne probleme, kjer so lokalni minimumi približno globalni minimumi. Pokažemo, da QTW doseže kvantno pospešitev v primerjavi s klasičnimi stohastičnimi gradientnimi spusti (SGD), ko so ovire med različnimi lokalnimi minimumi visoke, a tanke in so minimumi ravni. Na podlagi tega opažanja izdelamo posebno pokrajino z dvojnimi vrtinami, kjer klasični algoritmi ne morejo učinkovito zadeti ene tarče, če dobro poznajo drugo, QTW pa lahko, če ima ustrezna začetna stanja blizu znane vrtine. Na koncu svoje ugotovitve potrdimo z numeričnimi poskusi.

► BibTeX podatki

► Reference

[1] Zeyuan Allen-Zhu in Yuanzhi Li. Neon2: Iskanje lokalnih minimumov prek orakljev prvega reda. V Napredek v sistemih za obdelavo nevronskih informacij, strani 3716–3726, 2018. URL http:/​/​papers.neurips.cc/​paper/​7629-neon2-finding-local-minima-via-first-order-oracles. pdf. arXiv:1711.06673.
arXiv: 1711.06673
http://​/​papers.neurips.cc/​paper/​7629-neon2-finding-local-minima-via-first-order-oracles.pdf

[2] Animashree Anandkumar, Rong Ge, Daniel Hsu, Sham M Kakade in Matus Telgarsky. Tenzorske dekompozicije za učenje modelov latentnih spremenljivk. Journal of machine learning research, 15: 2773–2832, 2014. URL https://​/​jmlr.org/​papers/​volume15/​anandkumar14b/​. arXiv:1210.7559v4.
arXiv: 1210.7559v4
https://​/​jmlr.org/​papers/​volume15/​anandkumar14b/​

[3] Ben Andrews in Julie Clutterbuck. Dokaz domneve o temeljni vrzeli. Journal of the American Mathematical Society, 24 (3): 899–916, 2011. ISSN 08940347, 10886834. URL http:/​/​www.jstor.org/​stable/​23072145. arXiv:1006.1686.
arXiv: 1006.1686
http: / / www.jstor.org/ stable / 23072145

[4] Joran van Apeldoorn in András Gilyén. Izboljšave kvantnega reševanja SDP z aplikacijami. V zborniku 46. mednarodnega kolokvija o avtomatih, jezikih in programiranju, zvezek 132 Leibniz International Proceedings in Informatics (LIPIcs), strani 99:1–99:15. Schloss Dagstuhl–Leibniz-Zentrum fuer Informatik, 2019. 10.4230/​LIPIcs.ICALP.2019.99. arXiv:1804.05058.
https: / / doi.org/ 10.4230 / LIPIcs.ICALP.2019.99
arXiv: 1804.05058

[5] Joran van Apeldoorn, András Gilyén, Sander Gribling in Ronald de Wolf. Kvantni reševalci SDP: boljše zgornje in spodnje meje. V zborniku 58. letnega simpozija o temeljih računalništva. IEEE, 2017. 10.1109/​FOCS.2017.44. arXiv:1705.01843.
https: / / doi.org/ 10.1109 / FOCS.2017.44
arXiv: 1705.01843

[6] Joran van Apeldoorn, András Gilyén, Sander Gribling in Ronald de Wolf. Konveksna optimizacija z uporabo kvantnih orakljev. Quantum, 4: 220, 2020. 10.22331/​q-2020-01-13-220. arXiv:1809.00643.
https:/​/​doi.org/​10.22331/​q-2020-01-13-220
arXiv: 1809.00643

[7] Frank Arute, Kunal Arya, Ryan Babbush, Dave Bacon, Joseph C. Bardin, Rami Barends, Sergio Boixo, Michael Broughton, Bob B. Buckley, David A. Buell, Brian Burkett, Nicholas Bushnell, Yu Chen, Zijun Chen, Benjamin Chiaro , Roberto Collins, William Courtney, Sean Demura, Andrew Dunsworth, Edward Farhi, Austin Fowler, Brooks Foxen, Craig Gidney, Marissa Giustina, Rob Graff, Steve Habegger, Matthew P. Harrigan, Alan Ho, Sabrina Hong, Trent Huang, William J Huggins, Lev Ioffe, Sergej V. Isakov, Evan Jeffrey, Zhang Jiang, Cody Jones, Dvir Kafri, Kostyantyn Kechedzhi, Julian Kelly, Seon Kim, Paul V. Klimov, Alexander Korotkov, Fedor Kostritsa, David Landhuis, Pavel Laptev, Mike Lindmark, Erik Lucero, Orion Martin, John M. Martinis, Jarrod R. McClean, Matt McEwen, Anthony Megrant, Xiao Mi, Masoud Mohseni, Wojciech Mruczkiewicz, Josh Mutus, Ofer Naaman, Matthew Neeley, Charles Neill, Hartmut Neven, Murphy Yuezhen Niu, Thomas E. O'Brien, Eric Ostby, Andre Petukhov, Harald Putterman, Chris Quintana, Pedram Roushan, Nicholas C. Rubin, Daniel Sank, Kevin J. Satzinger, Vadim Smelyanskiy, Doug Strain, Kevin J. Sung, Marco Szalay , Tyler Y. Takeshita, Amit Vainsencher, Theodore White, Nathan Wiebe, Z. Jamie Yao, Ping Yeh in Adam Zalcman. Hartree-Fock na superprevodnem kvantnem računalniku qubit. Znanost, 369 (6507): 1084–1089, 2020. 10.1126/​science.abb9811. URL https://​/​science.sciencemag.org/​content/​369/​6507/​1084.abstract. arXiv:2004.04174.
https: / / doi.org/ 10.1126 / science.abb9811
arXiv: 2004.04174
https://​/​science.sciencemag.org/​content/​369/​6507/​1084.abstract

[8] Yosi Atia in Shantanav Chakraborty. Izboljšane zgornje meje za čase zadetkov kvantnih sprehodov. Physical Review A, 104: 032215, september 2021. ISSN 2469-9934. 10.1103/​physreva.104.032215. URL http://​/​dx.doi.org/​10.1103/​PhysRevA.104.032215. arXiv:2005.04062v5.
https: / / doi.org/ 10.1103 / physreva.104.032215
arXiv: 2005.04062v5

[9] Carlo Baldassi in Riccardo Zecchina. Učinkovitost kvantnega žarjenja v primerjavi s klasičnim pri nekonveksnih učnih problemih. Zbornik Nacionalne akademije znanosti, 115 (7): 1457–1462, januar 2018. ISSN 1091-6490. 10.1073/​pnas.1711456115. URL http://​/​dx.doi.org/​10.1073/​pnas.1711456115. arXiv:1706.08470.
https: / / doi.org/ 10.1073 / pnas.1711456115
arXiv: 1706.08470

[10] Charles H. Bennett, Ethan Bernstein, Gilles Brassard in Umesh Vazirani. Prednosti in slabosti kvantnega računalništva. SIAM Journal on Computing, 26 (5): 1510–1523, 1997. 10.1137/​S0097539796300933. URL https://​/​doi.org/​10.1137/​S0097539796300933. arXiv:quant-ph/​9701001.
https: / / doi.org/ 10.1137 / S0097539796300933
arXiv: kvant-ph / 9701001

[11] Michael Betancourt, Michael I. Jordan in Ashia C Wilson. O Simplektični optimizaciji, 2018. arXiv:1802.03653.
arXiv: 1802.03653

[12] Sergio Boixo in Rolando D. Somma. Nujen pogoj za kvantno adiabatni približek. Physical Review A, 81 (3): 032308, 2010. 10.1103/​PhysRevA.81.032308. URL https://​/​journals.aps.org/​pra/​abstract/​10.1103/​PhysRevA.81.032308. arXiv:0911.1362.
https: / / doi.org/ 10.1103 / PhysRevA.81.032308
arXiv: 0911.1362

[13] Fernando GSL Brandão in Krysta Svore. Kvantne pospešitve za poldefinitno programiranje. V zborniku 58. letnega simpozija o temeljih računalništva, strani 415–426, 2017. 10.1109/​FOCS.2017.45. arXiv:1609.05537.
https: / / doi.org/ 10.1109 / FOCS.2017.45
arXiv: 1609.05537

[14] Fernando GSL Brandão, Amir Kalev, Tongyang Li, Cedric Yen-Yu Lin, Krysta M. Svore in Xiaodi Wu. Kvantni reševalci SDP: velike pospešitve, optimalnost in aplikacije za kvantno učenje. V zborniku 46. mednarodnega kolokvija o avtomatih, jezikih in programiranju, zvezek 132 Leibniz International Proceedings in Informatics (LIPIcs), strani 27:1–27:14. Schloss Dagstuhl–Leibniz-Zentrum fuer Informatik, 2019. 10.4230/​LIPIcs.ICALP.2019.27. arXiv:1710.02581.
https: / / doi.org/ 10.4230 / LIPIcs.ICALP.2019.27
arXiv: 1710.02581

[15] Shouvanik Chakrabarti, Andrew M. Childs, Tongyang Li in Xiaodi Wu. Kvantni algoritmi in spodnje meje za konveksno optimizacijo. Quantum, 4: 221, 2020. 10.22331/​q-2020-01-13-221. arXiv:1809.01731.
https:/​/​doi.org/​10.22331/​q-2020-01-13-221
arXiv: 1809.01731

[16] Shantanav Chakraborty, Kyle Luh in Jérémie Roland. Kako hitro se mešajo kvantni sprehodi? Physical Review Letters, 124: 050501, februar 2020. 10.1103/​PhysRevLett.124.050501. URL https://​/​link.aps.org/​doi/​10.1103/​PhysRevLett.124.050501. arXiv:2001.06305v1.
https: / / doi.org/ 10.1103 / PhysRevLett.124.050501
arXiv: 2001.06305v1

[17] Pratik Chaudhari in Stefano Soatto. Stohastični gradientni spust izvaja variacijsko sklepanje, konvergira v omejitvene cikle za globoka omrežja. Leta 2018 delavnica informacijske teorije in aplikacij (ITA), strani 1–10, 2018. 10.1109/​ITA.2018.8503224. arXiv:1710.11029v2.
https://doi.org/ 10.1109/ITA.2018.8503224
arXiv: 1710.11029v2

[18] Andrew M. Childs, Richard Cleve, Enrico Deotto, Edward Farhi, Sam Gutmann in Daniel A. Spielman. Eksponentno algoritemsko pospeševanje s kvantnim sprehodom. V zborniku petintridesetega letnega simpozija ACM o teoriji računalništva, STOC '03, stran 59–68, New York, NY, ZDA, 2003. Združenje za računalniške stroje. ISBN 1581136749. 10.1145/780542.780552. URL https://​/​doi.org/​10.1145/​780542.780552. arXiv:quant-ph/​0209131v2.
https: / / doi.org/ 10.1145 / 780542.780552
arXiv: quant-ph / 0209131v2

[19] Andrew M. Childs, Jin-Peng Liu in Aaron Ostrander. Visoko natančni kvantni algoritmi za parcialne diferencialne enačbe. Quantum, 5: 574, november 2021. ISSN 2521-327X. 10.22331/​q-2021-11-10-574. URL http://​/​dx.doi.org/​10.22331/​q-2021-11-10-574. arXiv:2002.07868.
https:/​/​doi.org/​10.22331/​q-2021-11-10-574
arXiv: 2002.07868

[20] Pierre Comon, Xavier Luciani in André LF De Almeida. Tenzorske razgradnje, izmenični najmanjši kvadrati in druge zgodbe. Journal of Chemometrics, 23: 393–405, avgust 2009. 10.1002/​cem.1236. URL https://​/​hal.archives-ouvertes.fr/​hal-00410057.
https://​/​doi.org/​10.1002/​cem.1236
https: / / hal.archives-ouvertes.fr/ hal-00410057

[21] Pedro CS Costa, Stephen Jordan in Aaron Ostrander. Kvantni algoritem za simulacijo valovne enačbe. Physical Review A, 99: 012323, januar 2019. 10.1103/​PhysRevA.99.012323. URL https://​/​link.aps.org/​doi/​10.1103/​PhysRevA.99.012323. arXiv:1711.05394.
https: / / doi.org/ 10.1103 / PhysRevA.99.012323
arXiv: 1711.05394

[22] Christopher Criscitiello in Nicolas Boumal. Negativna ukrivljenost ovira pospešek za geodetsko konveksno optimizacijo, tudi z natančnimi oraklji prvega reda, 2021. arXiv:2111.13263.
arXiv: 2111.13263

[23] Elizabeth Crosson in Aram W. Harrow. Simulirano kvantno žarjenje je lahko eksponentno hitrejše od klasičnega simuliranega žarjenja. Leta 2016 IEEE 57th Annual Symposium on Foundations of Computer Science (FOCS), strani 714–723. IEEE, oktober 2016. 10.1109/​focs.2016.81. URL http://​/​dx.doi.org/​10.1109/​FOCS.2016.81. arXiv:1601.03030.
https: / / doi.org/ 10.1109 / focs.2016.81
arXiv: 1601.03030

[24] Mouez Dimassi in Johannes Sjöstrand. Spektralna asimptotika v polklasični meji. London Mathematical Society Lecture Note Series. Cambridge University Press, 1999. 10.1017/​CBO9780511662195.
https: / / doi.org/ 10.1017 / CBO9780511662195

[25] Felix Draxler, Kambis Veschgini, Manfred Salmhofer in Fred Hamprecht. V bistvu ni ovir v energijski krajini nevronske mreže. Na mednarodni konferenci o strojnem učenju, strani 1309–1318. PMLR, 2018. URL http://​/​proceedings.mlr.press/​v80/​draxler18a.html. arXiv:1803.00885.
arXiv: 1803.00885
http://​/​proceedings.mlr.press/​v80/​draxler18a.html

[26] Runyao Duan. Ponovni pregled kvantnega adiabatnega izreka, 2020. arXiv:2003.03063v1.
arXiv: 2003.03063v1

[27] John Duchi, Elad Hazan in Yoram Singer. Prilagodljive subgradientne metode za spletno učenje in stohastično optimizacijo. Journal of Machine Learning Research, 12 (61): 2121–2159, 2011. URL https:/​/​www.jmlr.org/​papers/​volume12/​duchi11a/​duchi11a.pdf.
https://​/​www.jmlr.org/​papers/​volume12/​duchi11a/​duchi11a.pdf

[28] Sepehr Ebadi, Tout T. Wang, Harry Levine, Alexander Keesling, Giulia Semeghini, Ahmed Omran, Dolev Bluvstein, Rhine Samajdar, Hannes Pichler, Wen Wei Ho, Soonwon Choi, Subir Sachdev, Markus Greiner, Vladan Vuletić in Mikhail D. Lukin . Kvantne faze snovi na 256-atomskem programabilnem kvantnem simulatorju. Narava, 595 (7866): 227–232, 2021. 10.1038/​s41586-021-03582-4. URL https://​/​www.nature.com/​articles/​s41586-021-03582-4.
https:/​/​doi.org/​10.1038/​s41586-021-03582-4
https: / / www.nature.com/ Članki / s41586-021-03582-4

[29] Cong Fang, Chris Junchi Li, Zhouchen Lin in Tong Zhang. Spider: Skoraj optimalna nekonveksna optimizacija prek stohastičnega diferencialnega ocenjevalca, integriranega v pot. V Napredek v sistemih za obdelavo nevronskih informacij, strani 689–699, 2018. URL https:/​/​dl.acm.org/​doi/​abs/​10.5555/​3326943.3327007. arXiv:1807.01695.
arXiv: 1807.01695
https: / / dl.acm.org/ doi / abs / 10.5555 / 3326943.3327007

[30] Cong Fang, Zhouchen Lin in Tong Zhang. Ostra analiza za nekonveksni SGD, ki uhaja iz sedla. Na konferenci o teoriji učenja, strani 1192–1234, 2019. URL http:/​/​proceedings.mlr.press/​v99/​fang19a.html. arXiv:1902.00247.
arXiv: 1902.00247
http://​/​proceedings.mlr.press/​v99/​fang19a.html

[31] Edward Farhi, Jeffrey Goldstone, Sam Gutmann, Joshua Lapan, Andrew Lundgren in Daniel Preda. Algoritem kvantne adiabatne evolucije, uporabljen za naključne primere NP-popolnega problema. Science, 292 (5516): 472–475, april 2001. ISSN 1095-9203. 10.1126/​znanost.1057726. URL http://​/​dx.doi.org/​10.1126/​science.1057726. arXiv:quant-ph/​0104129.
https: / / doi.org/ 10.1126 / znanost.1057726
arXiv: kvant-ph / 0104129

[32] AB Finnila, MA Gomez, C. Sebenik, C. Stenson in JD Doll. Kvantno žarjenje: Nova metoda za minimiziranje večdimenzionalnih funkcij. Chemical Physics Letters, 219 (5-6): 343–348, marec 1994. ISSN 0009-2614. 10.1016/​0009-2614(94)00117-0. URL http://​/​dx.doi.org/​10.1016/​0009-2614(94)00117-0. arXiv:chem-ph/​9404003.
https:/​/​doi.org/​10.1016/​0009-2614(94)00117-0
arXiv:chem-ph/9404003

[33] Mauger François. Simplektična shema skakalnice, 2020. URL https:/​/​www.mathworks.com/​matlabcentral/​fileexchange/​38652-symplectic-leap-frog-scheme. https: /​/​www.mathworks.com /​matlabcentral /​fileexchange /​38652-symplectic-leap-frog-scheme.
https://​/​www.mathworks.com/​matlabcentral/​fileexchange/​38652-symplectic-leap-frog-scheme

[34] Alan Frieze, Mark Jerrum in Ravi Kannan. Učenje linearnih transformacij. V zborniku 37. konference o temeljih računalništva, strani 359–368, 1996. 10.1109/​SFCS.1996.548495.
https: / / doi.org/ 10.1109 / SFCS.1996.548495

[35] Timur Garipov, Pavel Izmailov, Dmitrij Podoprikhin, Dmitrij Vetrov in Andrew Gordon Wilson. Površine izgube, način povezljivosti in hitro sestavljanje DNN-jev. V Napredek v sistemih za obdelavo nevronskih informacij, strani 8803–8812, 2018. URL https:/​/​dl.acm.org/​doi/​abs/​10.5555/​3327546.3327556. arXiv:1802.10026.
arXiv: 1802.10026
https: / / dl.acm.org/ doi / abs / 10.5555 / 3327546.3327556

[36] Rong Ge in Tengyu Ma. O optimizacijski pokrajini tenzorskih dekompozicij. Matematično programiranje, strani 1–47, 2020. ISSN 1436-4646. 10.1007/​s10107-020-01579-x. URL https://​/​doi.org/​10.1007/​s10107-020-01579-x. arXiv:1706.05598v1.
https: / / doi.org/ 10.1007 / s10107-020-01579-x
arXiv: 1706.05598v1

[37] Rong Ge, Furong Huang, Chi Jin in Yang Yuan. Pobeg iz sedlnih točk – spletni stohastični gradient za tenzorsko razgradnjo. V zborniku 28. konference o teoriji učenja, zvezek 40 Zbornika raziskav strojnega učenja, strani 797–842, 2015. URL http:/​/​proceedings.mlr.press/​v40/​Ge15. arXiv:1503.02101.
arXiv: 1503.02101
http://​/​proceedings.mlr.press/​v40/​Ge15

[38] Rong Ge, Jason D. Lee in Tengyu Ma. Dokončanje matrike nima lažnega lokalnega minimuma. V Napredek v sistemih za obdelavo nevronskih informacij, strani 2981–2989, 2016. URL https:/​/​dl.acm.org/​doi/​abs/​10.5555/​3157382.3157431. arXiv:1605.07272.
arXiv: 1605.07272
https: / / dl.acm.org/ doi / abs / 10.5555 / 3157382.3157431

[39] Ming Gong, Shiyu Wang, Chen Zha, Ming-Cheng Chen, He-Liang Huang, Yulin Wu, Qingling Zhu, Youwei Zhao, Shaowei Li, Shaojun Guo, Haoran Qian, Yangsen Ye, Fusheng Chen, Chong Ying, Jiale Yu, Daojin Fan, Dachao Wu, Hong Su, Hui Deng, Hao Rong, Kaili Zhang, Sirui Cao, Jin Lin, Yu Xu, Lihua Sun, Cheng Guo, Na Li, Futian Liang, VM Bastidas, Kae Nemoto, WJ Munro, Yong-Heng Huo, Chao-Yang Lu, Cheng-Zhi Peng, Xiaobo Zhu in Jian-Wei Pan. Quantum se sprehodi po programabilnem dvodimenzionalnem 62-qubitnem superprevodnem procesorju. Znanost, 372 (6545): 948–952, 2021. 10.1126/​science.abg7812. URL https://​/​science.sciencemag.org/​content/​372/​6545/​948.abstract. arXiv:2102.02573.
https://doi.org/ 10.1126/science.abg7812
arXiv: 2102.02573
https://​/​science.sciencemag.org/​content/​372/​6545/​948.abstract

[40] Stephen K. Gray in David E. Manolopoulos. Simplektični integratorji, prilagojeni časovno odvisni schrödingerjevi enačbi. The Journal of Chemical Physics, 104 (18): 7099–7112, 1996. 10.1063/​1.471428. URL https://​/​doi.org/​10.1063/​1.471428.
https: / / doi.org/ 10.1063 / 1.471428

[41] Bernard Helffer. Polklasična analiza za Schrödingerjev operator in aplikacije. Zapiski predavanj pri matematiki. Springer, 1988. 10.1007/​BFb0078115.
https: / / doi.org/ 10.1007 / BFb0078115

[42] Bernard Helffer in Johannes Sjöstrand. Več vrtin v polklasični meji I. Komunikacije v parcialnih diferencialnih enačbah, 9 (4): 337–408, 1984. 10.1080/​03605308408820335.
https: / / doi.org/ 10.1080 / 03605308408820335

[43] Bernard Helffer in Johannes Sjöstrand. Več vrtin v polklasični meji III – interakcija skozi neresonančne vrtine. Mathematische Nachrichten, 124 (1): 263–313, 1985. https://​/​doi.org/​10.1002/​mana.19851240117. URL https://​/​onlinelibrary.wiley.com/​doi/​abs/​10.1002/​mana.19851240117.
https://​/​doi.org/​10.1002/​mana.19851240117

[44] Sepp Hochreiter. Problem izginjajočega gradienta med učenjem ponavljajočih se nevronskih mrež in rešitev problemov. International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems, 6 (02): 107–116, 1998. 10.1142/​S0218488598000094. URL https://​/​dl.acm.org/​doi/​abs/​10.1142/​S0218488598000094.
https: / / doi.org/ 10.1142 / S0218488598000094

[45] Aapo Hyvarinen. Hitra ICA za hrupne podatke z uporabo gaussovih momentov. Leta 1999 Mednarodni simpozij IEEE o vezjih in sistemih (ISCAS), zvezek 5, strani 57–61, 1999. 10.1109/ISCAS.1999.777510.
https://​/​doi.org/​10.1109/​ISCAS.1999.777510

[46] Frédéric Hérau, Michael Hitrik in Johannes Sjöstrand. Učinek tunela in simetrije za operatorje kramers–fokker–planck. Revija Inštituta za matematiko Jussieu, 10 (3): 567–634, 2011. 10.1017/​S1474748011000028.
https: / / doi.org/ 10.1017 / S1474748011000028

[47] Chi Jin, Rong Ge, Praneeth Netrapalli, Sham M. Kakade in Michael I. Jordan. Kako učinkovito pobegniti iz sedla. V zborniku 34. mednarodne konference o strojnem učenju, zvezek 70, strani 1724–1732, 2017. URL http:/​/​proceedings.mlr.press/​v70/​jin17a. arXiv:1703.00887.
arXiv: 1703.00887
http://​/​proceedings.mlr.press/​v70/​jin17a

[48] Chi Jin, Lydia T. Liu, Rong Ge in Michael I. Jordan. O lokalnih minimumih empiričnega tveganja. V Napredek v sistemih za obdelavo nevronskih informacij, zvezek 31, stran 4901–4910. Curran Associates, Inc., 2018. URL https://​/​proceedings.neurips.cc/​paper/​2018/​file/​da4902cb0bc38210839714ebdcf0efc3-Paper.pdf. arXiv:1803.09357.
arXiv: 1803.09357
https:/​/​proceedings.neurips.cc/​paper/​2018/​file/​da4902cb0bc38210839714ebdcf0efc3-Paper.pdf

[49] Chi Jin, Praneeth Netrapalli, Rong Ge, Sham M Kakade in Michael I. Jordan. O nekonveksni optimizaciji za strojno učenje: Gradienti, stohastičnost in sedlne ​​točke. Journal of the ACM (JACM), 68 (2): 1–29, 2021. 10.1145/​3418526. URL https://​/​dl.acm.org/​doi/​abs/​10.1145/​3418526. arXiv:1902.04811.
https: / / doi.org/ 10.1145 / 3418526
arXiv: 1902.04811

[50] Michael I. Jordan. Dinamične, simplektične in stohastične perspektive gradientne optimizacije. V zborniku Mednarodnega kongresa matematikov: Rio de Janeiro 2018, strani 523–549. World Scientific, 2018. URL https://​/​doi.org/​10.1142/​9789813272880_0022.
https: / / doi.org/ 10.1142 / 9789813272880_0022

[51] Kenji Kawaguchi, Jiaoyang Huang in Leslie Pack Kaelbling. Vsaka lokalna najmanjša vrednost je globalna najmanjša vrednost induciranega modela v nekonveksnem strojnem učenju. Nevronsko računalništvo, 31 (12): 2293–2323, 12. 2019. ISSN 0899-7667. 10.1162/neco_a_01234. URL https://​/​doi.org/​10.1162/​neco_a_01234. arXiv:1904.03673v3.
https://​/​doi.org/​10.1162/​neco_a_01234
arXiv: 1904.03673v3

[52] Diederik P. Kingma in Jimmy Ba. Adam: Metoda za stohastično optimizacijo. Na 3. mednarodni konferenci za predstavitve učenja, 2015. URL https:/​/​openreview.net/​forum?id=8gmWwjFyLj. arXiv:1412.6980.
arXiv: 1412.6980
https://​/​openreview.net/​forum?id=8gmWwjFyLj

[53] Aleksej Kitajev in William A. Webb. Priprava valovne funkcije in ponovno vzorčenje z uporabo kvantnega računalnika, 2008. arXiv:0801.0342.
arXiv: 0801.0342

[54] Bobby Kleinberg, Yuanzhi Li in Yang Yuan. Alternativni pogled: Kdaj SGD uide lokalnim minimumom? Na mednarodni konferenci o strojnem učenju, strani 2698–2707. PMLR, 2018. URL http://​/​proceedings.mlr.press/​v80/​kleinberg18a.html. arXiv:1802.06175.
arXiv: 1802.06175
http://​/​proceedings.mlr.press/​v80/​kleinberg18a.html

[55] Guy Kornowski in Ohad Shamir. Kompleksnost Oracla pri negladki nekonveksni optimizaciji. V Napredek v sistemih za obdelavo nevronskih informacij, 2021. URL https:/​/​openreview.net/​forum?id=aMZJBOiOOPg. arXiv:2104.06763v2.
arXiv: 2104.06763v2
https://​/​openreview.net/​forum?id=aMZJBOiOOPg

[56] Rohith Kuditipudi, Xiang Wang, Holden Lee, Yi Zhang, Zhiyuan Li, Wei Hu, Rong Ge in Sanjeev Arora. Razlaga pokrajinske povezljivosti nizkocenovnih rešitev za večslojne mreže. Advances in Neural Information Processing Systems, 32: 14601–14610, 2019. URL http:/​/​papers.nips.cc/​paper/​9602-explaining-landscape-connectivity-of-low-cost-solutions-for- večplastne mreže. arXiv:1906.06247.
arXiv: 1906.06247
http://​/​papers.nips.cc/​paper/​9602-explaining-landscape-connectivity-of-low-cost-solutions-for-multilayer-nets

[57] Harold J. Kushner in G. George Yin. Stohastični približek in rekurzivni algoritmi in aplikacije, zvezek 35. Springer Science & Business Media, 2003. 10.1007/978-1-4471-4285-0_3.
https:/​/​doi.org/​10.1007/​978-1-4471-4285-0_3

[58] Keren Li, Shijie Wei, Pan Gao, Feihao Zhang, Zengrong Zhou, Tao Xin, Xiaoting Wang, Patrick Rebentrost in Guilu Long. Optimizacija polinomske funkcije na kvantnem procesorju. npj Kvantne informacije, 7 (1): 1–7, 2021a. 10.1038/​s41534-020-00351-5. arXiv:1804.05231.
https:/​/​doi.org/​10.1038/​s41534-020-00351-5
arXiv: 1804.05231

[59] Zhiyuan Li, Sadhika Malladi in Sanjeev Arora. O veljavnosti modeliranja SGD s stohastičnimi diferencialnimi enačbami (SDE). V Napredek v sistemih za obdelavo nevronskih informacij, 2021b. URL https://​/​openreview.net/​forum?id=goEdyJ_nVQI. arXiv:2102.12470.
arXiv: 2102.12470
https://​/​openreview.net/​forum?id=goEdyJ_nVQI

[60] Guang Hao Low in Nathan Wiebe. Hamiltonova simulacija v interakcijski sliki, 2019. URL https://​/​arxiv.org/​abs/​1805.00675v2. arXiv:1805.00675v2.
arXiv: 1805.00675v2

[61] Cong Ma, Kaizheng Wang, Yuejie Chi in Yuxin Chen. Implicitna regulacija v nekonveksni statistični oceni: Gradientni spust konvergira linearno za fazno iskanje in dokončanje matrike. Na mednarodni konferenci o strojnem učenju, strani 3345–3354. PMLR, 2018. URL http://​/​proceedings.mlr.press/​v80/​ma18c.html. arXiv:1711.10467.
arXiv: 1711.10467
http://​/​proceedings.mlr.press/​v80/​ma18c.html

[62] Tengyu Ma. Zakaj lokalne metode rešujejo nekonveksne probleme?, strani 465–485. Cambridge University Press, 2021. 10.1017/​9781108637435.027. arXiv:2103.13462.
https: / / doi.org/ 10.1017 / 9781108637435.027
arXiv: 2103.13462

[63] Yi-An Ma, Yuansi Chen, Chi Jin, Nicolas Flammarion in Michael I. Jordan. Vzorčenje je lahko hitrejše od optimizacije. Proceedings of the National Academy of Sciences, 116 (42): 20881–20885, 2019. URL https:/​/​www.pnas.org/​content/​116/​42/​20881.short. arXiv:.
https: / / doi.org/ 10.1073 / pnas.1820003116
https://​/​www.pnas.org/​content/​116/​42/​20881.short

[64] Peter A. Markowich in Cédric Villani. O trendu k ravnotežju za Fokker-Planckovo enačbo: preplet med fiziko in funkcionalno analizo. V fiziki in funkcionalni analizi, Matematica Contemporanea (SBM) 19. Citeseer, 1999. URL http:/​/​citeseerx.ist.psu.edu/​viewdoc/​summary?doi=10.1.1.35.2278.
http://​/​citeseerx.ist.psu.edu/​viewdoc/​summary?doi=10.1.1.35.2278

[65] Laurent Michel. O majhnih lastnih vrednostih Wittenovega Laplaciana. Pure and Applied Analysis, 1 (2): 149 – 206, 2019. 10.2140/paa.2019.1.149. URL https://​/​doi.org/​10.2140/​paa.2019.1.149. arXiv:1702.01837.
https://​/​doi.org/​10.2140/​paa.2019.1.149
arXiv: 1702.01837

[66] Siddharth Muthukrishnan, Tameem Albash in Daniel A. Lidar. Tuneliranje in pospeševanje kvantne optimizacije za permutacijsko-simetrične probleme. Physical Review X, 6: 031010, julij 2016. ISSN 2160-3308. 10.1103/​physrevx.6.031010. URL http://​/​dx.doi.org/​10.1103/​PhysRevX.6.031010. arXiv:1511.03910.
https: / / doi.org/ 10.1103 / physrevx.6.031010
arXiv: 1511.03910

[67] Quynh Nguyen. O povezanih podnivojskih nizih v globokem učenju. Na mednarodni konferenci o strojnem učenju, strani 4790–4799. PMLR, 2019. URL http://​/​proceedings.mlr.press/​v97/​nguyen19a.html. arXiv:1901.07417.
arXiv: 1901.07417
http://​/​proceedings.mlr.press/​v97/​nguyen19a.html

[68] Michael A. Nielsen in Isaac L. Chuang. Kvantno računanje in kvantne informacije: izdaja 10. obletnice. Cambridge University Press, 2010. 10.1017 / CBO9780511976667.
https: / / doi.org/ 10.1017 / CBO9780511976667

[69] Grigorios A. Pavliotis. Stohastični procesi in aplikacije: difuzijski procesi, Fokker-Planckove in Langevinove enačbe, zvezek 60. Springer, 2014. 10.1007/978-1-4939-1323-7.
https:/​/​doi.org/​10.1007/​978-1-4939-1323-7

[70] Qing Qu, Yuexiang Zhai, Xiao Li, Yuqian Zhang in Zhihui Zhu. Analiza optimizacijskih pokrajin za učenje prekomerne reprezentacije, 2019. arXiv:1912.02427.
arXiv: 1912.02427

[71] Gianluca Rastelli. Polklasična formula za kvantno tuneliranje v asimetričnih potencialih z dvojnimi jamicami. Physical Review A, 86: 012106, julij 2012. 10.1103/​PhysRevA.86.012106. URL https://​/​link.aps.org/​doi/​10.1103/​PhysRevA.86.012106. arXiv:1205.0366.
https: / / doi.org/ 10.1103 / PhysRevA.86.012106
arXiv: 1205.0366

[72] Arthur G. Rattew, Yue Sun, Pierre Minssen in Marco Pistoia. Učinkovita priprava normalnih porazdelitev v kvantnih registrih. Quantum, 5: 609, 2021. 10.22331/​q-2021-12-23-609. URL https://​/​quantum-journal.org/​papers/​q-2021-12-23-609/​. arXiv:2009.06601.
https:/​/​doi.org/​10.22331/​q-2021-12-23-609
arXiv: 2009.06601
https: / / quantum-journal.org/ papers / q-2021-12-23-609 /

[73] Patrick Rebentrost, Maria Schuld, Leonard Wossnig, Francesco Petruccione in Seth Lloyd. Kvantni gradientni spust in Newtonova metoda za omejeno polinomsko optimizacijo. New Journal of Physics, 21 (7): 073023, 2019. 10.1088/​1367-2630/​ab2a9e. arXiv:1612.01789.
https:/​/​doi.org/​10.1088/​1367-2630/​ab2a9e
arXiv: 1612.01789

[74] Burak Şahinoğlu in Rolando D. Somma. Hamiltonova simulacija v nizkoenergijskem podprostoru. npj Kvantne informacije, 7 (1): 1–5, 2021. 10.1038/​s41534-021-00451-w. URL https://​/​www.nature.com/​articles/​s41534-021-00451-w. arXiv:2006.02660.
https: / / doi.org/ 10.1038 / s41534-021-00451-w
arXiv: 2006.02660
https://​/​www.nature.com/​articles/​s41534-021-00451-w

[75] JM Schmidt, AN Cleland in John Clarke. Resonančno tuneliranje v Josephsonovih spojih z majhnim tokovnim prednapetjem. Physical Review B, 43: 229–238, januar 1991. 10.1103/​PhysRevB.43.229. URL https://​/​link.aps.org/​doi/​10.1103/​PhysRevB.43.229.
https: / / doi.org/ 10.1103 / PhysRevB.43.229

[76] Aleksander Ševčenko in Marco Mondelli. Krajinska povezljivost in stabilnost osipa rešitev SGD za preveč parametrizirane nevronske mreže. Na mednarodni konferenci o strojnem učenju, strani 8773–8784. PMLR, 2020. URL http://​/​proceedings.mlr.press/​v119/​shevchenko20a.html. arXiv:1912.10095.
arXiv: 1912.10095
http://​/​proceedings.mlr.press/​v119/​shevchenko20a.html

[77] Bin Shi, Weijie J. Su in Michael I. Jordan. O stopnjah učenja in Schrödingerjevih operaterjih, 2020. arXiv:2004.06977.
arXiv: 2004.06977

[78] Bin Shi, Simon S. Du, Michael I. Jordan in Weijie J. Su. Razumevanje pojava pospeška prek diferencialnih enačb visoke ločljivosti. Matematično programiranje, strani 1–70, 2021. 10.1007/​s10107-021-01681-8. URL https://​/​doi.org/​10.1007/​s10107-021-01681-8. arXiv:1810.08907.
https:/​/​doi.org/​10.1007/​s10107-021-01681-8
arXiv: 1810.08907

[79] Weijie Su, Stephen Boyd in Emmanuel J. Candes. Diferencialna enačba za modeliranje Nesterovljeve pospešene gradientne metode: teorija in vpogled. The Journal of Machine Learning Research, 17 (1): 5312–5354, 2016. 10.5555/​2946645.3053435. URL https://​/​dl.acm.org/​doi/​abs/​10.5555/​2946645.3053435. arXiv:1503.01243.
https: / / doi.org/ 10.5555 / 2946645.3053435
arXiv: 1503.01243

[80] Ruoyu Sun. Optimizacija za globoko učenje: teorija in algoritmi, 2019. arXiv:1912.08957.
arXiv: 1912.08957

[81] Kunal Talwar. Računske ločitve med vzorčenjem in optimizacijo. Advances in Neural Information Processing Systems, 32: 15023–15033, 2019. URL http:/​/​papers.nips.cc/​paper/​9639-computational-separations-between-sampling-and-optimization. arXiv:1911.02074.
arXiv: 1911.02074
http://​/​papers.nips.cc/​paper/​9639-computational-separations-between-sampling-and-optimization

[82] Hao Tang, Xiao-Feng Lin, Zhen Feng, Jing-Yuan Chen, Jun Gao, Ke Sun, Chao-Yue Wang, Peng-Cheng Lai, Xiao-Yun Xu, Yao Wang, Lu-Feng Qiao, Ai-Lin Yang, in Xian-Min Jin. Eksperimentalni dvodimenzionalni kvantni sprehod po fotonskem čipu. Znanost napreduje, 4 (5): eaat3174, 2018. 10.1126/​sciadv.aat3174. URL https://​/​www.science.org/​doi/​10.1126/​sciadv.aat3174. arXiv:1704.08242.
https: / / doi.org/ 10.1126 / sciadv.aat3174
arXiv: 1704.08242

[83] Cédric Villani. Hipokoercitivnost, zvezek 202 Spominov Ameriškega matematičnega društva. American Mathematical Society, 2009. 10.1090/​S0065-9266-09-00567-5. arXiv:math/​0609050.
https:/​/​doi.org/​10.1090/​S0065-9266-09-00567-5
arXiv: matematika / 0609050

[84] Andre Wibisono, Ashia C. Wilson in Michael I. Jordan. Različni pogled na pospešene metode v optimizaciji. Zbornik Nacionalne akademije znanosti, 113 (47): E7351–E7358, 2016. 10.1073/​pnas.1614734113. URL https://​/​doi.org/​10.1073/​pnas.1614734113. arXiv:1603.04245.
https: / / doi.org/ 10.1073 / pnas.1614734113
arXiv: 1603.04245

[85] Chenyi Zhang in Tongyang Li. Izognite sedlom s preprostim algoritmom, ki temelji na gradientnem spustu. V Napredek v sistemih za obdelavo nevronskih informacij, zvezek 34, 2021. URL https:/​/​openreview.net/​forum?id=lEf52hTHq0Q. arXiv:2111.14069.
arXiv: 2111.14069
https://​/​openreview.net/​forum?id=lEf52hTHq0Q

[86] Chenyi Zhang, Jiaqi Leng in Tongyang Li. Kvantni algoritmi za pobeg iz sedla. Quantum, 5: 529, 2021a. 10.22331/​q-2021-08-20-529. arXiv:2007.10253.
https:/​/​doi.org/​10.22331/​q-2021-08-20-529
arXiv: 2007.10253

[87] Kaining Zhang, Min-Hsiu Hsieh, Liu Liu in Dacheng Tao. Kvantni algoritem za iskanje negativne smeri ukrivljenosti pri nekonveksni optimizaciji, 2019. arXiv:1909.07622.
arXiv: 1909.07622

[88] Yuqian Zhang, Qing Qu in John Wright. Od simetrije do geometrije: sledljivi nekonveksni problemi, 2021b. arXiv:2007.06753.
arXiv: 2007.06753

Navedel

[1] Weiyuan Gong, Chenyi Zhang in Tongyang Li, "Robustness of Quantum Algorithms for Nonconvex Optimization", arXiv: 2212.02548, (2022).

Zgornji citati so iz SAO / NASA ADS (zadnjič posodobljeno 2023-06-02 12:31:17). Seznam je morda nepopoln, saj vsi založniki ne dajejo ustreznih in popolnih podatkov o citiranju.

Pridobitve ni bilo mogoče Crossref citirani podatki med zadnjim poskusom 2023-06-02 12:31:15: Citiranih podatkov za 10.22331 / q-2023-06-02-1030 od Crossrefa ni bilo mogoče pridobiti. To je normalno, če je bil DOI registriran pred kratkim.

Ta dokument je objavljen v Quantumu pod Priznanje avtorstva Creative Commons 4.0 International (CC BY 4.0) licenca. Avtorske pravice ostajajo pri izvirnih imetnikih avtorskih pravic, kot so avtorji ali njihove ustanove.

Časovni žig:

Več od Quantum Journal