1Dipartimento di Ingegneria Meccanica, Università Tsinghua, 100084 Pechino, Cina
2Dipartimento di statistica e scienza dei dati, Università della Pennsylvania
3Centro sulle frontiere degli studi informatici, Università di Pechino, 100871 Pechino, Cina
4Scuola di Informatica, Università di Pechino, 100871 Pechino, Cina
Trovi questo documento interessante o vuoi discuterne? Scrivi o lascia un commento su SciRate.
Astratto
Gli algoritmi classici spesso non sono efficaci per risolvere problemi di ottimizzazione non convessi in cui i minimi locali sono separati da barriere elevate. In questo articolo esploriamo possibili accelerazioni quantistiche per l'ottimizzazione non convessa sfruttando l'effetto globale del tunneling quantistico. Nello specifico, introduciamo un algoritmo quantistico chiamato quantum tunneling walk (QTW) e lo applichiamo a problemi non convessi in cui i minimi locali sono approssimativamente minimi globali. Mostriamo che QTW raggiunge un aumento quantico rispetto alle classiche discese stocastiche del gradiente (SGD) quando le barriere tra i diversi minimi locali sono alte ma sottili e i minimi sono piatti. Sulla base di questa osservazione, costruiamo uno specifico panorama a doppio pozzo, in cui gli algoritmi classici non possono colpire in modo efficiente un bersaglio conoscendo bene l'altro, ma QTW può farlo quando vengono forniti stati iniziali adeguati vicino al pozzo noto. Infine, confermiamo i nostri risultati con esperimenti numerici.
[Contenuto incorporato]
Riepilogo popolare
► dati BibTeX
► Riferimenti
, Zeyuan Allen-Zhu e Yuanzhi Li. Neon2: Trovare i minimi locali tramite oracoli del primo ordine. In Advances in Neural Information Processing Systems, pagine 3716–3726, 2018. URL http:///papers.neurips.cc/paper/7629-neon2-finding-local-minima-via-first-order-oracles. PDF. arXiv:1711.06673.
arXiv: 1711.06673
http:///papers.neurips.cc/paper/7629-neon2-finding-local-minima-via-first-order-oracles.pdf
, Animashree Anandkumar, Rong Ge, Daniel Hsu, Sham M Kakade e Matus Telgarsky. Decomposizioni tensoriali per l'apprendimento di modelli a variabili latenti. Journal of machine learning Research, 15: 2773–2832, 2014. URL https:///jmlr.org/papers/volume15/anandkumar14b/. arXiv:1210.7559v4.
arXiv: 1210.7559v4
https:///jmlr.org/papers/volume15/anandkumar14b/
, Ben Andrews e Julie Clutterbuck. Dimostrazione della congettura del gap fondamentale. Journal of the American Mathematical Society, 24 (3): 899–916, 2011. ISSN 08940347, 10886834. URL http:///www.jstor.org/stable/23072145. arXiv:1006.1686.
arXiv: 1006.1686
http: / / www.jstor.org/ stabile / 23072145
, Joran van Apeldoorn e András Gilyén. Miglioramenti nella risoluzione quantistica dell'SDP con le applicazioni. In Atti del 46° Colloquio Internazionale su Automi, Linguaggi e Programmazione, volume 132 di Leibniz International Proceedings in Informatics (LIPIcs), pagine 99:1–99:15. Schloss Dagstuhl–Leibniz-Zentrum fuer Informatik, 2019. 10.4230/LIPIcs.ICALP.2019.99. arXiv:1804.05058.
https: / / doi.org/ 10.4230 / LIPIcs.ICALP.2019.99
arXiv: 1804.05058
, Joran van Apeldoorn, András Gilyén, Sander Gribling e Ronald de Wolf. Risolutori SDP quantistici: limiti superiori e inferiori migliori. Negli Atti del 58° Simposio annuale sui fondamenti dell'informatica. IEEE, 2017/FOCS.10.1109. arXiv:2017.44.
https: / / doi.org/ 10.1109 / FOCS.2017.44
arXiv: 1705.01843
, Joran van Apeldoorn, András Gilyén, Sander Gribling e Ronald de Wolf. Ottimizzazione convessa utilizzando oracoli quantistici. Quantistica, 4: 220, 2020. 10.22331/q-2020-01-13-220. arXiv:1809.00643.
https://doi.org/10.22331/q-2020-01-13-220
arXiv: 1809.00643
, Frank Arute, Kunal Arya, Ryan Babbush, Dave Bacon, Joseph C. Bardin, Rami Barends, Sergio Boixo, Michael Broughton, Bob B. Buckley, David A. Buell, Brian Burkett, Nicholas Bushnell, Yu Chen, Zijun Chen, Benjamin Chiaro , Roberto Collins, William Courtney, Sean Demura, Andrew Dunsworth, Edward Farhi, Austin Fowler, Brooks Foxen, Craig Gidney, Marissa Giustina, Rob Graff, Steve Habegger, Matthew P. Harrigan, Alan Ho, Sabrina Hong, Trent Huang, William J Huggins, Lev Ioffe, Sergei V. Isakov, Evan Jeffrey, Zhang Jiang, Cody Jones, Dvir Kafri, Kostyantyn Kechedzhi, Julian Kelly, Seon Kim, Paul V. Klimov, Alexander Korotkov, Fedor Kostritsa, David Landhuis, Pavel Laptev, Mike Lindmark, Erik Lucero, Orion Martin, John M. Martinis, Jarrod R. McClean, Matt McEwen, Anthony Megrant, Xiao Mi, Masoud Mohseni, Wojciech Mruczkiewicz, Josh Mutus, Ofer Naaman, Matthew Neeley, Charles Neill, Hartmut Neven, Murphy Yuezhen Niu, Thomas E. O'Brien, Eric Ostby, Andre Petukhov, Harald Putterman, Chris Quintana, Pedram Roushan, Nicholas C. Rubin, Daniel Sank, Kevin J. Satzinger, Vadim Smelyanskiy, Doug Strain, Kevin J. Sung, Marco Szalay , Tyler Y. Takeshita, Amit Vainsencher, Theodore White, Nathan Wiebe, Z. Jamie Yao, Ping Yeh e Adam Zalcman. Hartree-Fock su un computer quantistico a qubit superconduttore. Science, 369 (6507): 1084–1089, 2020. 10.1126/science.abb9811. URL https:///science.sciencemag.org/content/369/6507/1084.abstract. arXiv:2004.04174.
https: / / doi.org/ 10.1126 / science.abb9811
arXiv: 2004.04174
https:///science.sciencemag.org/content/369/6507/1084.abstract
, Yosi Atia e Shantanav Chakraborty. Limiti superiori migliorati per i tempi di raggiungimento delle passeggiate quantistiche. Physical Review A, 104: 032215, settembre 2021. ISSN 2469-9934. 10.1103/physreva.104.032215. URL http:///dx.doi.org/10.1103/PhysRevA.104.032215. arXiv:2005.04062v5.
https: / / doi.org/ 10.1103 / physreva.104.032215
arXiv: 2005.04062v5
, Carlo Baldassi e Riccardo Zecchina. Efficienza della ricottura quantistica rispetto a quella classica in problemi di apprendimento non convessi. Atti dell'Accademia nazionale delle scienze, 115 (7): 1457–1462, gennaio 2018. ISSN 1091-6490. 10.1073/pnas.1711456115. URL http:///dx.doi.org/10.1073/pnas.1711456115. arXiv:1706.08470.
https: / / doi.org/ 10.1073 / pnas.1711456115
arXiv: 1706.08470
, Charles H. Bennett, Ethan Bernstein, Gilles Brassard e Umesh Vazirani. Punti di forza e di debolezza dell'informatica quantistica. SIAM Journal on Computing, 26 (5): 1510–1523, 1997. 10.1137/S0097539796300933. URL https:///doi.org/10.1137/S0097539796300933. arXiv:quant-ph/9701001.
https: / / doi.org/ 10.1137 / S0097539796300933
arXiv: Quant-ph / 9701001
, Michael Betancourt, Michael I. Jordan e Ashia C Wilson. Sull'ottimizzazione simplettica, 2018. arXiv:1802.03653.
arXiv: 1802.03653
, Sergio Boixo e Rolando D. Somma. Condizione necessaria per l'approssimazione adiabatica quantistica. Physical Review A, 81 (3): 032308, 2010. 10.1103/PhysRevA.81.032308. URL https:///journals.aps.org/pra/abstract/10.1103/PhysRevA.81.032308. arXiv:0911.1362.
https: / / doi.org/ 10.1103 / PhysRevA.81.032308
arXiv: 0911.1362
, Fernando GSL Brandão e Krysta Svore. Accelerazioni quantistiche per la programmazione semidefinita. In Atti del 58° Simposio annuale sui fondamenti dell'informatica, pagine 415–426, 2017. 10.1109/FOCS.2017.45. arXiv:1609.05537.
https: / / doi.org/ 10.1109 / FOCS.2017.45
arXiv: 1609.05537
, Fernando GSL Brandão, Amir Kalev, Tongyang Li, Cedric Yen-Yu Lin, Krysta M. Svore e Xiaodi Wu. Risolutori SDP quantistici: grandi accelerazioni, ottimalità e applicazioni all'apprendimento quantistico. In Atti del 46° Colloquio Internazionale su Automi, Linguaggi e Programmazione, volume 132 di Leibniz International Proceedings in Informatics (LIPIcs), pagine 27:1–27:14. Schloss Dagstuhl–Leibniz-Zentrum fuer Informatik, 2019. 10.4230/LIPIcs.ICALP.2019.27. arXiv:1710.02581.
https: / / doi.org/ 10.4230 / LIPIcs.ICALP.2019.27
arXiv: 1710.02581
, Shouvanik Chakrabarti, Andrew M. Childs, Tongyang Li e Xiaodi Wu. Algoritmi quantistici e limiti inferiori per l'ottimizzazione convessa. Quantistica, 4: 221, 2020. 10.22331/q-2020-01-13-221. arXiv:1809.01731.
https://doi.org/10.22331/q-2020-01-13-221
arXiv: 1809.01731
, Shantanav Chakraborty, Kyle Luh e Jérémie Roland. Quanto velocemente si mescolano le passeggiate quantistiche? Physical Review Letters, 124: 050501, febbraio 2020. 10.1103/PhysRevLett.124.050501. URL https:///link.aps.org/doi/10.1103/PhysRevLett.124.050501. arXiv:2001.06305v1.
https: / / doi.org/ 10.1103 / PhysRevLett.124.050501
arXiv: 2001.06305v1
, Pratik Chaudhari e Stefano Soatto. La discesa stocastica del gradiente esegue l'inferenza variazionale, converge ai cicli limite per le reti profonde. Nel 2018 Workshop sulla teoria e le applicazioni dell'informazione (ITA), pagine 1–10, 2018. 10.1109/ITA.2018.8503224. arXiv:1710.11029v2.
https:///doi.org/10.1109/ITA.2018.8503224
arXiv: 1710.11029v2
, Andrew M. Childs, Richard Cleve, Enrico Deotto, Edward Farhi, Sam Gutmann e Daniel A. Spielman. Accelerazione algoritmica esponenziale mediante una passeggiata quantistica. In Atti del trentacinquesimo simposio annuale ACM sulla teoria dell'informatica, STOC '03, pagine 59–68, New York, NY, USA, 2003. Association for Computing Machinery. ISBN 1581136749/10.1145. URL https:///doi.org/780542.780552/10.1145. arXiv:quant-ph/780542.780552v0209131.
https: / / doi.org/ 10.1145 / 780542.780552 mila
arXiv: quant-ph / 0209131v2
, Andrew M. Childs, Jin-Peng Liu e Aaron Ostrander. Algoritmi quantistici ad alta precisione per equazioni alle derivate parziali. Quantum, 5: 574, novembre 2021. ISSN 2521-327X. 10.22331/q-2021-11-10-574. URL http:///dx.doi.org/10.22331/q-2021-11-10-574. arXiv:2002.07868.
https://doi.org/10.22331/q-2021-11-10-574
arXiv: 2002.07868
, Pierre Comon, Xavier Luciani e André LF De Almeida. Scomposizioni tensoriali, alternanza dei minimi quadrati e altri racconti. Journal of Chemometrics, 23: 393–405, agosto 2009. 10.1002/cem.1236. URL https:///hal.archives-ouvertes.fr/hal-00410057.
https:///doi.org/10.1002/cem.1236
https: / / hal.archives-ouvertes.fr/ hal-00410057
, Pedro CS Costa, Stephen Jordan e Aaron Ostrander. Algoritmo quantistico per la simulazione dell'equazione delle onde. Physical Review A, 99: 012323, gennaio 2019. 10.1103/PhysRevA.99.012323. URL https:///link.aps.org/doi/10.1103/PhysRevA.99.012323. arXiv:1711.05394.
https: / / doi.org/ 10.1103 / PhysRevA.99.012323
arXiv: 1711.05394
, Christopher Criscitiello e Nicolas Boumal. La curvatura negativa ostacola l'accelerazione per l'ottimizzazione geodeticamente convessa, anche con oracoli esatti del primo ordine, 2021. arXiv:2111.13263.
arXiv: 2111.13263
, Elizabeth Crosson e Aram W. Harrow. La ricottura quantistica simulata può essere esponenzialmente più veloce della ricottura simulata classica. Nel 2016 IEEE 57th Annual Symposium on Foundations of Computer Science (FOCS), pagine 714–723. IEEE, ottobre 2016. 10.1109/focs.2016.81. URL http:///dx.doi.org/10.1109/FOCS.2016.81. arXiv:1601.03030.
https: / / doi.org/ 10.1109 / focs.2016.81
arXiv: 1601.03030
, Mouez Dimassi e Johannes Sjöstrand. Asintotici spettrali nel limite semiclassico. Serie di appunti di lezioni della London Mathematical Society. Cambridge University Press, 1999. 10.1017/CBO9780511662195.
https: / / doi.org/ 10.1017 / CBO9780511662195
, Felix Draxler, Kambis Veschgini, Manfred Salmhofer e Fred Hamprecht. Essenzialmente nessuna barriera nel panorama energetico delle reti neurali. Nella Conferenza internazionale sull'apprendimento automatico, pagine 1309–1318. PMLR, 2018. URL http:///proceedings.mlr.press/v80/draxler18a.html. arXiv:1803.00885.
arXiv: 1803.00885
http:///proceedings.mlr.press/v80/draxler18a.html
, Runyao Duan. Teorema adiabatico quantistico rivisitato, 2020. arXiv:2003.03063v1.
arXiv: 2003.03063v1
, John Duchi, Elad Hazan e Yoram Singer. Metodi di sottogradiente adattivi per l'apprendimento online e l'ottimizzazione stocastica. Journal of Machine Learning Research, 12 (61): 2121–2159, 2011. URL https:///www.jmlr.org/papers/volume12/duchi11a/duchi11a.pdf.
https:///www.jmlr.org/papers/volume12/duchi11a/duchi11a.pdf
, Sepehr Ebadi, Tout T. Wang, Harry Levine, Alexander Keesling, Giulia Semeghini, Ahmed Omran, Dolev Bluvstein, Rhine Samajdar, Hannes Pichler, Wen Wei Ho, Soonwon Choi, Subir Sachdev, Markus Greiner, Vladan Vuletić e Mikhail D. Lukin . Fasi quantistiche della materia su un simulatore quantistico programmabile da 256 atomi. Natura, 595 (7866): 227–232, 2021. 10.1038/s41586-021-03582-4. URL https:///www.nature.com/articles/s41586-021-03582-4.
https://doi.org/10.1038/s41586-021-03582-4
https: / / www.nature.com/ articoli / s41586-021-03582-4
, Cong Fang, Chris Junchi Li, Zhouchen Lin e Tong Zhang. Spider: ottimizzazione non convessa quasi ottimale tramite stimatore differenziale integrato nel percorso stocastico. In Advances in Neural Information Processing Systems, pagine 689–699, 2018. URL https:///dl.acm.org/doi/abs/10.5555/3326943.3327007. arXiv:1807.01695.
arXiv: 1807.01695
https: / / dl.acm.org/ doi / abs / 10.5555 / 3326943.3327007 mila
, Cong Fang, Zhouchen Lin e Tong Zhang. Analisi acuta per SGD non convessi che fuoriescono dai punti di sella. In Conference on Learning Theory, pagine 1192–1234, 2019. URL http:///proceedings.mlr.press/v99/fang19a.html. arXiv:1902.00247.
arXiv: 1902.00247
http:///proceedings.mlr.press/v99/fang19a.html
, Edward Farhi, Jeffrey Goldstone, Sam Gutmann, Joshua Lapan, Andrew Lundgren e Daniel Preda. Un algoritmo di evoluzione adiabatica quantistica applicato a istanze casuali di un problema NP-completo. Science, 292 (5516): 472–475, aprile 2001. ISSN 1095-9203. 10.1126/scienza.1057726. URL http:///dx.doi.org/10.1126/science.1057726. arXiv:quant-ph/0104129.
https: / / doi.org/ 10.1126 / science.1057726
arXiv: Quant-ph / 0104129
, AB Finnila, MA Gomez, C. Sebenik, C. Stenson e JD Doll. Ricottura quantistica: un nuovo metodo per minimizzare le funzioni multidimensionali. Lettere di fisica chimica, 219 (5-6): 343–348, marzo 1994. ISSN 0009-2614. 10.1016/0009-2614(94)00117-0. URL http:///dx.doi.org/10.1016/0009-2614(94)00117-0. arXiv:chem-ph/9404003.
https://doi.org/10.1016/0009-2614(94)00117-0
arXiv:chem-ph/9404003
, Mauger François. Schema simplectic leap frog, 2020. URL https:///www.mathworks.com/matlabcentral/fileexchange/38652-symplectic-leap-frog-scheme. https: //www.mathworks.com /matlabcentral /fileexchange /38652-symplectic-leap-frog-scheme.
https:///www.mathworks.com/matlabcentral/fileexchange/38652-symplectic-leap-frog-scheme
, Alan Frieze, Mark Jerrum e Ravi Kannan. Apprendimento delle trasformazioni lineari. In Atti della 37a Conferenza sui fondamenti dell'informatica, pagine 359–368, 1996. 10.1109/SFCS.1996.548495.
https: / / doi.org/ 10.1109 / SFCS.1996.548495
, Timur Garipov, Pavel Izmailov, Dmitrii Podoprikhin, Dmitry Vetrov e Andrew Gordon Wilson. Superfici di perdita, modalità di connettività e rapido assemblaggio di DNN. In Advances in Neural Information Processing Systems, pagine 8803–8812, 2018. URL https://dl.acm.org/doi/abs/10.5555/3327546.3327556. arXiv:1802.10026.
arXiv: 1802.10026
https: / / dl.acm.org/ doi / abs / 10.5555 / 3327546.3327556 mila
, Rong Ge e Tengyu Ma. Sul panorama dell'ottimizzazione delle decomposizioni tensoriali. Programmazione matematica, pagine 1–47, 2020. ISSN 1436-4646. 10.1007/s10107-020-01579-x. URL https:///doi.org/10.1007/s10107-020-01579-x. arXiv:1706.05598v1.
https: / / doi.org/ 10.1007 / s10107-020-01579-x
arXiv: 1706.05598v1
, Rong Ge, Furong Huang, Chi Jin e Yang Yuan. Fuga dai punti di sella - gradiente stocastico in linea per la decomposizione del tensore. In Atti della 28a Conferenza sulla teoria dell'apprendimento, volume 40 di Proceedings of Machine Learning Research, pagine 797–842, 2015. URL http:///proceedings.mlr.press/v40/Ge15. arXiv:1503.02101.
arXiv: 1503.02101
http:///proceedings.mlr.press/v40/Ge15
, Rong Ge, Jason D. Lee e Tengyu Ma. Il completamento della matrice non ha minimi locali spuri. In Advances in Neural Information Processing Systems, pagine 2981–2989, 2016. URL https://dl.acm.org/doi/abs/10.5555/3157382.3157431. arXiv:1605.07272.
arXiv: 1605.07272
https: / / dl.acm.org/ doi / abs / 10.5555 / 3157382.3157431 mila
, Ming Gong, Shiyu Wang, Chen Zha, Ming-Cheng Chen, He-Liang Huang, Yulin Wu, Qingling Zhu, Youwei Zhao, Shaowei Li, Shaojun Guo, Haoran Qian, Yangsen Ye, Fusheng Chen, Chong Ying, Jiale Yu, Daojin Fan, Dachao Wu, Hong Su, Hui Deng, Hao Rong, Kaili Zhang, Sirui Cao, Jin Lin, Yu Xu, Lihua Sun, Cheng Guo, Na Li, Futian Liang, VM Bastidas, Kae Nemoto, WJ Munro, Yong-Heng Huo, Chao-Yang Lu, Cheng-Zhi Peng, Xiaobo Zhu e Jian-Wei Pan. Quantum cammina su un processore superconduttore bidimensionale programmabile da 62 qubit. Science, 372 (6545): 948–952, 2021. 10.1126/science.abg7812. URL https:///science.sciencemag.org/content/372/6545/948.abstract. arXiv:2102.02573.
https:///doi.org/10.1126/science.abg7812
arXiv: 2102.02573
https:///science.sciencemag.org/content/372/6545/948.abstract
, Stephen K. Gray e David E. Manolopoulos. Integratori simplettici adattati all'equazione di Schrödinger dipendente dal tempo. The Journal of Chemical Physics, 104 (18): 7099–7112, 1996. 10.1063/1.471428. URL https:///doi.org/10.1063/1.471428.
https: / / doi.org/ 10.1063 / 1.471428 mila
, Bernardo Helffer. Analisi semi-classica per l'operatore di Schrödinger e applicazioni. Appunti delle lezioni di matematica. Springer, 1988. 10.1007/BFb0078115.
https: / / doi.org/ 10.1007 / BFb0078115
, Bernard Helffer e Johannes Sjöstrand. Pozzi multipli nel limite semi-classico I. Communications in Partial Differential Equations, 9 (4): 337–408, 1984. 10.1080/03605308408820335.
https: / / doi.org/ 10.1080 / 03605308408820335 mila
, Bernard Helffer e Johannes Sjöstrand. Pozzi multipli nel limite semi-classico III – interazione tramite pozzi non risonanti. Mathematische Nachrichten, 124 (1): 263–313, 1985. https:///doi.org/10.1002/mana.19851240117. URL https:///onlinelibrary.wiley.com/doi/abs/10.1002/mana.19851240117.
https: / / doi.org/ 10.1002 / mana.19851240117
, Sepp Hochreiter. Il problema del gradiente evanescente durante l'apprendimento delle reti neurali ricorrenti e soluzioni dei problemi. International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems, 6 (02): 107–116, 1998. 10.1142/S0218488598000094. URL https:///dl.acm.org/doi/abs/10.1142/S0218488598000094.
https: / / doi.org/ 10.1142 / S0218488598000094
, Aapo Hyvarinen. ICA veloce per dati rumorosi utilizzando momenti gaussiani. Nel 1999 IEEE International Symposium on Circuits and Systems (ISCAS), volume 5, pagine 57–61, 1999. 10.1109/ISCAS.1999.777510.
https:///doi.org/10.1109/ISCAS.1999.777510
, Frédéric Hérau, Michael Hitrik e Johannes Sjöstrand. Effetto tunnel e simmetrie per operatori di tipo Kramers–Fokker–Planck. Giornale dell'Istituto di Matematica di Jussieu, 10 (3): 567–634, 2011. 10.1017/S1474748011000028.
https: / / doi.org/ 10.1017 / S1474748011000028
, Chi Jin, Rong Ge, Praneeth Netrapalli, Sham M. Kakade e Michael I. Jordan. Come sfuggire ai punti di sella in modo efficiente. In Atti della 34a conferenza internazionale sull'apprendimento automatico, volume 70, pagine 1724–1732, 2017. URL http:///proceedings.mlr.press/v70/jin17a. arXiv:1703.00887.
arXiv: 1703.00887
http:///proceedings.mlr.press/v70/jin17a
, Chi Jin, Lydia T. Liu, Rong Ge e Michael I. Jordan. Sui minimi locali del rischio empirico. In Advances in Neural Information Processing Systems, volume 31, pagina 4901–4910. Curran Associates, Inc., 2018. URL https:///proceedings.neurips.cc/paper/2018/file/da4902cb0bc38210839714ebdcf0efc3-Paper.pdf. arXiv:1803.09357.
arXiv: 1803.09357
https://proceedings.neurips.cc/paper/2018/file/da4902cb0bc38210839714ebdcf0efc3-Paper.pdf
, Chi Jin, Praneeth Netrapalli, Rong Ge, Sham M Kakade e Michael I. Jordan. Sull'ottimizzazione non convessa per l'apprendimento automatico: gradienti, stocasticità e punti di sella. Giornale dell'ACM (JACM), 68 (2): 1–29, 2021. 10.1145/3418526. URL https:///dl.acm.org/doi/abs/10.1145/3418526. arXiv:1902.04811.
https: / / doi.org/ 10.1145 / 3418526 mila
arXiv: 1902.04811
, Michael I. Giordania. Prospettive dinamiche, simplettiche e stocastiche dell'ottimizzazione basata sul gradiente. In Atti del Congresso Internazionale dei Matematici: Rio de Janeiro 2018, pagine 523–549. World Scientific, 2018. URL https:///doi.org/10.1142/9789813272880_0022.
https: / / doi.org/ 10.1142 / 9789813272880_0022
, Kenji Kawaguchi, Jiaoyang Huang e Leslie Pack Kaelbling. Ogni valore minimo locale è il valore minimo globale del modello indotto nell'apprendimento automatico non convesso. Calcolo neurale, 31 (12): 2293–2323, 12 2019. ISSN 0899-7667. 10.1162/neco_a_01234. URL https:///doi.org/10.1162/neco_a_01234. arXiv:1904.03673v3.
https:///doi.org/10.1162/neco_a_01234
arXiv: 1904.03673v3
, Diederik P. Kingma e Jimmy Ba. Adam: Un metodo per l'ottimizzazione stocastica. Nella 3a Conferenza Internazionale sulle Rappresentazioni dell'Apprendimento, 2015. URL https:///openreview.net/forum?id=8gmWwjFyLj. arXiv:1412.6980.
arXiv: 1412.6980
https:///openreview.net/forum?id=8gmWwjFyLj
, Alexei Kitaev e William A. Webb. Preparazione della funzione d'onda e ricampionamento utilizzando un computer quantistico, 2008. arXiv:0801.0342.
arXiv: 0801.0342
, Bobby Kleinberg, Yuanzhi Li e Yang Yuan. Una visione alternativa: quando l’SGD sfugge ai minimi locali? Nella Conferenza internazionale sull'apprendimento automatico, pagine 2698–2707. PMLR, 2018. URL http:///proceedings.mlr.press/v80/kleinberg18a.html. arXiv:1802.06175.
arXiv: 1802.06175
http:///proceedings.mlr.press/v80/kleinberg18a.html
, Guy Kornowski e Ohad Shamir. Complessità Oracle nell'ottimizzazione non liscia e non convessa. In Advances in Neural Information Processing Systems, 2021. URL https:///openreview.net/forum?id=aMZJBOiOOPg. arXiv:2104.06763v2.
arXiv: 2104.06763v2
https:///openreview.net/forum?id=aMZJBOiOOPg
, Rohith Kuditipudi, Xiang Wang, Holden Lee, Yi Zhang, Zhiyuan Li, Wei Hu, Rong Ge e Sanjeev Arora. Spiegare la connettività paesaggistica di soluzioni a basso costo per reti multistrato. Advances in Neural Information Processing Systems, 32: 14601–14610, 2019. URL http:///papers.nips.cc/paper/9602-explaining-landscape-connectivity-of-low-cost-solutions-for- reti multistrato. arXiv:1906.06247.
arXiv: 1906.06247
http:///papers.nips.cc/paper/9602-explaining-landscape-connectivity-of-low-cost-solutions-for-multilayer-nets
, Harold J. Kushner e G. George Yin. Approssimazione stocastica e algoritmi e applicazioni ricorsivi, volume 35. Springer Science & Business Media, 2003. 10.1007/978-1-4471-4285-0_3.
https://doi.org/10.1007/978-1-4471-4285-0_3
, Keren Li, Shijie Wei, Pan Gao, Feihao Zhang, Zengrong Zhou, Tao Xin, Xiaoting Wang, Patrick Rebentrost e Guilu Long. Ottimizzazione di una funzione polinomiale su un processore quantistico. npj Informazioni quantistiche, 7 (1): 1–7, 2021a. 10.1038/s41534-020-00351-5. arXiv:1804.05231.
https://doi.org/10.1038/s41534-020-00351-5
arXiv: 1804.05231
, Zhiyuan Li, Sadhika Malladi e Sanjeev Arora. Sulla validità della modellazione SGD con equazioni differenziali stocastiche (SDE). In Progressi nei sistemi di elaborazione delle informazioni neurali, 2021b. URL https:///openreview.net/forum?id=goEdyJ_nVQI. arXiv:2102.12470.
arXiv: 2102.12470
https:///openreview.net/forum?id=goEdyJ_nVQI
, Guang Hao Low e Nathan Wiebe. Simulazione hamiltoniana nell'immagine dell'interazione, 2019. URL https:///arxiv.org/abs/1805.00675v2. arXiv:1805.00675v2.
arXiv: 1805.00675v2
, Cong Ma, Kaizheng Wang, Yuejie Chi e Yuxin Chen. Regolarizzazione implicita nella stima statistica non convessa: la discesa del gradiente converge linearmente per il recupero della fase e il completamento della matrice. Nella conferenza internazionale sull'apprendimento automatico, pagine 3345–3354. PMLR, 2018. URL http:///proceedings.mlr.press/v80/ma18c.html. arXiv:1711.10467.
arXiv: 1711.10467
http:///proceedings.mlr.press/v80/ma18c.html
, Tengyu Ma. Perché i metodi locali risolvono problemi non convessi?, pagina 465–485. Cambridge University Press, 2021. 10.1017/9781108637435.027. arXiv:2103.13462.
https: / / doi.org/ 10.1017 / 9781108637435.027 mila
arXiv: 2103.13462
, Yi-An Ma, Yuansi Chen, Chi Jin, Nicolas Flammarion e Michael I. Jordan. Il campionamento può essere più veloce dell'ottimizzazione. Atti della National Academy of Sciences, 116 (42): 20881–20885, 2019. URL https:///www.pnas.org/content/116/42/20881.short. arXiv:.
https: / / doi.org/ 10.1073 / pnas.1820003116
https:///www.pnas.org/content/116/42/20881.short
, Peter A. Markowich e Cédric Villani. Sulla tendenza all'equilibrio per l'equazione di Fokker-Planck: un'interazione tra fisica e analisi funzionale. In Fisica e Analisi Funzionale, Matematica Contemporanea (SBM) 19. Citeseer, 1999. URL http:///citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.35.2278.
http:///citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.35.2278
, Laurent Michel. Informazioni sui piccoli autovalori del Laplaciano di Witten. Analisi pura e applicata, 1 (2): 149 – 206, 2019. 10.2140/paa.2019.1.149. URL https:///doi.org/10.2140/paa.2019.1.149. arXiv:1702.01837.
https:///doi.org/10.2140/paa.2019.1.149
arXiv: 1702.01837
, Siddharth Muthukrishnan, Tameem Albash e Daniel A. Lidar. Tunneling e accelerazione nell'ottimizzazione quantistica per problemi simmetrici per permutazione. Physical Review X, 6: 031010, luglio 2016. ISSN 2160-3308. 10.1103/physrevx.6.031010. URL http:///dx.doi.org/10.1103/PhysRevX.6.031010. arXiv:1511.03910.
https: / / doi.org/ 10.1103 / physrevx.6.031010
arXiv: 1511.03910
, Quynh Nguyen. Sui set di sottolivelli connessi nell'apprendimento profondo. Nella conferenza internazionale sull'apprendimento automatico, pagine 4790–4799. PMLR, 2019. URL http:///proceedings.mlr.press/v97/nguyen19a.html. arXiv:1901.07417.
arXiv: 1901.07417
http:///proceedings.mlr.press/v97/nguyen19a.html
, Michael A. Nielsen e Isaac L. Chuang. Calcolo quantistico e informazione quantistica: edizione per il decimo anniversario. Cambridge University Press, 10. 2010 / CBO10.1017.
https: / / doi.org/ 10.1017 / CBO9780511976667
, Grigorios A. Pavliotis. Processi stocastici e applicazioni: processi di diffusione, equazioni di Fokker-Planck e Langevin, volume 60. Springer, 2014. 10.1007/978-1-4939-1323-7.
https://doi.org/10.1007/978-1-4939-1323-7
, Qing Qu, Yuexiang Zhai, Xiao Li, Yuqian Zhang e Zhihui Zhu. Analisi degli scenari di ottimizzazione per l'apprendimento della rappresentazione sovracompleta, 2019. arXiv:1912.02427.
arXiv: 1912.02427
, Gianluca Rastelli. Formula semiclassica per il tunneling quantistico in potenziali asimmetrici a doppio pozzo. Physical Review A, 86: 012106, luglio 2012. 10.1103/PhysRevA.86.012106. URL https:///link.aps.org/doi/10.1103/PhysRevA.86.012106. arXiv:1205.0366.
https: / / doi.org/ 10.1103 / PhysRevA.86.012106
arXiv: 1205.0366
, Arthur G. Rattew, Yue Sun, Pierre Minssen e Marco Pistoia. La preparazione efficiente delle distribuzioni normali nei registri quantistici. Quantum, 5: 609, 2021. 10.22331/q-2021-12-23-609. URL https:///quantum-journal.org/papers/q-2021-12-23-609/. arXiv:2009.06601.
https://doi.org/10.22331/q-2021-12-23-609
arXiv: 2009.06601
https: / / quantum-journal.org/ carte / q-2021-12-23-609 /
, Patrick Rebentrost, Maria Schuld, Leonard Wossnig, Francesco Petruccione e Seth Lloyd. Discesa del gradiente quantistico e metodo di Newton per l'ottimizzazione polinomiale vincolata. New Journal of Physics, 21 (7): 073023, 2019. 10.1088/1367-2630/ab2a9e. arXiv:1612.01789.
https://doi.org/10.1088/1367-2630/ab2a9e
arXiv: 1612.01789
, Burak Şahinoğlu e Rolando D. Somma. Simulazione hamiltoniana nel sottospazio a bassa energia. npj Quantum Information, 7 (1): 1–5, 2021. 10.1038/s41534-021-00451-w. URL https:///www.nature.com/articles/s41534-021-00451-w. arXiv:2006.02660.
https: / / doi.org/ 10.1038 / s41534-021-00451-w
arXiv: 2006.02660
https:///www.nature.com/articles/s41534-021-00451-w
, JM Schmidt, AN Cleland e John Clarke. Tunneling risonante in piccole giunzioni Josephson polarizzate dalla corrente. Physical Review B, 43: 229–238, gennaio 1991. 10.1103/PhysRevB.43.229. URL https:///link.aps.org/doi/10.1103/PhysRevB.43.229.
https: / / doi.org/ 10.1103 / PhysRevB.43.229
, Alexander Shevchenko e Marco Mondelli. Connettività del paesaggio e stabilità del dropout delle soluzioni SGD per reti neurali sovraparametrizzate. Nella conferenza internazionale sull'apprendimento automatico, pagine 8773–8784. PMLR, 2020. URL http:///proceedings.mlr.press/v119/shevchenko20a.html. arXiv:1912.10095.
arXiv: 1912.10095
http:///proceedings.mlr.press/v119/shevchenko20a.html
, Bin Shi, Weijie J. Su e Michael I. Jordan. Sui tassi di apprendimento e gli operatori di Schrödinger, 2020. arXiv:2004.06977.
arXiv: 2004.06977
, Bin Shi, Simon S. Du, Michael I. Jordan e Weijie J. Su. Comprensione del fenomeno dell'accelerazione tramite equazioni differenziali ad alta risoluzione. Programmazione matematica, pagine 1–70, 2021. 10.1007/s10107-021-01681-8. URL https:///doi.org/10.1007/s10107-021-01681-8. arXiv:1810.08907.
https://doi.org/10.1007/s10107-021-01681-8
arXiv: 1810.08907
, Weijie Su, Stephen Boyd e Emmanuel J. Candes. Un'equazione differenziale per modellare il metodo del gradiente accelerato di Nesterov: teoria e approfondimenti. The Journal of Machine Learning Research, 17 (1): 5312–5354, 2016. 10.5555/2946645.3053435. URL https:///dl.acm.org/doi/abs/10.5555/2946645.3053435. arXiv:1503.01243.
https: / / doi.org/ 10.5555 / 2946645.3053435 mila
arXiv: 1503.01243
, Ruoyu Sun. Ottimizzazione per l'apprendimento profondo: teoria e algoritmi, 2019. arXiv:1912.08957.
arXiv: 1912.08957
, Kunal Talwar. Separazioni computazionali tra campionamento e ottimizzazione. Advances in Neural Information Processing Systems, 32: 15023–15033, 2019. URL http:///papers.nips.cc/paper/9639-computational-separations-between-sampling-and-optimization. arXiv:1911.02074.
arXiv: 1911.02074
http:///papers.nips.cc/paper/9639-computational-separations-between-sampling-and-optimization
, Hao Tang, Xiao-Feng Lin, Zhen Feng, Jing-Yuan Chen, Jun Gao, Ke Sun, Chao-Yue Wang, Peng-Cheng Lai, Xiao-Yun Xu, Yao Wang, Lu-Feng Qiao, Ai-Lin Yang, e Xian-Min Jin. Camminata quantistica bidimensionale sperimentale su un chip fotonico. Progressi scientifici, 4 (5): eaat3174, 2018. 10.1126/sciadv.aat3174. URL https:///www.science.org/doi/10.1126/sciadv.aat3174. arXiv:1704.08242.
https: / / doi.org/ 10.1126 / sciadv.aat3174
arXiv: 1704.08242
, Cédric Villani. Ipocoercività, volume 202 di Memoirs of the American Mathematical Society. American Mathematical Society, 2009. 10.1090/S0065-9266-09-00567-5. arXiv:math/0609050.
https://doi.org/10.1090/S0065-9266-09-00567-5
arXiv: math / 0609050
, Andre Wibisono, Ashia C. Wilson e Michael I. Jordan. Una prospettiva variazionale sui metodi accelerati nell'ottimizzazione. Atti dell'Accademia nazionale delle scienze, 113 (47): E7351–E7358, 2016. 10.1073/pnas.1614734113. URL https:///doi.org/10.1073/pnas.1614734113. arXiv:1603.04245.
https: / / doi.org/ 10.1073 / pnas.1614734113
arXiv: 1603.04245
, Chenyi Zhang e Tongyang Li. Sfuggi ai punti di sella con un semplice algoritmo basato sulla discesa del gradiente. In Advances in Neural Information Processing Systems, volume 34, 2021. URL https:///openreview.net/forum?id=lEf52hTHq0Q. arXiv:2111.14069.
arXiv: 2111.14069
https:///openreview.net/forum?id=lEf52hTHq0Q
, Chenyi Zhang, Jiaqi Leng e Tongyang Li. Algoritmi quantistici per la fuga dai punti di sella. Quantistica, 5: 529, 2021a. 10.22331/q-2021-08-20-529. arXiv:2007.10253.
https://doi.org/10.22331/q-2021-08-20-529
arXiv: 2007.10253
, Kaining Zhang, Min-Hsiu Hsieh, Liu Liu e Dacheng Tao. Algoritmo quantistico per trovare la direzione della curvatura negativa nell'ottimizzazione non convessa, 2019. arXiv:1909.07622.
arXiv: 1909.07622
, Yuqian Zhang, Qing Qu e John Wright. Dalla simmetria alla geometria: problemi non convessi trattabili, 2021b. arXiv:2007.06753.
arXiv: 2007.06753
Citato da
[1] Weiyuan Gong, Chenyi Zhang e Tongyang Li, "Robustezza degli algoritmi quantistici per l'ottimizzazione non convessa", arXiv: 2212.02548, (2022).
Le citazioni sopra sono di ANNUNCI SAO / NASA (ultimo aggiornamento riuscito 2023-06-02 12:31:17). L'elenco potrebbe essere incompleto poiché non tutti gli editori forniscono dati di citazione adeguati e completi.
Impossibile recuperare Crossref citato da dati durante l'ultimo tentativo 2023-06-02 12:31:15: Impossibile recuperare i dati citati per 10.22331 / q-2023-06-02-1030 da Crossref. Questo è normale se il DOI è stato registrato di recente.
Questo documento è pubblicato in Quantum sotto il Creative Commons Attribuzione 4.0 Internazionale (CC BY 4.0) licenza. Il copyright rimane dei detentori del copyright originali come gli autori o le loro istituzioni.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoAiStream. Intelligenza dei dati Web3. Conoscenza amplificata. Accedi qui.
- Coniare il futuro con Adryenn Ashley. Accedi qui.
- Acquista e vendi azioni in società PRE-IPO con PREIPO®. Accedi qui.
- Fonte: https://quantum-journal.org/papers/q-2023-06-02-1030/
- :ha
- :È
- :non
- :Dove
- ][P
- 1
- 10
- 1040
- 10°
- 11
- 116
- 12
- 13
- 14
- 15%
- 17
- 1985
- 1994
- 1996
- 1998
- 1999
- 20
- 2001
- 2005
- 2006
- 2008
- 2011
- 2012
- 2014
- 2015
- 2016
- 2017
- 2018
- 2019
- 202
- 2020
- 2021
- 2022
- 22
- 220
- 23
- 24
- 26
- 27
- 28
- 28°
- 30
- 31
- 39
- 3rd
- 40
- 49
- 50
- 60
- 66
- 67
- 7
- 70
- 72
- 77
- 8
- 80
- 84
- 87
- 9
- a
- Aaron
- Chi siamo
- sopra
- ABSTRACT
- Academy
- accelerata
- accelerazione
- accesso
- Realizza
- ACM
- Adam
- avanzamenti
- affiliazioni
- Alan
- Alexander
- algoritmo
- algoritmica
- Algoritmi
- Tutti
- alternativa
- americano
- an
- .
- ed
- Andrea
- anniversario
- annuale
- Anthony
- applicazioni
- applicato
- APPLICA
- circa
- aprile
- SONO
- Artù
- AS
- Associazione
- AGOSTO
- austin
- autore
- gli autori
- barriere
- basato
- BE
- Beijing
- Ben
- benzoino
- Meglio
- fra
- BIN
- peso
- poliziotto
- Rompere
- Brian
- affari
- ma
- by
- cambridge
- Materiale
- non può
- Chao Yang Lu
- Charles
- chimico
- chen
- Cheng
- patata fritta
- chong
- chris
- Christopher
- Collins
- COM
- commento
- Popolo
- Comunicazioni
- completamento di una
- completamento
- complessità
- calcolo
- computer
- Informatica
- informatica
- condizione
- Convegno
- Congresso
- congetturare
- collegato
- Connettività
- costruire
- contenuto
- Convesso
- copyright
- corroborare
- potuto
- Craig
- cicli
- Daniel
- dati
- scienza dei dati
- Dave
- David
- deep
- apprendimento profondo
- Essa
- diverso
- Emittente
- direzione
- discutere
- distribuzioni
- do
- effettua
- durante
- e
- edizione
- Edward
- effetto
- Efficace
- efficienza
- efficiente
- in modo efficiente
- incorporato
- energia
- Ingegneria
- equazioni
- equilibrio
- fuga
- essenzialmente
- Etere (ETH)
- Anche
- Ogni
- evoluzione
- esperimenti
- spiegando
- esplora
- esponenziale
- in modo esponenziale
- fan
- FAST
- più veloce
- Febbraio
- Infine
- ricerca
- I risultati
- piatto
- Nel
- formula
- Fondazioni
- da
- Frontiers
- function
- funzionale
- funzioni
- fondamentale
- GAO
- divario
- ge
- geometria
- George
- Gilles
- dato
- globali
- Gomez
- gradienti
- grigio
- Tipo
- harold
- harvard
- Alta
- ad alta risoluzione
- Colpire
- colpire
- titolari
- Hong
- Come
- Tutorial
- HTML
- http
- HTTPS
- huang
- i
- IEEE
- if
- migliorata
- miglioramenti
- in
- Inc.
- informazioni
- inizialmente
- intuizioni
- Istituto
- istituzioni
- interazione
- interessante
- Internazionale
- introdurre
- IT
- Jamie
- Gen
- JavaScript
- Jian Wei Pan
- John
- Giordania
- rivista
- Kim
- Conoscere
- conosciuto
- paesaggio
- Le Lingue
- grandi
- Cognome
- Salto
- apprendimento
- meno
- Lasciare
- lettura
- sottovento
- leveraging
- li
- Licenza
- trattare
- LIMITE
- lin
- Lista
- locale
- Londra
- Lunghi
- spento
- Basso
- a basso costo
- macchina
- machine learning
- macchinario
- Marco
- marchio
- martyn
- matematico
- matematica
- Matrice
- Importanza
- matthew
- max-width
- Maggio..
- McClean
- meccanica
- Media
- metodo
- metodi
- Michael
- microfono
- minimizzando
- ordine
- Moda
- modello
- modellismo
- modelli
- Moments
- Mese
- multiplo
- il
- Natura
- Vicino
- necessaria
- negativo.
- Nets
- Rete
- reti
- Neurale
- rete neurale
- reti neurali
- NeuIPS
- New
- New York
- Newton
- Nguyen
- Nicolas
- no
- normale
- Note
- NY
- ottobre
- of
- di frequente
- on
- ONE
- online
- Apprendimento online
- aprire
- operatore
- Operatori
- ottimizzazione
- ottimizzazione
- or
- oracolo
- Oracoli
- i
- Altro
- nostro
- ancora
- PACK
- pagina
- PAN
- Carta
- patrick
- Paul
- Pechino
- esegue
- prospettiva
- prospettive
- Peter
- fase
- Fasi della materia
- fenomeno
- Fisico
- Fisica
- immagine
- Pierre
- ping
- Platone
- Platone Data Intelligence
- PlatoneDati
- punti
- possibile
- preparazione
- stampa
- Problema
- problemi
- procedimento
- i processi
- lavorazione
- Processore
- Programmazione
- prova
- corretto
- fornire
- pubblicato
- editore
- editori
- Quantistico
- algoritmi quantistici
- Ricottura quantistica
- Computer quantistico
- calcolo quantistico
- informazione quantistica
- qubit
- RAMINO
- casuale
- recentemente
- Ricorsivo
- Riferimenti
- registrato
- registri
- resti
- rappresentazione
- riparazioni
- recensioni
- Richard
- rio de janeiro
- Rischio
- derubare
- robustezza
- Roland
- Ryan
- s
- Sam
- schema
- Scienze
- SCIENZE
- SDP
- Sean
- SEO
- Serie
- Set
- SGD
- affilato
- Corti
- mostrare attraverso le sue creazioni
- siam
- Simon
- Un'espansione
- simulazione
- simulatore
- cantante
- piccole
- Società
- Soluzioni
- RISOLVERE
- Soluzione
- specifico
- in particolare
- Spettrale
- piazze
- Stabilità
- stati
- statistiche
- statistica
- Stefano
- Steve
- punti di forza
- studi
- Con successo
- tale
- adatto
- Dom.
- simposio
- SISTEMI DI TRATTAMENTO
- su misura
- Target
- di
- che
- I
- loro
- teoria
- questo
- Attraverso
- volte
- Titolo
- a
- trasformazioni
- Trend
- Tsinghua
- Digitare
- Incertezza
- per
- e una comprensione reciproca
- Università
- aggiornato
- URL
- USA
- utilizzando
- APPREZZIAMO
- via
- Visualizza
- volume
- vs
- W
- volere
- Prima
- Wave
- we
- WELL
- Wells
- quando
- bianca
- perché
- Wilson
- con
- Wolf
- laboratorio
- mondo
- Wright
- wu
- X
- anno
- YING
- York
- youtube
- Yuan
- zefiro
- Zhao
