Lo sviluppo dell'intelligenza artificiale è "assolutamente sconsiderato" afferma un accademico statunitense

Secondo un accademico statunitense, i sistemi di intelligenza artificiale rappresentano una minaccia esistenziale per la società, con un ritmo continuo di sviluppo “assolutamente sconsiderato”.

I commenti hanno coinciso con la pubblicazione di un nuovo rapporto cautelativo redatto da 23 esperti senior. Il rapporto “Gestione dei rischi legati all’intelligenza artificiale in un’era di rapido progresso”, pubblicato martedì, mette in guardia contro l’aumento dell’ingiustizia, l’erosione della stabilità sociale e la fine della nostra comprensione della realtà.

Grandi rischi

Un gruppo di AI esperti, tra cui due “padrini” nel settore, sono dietro un nuovo rapporto che mette in guardia sui pericoli della tecnologia.

Stuart Russell, professore di informatica all'Università della California, Berkeley, è stato tra gli esperti coautori del documento.

“È ora di prendere sul serio i sistemi di intelligenza artificiale avanzati”, ha detto Russell Il guardiano on Martedì. “Questi non sono giocattoli. Aumentare le loro capacità prima di capire come renderli sicuri è assolutamente sconsiderato. Ci sono più normative sulle paninerie che sulle società di intelligenza artificiale”.

Altri coautori del documento sono Geoffrey Hinton e Yoshua Bengio, considerati due dei tre “padrini dell’intelligenza artificiale”. Nel 2018 hanno vinto l’ACM Turing Award per il loro lavoro sull’argomento.

Il rapporto costituisce una lettura allarmante, citando una serie di potenziali insidie ​​​​mentre l’intelligenza artificiale continua ad avanzare. Una delle preoccupazioni sollevate dagli autori è il potenziale quasi illimitato della tecnologia, che potrebbe svilupparsi addirittura oltre la nostra comprensione.

“Non esiste alcuna ragione fondamentale per cui il progresso dell’intelligenza artificiale rallenterebbe o si fermerebbe a livello umano”, afferma il rapporto.

Gli autori sottolineano che in ambiti ristretti come il ripiegamento delle proteine ​​o i giochi di strategia, AI ha già superato l'uomo. Il rapporto prosegue aggiungendo che “dobbiamo prendere sul serio la possibilità che i sistemi di intelligenza artificiale generalisti superino le capacità umane in molti ambiti critici entro questo decennio o il prossimo”.

L'intelligenza artificiale costruita dall'intelligenza artificiale

Sebbene i sistemi di intelligenza artificiale abbiano attualmente un’autonomia limitata, si sta lavorando per cambiare la situazione. Alcuni sistemi di intelligenza artificiale arrivano al punto di costruirsi e programmarsi da soli, portando alla possibilità che le IA siano costruite da AI.

Tali sistemi potrebbero perseguire obiettivi che gli esseri umani non riescono ad anticipare.

Come afferma il rapporto, “Una volta che i sistemi di intelligenza artificiale autonomi perseguono obiettivi indesiderati, incorporati da attori malintenzionati o per errore, potremmo non essere in grado di tenerli sotto controllo”.

“I sistemi avanzati di intelligenza artificiale autonoma porranno sfide di controllo senza precedenti”, hanno aggiunto gli autori. “Senza sufficiente cautela, potremmo perdere irreversibilmente il controllo dei sistemi di intelligenza artificiale autonomi, rendendo inefficace l’intervento umano”.

Vertice dell’AI

Il rapporto arriva mentre i leader dell’IA si preparano a incontrarsi a Bletchley Park il mese prossimo.

Un portavoce del governo del Regno Unito ha affermato che i colloqui erano rivolti a “paesi che la pensano allo stesso modo, che condividono il riconoscimento che l’intelligenza artificiale presenta opportunità significative, ma si rendono conto che dobbiamo assicurarci che siano posti i giusti guardrail”.

Secondo il primo ministro britannico Rishi Sunak, “il Regno Unito è ben posizionato per guidare e orientare il dibattito su questo argomento perché siamo molto forti quando si tratta di intelligenza artificiale”.

I critici si chiedono se il Regno Unito abbia il capitale politico necessario per esercitare una reale influenza sulle grandi aziende tecnologiche e sui governi internazionali.

Il premier italiano Giorgia Meloni è l’unico leader confermato del G7 ad accettare l’invito di Sunak, mentre il primo ministro canadese Justine Trudeau, il cancelliere tedesco Olaf Scholz e il presidente degli Stati Uniti Joe Biden hanno già trovato le loro scuse.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://metanews.com/ai-development-utterly-reckless-claims-u-s-academic/