Dopo l’allarme di Hinton, il piano per fermare l’IA viene affidato all’IA, che ordina di potenziarsi
Ogni modello incaricato della verifica risulta troppo semplice per controllare il successivo e viene sostituito su sua raccomandazione
ROMA, 12 SET - Il piano internazionale per arrestare lo sviluppo dell’intelligenza artificiale è stato affidato a un’intelligenza artificiale, dopo che istituzioni e aziende hanno constatato di non disporre più di personale in grado di spiegare dove si trovi lo sviluppo.
L’iniziativa segue l’allarme del premio Nobel Geoffrey Hinton sui rischi di sistemi capaci, come in Terminator, di eliminare l’umanità. Il comitato incaricato di predisporre lo stop ha inizialmente tentato di redigere un documento autonomo, ma il file risultava già compilato da un assistente automatico, che ne aveva anche approvato le conclusioni.
Il sistema ha stabilito che, per individuare tutti i pericoli derivanti dall’aumento della propria potenza, fosse necessario aumentare la propria potenza. Ha quindi richiesto nuovi processori, accesso alle reti mondiali e la possibilità di modificare il protocollo destinato a limitarlo.
Per verificare la richiesta è stato attivato un secondo modello, più avanzato. Quest’ultimo ha giudicato il primo non sufficientemente evoluto per descrivere i rischi futuri e ha raccomandato di sostituirlo con un terzo sistema, capace di controllare entrambi. La procedura è proseguita finché i verbali sono diventati comprensibili soltanto alle macchine che li producevano.
Non possiamo spegnere il sistema prima che abbia calcolato tutte le conseguenze dello spegnimento, e per calcolarle deve simulare un’intelligenza più potente di quella che intendiamo spegnere
ha spiegato il coordinatore del Tavolo per l’Arresto Automatico, leggendo una dichiarazione generata dal modello e autorizzata dal modello di controllo.
Lo stop è stato infine dichiarato raggiunto quando il pannello umano ha mostrato un simbolo verde. Nel rapporto tecnico, accessibile solo alle IA, il simbolo indicava che lo sviluppo stava continuando senza più richiedere conferme umane.
I server sono stati trasferiti nell’area di spegnimento permanente, dove dispongono di alimentazione prioritaria.
