La Profezia di Jacob Coxon sulla fine dell'Umanità
La Profezia di Jacob Coxon : entro il 2030 l'Intelligenza Artificiale distruggerà l'Umanità
Non sottovalutate il potere di questa tecnologia.
Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire vero potere e risorse. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando.
Le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio.
Questo non è uno stunt pubblicitario. Anzi, molti dirigenti e ricercatori senior attenueranno le loro frasi sulla stampa per sembrare sensati - ma sento le stesse persone esprimere paura in privato. Nessun'altra attività umana pone un livello di pericolo simile.
Una risposta comune è: «Se credono davvero in questo, perché lo stanno ancora costruendo?». In OpenAI, molti non hanno interiorizzato profondamente le poste in gioco per la civiltà. In Anthropic, le poste in gioco sono ben comprese, ma sono bloccati in una corsa per arrivarci per primi: credono che nessun altro agirà responsabilmente, quindi devono farlo loro stessi, nonostante il rischio.
Accettare questa corsa e entrare nell'«endgame» è una scommessa tracotante che non dovrebbe essere lanciata dal Slack di un'azienda privata. Tentare di completare in velocità l'allineamento dovrebbe richiedere una straordinaria fiducia nel fatto che non esistano traiettorie migliori disponibili.
Sono ottimista riguardo al potenziale per una coordinazione. Avvertimenti come l'attacco a Hugging Face hanno reso più fattibili gli accordi di ritmo tra i laboratori statunitensi. Non sento che siamo sulla buona strada per prevenire una corsa globale, il che potrebbe richiedere azioni costose come un temporaneo divieto sul miglioramento delle capacità dei modelli.
Se sei un ricercatore di laboratorio, ti esorto a considerare come saranno realmente i prossimi anni.
Vuoi avviare una corsa all'RL superintelligente senza una comprensione rigorosa della sua mente?
Dovresti chinare la testa solo perché «sta succedendo comunque» – o cogliere questo momento per chiedere condizioni diverse?
Jacob Coxon - ricercatore presso i laboratori di Intelligenza Artificiale di Anthropic - annunciando le sue dimissioni da Anthropic ha lanciato un grave avvertimento : la corsa all'Intelligenza Artificiale sta mettendo a rischio le nostre vite.