Riflessioni sulla legge di Moore

di Gary North


Remnant Review

Legge di Moore: il numero di transistor per pollice quadrato su un chip raddoppia ogni [??] mesi. Il numero di mesi si assottiglia decennio dopo decennio. Il ritmo è accelerato sin dal 1965, quando Moore fece la sua osservazione. Oggi quel numero potrebbe essere 12.

Il costo delle informazioni continua a scendere, decennio dopo decennio. Questa è stata una costante come minimo sin dal censimento degli Stati Uniti nel 1890 -- il primo censimento con schede perforate.

"Quando il prezzo scende, la domanda aumenta": la legge della domanda. E' il fondamento della scienza economica.

Un tasso costante di crescita produce una curva esponenziale. Come ho descritto nel 1970, la continuità produce discontinuità.

Come ho sostenuto, sempre nel 1970, ogni curva esponenziale ha sempre rallentato, e poi si è fermata. E' diventata a forma di S. Si esauriscono le risorse. Questa è la legge dei rendimenti decrescenti. Gli economisti l'hanno enunciata per quasi due secoli. Ma l'Occidente ha avuto una crescita composta per oltre due secoli. La curva non si è fermata. Si è estesa a tutto il mondo, poiché il libero mercato si è esteso attraverso la concorrenza sui prezzi. La libertà è sempre meno costosa. Ne verrà richiesta di più. La concorrenza dei prezzi funziona. Questa è una cosa molto buona.

Poi c'è quella risorsa insostituibile: il tempo. Il tempo è una freccia. Non torna indietro. La seconda legge della termodinamica è di fatto una legge. Le cose si degradano, finiscono. Soprattutto, il tempo si esaurisce. Il mondo si sta degradando.

Ciò solleva la questione fondamentale della nostra epoca: ​​la legge di Moore è davvero una legge, o è l'osservazione di un fenomeno temporaneo? Moore pensa che la risposta corretta sia la seconda.

Alcuni osservatori no.



SUPER INTELLIGENZA

Reason ha pubblicato una recensione del libro di Nick Bostrom, Superintelligence: Paths, Dangers, Strategies.  E' stato pubblicato dalla Oxford University Press.

E se l'umanità sancisse la creazione di macchine intelligenti? Questa è la domanda impellente al cuore del nuovo libro di Nick Bostrom, Superintelligece. Bostrom sostiene, in modo convincente, che la prospettiva di macchine super intelligenti è "la sfida più importante e più scoraggiante che l'umanità abbia mai affrontato." Se non riusciremo a rispondere per le rime a questa sfida, conclude, l'intelligenza artificiale malevola o indifferente (IA) è probabile che ci distruggerà.

Se accurata, questa sintesi è di gran lunga la più apocalittica che abbia visto in un libro pubblicato da un'importante casa editrice universitaria. Penso che sia una sintesi accurata, ma la valutazione è altrettanto accurata? Non penso, ma mi baso sulla teologia, non sulla tecnologia.

Ecco la mia posizione. La conoscenza è sempre analogica. I dati possono essere digitali, ma la conoscenza è una questione di giudizio, e il giudizio è analogico. Una macchina non può esercitare il giudizio. E' in grado di rispondere solo ai dati strutturati da equazioni matematiche. Eseguire un algoritmo non è lo stesso di esercitare un giudizio.

Se si calcia una macchina, si sta imputando umanità ad una macchina. Non è viva.

Una macchina non è né gentile né malevola. Non se ne preoccupa.

Il mondo non è impersonale. Una macchina sì. Non è pertanto responsabile. Gli uomini sì.

Una macchina non ha anima e nessun fondoschiena da prendere a calci.

L'intelligenza è una questione di giudizio. Non si tratta di dati digitali e algoritmi.

Una macchina è uno strumento. Il problema è che le persone malvagie possono mettere le mani e le menti su potenti strumenti.

Questo è il motivo per cui non mi preoccupo di questo scenario.

Sin dall'invenzione del calcolatore elettronico a metà del XX secolo, i teorici hanno pensato a come far diventare una macchina tanto intelligente quanto un essere umano. Nel 1950, per esempio, il pioniere informatico Alan Turing propose la creazione di una macchina che simulasse la mente di un bambino e che potesse essere istruita fino al livello adulto. Nel 1965 il matematico I.J. Good osservò che la tecnologia deriva dall'uso dell'intelligenza. Quando l'intelligenza usa la tecnologia per migliorarsi, sosteneva, il risultato sarebbe stato un ciclo di feedback positivo -- un'esplosione di intelligenza -- in cui l'auto-miglioramento dell'intelligenza sarebbe sfociato nella super intelligenza. Concluse che "la prima macchina ultra intelligente sarà l'ultima invenzione dell'uomo, a condizione che tale macchina sia abbastanza docile da dirci come tenerla sotto controllo." Come mantenere il controllo è la questione affrontata da Bostrom.

Circa il 10% dei ricercatori sull'intelligenza artificiale crede che la prima macchina a livello dell'intelligenza umana arriverà nei prossimi 10 anni. Il 50% crede che sarà sviluppata entro la metà di questo secolo, e quasi tutti pensano che sarà realizzata entro la fine del secolo. Dal momento che la nuova IA probabilmente avrà la capacità di migliorare i propri algoritmi, l'esplosione della super intelligenza potrebbe essere una questione di giorni, ore, o addirittura secondi. L'entità risultante, afferma Bostrom, sarà "intelligente, nello stesso senso in cui un essere umano medio è intelligente rispetto ad un coleottero o un verme." Alla velocità di elaborazione nettamente superiore a quella del cervello umano, fa notare Eliezer Yudkowsky del Machine Intelligence Research Institute, una IA potrebbe condensare i pensieri di un anno in 31 secondi.

Si tratta di fantascienza? Gli esperti dicono di no. È semplicemente uno scenario che rappresenta un'estensione delle tendenze esistenti, estrapolato da un futuro lontano meno di un secolo.

La chiave per comprendere questo scenario è la definizione di intelligenza. Gli esperti vedono l'intelligenza come una miscela di dati digitali e algoritmi. Un processo decisionale privo di etica. Un processo decisionale senza responsabilità.

Questa è fantascienza.



CONTINUITA' E DISCONTINUITA'

Ecco la mia preoccupazione. Posso immaginare una serie di eventi che potrebbero invertire questa tendenza. Tutti comportano uno sfaldamento della divisione internazionale del lavoro. Quello che non riesco a immaginare è un evento che possa invertire questa tendenza e che di per sé non sia apocalittico. Non riesco ad immaginare un'inversione di tendenza che si basi su una tendenza rivale. La continuità indica la super intelligenza. Non c'è discontinuità che possa far cessare la continuità esistente. La grandezza di una discontinuità che possa invertire questa tendenza dovrebbe essere così immensa, dal punto di vista sociale, che rappresenterebbe un vero e proprio crollo dell'ordine sociale. In altre parole, la tendenza attuale è tanto una parte integrante dell'ordine sociale esistente che tutto ciò che potrebbe invertirla minaccia lo stesso ordine sociale esistente.

Più a lungo la continuità farà il suo corso, maggiore dovrà essere la portata della discontinuità sufficiente ad invertirla. Inoltre, quanto più la continuità andrà avanti, più l'intero ordine sociale diventerà interdipendente dalla sua continuazione.

Detto in altro modo, è una scelta obbligata: se la supportiamo saremo dannati, se non la supportiamo saremmo dannati lo stesso.

La tendenza di base è la tendenza verso la super intelligenza, almeno è quello che ci viene detto. Ma è vero? Siamo di fronte a macchine che si trasformeranno in creature intelligenti, poi creature super intelligenti, e poi padroni? Sarà una battaglia tra Terminator e l'umanità? È una guerra quello di cui si sta parlando: uomini contro le macchine? Sarebbe terreno fertile per la fantascienza, non per l'etica

Tutto questo ha a che fare con la divisione del lavoro. Ha a che fare con l'interdipendenza del sistema economico. E' ciò che Hayek scrisse nel 1945. Il sistema del libero mercato sta introducendo informazioni nell'ambiente economico. I possessori di questa conoscenza sono alla ricerca di profitto: lo scambio di una serie di condizioni per una migliore ad un tasso di rendimento superiore alla media. Hayek aveva ragione: non vi è alcuna agenzia governativa che possa creare una potenza intellettuale sufficiente da superare la conoscenza decentrata di una società libera. Questa è una difesa della libertà e io l'ho accettata senza riserve.



DECENTRAMENTO E OPPORTUNITA'

Questo mi porta a riflettere su ciò che sta facendo il decentramento per mettere le informazioni nelle mani di milioni di persone che non vi avrebbero mai potuto accedere prima. Questo è ciò che sta facendo Internet.

C'è una catastrofe che ci potrebbe colpire domani, e che scatenerebbe un crollo della civiltà. E' stato possibile per oltre 35 anni: un attacco russo con missili balistici intercontinentali armati con testate nucleari. Questo è tecnologicamente possibile, ma anche statisticamente improbabile.

L'Unione Sovietica aveva un'ideologia ufficiale: conquistare tutto il mondo. Era ufficialmente marxista. La Russia non ha più quell'impulso. Il nazionalismo russo non è più una filosofia dell'impero mondiale. Inoltre il declino del tasso di natalità russo, che ha portato ad un declino della popolazione russa, indica che il nazionalismo è meno aggressivo di quanto non fosse un secolo fa. L'impero dello zar nel 1900 era molto più grande della Federazione Russa di oggi.

Il nazionalismo russo ha sempre limitato l'imperialismo comunista. Stalin era un georgiano; Trotsky era un ebreo ateo. Stalin era molto più nazionalista di Trotsky. La visione di Stalin del socialismo contraddiceva la visione di Trotsky della rivoluzione in tutto il mondo. Stalin lo fece assassinare. Quella era la risposta del nazionalismo russo all'internazionalismo comunista. L'assassino usò addirittura una scure, simbolo del nazionalismo russo. L'ascia è stata un simbolo del nazionalismo russo per 1,000 anni. Dal punto di vista simbolico, l'icona e l'ascia superarono la falce e il martello.

Le probabilità di un attacco missilistico agli Stati Uniti da parte del governo russo è al limite dell'improbabile. La Russia dipende economicamente dalle esportazioni verso l'Occidente. Esporta oro, petrolio e gas naturale. Questo mercato crollerebbe immediatamente se l'economia degli Stati Uniti capitolasse a causa di un attacco russo. Inoltre ci sarebbe un attacco di rappresaglia contro la Russia. Ecco il mio punto. La natura molto centralizzata delle armi nucleari è una delle principali restrizioni alla guerra nucleare. Le vittime saprebbero chi ha lanciato i missili. Ci sarebbe una rappresaglia. Ecco perché non abbiamo mai avuto una guerra nucleare.

Ora diamo un'occhiata al libero mercato: sta abbassando drasticamente il costo di produzione delle armi biologiche. Questo costo continuerà a diminuire. Questo è l'effetto della legge di Moore. Questo è l'effetto della scoperta del genoma. Sappiamo che ci saranno enormi innovazioni nel campo della biologia.

Ecco il problema. Con il declino dei prezzi, la domanda aumenterà. Con il declino dei prezzi, ci vorranno meno soldi rispetto al passato per produrre un'arma biologica apocalittica. Ad un certo punto, cioè ad un certo prezzo, uno scienziato pazzo sarà in grado di produrre l'arma. Questa è la logica della legge di Moore. Questa è la logica della concorrenza dei prezzi. Questa è la logica del capitalismo di libero mercato.

Non c'è modo di sapere chi potrebbe farlo. Non c'è modo di vendicarsi nei confronti di chi lo farebbe. Un burocrate del governo che lancerebbe un attacco ad una nazione nemica, sa che ci saranno ritorsioni da parte dei sopravvissuti all'attacco. Ma uno scienziato pazzo equipaggiato con un laboratorio rudimentale di armi biologiche, può essere in grado di evitare il rilevamento e quindi evitare ritorsioni.

Questo è il lato oscuro del decentramento: è liberatorio, ma non messianico. Il peccato non si supera con la concorrenza dei prezzi. Il decentramento e l'innovazione abbassano il costo del peccato, insieme al costo di tutto il resto. Il peccato ha un prezzo più competitivo. La legge della domanda è sempre valida: al calo del prezzo, la domanda sale. Non dobbiamo confondere l'efficienza con la rigenerazione.

Ecco un esempio letterario importato dalla mitologia islamica: un genio che esce dalla lampada. Alcuni team di ricercatori rilasciano accidentalmente un organismo assassino.

Un'altra cosa è un laboratorio governativo per le armi biologiche. Ciò potrebbe produrre una vera e propria arma di distruzione di massa. Potrebbe liberarsi, accidentalmente o deliberatamente.

Se la nanotecnologia diventa disponibile, allora stiamo davvero parlando di geni e lampade. La nanotecnologia consentirà ai piccoli microbi di riprodursi e combinarsi. Potremmo essere a 50 anni di distanza da uno scenario simile, ma dubito che siano 100 anni. Pensate a quel vecchio film di fantascienza, Blob - Il fluido che uccide.

Non si tratta di scenari fantascientifici. Si tratta di un'estensione delle tendenze esistenti, oltre a rappresentare una discontinuità. Un genio è sempre una fonte di discontinuità: tre desideri.

Ne basterebbe solo uno. Ciò, di conseguenza, abbasserebbe le probabilità di uno.



LA LEGGE DI MOORE E IL NICHILISMO

Così ci viene detto che siamo di fronte a tre implicazioni della legge di Moore. Una riguarda i programmi stessi: super intelligenza. E' falsa, presuppone che la conoscenza prescinda le responsabilità personali. Una seconda riguarda piccoli arme biologiche di distruzione di massa. Queste sono minacce reali, perché la conoscenza è personale, e questo significa etica. Ci sono persone cattive là fuori. Una terza presuppone che la ricerca scientifica vada storta. Anche questa rappresenta una minaccia.

Il problema, ancora una volta, è questo: le tendenze sono chiare. Le tendenze indicano il continuo aumento delle applicazioni informatiche e il loro calo dei prezzi. Ciò che oggi può essere prodotto in modo molto costoso da gruppi governativi di ricercatori, sarà possibile produrlo per piccole squadre di nichilisti rivoluzionari prima della fine di questo secolo.

Le persone malvagie saranno in grado di acquistare macchine potenti.

I nichilisti rivoluzionari esistono davvero. Ci sono persone che credono davvero che la razza umana sia un cancro per madre natura. Credono davvero che la cosa eticamente giusta da fare sia quella di ridurre la popolazione mondiale di circa 500 milioni di persone. Si tratta di un impulso religioso. Questa religione non si riscontra nella popolazione generale. La ritroviamo tra le persone molto intelligenti e altamente istruite.

La vecchia protezione era questa: il numero di persone che avrebbero potuto tirare fuori qualcosa di simile era così limitato, e la spesa era così immensa, che la probabilità statistica che accadesse una cosa del genere era vicino all'impossibile. Ma al calare del prezzo della tecnologia e all'aumento della potenza della tecnologia, diventa sempre più possibile che piccoli gruppi di nichilisti rivoluzionari distruggano la società moderna.

Siamo di nuovo al dilemma di cui abbiamo parlato prima: l'unica cosa, scientificamente parlando, che sembra in grado di fermare queste tendenze è un evento discontinuo che metterebbe a rischio l'ordine sociale. Ci sarebbe uno sfaldamento della divisione del lavoro.

Ma c'è di più. Ci sono eventi discontinui che ri-modellano le tendenze, le deviano.

E c'è sempre un'altra cosa: la legge dei rendimenti decrescenti. Io preferisco quella dei mostri dall'id.



MOSTRI DALL'ID

Non si tratta solo di macchine. Si tratta di uomini.

Bostrom illustra vari percorsi verso il raggiungimento della super intelligenza. Due, discussi brevemente, comportano il potenziamento dell'intelligenza umana. In uno, le cellule staminali di embrioni vengono dapprima trasformate in sperma e uova, e poi combinati di nuovo per produrre successive generazioni di embrioni, e così via, con l'idea di generare persone con un QI medio di circa 300.

Fantascienza.

L'altro approccio prevede interfacce cybernetiche innestate nel cervello con cui potenziare l'intelligenza umana. Bostrom rigetta, più o meno, entrambi i percorsi: sia quello eugenetico sia quello cybernetico, anche se riconosce che rendere le persone più intelligenti potrebbe contribuire ad accelerare il processo di sviluppo della super intelligenza nelle macchine.

Fantascienza.

La questione che dobbiamo affrontare ora non è come integrare l'uomo e la macchina. Questo è uno scenario da fantascienza. Piuttosto il problema è porre limiti etici a coloro che usano le macchine. Ciò significa sanzioni.

Se ci fidiamo dello stato, vale a dire dei burocrati di ruolo, affinché imponga tali sanzioni, poniamo la nostra fede in un falso dio.

Allora quale assetto istituzionale è in grado di imporre sanzioni positive e negative? Uno che si basa sulla conoscenza decentrata. Nient'altro è in grado di monitorare e modellare i trend.

Ecco il problema.

Bostrom sostiene che è importante capire come controllare una IA prima di accenderla, perché resisterà ai tentativi di cambiare i suoi obiettivi finali una volta attivata. In tal caso, avremo una sola possibilità di dare all'IA i giusti valori e obiettivi. In linea di massima, Bostrom prende in considerazione due modi con cui gli sviluppatori potrebbero cercare di proteggere l'umanità da una super intelligenza malvagia: controllo delle capacità e selezione della motivazione.

Fantascienza. Inoltre si tratta solamente di gergo accademico. Burocratese. Somewhere, over the rainbow, way up high.

"Nel frattempo, Bostrom pensa che sia più sicuro se la ricerca su una IA super intelligente avanzi lentamente." Cosa importa quello che pensa? Non ha alcun potere di imporlo. Non è Dio. Nessun governo nazionale può farlo.

Ed egli esorta i ricercatori e i loro sostenitori ad impegnarsi per il bene comune: "La super intelligenza dovrebbe essere sviluppata solo a beneficio di tutta l'umanità e al servizio di ideali etici ampiamente condivisi." Un sentimento bello, ma data l'attuale rivalità internazionale e commerciale, l'adozione universale di questo principio sembra improbabile.

Molto improbabile.



CONCLUSIONE

Dove siamo arrivati, quindi?

Vorrei saperlo. Se fossi più intelligente, potrei.

Nessuno sulla terra è abbastanza intelligente da saperlo.

Ma non mi serve saperlo per forza. Ho fiducia in due cose: Dio e processi di mercato. Per coloro che rifiutano entrambi, posso solo dire questo: i trend sono in atto. Se si considera affidabile lo stato affinché dia loro forma attraverso la conoscenza a disposizione delle commissioni, si dispone di una sola speranza: un po' di forte discontinuità.

Nel frattempo, la legge di Moore è in atto. . . nel presente. È la grande costante. . . nel presente. È il grande trend. . . nel presente.

Forse può essere rovesciata da una discontinuità inattesa. Non voglio pensare a quanto dovrebbe essere discontinuo tale evento. Nemmeno voi dovreste. Preferisco di gran lunga la legge dei rendimenti decrescenti.

Il trend è endogeno. Si è auto-generato nell'economia. L'economia di mercato è enorme. I partecipanti sono molti. La prossima innovazione è per sua natura imprevedibile. Chiunque poteva immaginarla. La riduzione dei prezzi può contribuire al suo sviluppo.

I trend precedenti hanno esaurito le risorse. La legge dei rendimenti decrescenti ha vinto. Ma la crescita economica è andata avanti. La creatività e la libertà hanno sostenuto il processo di crescita. Poche persone vogliono fermare tale processo. Molte persone non vogliono una crescita economica pari a zero.

La legge di Moore presenta un alto tasso di crescita mai eguagliato nella storia: 50 anni. Sembra permanente. Ma l'apparenza inganna.

Nessuno stato può fermare questo trend, a meno che non voglia scatenare una conflagrazione. E' un trend del libero mercato. Questo processo sembra condurre verso una forte discontinuità: qualcosa di nuovo sotto il sole. Sta diventando esponenziale.

Torniamo all'articolo di Kurzweil sulla legge dei rendimenti acceleranti. Torniamo di nuovo a questo articolo. Egli pensa che la grande discontinuità sarà quella che lui definisce la singolarità: una fusione tra uomo e macchina.

Fantascienza.

Bostrom teme una discontinuità: l'evoluzione delle macchine in divinità. Io no. Le macchine non saranno mai intelligenti. Riciclare i rifiuti attraverso gli algoritmi non equivale ad essere intelligenti. Non equivale ad un processo decisionale responsabile.

I programmi per computer sono digitali, non sono analogici. Non sono fatti a immagine dell'uomo, non più di quanto l'uomo sia fatto a immagine di una macchina. Il mondo non è un gigantesco orologio, e l'uomo non è un piccolo ingranaggio in esso. Gli ingranaggi non sono agenti responsabili. Né lo sono le macchine. Gli ingranaggi non compiono azioni propositive. Nemmeno le macchine. Gli ingranaggi non pianificano. Né lo fanno le macchine.

Per quei teologi -- perché questo è quello che sono -- che pensano che gli uomini siano ingranaggi di una macchina cosmica, la prossima singolarità non pianificata rappresenterà una nuova evoluzione. Ma chi la supervisionerà? L'umanità (nel senso di alcuni uomini) o le macchine? Si preoccupano di questo.

Io no. Ma sono preoccupato per una manciata di persone che può usare un po' di tecnologia in modo irresponsabile. Un qualche genio devastante può uscire dalla lampada.

Ecco il mio punto. Il problema è etico, non riguarda le cifre. Nessuna discontinuità cambierà questa cosa. . . a parte quella che pone il limite su ogni curva esponenziale: la scarsità insostituibile del tempo.


[*] traduzione di Francesco Simoncelli: http://francescosimoncelli.blogspot.it/