e se l'intelligenza artificiale si autoreplicasse?

[ahaha.ha]

e se qualcuno usasse l'intelligenza artificiale per scopi malevoli o addirittura criminali?
E' una domanda che mi faccio da qualche tempo e che mi ha condotto qui:

https://www.msn.com/it-it/notizie/mondo ... cbe2&ei=26

Qualcuno dei presenti ha già utilizzato questa intelligenza?

[vito]

e se qualcuno usasse l'intelligenza artificiale per scopi malevoli o addirittura criminali?
E' una domanda che mi faccio da qualche tempo e che mi ha condotto qui:

https://www.msn.com/it-it/notizie/mondo ... cbe2&ei=26

Qualcuno dei presenti ha già utilizzato questa intelligenza?

Due-intelligenze-artificiali-si-sono-autoreplicate
potrebbe sostituire anche l'intelligenza della politica ... .

[ahaha.ha]

vito ha scritto:
> Due-intelligenze-artificiali-si-sono-autoreplicate
> potrebbe sostituire anche l'intelligenza della politica ... .

Giammai, la politica deve prevalere su tutto, anche sull'intelligenza, sig vito

[docgalileo]

e se qualcuno usasse l'intelligenza artificiale per scopi malevoli o addirittura criminali?
E' una domanda che mi faccio da qualche tempo e che mi ha condotto qui:

https://www.msn.com/it-it/notizie/mondo ... cbe2&ei=26

Qualcuno dei presenti ha già utilizzato questa intelligenza?

Tu che parli di intelligenza è come Rocco Siffredi che elogia la verginità.

[vito]

vito ha scritto:
> Due-intelligenze-artificiali-si-sono-autoreplicate
> potrebbe sostituire anche l'intelligenza della politica ... .

Giammai, la politica deve prevalere su tutto, anche sull'intelligenza, sig vito

In politica si accatasta un coacervo di interessi che fanno si che oggi la parola "politica" abbia un significato diverso dall'originale ...

[ahaha.ha]

vito ha scritto:
> In politica si accatasta un coacervo di interessi che fanno si che oggi la
> parola "politica" abbia un significato diverso dall'originale ...
X̌xxxxxxxx

Secondo il sig. Leno, la politica è l'arte di impedire agli avversari di fare la loro.
Di che coacervo parla sig Vito?

[Fosforo31]

e se qualcuno usasse l'intelligenza artificiale per scopi malevoli o addirittura criminali?
E' una domanda che mi faccio da qualche tempo e che mi ha condotto qui:
https://www.msn.com/it-it/notizie/mondo ... cbe2&ei=26
Qualcuno dei presenti ha già utilizzato questa intelligenza?

L'IA presenta seri problemi e seri rischi ma non sono un catastrofista. Essa ha i suoi limiti, offre grandi opportunità in svariati campi, non ci darà la felicità ma può migliorarci e forse anche allungarci la vita (es. con le applicazioni in campo medico). Dilaterà non di poco i rischi informatici che già conosciamo (pirateria, truffe, furti di dati, etc.) ma potenzierà anche le difese: saranno "intelligenti" i virus ma pure gli antivirus. Ci renderà più stupidi o più intelligenti a seconda del nostro approccio. C'è un problema dato dai grandi data center necessari per l'IA, che divorano energia con conseguente impatto ambientale finché non aboliamo i fossili. C'è chi propone di piazzare appositi reattori nucleari presso questi data center (nonché acciaierie o cementifici). Ignorano o fingono di ignorare che le rinnovabili con accumulo possono fare tutto ciò che fa il nucleare con tempi di costruzione più brevi e a costi (e rischi) molto minori. Il rischio maggiore dell'IA oggi è la sottrazione di lavoro umano, già in atto e destinata a crescere. Dunque distribuire equamente il pane e il lavoro: lavorare meno per lavorare tutti. Il grande Keynes, che non era affatto comunista, nel 1930 prevedeva e auspicava una settimana lavorativa di 15 ore entro il 2030. Siamo ancora lontani. Servono regole, controlli, una giustizia rigorosa ed efficiente, una forte presenza dello Stato sociale e dello Stato imprenditore. Sia l'IA che la lotta al cambiamento climatico sono pressoché incompatibili con il vigente sistema economico liberista e globalista. Dobbiamo orientarci non dico verso il comunismo puro (soluzione che resta a mio avviso ottimale) ma almeno verso sistemi più statalisti, socialisti, collettivisti. Sul rischio esistenziale (le macchine "intelligenti" si ribellano e ci sterminano, o ci riducono in schiavitù per costringerci a fare le poche cose che non riescono a fare), ma soprattutto sul problema dell'autoreplicazione e simili, mi riprometto di scrivere un prossimo post. Temo che sarà lunghetto.

[Gasiot]

L'IA presenta seri problemi e seri rischi ma non sono un catastrofista. Essa ha i suoi limiti, offre grandi opportunità in svariati campi, non ci darà la felicità ma può migliorarci e forse anche allungarci la vita (es. con le applicazioni in campo medico). Dilaterà non di poco i rischi informatici che già conosciamo (pirateria, truffe, furti di dati, etc.) ma potenzierà anche le difese: saranno "intelligenti" i virus ma pure gli antivirus. Ci renderà più stupidi o più intelligenti a seconda del nostro approccio. C'è un problema dato dai grandi data center necessari per l'IA, che divorano energia con conseguente impatto ambientale finché non aboliamo i fossili. C'è chi propone di piazzare appositi reattori nucleari presso questi data center (nonché acciaierie o cementifici). Ignorano o fingono di ignorare che le rinnovabili con accumulo possono fare tutto ciò che fa il nucleare con tempi di costruzione più brevi e a costi (e rischi) molto minori. Il rischio maggiore dell'IA oggi è la sottrazione di lavoro umano, già in atto e destinata a crescere. Dunque distribuire equamente il pane e il lavoro: lavorare meno per lavorare tutti. Il grande Keynes, che non era affatto comunista, nel 1930 prevedeva e auspicava una settimana lavorativa di 15 ore entro il 2030. Siamo ancora lontani. Servono regole, controlli, una giustizia rigorosa ed efficiente, una forte presenza dello Stato sociale e dello Stato imprenditore. Sia l'IA che la lotta al cambiamento climatico sono pressoché incompatibili con il vigente sistema economico liberista e globalista. Dobbiamo orientarci non dico verso il comunismo puro (soluzione che resta a mio avviso ottimale) ma almeno verso sistemi più statalisti, socialisti, collettivisti. Sul rischio esistenziale (le macchine "intelligenti" si ribellano e ci sterminano, o ci riducono in schiavitù per costringerci a fare le poche cose che non riescono a fare), ma soprattutto sul problema dell'autoreplicazione e simili, mi riprometto di scrivere un prossimo post. Temo che sarà lunghetto.

Semplificando al massimo .... l' IA in mano ad uno stato centralista / socialista/ comunista sarebbe pericolosa perché annulla ancora di più la persona ,il singolo
Viceversa, l' IA per tutti aumenta le differenze tra i singoli,quindi valorizza una parte a discapito dell' altra
Conclusione solo l'intelligenza naturale ci aiuta a sopravvivere

[vatel]

Ebbene piano piano anche noi un giorno arriveremo a creare degli androidi che ci sostituiranno in tutto e per tutto

https://it.wikipedia.org/wiki/Il_mondo_dei_replicanti

[docgalileo]

Il grande Keynes, che non era affatto comunista, nel 1930 prevedeva e auspicava una settimana lavorativa di 15 ore entro il 2030. Siamo ancora lontani.

Per l'ennesima volta il cazzaro psicolabile fosforo31 propaganda la
PUTTANATA GALATTICA
del "lavorare meno, lavorare tutti".
NOTA per il criceto valerio ed il criceto heyoka: il vostro amico fosforo31 dimostra di essere un cazzaro psicolabile in quanto continua imperterrito a propagandare una puttanata galattica.
"Lavorare meno, lavorare tutti" è una puttanata galattica non perché lo dice il sottoscritto sulla base dell'oroscopo di Paolo Fox.
"Lavorare meno, lavorare tutti" è una puttanata galattica perché, ex plurimis,
https://www.nber.org/system/files/worki ... w18265.pdf
Nel caso non fosse chiaro: nemmeno la Grande Recessione del 2007 ha posto le condizioni perché si creassero posti di lavoro tagliando gli orari di lavoro.
PS: imparate a scegliere meglio i vostri amici

[RedWine]

Per l'ennesima volta il cazzaro psicolabile fosforo31 propaganda la
PUTTANATA GALATTICA
del "lavorare meno, lavorare tutti".
NOTA per il criceto valerio ed il criceto heyoka: il vostro amico fosforo31 dimostra di essere un cazzaro psicolabile in quanto continua imperterrito a propagandare una puttanata galattica.
"Lavorare meno, lavorare tutti" è una puttanata galattica non perché lo dice il sottoscritto sulla base dell'oroscopo di Paolo Fox.
"Lavorare meno, lavorare tutti" è una puttanata galattica perché, ex plurimis,
https://www.nber.org/system/files/worki ... w18265.pdf
Nel caso non fosse chiaro: nemmeno la Grande Recessione del 2007 ha posto le condizioni perché si creassero posti di lavoro tagliando gli orari di lavoro.
PS: imparate a scegliere meglio i vostri amici

Sig. docgalileo, non si puo continuamente intervenire con questi toni, che tu abbia ragione o meno in merito, al celebre "lavorare meno lavorare tutti"

quindi chiedo alla moderazione di concederti un adeguato tempo di riflessione prima di un tuo ritorno attivo sul forum con piu argomenti e meno insulti.

Saluti

[RedWine]

e se qualcuno usasse l'intelligenza artificiale per scopi malevoli o addirittura criminali?
E' una domanda che mi faccio da qualche tempo e che mi ha condotto qui:

https://www.msn.com/it-it/notizie/mondo ... cbe2&ei=26

Qualcuno dei presenti ha già utilizzato questa intelligenza?

usasse
e credi che non lo facciano gia?

un paio di considerazioni sulla cosi detta IA.
avete mai giocato a scacchi contro un motore scacchistico? Al momento e ormai da decenni, son imbattibili, anche dal campione del mondo, ma non sono "intelligenti". per essere intelligenti bisogna avere una coscienza, non in senso morale, ma in quanto essere coscenti di de stessi.
uno scarafaggio ha questa caratteristica una IA no.
in via teorica si potrebbe anche fare, ma a che scopo pratico? almeno finore le IA sono indirizzate a svolgere bene un determinato scopo, quindi una IA è solo una macchina (virtuale) creata per assolvere un compito e null'altro, senza avere la minima coscienza di se stessa ne delle conseguenze positive o negative delle loro azioni.
è pericolosa? indubbiamente SI.
ma non in quanto macchina, ma in quanto controllata e indirizzata nel suo agire da persone niente affatto virtuali e come tutte le persone animate da sentimenti che potrebbero essere deleteri per la maggior parte degli umani, ad esempio tanto per essere banale guadagnare di piu e avere piu potere.
quindi controllare cosa fanno e soprattutto chi gestisce queste IA penso sia vitale per il nostro futuro, e purtroppo, non è cosa che si possa fare a livello locale o nazionale, ma bisogna agire a livello globale.

[Sayon]

L' AI come ogni altra invenzione SARA' certamente usata a scopi malvagi, soprattutto in guerre, afalse accuse ,truffe.
Inoltre servira' alle persone mediocri (il 95% della popolazione) per rubare le idee, invenzioni, bravura delle persone piu dotate.
Sono incerto cosa avverra' alle persone creative. O diventeranno famose e pagatissime, o finiranno come tanti altri artisti (scrittori, pittori, musicisti) copiati dai mediocri e subito ignorati.
Per quanto "intelligente" la A1 vive solo dell' intelligenza umana. Vive e prospera usando le esperienze degli altri. In situazioni crtiche e complesse dove servirebbe una mente inventiva, la A1 puo' portare a immensi disastri.
In conclusione, io la considero un grande passo avanti per l' umanita' dal punto di vista tecnico, ma, da persona inventiva, sono felice di stare fuori di questo mondo quando essa pervadera' ogni settore.

[Shamash]

Messaggio dello Staff:

Come da segnalazione nell'apposita sezione, si procede al ban di 2 settimane per l'utente docgalileo, per le medesime motivazioni del precedente ban (linguaggio volgare e insulti rivolti ad altri utenti).
Si auspica che tale periodo sia utile per il ravvedimento.
Buona continuazione

[Fosforo31]

La caratteristica peculiare dell'IA, almeno nella forma attuale (IA debole) è l'autoapprendimento. A differenza dei programmi o app tradizionali, l'IA quando interagisce con l'ambiente, con le persone o altre macchine, usa queste esperienze per regolare e ottimizzare le proprie azioni. Ma "impara" anche dalle proprie esperienze, dai propri errori. Così riesce a simulare comportamenti in apparenza umani e intelligenti. Es. il programma scacchistico AlphaZero aveva in memoria solo le regole del gioco, non le aperture e i finali, ma dopo sole 4 ore di allenamento in autoplay, ovvero decine di milioni di partite ultrarapide giocate contro se stesso (durata media delle partite meno di 1 millisecondo), aveva perfezionato a tal punto la sua funzione di valutazione della posizione (a reti neurali) da poter battere il più forte dei programmi tradizionali, Stockfish (capace di analizzare 70 milioni di posizioni al secondo), usando la sua "comprensione" della posizione più che la potenza di calcolo "a forza bruta" dell'avversario. Ovvero uno stile di gioco quasi umano. Mi viene in mente il cubano José Raul Capablanca, mitico campione del mondo negli anni '20, soprannominato "la macchina pensante", che si vantava, grazie al suo istinto posizionale, di analizzare varianti profonde una sola mossa per trovare la jugada precisa.
Il passaggio dall'autoapprendimento all'autoreplicazione non mi sorprende, il vero salto concettuale sarebbe quello delle macchine autocoscienti (la cd. IA forte). Il tema è controverso ma un esperimento mentale del filosofo John Searle (esperimento della Stanza Cinese) sembrerebbe negare questa possibilità. E sarebbe meglio per noi perché il rischio esistenziale per l'umanità di una "ribellione violenta" delle macchine intelligenti presuppone una loro autonomia decisionale. Stephen Hawking temeva che macchine sempre più "intelligenti" potrebbero andare semplicemente fuori controllo e fare catastofi. Ora io non so nulla di algoritmi dell'IA ma non credo che sia difficile inserire un bel salto incondizionato, un prosaico go to a un controllo umano esterno a monte di ogni azione codificata verso atti violenti. Certo potremmo avere missili guidati dall'IA, ma anche antimissili guidati dall'IA. Se poi qualcuno affiderà a un'IA armi nucleari, allora sarà anche abbastanza pazzo da schiacciare il bottone rosso da solo senza delegare il robot. Un grande rischio può venire dalle armi immateriali. Es. usare l'IA per disinformare o ingannare le persone, per speculare sui mercati finanziari, etc. Quindi l'IA va rigorosamente regolata e controllata. In ogni caso, se un robot combina dei guai, es. un'auto a guida autonoma, un tizio in carne e ossa deve pagare i danni.
Ribadisco che ciò che mi preoccupa di più è la sottrazione di lavoro umano da parte delle macchine. Non bisogna ostacolare pregiudizialmente questo processo, ma se le macchine intelligenti faranno impennare la sottrazione, bisognerà tagliare gli orari di lavoro. D'altra parte questa è anche una grande opportunità. Non bisogna essere schiavi delle macchine ma nemmeno del lavoro. Nel medesimo discorso in cui preconizzava la settimana lavorativa di 15 ore, Keynes parlava anche del "vecchio Adamo che è in ciascuno di noi". Adamo prima di essere cacciato dall'Eden non aveva bisogno di lavorare. L'IA può liberarci il tempo, restituirci una delle nostre più grandi ricchezze.
Il tema delle macchine intelligenti, autoreplicanti e autocoscienti non è affatto nuovo. I veri moderni sono gli antichi, diceva un mio prof di filosofia (capovolgendo un pensiero di Bacone e Bruno). Cartesio pensava che l'uomo fosse una macchina autoreplicante. Cogito, ergo sum, dunque anche una macchina intelligente e autocosciente. Ma la sua allieva Cristina di Svezia lo mise in difficoltà indicandogli un orologio e chiedendogli: "Ora mostratemi la prole". Per inciso, la giovane regina pretendeva che le lezioni iniziassero alle 5 del mattino ma Cartesio era abituato ad alzarsi alle 11 e il clima svedese era troppo rigido per lui. Morì di polmonite.
Alla domanda di Cristina rispose 3 secoli dopo John von Neumann, geniale matematico americano di origini ungheresi. Negli anni '40 elaborò la teoria degli automi autoreplicanti. Descrisse un automa denominato Costruttore Universale di von Neumann. Il meccanismo di riproduzione era perfettamente analogo a quello biologico basato sulla replicazione del DNA. Questi automi potevano anche evolversi in strutture più complesse, ancora con un meccanismo analogo a quello naturale di selezione della specie, per effetto di errori (o mutazioni) nella trascrizione del codice descrivente la macchina. La cosa sorprendente è che la scoperta della struttura del DNA a doppia elica, ad opera di Watson e Crick, avvenne anni dopo. Questi automi sono macchine astratte, entità matematiche simulabili al computer (all'epoca rudimentale). Per implementarli servirebbe una miniera o un magazzino dove la macchina preleva le materie prime o i componenti elementari per costruire la replica. È stata teorizzata anche una versione spaziale: le sonde autoreplicanti di von Neumann. La sonda raggiunge un pianeta e attinge in loco le risorse per costruire una o più repliche, le quali vanno a colonizzare altri pianeti dove fabbricano ulteriori repliche e così via. Si stima che viaggiando a 1/10 della velocità della luce potrebbero colonizzare l'intera Galassia in mezzo milione di anni. Ma allora perché non abbiamo ancora trovato una sonda di von Neumann sulla Terra? Questo sarebbe indizio di una soluzione negativa del cd. Paradosso di Fermi: le stelle e i pianeti sono tantissimi e la storia dell'universo è lunghissima, ma allora dove sono gli extraterrestri? Potremmo essere soli, almeno come civiltà evoluta, ma altri pensano che una civiltà evoluta non costruirebbe sonde di von Neumann e distruggerebbe le eventuali esistenti. Queste, infatti, replicandosi esponenzialmente, potrebbero divorare le risorse della Galassia fino a distruggerla. Von Neumann definì una generalizzazione di questi automi: gli automi cellulari. Sono reti di cellule o celle il cui comportamento è definito da regole semplicissime in relazione alle celle vicine. Lo stato di queste reti può evolvere in strutture molto complesse di tipo caotico ma talora stabile e regolare. Si dimostra che almeno una di queste regole evolve in una macchina di Turing completa ovvero computazionalmente universale. In altri termini un calcolatore in grado di computare tutto il computabile (ma non tutto lo è: esistono problemi indecidibili). Gli automi cellulari potrebbero dunque simulare il comportamento di sistemi complessi, chimici, biologici, etc
Esiste una teoria filosofica, l'Emergentismo, secondo la quale proprietà e comportamenti impredicibili possono emergere in un sistema complesso quando interagisce in un contesto più ampio, ma che non si ritrovano nelle singole parti del sistema. Per es.la vita potrebbe essere una proprietà emergente della chimica organica e la coscienza una proprietà emergente della vita. Ma ambedue potrebbero essere proprietà emergenti da ben altre strutture e di natura non biologica. Per es. gli automi cellulari di von Neumann in grado di autoreplicarsi e di evolversi.
Premesso ciò, se è vera la cd. Ipotesi della Simulazione (filosofica, non scientifica) allora noi non siamo che personaggi di una realtà virtuale (comprendente l'intero universo conosciuto) simulata al supercomputer di una qualche intelligenza molto superiore. Insomma i personaggi di una sorta di videogioco. E non abbiamo modo di capire che viviamo in una simulazione non essendo in grado di interpretare i segni di questa tecnologia superiore. Tipo una finestra che appare con la scritta:
Sei in una simulazione, fai clic per uscire.