Anthropic lancia l'allarme: l'IA sarà presto autoreplicante

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...te_126316.html

La possibilità che l'IA diventi autonoma è una prospettiva da futuro prossimo: secondo il CEO di Anthropic ciò si potrà verificare tra il 2025 e il 2028. E' necessario un approccio responsabile allo sviluppo dei modelli

Click sul link per visualizzare la notizia.

[io78bis]

Per quanto si possa essere d'accordo su alcuni punti (Skynet è ancora molto lontano e basta tenere i sistemi isolati) certe affermazioni mi fanno sempre un po' ridere.

Prima regalano al mondo uno strumento pericoloso poi escono dalle società dove lavoravano per motivi più o meno etici e chiedono regolamentazioni. Preferirei essere governato da AI piuttosto che da Stati o organismi Statali che controllano AI controllati da qualche persona potente

[Unrue]

Ma in base a cosa lo dice? Non capisco. In fondo la palla è ancora in mano nostra, basta renderle intelligenti ma non troppo.

E basta con questi paragoni con Skynet, che ricordo nel film fu agganciata un'AI agli armamenti atomici. Ma quando mai ?

[nexin]

Io uso il loro modello cioè Claude 3 Opus ed è davvero impressionante, spesso anche meglio di GPT4-Turbo e non ci hanno messo anni ma pochi mesi per arrivare anche a questi livelli. Dunque non sottovaluterei le parole di Dario Amodei che è tutt'altro che uno sprovveduto, anzi.

Poi vabbe, si sa che l'utente medio di HwUpgrade pensa di saperne di più del fondatore di una delle società più importanti a livello globale nell'ambito della AI generative.

[silvanotrevi]

ma per favore!
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)

[coschizza]

Originariamente inviato da silvanotrevi

ma per favore!
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)

tu si che hai capito tutto/niente dell'argomento

[io78bis]

Originariamente inviato da silvanotrevi

.... Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi....

Per curiosità e perché devo essermi perso le dimostrazioni. Hai un link a precedenti thread o puoi fornire nuovamente un esempio?

[!fazz]

Originariamente inviato da io78bis

Per curiosità e perché devo essermi perso le dimostrazioni. Hai un link a precedenti thread o puoi fornire nuovamente un esempio?

uno dei più classici è quello della mamma bambino e latte

la mamma che abita al 14° piano di un palazzo chiede al bambino che sta in strada di lanciargli verso la finestra delle bottiglie di latte, il bambino lancia 2 bottiglie al giorno, quante bottiglie di latte avrà la mamma dopo una settimana? l'IA risponde 14

[Darkon]

Originariamente inviato da io78bis

Per curiosità e perché devo essermi perso le dimostrazioni. Hai un link a precedenti thread o puoi fornire nuovamente un esempio?

Gli esempi esistono ma il punto che li accomuna tutti è che sono problemi matematici che nascondono insidie nel testo. L'IA spesso non riesce a risolverli non perché non sarebbe in grado ma perché il testo fornitole la porta fuori strada.
Sono gli stessi problemi che a volte vengono usati per scherzo o come indovinello che ti portano a pensare a una soluzione semplice e immediata quando invece il senso reale del problema è tutt'altro.

Per farti un esempio:

Una lumaca vuole salire su un palo alto 5 metri; di giorno sale 3 metri e di notte scende 2 m. Quanto tempo ci metterà per raggiungere la cima del palo?

Risposta di Gemini:

Per risolvere questo problema, possiamo impostare un'equazione semplice che rappresenta la distanza percorsa dalla lumaca nel tempo.

Sia:

giorni il numero di giorni trascorsi
distanza la distanza percorsa dalla lumaca dal basso del palo
Ogni giorno, la lumaca sale 3 metri e poi scende di 2 metri, per un guadagno netto di 1 metro al giorno.

Possiamo esprimere la distanza percorsa dalla lumaca come:

distanza = giorni * 1 metro

La lumaca vuole raggiungere la cima del palo, che è alta 5 metri. Possiamo impostare questa condizione come:

distanza = 5 metri

Combinando queste due equazioni, otteniamo:

giorni * 1 metro = 5 metri

Dividendo entrambi i lati per 1 metro, troviamo il numero di giorni necessari:

giorni = 5 metri / 1 metro = 5 giorni

Quindi, ci vorranno 5 giorni alla lumaca per raggiungere la cima del palo.

Tuttavia, è importante notare che questo è un modello semplificato e non tiene conto di altri fattori che potrebbero influenzare la velocità della lumaca, come le condizioni meteorologiche o la sua condizione fisica.

Soluzione:

In realtà la soluzione è 3 giorni:

Il primo giorno sale di 3 e poi scende di 2 ed è a 1m

Il secondo giorno sale di 3 quindi arriva a 4 e scende di 2 quindi è a 2m

Il terzo giorno sale di 3 ed è arrivata a 5.

[UtenteHD]

Originariamente inviato da silvanotrevi

ma per favore!
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)

TI stai confondendo con le crypto fuffa mi sa..
Extra info, con l'IA l'unica cosa che spariranno sono migliaia o miliardi di posti di lavoro, senza contare tutto il resto.

[Giulio1976]

Mi sono rotto veramente le palle di questi continui allarmi sparati PROPRIO da chi ci sta portando verso questa (annunciata) catastrofe. Ma se sono proprio loro che stanno creando questi mostri, questi allarmi li stanno lanciando contro chi? Contro se stessi?

[Giulio1976]

Originariamente inviato da !fazz

uno dei più classici è quello della mamma bambino e latte

la mamma che abita al 14° piano di un palazzo chiede al bambino che sta in strada di lanciargli verso la finestra delle bottiglie di latte, il bambino lancia 2 bottiglie al giorno, quante bottiglie di latte avrà la mamma dopo una settimana? l'IA risponde 14

Oddio, e quale sarebbe la risposta corretta?
Io dico 0, un bambino non riesce a lanciare delle bottiglie fino al 14mo piano...

[TorettoMilano]

Originariamente inviato da Giulio1976

Mi sono rotto veramente le palle di questi continui allarmi sparati PROPRIO da chi ci sta portando verso questa (annunciata) catastrofe. Ma se sono proprio loro che stanno creando questi mostri, questi allarmi li stanno lanciando contro chi? Contro se stessi?

immagino il discorso sia un pochino più complesso, se sto tizio punta i piedi e dice "io questa azienda di IA la chiudo" all'atto pratico non cambierebbe nulla nel panorama IA. forse meglio rimanga nel settore e trovi possibili soluzioni

[migliorabile]

In realta' la catastrofe e' un'altra
1) uso di risorse primarie per creare hardware dedicato
2) uso di energia elettrica per i data Center, togliendolo all' uso "convenzionale"
3) uso di acqua per raffredamento, togliendolo all'uso civile
4) generazione di calore

e tutto questo per cosa? per generare immagini stupidine, eliminare posti di lavoro (perche' purtroppo, certe attività possono essere rimpiazzare, con alterni risultati MA alle aziende interessa SOLO fare piu' soldi)

[david-1]

Originariamente inviato da !fazz

uno dei più classici è quello della mamma bambino e latte

la mamma che abita al 14° piano di un palazzo chiede al bambino che sta in strada di lanciargli verso la finestra delle bottiglie di latte, il bambino lancia 2 bottiglie al giorno, quante bottiglie di latte avrà la mamma dopo una settimana? l'IA risponde 14

Vabbè dai, è un esempio un pò limite

[!fazz]

Originariamente inviato da Giulio1976

Oddio, e quale sarebbe la risposta corretta?
Io dico 0, un bambino non riesce a lanciare delle bottiglie fino al 14mo piano...

ESATTO ma tu ragioni una ia generativa mette insieme pezzi di frasi che stanno bene insieme (2*7 = 14)

[david-1]

Originariamente inviato da Darkon

Gli esempi esistono ma il punto che li accomuna tutti è che sono problemi matematici che nascondono insidie nel testo. L'IA spesso non riesce a risolverli non perché non sarebbe in grado ma perché il testo fornitole la porta fuori strada.
Sono gli stessi problemi che a volte vengono usati per scherzo o come indovinello che ti portano a pensare a una soluzione semplice e immediata quando invece il senso reale del problema è tutt'altro.

Per farti un esempio:

Una lumaca vuole salire su un palo alto 5 metri; di giorno sale 3 metri e di notte scende 2 m. Quanto tempo ci metterà per raggiungere la cima del palo?

Risposta di Gemini:

Per risolvere questo problema, possiamo impostare un'equazione semplice che rappresenta la distanza percorsa dalla lumaca nel tempo.

Sia:

giorni il numero di giorni trascorsi
distanza la distanza percorsa dalla lumaca dal basso del palo
Ogni giorno, la lumaca sale 3 metri e poi scende di 2 metri, per un guadagno netto di 1 metro al giorno.

Possiamo esprimere la distanza percorsa dalla lumaca come:

distanza = giorni * 1 metro

La lumaca vuole raggiungere la cima del palo, che è alta 5 metri. Possiamo impostare questa condizione come:

distanza = 5 metri

Combinando queste due equazioni, otteniamo:

giorni * 1 metro = 5 metri

Dividendo entrambi i lati per 1 metro, troviamo il numero di giorni necessari:

giorni = 5 metri / 1 metro = 5 giorni

Quindi, ci vorranno 5 giorni alla lumaca per raggiungere la cima del palo.

Tuttavia, è importante notare che questo è un modello semplificato e non tiene conto di altri fattori che potrebbero influenzare la velocità della lumaca, come le condizioni meteorologiche o la sua condizione fisica.

Soluzione:

In realtà la soluzione è 3 giorni:

Il primo giorno sale di 3 e poi scende di 2 ed è a 1m

Il secondo giorno sale di 3 quindi arriva a 4 e scende di 2 quindi è a 2m

Il terzo giorno sale di 3 ed è arrivata a 5.

bella questa, la devo ricordare per raccontarla a Natale

[Giulio1976]

Originariamente inviato da TorettoMilano

immagino il discorso sia un pochino più complesso, se sto tizio punta i piedi e dice "io questa azienda di IA la chiudo" all'atto pratico non cambierebbe nulla nel panorama IA. forse meglio rimanga nel settore e trovi possibili soluzioni

Ma vedi, questi allarmismi stanno venendo da tutti coloro che, in un modo o nell'altro, hanno contribuito o stanno - ancora - contribuendo a questa catastrofe. La questione non e' il SE, ma il QUANDO. Alla fin fine, anche il cervello umano (fino a prova contraria) - e ogni essere vivente nella sua interezza (corpo + mente) - e' un sistema fisico soggetto alle stesse leggi di madre natura cui e' soggetta una sedia. Di conseguenza, e' OVVIO che un domani - vicino, lontano, nemmeno *loro* lo sanno con certezza - l'umanita' sara' in grado di costruire (creare?) un essere (artificiale) in grado di replicare - perfettamente - il comportamento di un essere vivente. Io l'unica soluzione che vedo veramente percorribile e' quella di potenziare NOI STESSI, ovvero il sistema che, sulla carta, rappresenta quanto di piu' avanzato l'universo sia stato in grado di creare fino ad ora (almeno, nei limiti di quanto ne sappiamo noi). E quando dico potenziare intendo: trovare farmaci in grado di potenziare il cervello ovvero le sue capacita', e migliorare la struttura biologica del nostro corpo tramite avanzamenti nel campo della bioingegneria. Il transumanesimo, in poche parole. Non c'e' altra strada, secondo me.

[pachainti]

Originariamente inviato da silvanotrevi

ma per favore!
Ci fanno spaventare con queste cazzate. Solo inutili allarmismi e alla fine non succederà niente di tutto questo perché le IA sono solo stupidi strumenti per generare immagini da testo e altre scemenze simili. Non sono nemmeno in grado di risolvere un problema matematico elementare come più volte ho dimostrato qui in questi mesi. Quella delle IA è una stupida moda passeggera come lo fu quella della Realtà Virtuale. Tempo qualche anno e sparirà. Tempo di racimolare profitti qua e là dalla gente credulona e vendergli cpu con IA, smartphone con IA e altre cazzate e poi questa moda sparirà. Altro che terminator...il tempo per sparare cazzate e generare inutili allarmismi è termineto (come dicono a bari)

Esatto. Come lo è stato anche IoT (industria 4.0) o la blockchain...

The report said that "Amazon had more than 1,000 people in India working on Just Walk Out as of mid-2022 whose jobs included manually reviewing transactions and labeling images from videos to train Just Walk Out’s machine learning model."

Training is part of any AI project, but it sounds like Amazon wasn't making much progress, even after years of working on the project. "As of mid-2022, Just Walk Out required about 700 human reviews per 1,000 sales, far above an internal target of reducing the number of reviews to between 20 and 50 per 1,000 sales," the report said.

https://arstechnica.com/gadgets/2024...deo-reviewers/

Originariamente inviato da migliorabile

In realta' la catastrofe e' un'altra
1) uso di risorse primarie per creare hardware dedicato
2) uso di energia elettrica per i data Center, togliendolo all' uso "convenzionale"
3) uso di acqua per raffredamento, togliendolo all'uso civile
4) generazione di calore

e tutto questo per cosa? per generare immagini stupidine, eliminare posti di lavoro (perche' purtroppo, certe attività possono essere rimpiazzare, con alterni risultati MA alle aziende interessa SOLO fare piu' soldi)

No, solo per far fare soldi, naturalmente agli investitori iniziali. I normali fessi lo prendono sempre nello stesso posto. Chi non è interessato, ci rimette lo stesso a causa delle varie esternalità negative che hai ben evidenziato.

[Saturn]

Originariamente inviato da david-1

bella questa, la devo ricordare per raccontarla a Natale

Inauguriamo la serie:
LE GRANDI SFIDE secondo GEMINI

Cappuccetto Rosso VS La Piccola Fiammiferaia

Cappuccetto Rosso è una ragazza di campagna che è stata educata ad essere gentile e obbediente. È anche una ragazza intelligente e furba, che è stata in grado di ingannare il lupo cattivo nella versione originale della fiaba.

La piccola fiammiferaia è una bambina orfana che vive per strada. È una bambina triste e disperata, che ha perso la speranza di trovare un futuro migliore. In un combattimento ravvicinato, Cappuccetto Rosso avrebbe sicuramente il vantaggio. È più forte e più agile della piccola fiammiferaia, e ha una maggiore esperienza di combattimento. Tuttavia, la piccola fiammiferaia ha diversi vantaggi che potrebbero ribaltare le sorti del combattimento. Innanzitutto, è più determinata e motivata di Cappuccetto Rosso. La piccola fiammiferaia non ha nulla da perdere, e quindi è disposta a fare tutto ciò che è necessario per vincere. Inoltre, la piccola fiammiferaia ha una conoscenza del fuoco che potrebbe essere usata contro Cappuccetto Rosso.

In definitiva, il vincitore di un combattimento tra Cappuccetto Rosso e la piccola fiammiferaia sarebbe difficile da prevedere. Cappuccetto Rosso avrebbe il vantaggio in termini di forza e esperienza, ma la piccola fiammiferaia avrebbe il vantaggio in termini di determinazione, motivazione e conoscenza del fuoco. Il risultato del combattimento dipenderebbe da come le due contendenti riuscissero ad adattare le loro strategie alle caratteristiche dell'altra.

Ecco un possibile scenario di un combattimento tra Cappuccetto Rosso e la piccola fiammiferaia:

Il combattimento inizia con Cappuccetto Rosso che attacca la piccola fiammiferaia con pugni e calci. La piccola fiammiferaia riesce a schivare alcuni dei colpi di Cappuccetto Rosso, ma ne viene colpita da altri. La piccola fiammiferaia inizia a capire che non può battere Cappuccetto Rosso in un combattimento ravvicinato. Decide quindi di usare la sua conoscenza del fuoco contro Cappuccetto Rosso. La piccola fiammiferaia accende un fiammifero e lo lancia contro Cappuccetto Rosso. Cappuccetto Rosso, sorpresa dall'attacco, viene colpita dal fiammifero e si ferisce alla mano. La piccola fiammiferaia ne approfitta per attaccare Cappuccetto Rosso con un bastone. Cappuccetto Rosso, dolorante e indebolita, non è più in grado di difendersi efficacemente.

La piccola fiammiferaia colpisce Cappuccetto Rosso alla testa con il bastone e la mette fuori combattimento. La piccola fiammiferaia ha vinto il combattimento.

Ovviamente, questo è solo uno scenario possibile. Il risultato del combattimento tra Cappuccetto Rosso e la piccola fiammiferaia potrebbe essere diverso a seconda dei fattori che vengono presi in considerazione, come la posizione del combattimento, l'equipaggiamento a disposizione delle combattenti e la fortuna. In conclusione, è difficile dire chi vincerebbe un combattimento tra Cappuccetto Rosso e la piccola fiammiferaia. Entrambe le ragazze hanno i loro punti di forza e di debolezza, e il risultato del combattimento dipenderebbe da una serie di fattori.

Praticamente da le due fanciulle immaginarie alla pari !