Algoritmi che fanno acqua da tutte le parti: è la volta di Google

[pabloski]

Originariamente inviato da omerook

dovrebbe solo fermarsi e marcare la foto con un semplice " contenuto non riconosciuto"

ma le reti neurali non posseggono il concetto di "non riconosciuto"

una rete che non ha informazioni adeguate comincia a produrre allucinazioni, ma in ogni caso una risposta la tira fuori

[giuliop]

Originariamente inviato da omerook

dovrebbe solo fermarsi e marcare la foto con un semplice " contenuto non riconosciuto"

Va be', con quest'ultima hai dimostrato di non avere la minima idea di quello di cui stai parlando.

Parafrasando Oscar Wilde, "A volte è meglio tacere e sembrare ignoranti che aprir bocca e togliere ogni dubbio."

[omerook]

Originariamente inviato da pabloski

una rete che non ha inforazioni adeguate comincia a produrre allucinazioni, ma in ogni caso una risposta la tira fuori

ecco questo è appunto il motivo delle mie perplessità.

[bobafetthotmail]

Originariamente inviato da omerook

dovrebbe solo fermarsi e marcare la foto con un semplice " contenuto non riconosciuto"

Come fa a marcare la foto come "contenuto non riconosciuto" se secondo l'algoritmo quello è un gorilla?

Stai fondamentalmente chiedendo all'algoritmo di capire quando sbaglia e fermarsi, che è una cosa completamente irrealistica anche per un essere umano.

Cioè se capisce quando sbaglia allora perchè ha sbagliato prima?
catch-22, serpente che si morde la coda, paradosso.

Vedi risposta successiva.

ma le reti neurali non posseggono il concetto di "non riconosciuto"
una rete che non ha informazioni adeguate comincia a produrre allucinazioni, ma in ogni caso una risposta la tira fuori

Ma perchè devi sparare cazzate?

Io e te e chiunque altro qui siamo reti neurali (il cervello, buonasera eh) e il concetto di "non riconosciuto" lo abbiamo chiarissimo. Lo stesso per un software che è stato costruito in modo da emulare noi.

Il punto è che se una persona prende lucciole per lanterne anche un software che funziona in modo relativamente simile può prendere lucciole per lanterne.

Mi sembra perfettamente logico e normale.

La differenza è che un algoritmo al contrario di una persona continua ad imparare all'infinito.

Quindi non si scappa, se non lo è già, entro qualche annetto diventa meglio di una persona.

Anche i bambini piccoli faticano a distinguere un umano da una scimmia, ma dopo qualche anno ce la fanno al primo colpo.

Sto software è molto giovane... lasciatelo crescere lol.

Va be', con quest'ultima hai dimostrato di non avere la minima idea di quello di cui stai parlando.

Spiegherebbe le sue "perplessità". Comunque dargli una spiegazione che gli permetta di comprendere la cosa invece che dirgli "taci capra!" (cit. sgarbi) in modo più o meno velato sarebbe una azione maggiormente utile alla collettività.

[pabloski]

Originariamente inviato da omerook

ecco questo è appunto il motivo delle mie perplessità.

Ma è risaputo che le reti neurali sbarellano a volte. Ed è per questo che non bisogna incazzarsi, come se un omino google avesse identificato quella signorina quale scimmia perchè ( magari ) è un pervertito, razzista, membro del Klu Klux Klan.

Ed è anche per questo che i cazzari della pre-crimine devono andarsene al diavolo con le loro profilazioni e l'assassinio di gente individuata come pericolosa da un qualche algoritmo.

[omerook]

Originariamente inviato da bobafetthotmail

La differenza è che un algoritmo al contrario di una persona continua ad imparare all'infinito.

come fa ad imparare all infinito se non capisce nemmeno quando sbaglia?
questo è un paradosso!
non impara un emerita mazza! non farà altro che arricchire di informazioni un database che gli darà maggiori possibilità di confronto e azzeccare risposte!

ps: visto che dubito di avere dei dottori in fisica come interlocutori mi sento libero di sparare cazzate a iosa perche il livello è e rimane quello da chiacchiere da bar!

[omerook]

Originariamente inviato da pabloski

Ma è risaputo che le reti neurali sbarellano a volte. Ed è per questo che non bisogna incazzarsi, come se un omino google avesse identificato quella signorina quale scimmia perchè ( magari ) è un pervertito, razzista, membro del Klu Klux Klan.

Ed è anche per questo che i cazzari della pre-crimine devono andarsene al diavolo con le loro profilazioni e l'assassinio di gente individuata come pericolosa da un qualche algoritmo.

ma io non mi arrabbio minimamente! prendo solo atto che il sistema è fallace!

[pabloski]

Originariamente inviato da omerook

ma io non mi arrabbio minimamente! prendo solo atto che il sistema è fallace!

fallace è dir poco

ed il guaio è che non c'è modo di farne il debug, visto che le reti neurali sono sostanzialmente delle scatole nere

[giuliop]

Originariamente inviato da bobafetthotmail

Comunque dargli una spiegazione che gli permetta di comprendere la cosa invece che dirgli "taci capra!" (cit. sgarbi) in modo più o meno velato sarebbe una azione maggiormente utile alla collettività.

A parte che non ho detto "taci capra!" o equivalente, dopo 4 pagine di discussione non è che ci sia da farsi troppe illusioni: hai visto la tua quanto è servita, QED.

[bobafetthotmail]

Originariamente inviato da omerook

come fa ad imparare all infinito se non capisce nemmeno quando sbaglia?

E un essere umano invece? Un umano non sempre (quasi mai) capisce da solo dove sbaglia, o anche che ha sbagliato.
Se ti dicono che sbagli e ti fanno vedere che hai sbagliato tu che fai?

questo è un paradosso!

No, perchè funziona uguale ad un essere umano. Nessun essere umano può realisticamente trovare tutti i propri sbagli. Qualcuno glie lo deve dire.
Vale anche per un algoritmo AI, finchè non è effettivamente superiore ad un umano o meglio della maggioranza degli umani.

non impara un emerita mazza! non farà altro che arricchire di informazioni un database che gli darà maggiori possibilità di confronto e azzeccare risposte!

Non usa i database di immagini che seleziona per fare il suo lavoro ma librerie di roba sua manipolata dai programmatori.

Non impara solo in modo completamente indipendente, c'è anche accesso a quello che fa. Sennò ci mette secoli ad andare a casaccio.

ps: visto che dubito di avere dei dottori in fisica come interlocutori mi sento libero di sparare cazzate a iosa perche il livello è e rimane quello da chiacchiere da bar!

Non serve essere un laureato per sapere come si fa ad imparare dai propri errori. Un algoritmo AI funziona nello stesso modo, perchè è quello che lo rende una AI. Funziona in modo simile ad un umano.

ma io non mi arrabbio minimamente! prendo solo atto che il sistema è fallace!

No, tu dici che non è adatto e dici che andrebbe rimosso e che gli algoritmi sono pericolosi e che non dovrebbero guidare le macchine.
Piccola differenza.

Che non sia perfetto si sapeva anche prima.

ed il guaio è che non c'è modo di farne il debug, visto che le reti neurali sono sostanzialmente delle scatole nere

Immane cazzata. le reti neurali sono software e come tutti i software possono essere debuggate, se sono progettate per esserlo. http://deeplearning4j.org/debug.html
Che non sia una passeggiata... evabbè, sono complessi.

In questo caso è un problema nei parametri di selezione (quindi è un problema dei programmatori che devono selezionare parametri migliori che distinguano una scimmia da un umano, l'algoritmo quelli non se li inventa, li prende dai file di configurazione perchè non ha idea di cosa sia un umano o una scimmia o un pallone da calcio se nessuno glie lo dice), non nella rete in sè, assumendo che sia una rete neurale.

L'unica rete neurale che è veramente una scatola nera è il cervello umano. non ha infrastrutture di debug ed esiste a livello hardware (è un computer analogico).

[Goofy Goober]

Algoritmi supponenti FTW.