Sono d'accordo per adesso l'IA non è in grado di superare l'uomo ma in alcuni campi potrebbe usarsi senza problemi: tipo nei porno

Sono d'accordo per adesso l'IA non è in grado di superare l'uomo ma in alcuni campi potrebbe usarsi senza problemi: tipo nei porno

ancora peggio immagina di realizzare un film porno con ai generativa utilizzando persone realt come modelli, gia andiamo male con il revenge porn

Sono d'accordo per adesso l'IA non è in grado di superare l'uomo ma in alcuni campi potrebbe usarsi senza problemi: tipo nei porno

Sì certo senza problemi proprio. Diffondiamo pure false foto porno di persone reali, basta che non toccate i miei disegnetti storti...

Sono d'accordo per adesso l'IA non è in grado di superare l'uomo ma in alcuni campi potrebbe usarsi senza problemi: tipo nei porno

Sì certo senza problemi proprio. Diffondiamo pure false foto porno di persone reali, basta che non toccate i miei disegnetti storti...

Io ammetto di preferire porno con personaggi anime tipo Trunks e Goten negli ultimi volumi di Dragon Ball Super...

Io ammetto di preferire porno con personaggi anime tipo Trunks e Goten negli ultimi volumi di Dragon Ball Super...

Guarda ognuno nel suo privato può fare quello che ritiene giusto finché non danneggia nessuno, però ragiona, non puoi dire che l'IA può usarsi senza problemi nel porno, no ma proprio no nel modo più assoluto, è proprio uno dei campi in cui i limiti devono essere più rigidi.

Sono d'accordo per adesso l'IA non è in grado di superare l'uomo ma in alcuni campi potrebbe usarsi senza problemi: tipo nei porno

ammesso che le AI vengano utilizzate in quel settore, sempre pixellato e censurato resta ... non te lo risolvono se quello è il tuo problema

Concordo pienamente

ancora peggio immagina di realizzare un film porno con ai generativa utilizzando persone realt come modelli, gia andiamo male con il revenge porn

Sì certo senza problemi proprio. Diffondiamo pure false foto porno di persone reali, basta che non toccate i miei disegnetti storti...

Ma dove avete vissuto?
I porno deepfake esistono da 8+ anni, ben prima della GenAI.
La soluzione è trovare chi li genera e punirlo, non impedire a kirk di generarsi DB-porn (al netto che esiste il copyright, ma facciamo finta che siano personaggi di pubblico dominio)

Avere i modelli più diffusi con i contenuti R18 bloccati crea solo un "mercato" parallelo di modelli uncensored o servizi discutibili.
Con il risultato che quella merda verrà creata lo stesso (veniva creata 8 anni fa, viene creata adesso, verrà creata nei prossimi anni) ma senza le protezioni che pian piano stanno venendo inserite nei modelli GenAI ( C2PA metadata e watermark invisibili) e che potrebbero aiutare a identificare la natura del video e, magari in futuro, pure il creatore se si arriva a un qualche standard condiviso.
Ricordo a tutti che la grande campagna contro il porno dei circuiti di pagamento ha avuto, come meraviglioso effetto, di far sì che a fine 2020 Pornhub accettasse pagamenti solo in cryptovalute, con il grande risultato che la gente poteva comunque accedere al porno ma pagando in maniera completamente anonima (ovvio che non è un problema su siti rispettabili, su siti con roba illegale lo è molto di più).

Poi, non voglio trattare nessuno per fesso, è evidente che non sia un problema risolvibile del tutto, qualsiasi soluzione tecnica non impedirà l'esistenza di attori malevoli nel panorama GenAI che se ne fregheranno, ma censurare utilizzi legittimi porta solo maggiore engagement alle soluzioni pensate per utilizzi che non lo sono.

Ma dove avete vissuto?
I porno deepfake esistono da 8+ anni, ben prima della GenAI.
La soluzione è trovare chi li genera e punirlo, non impedire a kirk di generarsi DB-porn (al netto che esiste il copyright, ma facciamo finta che siano personaggi di pubblico dominio)

Avere i modelli più diffusi con i contenuti R18 bloccati crea solo un "mercato" parallelo di modelli uncensored o servizi discutibili.
Con il risultato che quella merda verrà creata lo stesso (veniva creata 8 anni fa, viene creata adesso, verrà creata nei prossimi anni) ma senza le protezioni che pian piano stanno venendo inserite nei modelli GenAI ( C2PA metadata e watermark invisibili) e che potrebbero aiutare a identificare la natura del video e, magari in futuro, pure il creatore se si arriva a un qualche standard condiviso.
Ricordo a tutti che la grande campagna contro il porno dei circuiti di pagamento ha avuto, come meraviglioso effetto, di far sì che a fine 2020 Pornhub accettasse pagamenti solo in cryptovalute, con il grande risultato che la gente poteva comunque accedere al porno ma pagando in maniera completamente anonima (ovvio che non è un problema su siti rispettabili, su siti con roba illegale lo è molto di più).

Poi, non voglio trattare nessuno per fesso, è evidente che non sia un problema risolvibile del tutto, qualsiasi soluzione tecnica non impedirà l'esistenza di attori malevoli nel panorama GenAI che se ne fregheranno, ma censurare utilizzi legittimi porta solo maggiore engagement alle soluzioni pensate per utilizzi che non lo sono.

Ma esattamente cosa hai assunto per farti questo trip mentale?

Da nessuna parte si è scritto quello che dici tu. Semplicemente si è partiti dall'assunto: fare i personaggi stile ghibli è male (che poi qui è veramente questionabile, visto che viene creato materiale originale, ma ok), fare i porno sì, facciamo tutto quello che si può senza limitazioni.
Io sono il primo a favore dell'IA qui dentro (sono già certificato come AI Engeneer e sto studiando per una certificazione sulla governance, quindi diciamo che un minimo di robetta la conosco), ma proprio per questo i rischi devono essere affrontati per bene e non si può fare "tana libera tutti".

Il motivo per cui openAI ha bloccato il suo progetto di chatGPT adult è che è veramente difficile rendere sicuri questi modelli, non per questioni morali o che. Il rischio connesso ad un uso improprio era maggiore del ricavo che poteva fargli ottenere, quindi sì, apriamo i modelli R18 a tutti è connesso a problemi di allineamento, non di morale.

la grande campagna contro il porno dei circuiti di pagamento... Ok sì, è stato generalizzato tutto ed è una cosa che non sopporto che le banche o grandi compagnie decidano per te che magari sei adulto responsabile, però...
lo sai come è nato tutto questo?
pornhub ha avuto la bellissima idea di voler fare come youtube permettendo a chiunque di pubblicare il proprio contenuto e non si è neanche messa a controllare. E ne è uscita fuori una fogna di filmati ottenuti senza consenso, revenge porn, stupri reali e roba inaccettabile sotto ogni punto di vista da far saltare dalla sedia visa e mastercard...
Quindi sì, è bella la liberta, ma è proprio per difendere la libertà che dobbiamo combattere chi ne abusa.

Semplicemente si è partiti dall'assunto: fare i personaggi stile ghibli è male (che poi qui è veramente questionabile, visto che viene creato materiale originale, ma ok), fare i porno sì, facciamo tutto quello che si può senza limitazioni.
[...]
i rischi devono essere affrontati per bene e non si può fare "tana libera tutti"

Non mi pare proprio che sia quanto sia stato detto da kirk in realtà.
Per quanto mi riguarda tratterei la generazione di contenuti R18 molto seriamente e la abiliterei solo previa identificazione del soggetto che ne fa utilizzo (se vuoi utilizzare Daybreak Blue su OpenAI devi verificare l'identità e abilitare il secure access quindi login tramite passkey, penso a qualcosa del genere).
Tana libera tutti proprio non mi era passato nemmeno per l'anticamera del cervello.
Detto questo non vedo come bloccare la generazione di tali contenuti su alcuni servizi impedisca l'uscita di modelli open weight anche migliori di MiniMax H3 (per citarne uno che, afaik, renderizza i genitali) senza alcuna safeguard.
A me sembra che, semmai, li possa solo rendere più popolari, come come si fa ablazione dei modelli open weight da anni per rimuovere censure e rifiuti (cosa di cui sono personalmente molto preoccupato, ma non credo sia la news in cui parlarne).

Il motivo per cui openAI ha bloccato il suo progetto di chatGPT adult è che è veramente difficile rendere sicuri questi modelli, non per questioni morali o che. Il rischio connesso ad un uso improprio era maggiore del ricavo che poteva fargli ottenere, quindi sì, apriamo i modelli R18 a tutti è connesso a problemi di allineamento, non di morale.
[cut racconto pornhub su cui siamo d'accordo]
E ne è uscita fuori una fogna di filmati ottenuti senza consenso, revenge porn, stupri reali e roba inaccettabile sotto ogni punto di vista da far saltare dalla sedia visa e mastercard...
Quindi sì, è bella la liberta, ma è proprio per difendere la libertà che dobbiamo combattere chi ne abusa.

Eh, però non hai citato il fulcro del problema, che Visa e Mastercard sono state portate in causa e considerate direttamente responsabili.
Ovvio che con queste premesse e vista la difficoltà di fare allineamento (ogni modello è migliore del precedente, ma il rischio non sarà mai 0) il gioco non vale la candela.
Però appunto, in che modo questa è una soluzione al problema e combatte chi ne abusa?
Hai chiuso il portone ma tanto ci sono decine di porte aperte spalancate.

Il punto che volevo sollevare è che non ha senso guilt-trippare (perdonatemi l'inglesismo) chi si vuole fare un filmatino porno per uso personale, non sono le sue richieste a creare i mezzi con cui, ad esempio, viene fatta tutta la fogna CSAM che è in aumento da anni.
Le persone di merda del genere già esistono e già lo fanno e non c'è nessun modo per impedirglielo.

Eh, però non hai citato il fulcro del problema, che Visa e Mastercard sono state portate in causa e considerate direttamente responsabili.

Sì è così: è sempre stata una questione di soldi, non di morale.

Ovvio che con queste premesse e vista la difficoltà di fare allineamento (ogni modello è migliore del precedente, ma il rischio non sarà mai 0) il gioco non vale la candela.
Però appunto, in che modo questa è una soluzione al problema e combatte chi ne abusa?
Hai chiuso il portone ma tanto ci sono decine di porte aperte spalancate.

Ma io questo ho detto: che al momento il problema è complesso e il rischio è alto, non che sia una soluzione.
Però risponde alla domanda: possiamo rilasciare il modello liberamente a tutti fregandocene delle conseguenze? La risposta è no.
E la soluzione non ce l'ho, magari ce l'avessi, servirebbe che ci fosse la "certezza della pena", ma non avere la soluzione non significa ignorare i problemi o non farsi domande. Rilasciamolo un modello ufficiale per adulti, sono il primo ad usarlo, però non smettiamo di chiederci: cosa possiamo fare per evitare che se ne possa abusare?
Perché se generi un disegnino stile ghibli non credo che Miyazaki domani non mangi, ma con un deep fake/revenge porn puoi distruggere la vita di una persona...

"Perché se generi un disegnino stile ghibli non credo che Miyazaki domani non mangi"

Frase agghiacciante.

"Perché se generi un disegnino stile ghibli non credo che Miyazaki domani non mangi"

Frase agghiacciante.

A me gela il sangue molto di più pensare che la preoccupazione del disgnino ghibli possa agghiacciare più di un abuso sessuale su una persona. Scusa se sono strano io.

Ragazzi potete continuare a dialogare in privato come e quanto volete, ma i vostri discorsi sono off topic.

Si prega di tornare in argomento. Altri commenti off topic verranno cancellati come potrebbero essere cancellati anche quelli passati non attinenti. Grazie.