Lorenzo R v R
to
Lorenzo R v R's feed,
AI - Apparentemente Intelligente?
Our study shows that when one combines two state-of-the-art models, one describing images and the other regenerating them, and they interact without human input, they converge toward a small set of highly conventional visual motifs, such as lighthouses, cathedrals, and palatial interiors. This finding reveals that, even without additional training, autonomous AI feedback loops naturally drift toward common attractors—very generic-looking images, which we call “visual elevator music.”
Our study shows that when one combines two state-of-the-art models, one describing images and the other regenerating them, and they interact without human input, they converge toward a small set of highly conventional visual motifs, such as lighthouses, cathedrals, and palatial interiors. This finding reveals that, even without additional training, autonomous AI feedback loops naturally drift toward common attractors—very generic-looking images, which we call “visual elevator music.”
9 hours ago
-
Comment
-
Hide
-
-
[ 0 ]
-
[ 0 ]
- (Edit | Remove)
- More...
Comment
Il nostro studio dimostra che quando si combinano due modelli all'avanguardia, uno che descrive le immagini e l'altro che le rigenera, e questi interagiscono senza l'intervento umano, essi convergono verso un piccolo insieme di motivi visivi altamente convenzionali, come fari, cattedrali e interni di palazzi. Questa scoperta rivela che, anche senza un addestramento aggiuntivo, i circuiti di retroazione autonomi dell'IA tendono naturalmente verso attrattori comuni, immagini dall'aspetto molto generico, che chiamiamo "musica da ascensore visiva".
L'implicazione va ben oltre la generazione artistica. Molte nuove applicazioni di IA utilizzano cicli autoreferenziali simili. Se non controllati, questi sistemi potrebbero amplificare i pregiudizi e le ridondanze già presenti nei grandi set di dati, rafforzando l'uniformità estetica e culturale. Comprendere come e perché emerge tale convergenza è quindi fondamentale per garantire che l'IA generativa contribuisca alla diversità piuttosto che all'omogeneità nella cultura, nel design e nella creazione di conoscenza.
-
Lorenzo R v R
-
[ 0 ]
-
[ 0 ]
- (Edit | Remove)
paper https://www.cell.com/patt... (25)00299-5 Autonomous language-image generation loops converge to generic visual motifs
-
Lorenzo R v R
-
[ 0 ]
-
[ 0 ]
- (Edit | Remove)
