We study allowing large language models (LLMs) to process arbitrarily long prompts through the lens of inference-time scaling. We propose Recursive Language Models (RLMs), a general inference strategy that treats long prompts as part of an external environment and allows the LLM to programmatically examine, decompose, and recursively call itself over snippets of the prompt. We find that RLMs successfully handle inputs up to two orders of magnitude beyond model context windows and, even for shorter prompts, dramatically outperform the quality of base LLMs and common long-context scaffolds across four diverse long-context tasks, while having comparable (or cheaper) cost per query.
-
Von
- [ 0 ]
-
[ 0 ] - (Edit | Remove)
sonnet 4.5 penso che abbia in pancia qualcosa del genere anche se non lo fa in automatico. mi è capitato più volte che quando la finestra di contesto diventava molto grande e non riusciva a rispondere mi proponesse di spezzare il task che gli stavo chiedendo.
-
Von
- [ 0 ]
-
[ 0 ] - (Edit | Remove)
Io avevo visto la prima puntata con mia madre e non mi era sembrata male - non abbastanza da cercare di vederla qui, ma pensavo peggio
-
Pea Bukowski
- [ 0 ]
-
[ 0 ] - (Edit | Remove)
Nel secondo link, quello di terminologia, si spiega che troops!=truppe, è un falso amico, che finisce regolarmente tradotto con "truppe" negli articoli italiani.
-
ilcomizietto
- [ 2 ]
-
[ 0 ] - (Edit | Remove)
Storvandre
to
Posti in italia di cui non sospettavo l'esistenza
Paese (IPA: /paˈeze/; Paeze in veneto) è un comune italiano di 22 178 abitanti[1] della provincia di Treviso in Veneto. Settimo della provincia per numero di residenti, il capoluogo conta 10 153[4] abitanti, il 45 % circa dell'intera popolazione comunale.
ॐMàximoΩ
to
Giannismi: solo freddure di stagione
Era accusata di aver sottratto denaro ad un drogato giocando sulle sue emozioni e sentimenti più intimi, ma è stata giudicata innocente: assolta per non aver commosso il fatto.
"Re in incognito", il primo fumetto citato da Calia, venne pubblicato nel lontano 1991 da una illuminata Granata Press (che all'epoca faceva soldi con Ken il guerriero e altri manga). È stato ripubblicato da saldaPress e ve lo consiglio, così come anche il secondo titolo, quello di Kruse.
-
nda
- [ 0 ]
-
[ 0 ] - (Edit | Remove)
Vale un po' per tutto. Ci sono cose per cui si è più portati e cose meno. Chi è molto portato per una cosa di solito arriva a livelli molto alti, ma sono molto pochi, come si evince dal fatto che le eccellenze siano abbastanza rare.
-
ilcomizietto
- [ 0 ]
-
[ 0 ] - (Edit | Remove)
sondaggio finito. Speriamo che la repressione interna abbia fine anch'essa, dopo aver fatto tutte quelle vittime :'(
-
Al Tram(onto)
- [ 0 ]
-
[ 0 ] - (Edit | Remove)
StefanoHBS
to
Aria sottile
Quel punto rosso era il casco dell'alpinista disperso da mesi: "Senza l'anomalia segnalata dall'intelligenza artificiale in una delle 2600 foto dal drone, probabilmente non sarebbe mai stato trovato" La foto è solo indicativa dell'ambiente d'alta quota del Monviso, tanto da spiegare le difficoltà. Lo scopo del post era ben chiaro, l'ho cancellato perché vederlo sputtanato e deragliato mi rompe il cazzo.
Al Tram(onto)
to
La Stanzetta dei Bottoni
« Garante Privacy, indagati il presidente Pasquale Stanzione e tutto il collegio per corruzione
Nei loro confronti è ipotizzato anche il reato di peculato. Sequestrati telefoni cellulari e computer. L’inchiesta dopo i servizi di Report »
