Siamo solo a marzo 2026 e anche quest’anno, in questi pochi mesi, il campo dell’AI ha cambiato pelle pi\u00f9 volte: nuovi framework, nuovi modelli, nuovi concetti. Eppure il prompt engineering \u00e8 ancora l\u00ec, rilevante come quando GPT-3.5 \u00e8 uscito nel 2022 e ha introdotto al mondo i Large Language Models.<\/p>\n\n\n\n
Con l’evoluzione dei modelli, sono evoluti anche gli strumenti per controllarli. Non si trattava pi\u00f9 solo di fare domande a ChatGPT: accedendo al modello “grezzo”, si poteva configurarne il comportamento attraverso il system prompt. \u00c8 l\u00ec che vive il prompt engineering, nella configurazione permanente del modello, strutturata in sezioni classiche:<\/p>\n\n\n\n
<\/p>\n\n\n\n
Funziona, finch\u00e9 non funziona pi\u00f9.<\/strong> Quando costruisci un progetto AI reale basandoti solo sul prompt engineering, le crepe cominciano ad apparire. Una delle pi\u00f9 documentate \u00e8 la perdita di attenzione su alcune sezioni del system prompt, studiata come il problema del “lost in the middle<\/a>“. Un’altra \u00e8 la tendenza del modello a dimenticare informazioni gi\u00e0 fornite nelle conversazioni precedenti. Le context window, infatti, sono finite, e riempire il prompt con tutto quello che potrebbe servire non \u00e8 una strategia: \u00e8 una scommessa.<\/p>\n\n\n\n C’\u00e8 chi la chiama l’evoluzione del prompt engineering. C’\u00e8 chi dice che \u00e8 un insieme di building block di cui il prompt engineering \u00e8 solo uno. L’obiettivo, per\u00f2, \u00e8 lo stesso: fornire i token giusti<\/strong> nella context window del modello esattamente quando servono.<\/p>\n\n\n\n Detto cos\u00ec sembra semplice. Nella pratica, coinvolge le tecnologie pi\u00f9 complesse e recenti disponibili oggi per i sistemi AI. Quattro sono i building block principali<\/strong> su cui si costruisce un sistema di context engineering solido: il RAG<\/strong>, per recuperare informazioni rilevanti da grandi volumi di dati; la gestione della memoria<\/strong>, per mantenere lo stato tra interazioni diverse; i tool<\/strong>, per estendere le capacit\u00e0 dell’agente verso il mondo esterno; e le skill<\/strong>, per iniettare istruzioni specifiche solo quando servono. Ognuno risponde a un problema preciso, e insieme definiscono cosa significa davvero controllare il contesto di un modello.<\/p>\n\n\n\n Immagina che il modello non abbia nessuna conoscenza pregressa dei manuali tecnici di un’azienda o di tutti i contratti o dei diversi bandi di concorso di una certa amministrazione. Se vuoi sapere, ad esempio, come effettuare la procedura di reset di un certo dispositivo<\/strong> o quali requisiti sono richiesti in un bando di concorso<\/strong> o se una clausola \u00e8 presente in un certo contratto<\/strong>, l\u2019approccio \u201ctradizionale\u201d ti costringerebbe a fornire centinaia di pagine di manuali, documentazione tecnica o documenti legali<\/strong>, rischiando di saturare la context window<\/em> ancora prima di arrivare alla domanda.<\/p>\n\n\n\n C’\u00e8 un modo migliore. Prima cerchi nei documenti i passaggi rilevanti<\/strong> che parlano di reset, dei requisiti di un concorso o della clausola specifica, e poi fornisci solo quelli come contesto<\/strong> al modello.<\/p>\n\n\n\n \u00c8 questo il concetto alla base della Retrieval-Augmented Generation (RAG), introdotta da Meta Research nel 2020<\/a>. Trasformando qualsiasi mole documentale in piccoli chunk<\/em> di testo e vettorizzandoli, puoi recuperare esattamente la sezione che contiene l’informazione necessaria<\/strong> e inserirla nel prompt, senza dover caricare l’intero archivio documentale.<\/p>\n\n\n\n Il RAG \u00e8 la tua interfaccia verso grandi volumi di informazione. Invece di caricare tutto in anticipo sperando per il meglio, recuperi solo ci\u00f2 che \u00e8 rilevante per l’interazione corrente. Precisione, non volume.<\/strong><\/p>\n\n\n\n
<\/strong>Context Engineering: i token giusti al momento giusto<\/h2>\n\n\n\n
RAG: come interrogare grandi quantit\u00e0 documentali<\/strong><\/strong><\/h3>\n\n\n\n