Passa ai contenuti principali

Post

Visualizzazione dei post da febbraio, 2026

Il vero cuore di un sistema RAG non è l’LLM

  Perché la parte più importante di un’architettura Legal-AI è quella che quasi nessuno guarda Se chiedi a un sistema costruito con RAG : “E in quel caso cosa succede?” Per te è chiarissimo. Per un sistema di retrieval, è caos. Ed è proprio qui che nasce l’errore più diffuso nella costruzione dei sistemi RAG: credere che il problema sia “quale modello usare”. Non lo è, perchè il vero problema è molto più a monte. Il punto che quasi tutti ignorano Quando costruiamo un sistema Retrieval-Augmented Generation , tendiamo a pensare che il flusso sia questo: 1. L’utente fa una domanda 2. La trasformiamo in embedding 3. Interroghiamo il database vettoriale 4. Generiamo la risposta Sembra corretto, elegante e lineare, ma nel mondo reale è insufficiente. Perché la domanda dell’utente non è pronta per essere cercata !. Il problema nascosto delle domande umane Partiamo da un punto molto importante, le domande reali sono: - incomplete - contestuali - ambigue - dipendenti dalla conversazione pr...