Quando Utilizzare i Modelli Linguistici Piccoli Rispetto ai Modelli Linguistici Grandi

I modelli linguistici di grandi dimensioni (LLM) continuano a camminare sul filo del rasoio tra efficienza e fiducia. Gli utenti li considerano efficaci, ma dubitano della loro accuratezza.

Possono anche essere eccessivi per alcuni casi d'uso. Ad esempio, utilizzare gli LLM potrebbe non essere la scelta migliore per tutte le attività HR interne, considerati i loro elevati costi computazionali.

In tutti questi conflitti, sta emergendo un nuovo tipo di modello: i modelli linguistici di piccole dimensioni (SLM). Questi sono modelli più semplici addestrati su un dataset più piccolo per svolgere una funzione molto specifica. Soddisfano tutti i requisiti di alta efficienza, maggiore fiducia e basso costo.

Alcuni studi recenti affermano anche che i modelli linguistici di piccole dimensioni sono il futuro dell'IA Agentica. In questo articolo, ho elencato i casi d'uso in cui un SLM sarebbe più efficiente di un LLM.

Principali Casi d'Uso degli SLM nelle Diverse Funzioni Aziendali

Se ti stai chiedendo da dove iniziare il tuo percorso con gli SLM, ho raccolto i migliori casi d'uso degli SLM nelle comuni funzioni aziendali qui sotto. 

Servizio clienti

I modelli LLM possono essere utili per il servizio clienti, ma con importanti avvertenze. Questi modelli sono pre-addestrati su un vasto dataset, spesso estratto da internet. Alcune di queste conoscenze potrebbero essere applicabili o meno al tuo servizio clienti, specialmente quando le politiche aziendali sono specifiche. Ti esponi al rischio di avere chatbot rivolti ai clienti che allucinano. Ad esempio, un chatbot del servizio clienti sul sito web di Air Canada ha promesso un rimborso per lutto a un cliente contro una politica che non è mai esistita.

Gli SLM hanno più senso per i chatbot dei clienti e i portali di reclami. Questi portali spesso trattano problemi/richieste altamente ripetitivi e hanno un archivio limitato di politiche aziendali a cui fare riferimento. Il modello può essere facilmente addestrato sui dati dei ticket dei clienti passati e sulle politiche aziendali. Questo è sufficiente per permettere al modello di rispondere ai clienti.

Naturalmente, l'SLM non può gestire tutto, e dove il bot non può rispondere alla domanda, puoi sempre coinvolgere un essere umano. Se si tratta di un chatbot, puoi fornire un numero di supporto che il cliente può chiamare. Se si tratta di una piattaforma di gestione dei ticket, il ticket può essere risolto automaticamente se è un problema noto per l'SLM, altrimenti può essere assegnato a un addetto al supporto clienti. Almeno, puoi stare tranquillo che l'automazione non promette al cliente qualcosa che non è possibile.

​Vendite/Marketing 

Gli LLM eccellono sicuramente in alcuni casi d'uso nelle vendite e nel marketing, specialmente nella creazione di contenuti. I dati di addestramento più ampi aiutano a gestire argomenti diversi. Ma utilizzare gli LLM per attività più specifiche come la qualificazione/coltivazione dei lead e l'outreach personalizzato potrebbe non essere la scelta migliore. Le sue risposte generalizzate non daranno una buona impressione ai tuoi potenziali clienti.

L'SLM ti aiuta a creare messaggi di outreach più personalizzati. Può essere addestrato sul tuo dataset proprietario per qualificare i lead. Puoi redigere alcuni messaggi di outreach che hanno funzionato per te in passato e utilizzare i modelli SLM per generare ulteriori messaggi di outreach basati su di essi. Gli SLM ti aiutano ad allontanarti dai messaggi di outreach generici basati su IA.

Finanza 

Gli LLM possono essere utilizzati per l'analisi generale del mercato. Ma sono in ritardo per attività ad alto rischio come il rilevamento delle frodi e il monitoraggio della conformità. I tassi di frode sono in aumento sia nei conti dei consumatori che in quelli aziendali. Nonostante le aziende costruiscano sistemi di rilevamento delle frodi, i truffatori continuano a trovare nuovi modi per aggirarli. Il modello necessita di un riaddestramento continuo. È qui che l'SLM brilla e l'LLM passa in secondo piano.

Ci vuole più tempo e risorse per riaddestrare un LLM rispetto a un SLM. L'SLM può essere continuamente aggiornato con i dati più recenti sulle frodi per rendere il sistema più robusto.

Lo stesso vale per i dati di conformità. Gli LLM possono persino avere informazioni di conformità obsolete, con conseguenti mancanze. Un SLM addestrato su un piccolo dataset è facile da rivedere e perfezionare per garantire che solo le normative più recenti siano disponibili nella base di conoscenza.

Risorse Umane 

Gli LLM sono ottimi per redigere descrizioni generali di lavoro, comunicazioni con i dipendenti o contenuti di formazione. Le attività con elevati rischi di conformità (esempio: creazione di documenti di policy, accordi di lavoro e documenti di immigrazione) sono dove le cose si complicano.

I paesi o addirittura gli stati continuano ad aggiornare le loro leggi sul lavoro.  Ad esempio, il governo australiano ha aumentato il congedo parentale a 24 settimane nel 2025, e sarà esteso di altre due settimane a partire dal 2026. New York aumenta il salario minimo orario per i lavoratori della gig economy recentemente. Il Giappone ha iniziato a promuovere l'equilibrio tra lavoro e vita privata e accordi di lavoro flessibili per i nuovi genitori.

Utilizzare gli LLM significa controllare continuamente che la base di conoscenza nel backend sia accurata e aggiornata. Lasciare fuori per errore qualsiasi vecchio file di policy nel database porterebbe ad allucinazioni.  

I modelli linguistici di piccole dimensioni significano molto più controllo sulla base di conoscenza e più garanzie per la conformità. Ad esempio, Deel AI è un modello linguistico di piccole dimensioni curato dai suoi esperti di conformità. Questi esperti aggiornano continuamente la base di conoscenza in modo da ottenere le risposte più aggiornate e accurate.

Operazioni Aziendali

Un nuovo sondaggio sull'adozione dell'IA da G2 mostra che quasi il 75% delle aziende utilizza molteplici funzionalità di IA nelle operazioni aziendali quotidiane. L'IA sta guidando l'efficienza operativa e migliorando la produttività. Sia SLM che LLM hanno un ruolo da svolgere in questo.

Gli LLM brillano in attività strategiche come la gestione del rischio, la previsione della domanda, la revisione dei fornitori e altro ancora. La sua vasta base di conoscenza lo aiuta a considerare tutti gli angoli prima di fare un suggerimento. D'altra parte, l'SLM funziona meglio per lavori ripetitivi. Pensa alla gestione delle fatture, al tracciamento delle spedizioni, all'ottimizzazione dei percorsi, ai controlli dei precedenti o alla manutenzione predittiva. Le attività possono essere eseguite su un insieme limitato di regole e dati passati dell'azienda.

Le aziende stanno beneficiando dell'uso dell'SLM in attività di routine e ripetitive. Ad esempio, Checkr, una piattaforma di screening dei precedenti dei dipendenti, è passata da LLM a SLM per automatizzare i controlli dei precedenti e ha visto una migliore accuratezza, tempi di risposta più rapidi e una riduzione dei costi di 5 volte.

SLM vs LLM: Chi Vince la Battaglia?

Nel confronto tra SLM e LLM, la risposta non è scegliere tra SLM e LLM. L'approccio migliore è usarli insieme come un modello ibrido. Sia SLM che LLM hanno i loro punti di forza e di debolezza. L'SLM fa un buon lavoro in attività con ambiti ben definiti e dataset limitati. Ma per attività che richiedono ragionamento, l'LLM è una scelta molto migliore.

Prendiamo ad esempio la gestione della catena di approvvigionamento. Un approccio ibrido è migliore per la gestione della catena di approvvigionamento dove:

• L'LLM si occupa di attività strategiche come l'analisi del rischio, la previsione della domanda e altro
• L'SLM automatizza attività operative ad alto volume e ripetitive, come la gestione dei percorsi, l'elaborazione delle fatture, ecc.

Utilizzare sia SLM che LLM insieme crea un modello completo per gestire tutti gli aspetti della catena di approvvigionamento. ​

Principali Modelli SLM Pronti per l'Addestramento Personalizzato

Una cosa positiva dell'iniziare con l'implementazione del tuo SLM è che ci sono modelli disponibili per la messa a punto. Puoi sceglierne uno di questi a seconda del tuo caso d'uso:

1. Meta Llama 3.1 (8B parametri): Un modello ad alta efficienza che si distingue per casi d'uso che richiedono supporto multilingue
2. Microsoft Phi-3 (3.8B parametri): Un modello minuscolo perfetto quando hai un'attività super-specifica che richiede un forte ragionamento.
3. Google Gemma 2 (2B parametri): Un modello leggero con capacità multimodali, che ti aiuta a gestire sia testo che immagini.

Utilizzare gli SLM Non è Mai Stato Così Facile

Con il lancio di più modelli SLM, non devi nemmeno creare alcun modello da zero. Basta scegliere un modello esistente che si adatta al tuo caso d'uso, costruire una base di conoscenza di informazioni per esso, e sei pronto per partire.  

\n