Modello linguistico di grandi dimensioni (LLM)
Rete neurale addestrata su corpora di testo molto grandi, capace di comprendere e generare linguaggio e, sempre più spesso, di chiamare strumenti e interpretare dati strutturati.
Un modello linguistico di grandi dimensioni (large language model, LLM) è una rete neurale basata su transformer che predice testo e, grazie a questa capacità, può riassumere, tradurre, rispondere a domande e produrre output strutturati come JSON. Nell’IoT gli LLM vengono usati soprattutto come livello di interfaccia: trasformano le domande degli operatori in interrogazioni sulla telemetria, spiegano gli allarmi in linguaggio semplice o guidano un agente AI che orchestra i dispositivi.
Gli LLM sono troppo grandi per la maggior parte dell’hardware edge, per cui girano di solito nel cloud o su un server locale, mentre i dispositivi espongono le proprie API. Modelli distillati più piccoli possono girare su un gateway per compiti limitati. I compromessi sono il costo per interrogazione, la latenza e il fatto che le uscite del modello sono probabilistiche e vanno validate prima che tocchino gli attuatori. Vedi Agenti AI in fabbrica.
Parte del Glossario IoT. Hai trovato un errore o manca un termine? Scrivici.