LLM e agenti AI in .NET per prodotti utili, non demo da conferenza
Domande frequenti
L'integrazione piu comune avviene tramite Semantic Kernel, la libreria Microsoft che astrae le chiamate ai modelli OpenAI, Azure OpenAI o locali. In alternativa si usa direttamente l'SDK di OpenAI per .NET. Il pattern tipico prevede una pipeline con memoria, plugin e orchestrazione delle chiamate al modello, non una semplice chiamata HTTP.
Semantic Kernel e un framework open source Microsoft per orchestrare modelli AI in applicazioni .NET, Python e Java. Va usato quando hai bisogno di comporre piu chiamate al modello, gestire memoria conversazionale, integrare tool e plugin o costruire agenti autonomi. Per chiamate singole e isolate un SDK diretto e piu semplice.
Con .NET puoi usare GPT-4o e i modelli OpenAI tramite l'SDK ufficiale, i modelli Azure OpenAI tramite Semantic Kernel, modelli open source come LLaMA o Mistral tramite Ollama in locale, e qualsiasi API compatibile con lo standard OpenAI. La scelta dipende da requisiti di privacy, latenza, costo e qualita delle risposte nel tuo dominio specifico.
Chi conosce l'AI sa dove inserire un LLM nell'architettura senza trasformarlo in un collo di bottiglia, come gestire i costi di token, quando la generazione contestuale vale il trade-off con la latenza e come fallback su logica deterministica quando il modello non e affidabile. Chi non la conosce tende a usare l'AI come feature decorativa o a costruire dipendenze fragili.