Contattataci

Struttura del corso

Introduzione a Ollama per la distribuzione dei LLM

  • Panoramica delle funzionalità di Ollama.
  • Vantaggi della distribuzione locale di modelli di intelligenza artificiale.
  • Confronto con le soluzioni di hosting di intelligenza artificiale basate su cloud.

Configurazione dell'ambiente di distribuzione

  • Installazione di Ollama e delle dipendenze richieste.
  • Configurazione dell'hardware e dell'accelerazione GPU.
  • Dockerizzazione di Ollama per distribuzioni scalabili.

Distribuzione dei LLM con Ollama

  • Caricamento e gestione dei modelli di intelligenza artificiale.
  • Distribuzione di Llama 3, DeepSeek, Mistral e altri modelli.
  • Creazione di API ed endpoint per l'accesso ai modelli di intelligenza artificiale.

Ottimizzazione delle prestazioni dei LLM

  • Fine-tuning dei modelli per l'efficienza.
  • Riduzione della latenza e miglioramento dei tempi di risposta.
  • Gestione della memoria e dell'allocazione delle risorse.

Integrazione di Ollama nei flussi di lavoro di intelligenza artificiale

  • Connessione di Ollama ad applicazioni e servizi.
  • Automazione dei processi basati su intelligenza artificiale.
  • Utilizzo di Ollama in ambienti di computing edge.

Monitoraggio e manutenzione

  • Tracciamento delle prestazioni e risoluzione dei problemi.
  • Aggiornamento e gestione dei modelli di intelligenza artificiale.
  • Garantire sicurezza e conformità nelle distribuzioni di intelligenza artificiale.

Scalabilità delle distribuzioni di modelli di intelligenza artificiale

  • Migliori pratiche per la gestione di carichi di lavoro elevati.
  • Scalare Ollama per casi d'uso aziendali.
  • Avvicinarsi futuro alle distribuzioni locali di modelli di intelligenza artificiale.

Sintesi e prossimi passi

Requisiti

  • Esperienza di base con machine learning e modelli di intelligenza artificiale.
  • Confidenza con le interfacce a riga di comando e lo scripting.
  • Comprensione degli ambienti di distribuzione (locale, edge, cloud).

Pubblico

  • Ingegneri AI che ottimizzano le distribuzioni di intelligenza artificiale locali e basate su cloud.
  • Praticanti di machine learning che distribuiscono e affino i LLM.
  • Specialisti DevOps che gestiscono l'integrazione di modelli di intelligenza artificiale.
 14 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative