Contattataci

Struttura del corso

Introduzione all’utilizzo di Ollama per la distribuzione di modelli linguistici di grandi dimensioni

  • Panoramica delle capacità offerte da Ollama
  • I vantaggi della distribuzione locale dei modelli AI
  • Confronto con le soluzioni di hosting cloud per l’intelligenza artificiale

Configurazione dell’ambiente di distribuzione

  • Installazione di Ollama e delle dipendenze necessarie
  • Configurazione dell’hardware nonché dell’accelerazione GPU
  • Creazione di container Docker per facilitare la distribuzione scalabile di Ollama

Distribuzione dei modelli linguistici con Ollama

  • Caricamento e gestione dei modelli AI
  • Distribuzione dei modelli Llama 3, DeepSeek, Mistral e altri
  • Creazione di API ed endpoint per consentire l’accesso ai modelli AI

Ottimizzazione delle prestazioni dei modelli linguistici di grandi dimensioni

  • Perfezionamento dei modelli al fine di massimizzarne l’efficienza
  • Riduzione della latenza e miglioramento dei tempi di risposta
  • Gestione ottimale della memoria e delle risorse sistematiche

Integrazione di Ollama nei flussi di lavoro basati sull’intelligenza artificiale

  • Collegamento di Ollama ad applicazioni e servizi vari
  • Automatizzazione dei processi trainati dall’AI
  • Utilizzo di Ollama in ambienti di computing edge

Monitoraggio e manutenzione dei modelli AI

  • Tracciamento delle prestazioni e individuazione tempestiva di eventuali problemi
  • Aggiornamento e gestione continua dei modelli AI
  • Mantenimento della sicurezza e del rispetto delle normative nelle distribuzioni AI

Scalabilità delle distribuzioni di modelli linguistici di grandi dimensioni

  • Procedure consigliate per gestire carichi di lavoro elevati
  • Adattamento e scaling di Ollama in contesti aziendali complessi
  • Tendenze evolutive relative alla distribuzione locale dei modelli AI

Sintesi finale e prossimi passi

Requisiti

  • Conoscenze di base relative al machine learning e ai modelli AI
  • Familiarità con le interfacce a riga di comando e lo scripting
  • Comprensione degli ambienti di distribuzione (locale, edge, cloud)

Destinatari del corso

  • Ingegneri AI impegnati nell’ottimizzazione di soluzioni AI sia locali che basate sul cloud
  • Specialisti ML addetti alla distribuzione e al perfezionamento dei modelli linguistici di grandi dimensioni
  • Specialisti DevOps responsabili dell’integrazione dei modelli AI nei sistemi IT
 14 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative