Contattataci

Struttura del corso

Fondamenti dell'AI Locale Sicura

  • Significato di AI locale e on-prem in ambienti regolamentati
  • AI nel cloud rispetto alla distribuzione interna per carichi di lavoro sensibili
  • Casi d'uso aziendali comuni per assistenti privati e supporto ai flussi di lavoro
  • Componenti fondamentali di un'architettura AI locale sicura

Nozioni di Base su Ollama e Modelli Open Source

  • Come Ollama si integra nello stack di sviluppo locale
  • Scaricamento, esecuzione e gestione dei modelli localmente
  • Scelta dei modelli in base a dimensioni, qualità, hardware e licenza
  • Allineamento delle opzioni dei modelli a compiti aziendali pratici

Preparazione dell'Ambiente On-Prem

  • Preparazione di host, workstation e server
  • Installazione e configurazione di Ollama per inferenza locale
  • Utilizzo di container e strumenti di sviluppo interni
  • Verifica dell'accesso API e della prontezza operativa di base

Lavorare Efficacemente con i Modelli Locali

  • Esecuzione di prompt e definizione delle uscite con istruzioni di sistema
  • Riutilizzo di template per compiti aziendali coerenti
  • Gestione delle versioni dei modelli e degli artefatti interni
  • Ottimizzazione delle prestazioni di base per distribuzioni CPU e GPU

Costruire Flussi di Lavoro Aggenti Pratici

  • Cosa rende un flusso di lavoro aggente in un ambiente controllato
  • Pattern semplici per la pianificazione, l'uso di strumenti e i cicli di risposta
  • Progettazione di assistenti focalizzati su compiti per operazioni interne
  • Aggiunta di revisione umana, logica di fallback e gestione degli errori

Flussi di Lavoro Privati basati sul Recupero (Retrieval)

  • Nozioni di base sulla generazione aumentata dal recupero (RAG) per l'accesso alla conoscenza interna
  • Preparazione dei documenti per la suddivisione, l'indicizzazione e la ricerca
  • Connessione di un archivio vettoriale locale a un'applicazione basata su Ollama
  • Miglioramento della pertinenza e della qualità delle risposte con pattern di recupero ottimizzati

Pratiche di Sicurezza, Governance e Conformità

  • Limiti nella gestione dei dati e considerazioni sulla privacy
  • Controllo degli accessi, registrazione e supporto agli audit
  • Sicurezza dei prompt, controlli sulle uscite e linee guida (guardrails)
  • Punti di controllo della governance per la distribuzione e l'operazione in ambienti regolamentati

Pattern di Integrazione Aziendale

  • Esposizione delle capacità AI locali tramite API interne
  • Integrazione degli assistenti con applicazioni e servizi interni
  • Supporto per casi d'uso relativi ad assistenti, elaborazioni batch e automazione dei flussi di lavoro
  • Mantenimento delle soluzioni all'interno di confini di rete controllati

Valutazione delle Soluzioni AI Locali

  • Valutazione di qualità, affidabilità e coerenza
  • Test rispetto a requisiti aziendali, normativi e di sicurezza
  • Confronto delle opzioni dei modelli per compiti aziendali specifici
  • Istituzione di un ciclo pratico di miglioramento per i team interni

Laboratorio di Implementazione Pratica

  • Costruzione di un assistente privato con Ollama e un modello open source
  • Aggiunta di recupero su documenti interni approvati
  • Introduzione di semplici azioni aggenti e controlli di sicurezza
  • Revisione della distribuzione, delle operazioni e dei punti di controllo della governance

Pianificazione dell'Adozione e Prossimi Passi

  • Revisione delle decisioni chiave su design e distribuzione
  • Identificazione di errori comuni nei progetti AI regolamentati
  • Pianificazione di casi d'uso pilota e allineamento con le parti interessate
  • Definizione di una roadmap per l'adozione sicura dell'AI locale

Requisiti

  • Conoscenza di base dei concetti di AI e dello sviluppo software
  • Familiarità con gli strumenti da riga di comando, i container o gli ambienti di sviluppo locali
  • Esperienza di base in scripting o programmazione

Destinatari

  • Sviluppatori e team tecnici che costruiscono soluzioni AI private su infrastrutture interne
  • Professionisti della sicurezza, della conformità e delle piattaforme che supportano l'AI in ambienti regolamentati
  • Leader tecnici nei settori finanziario, sanitario, governativo e della difesa che valutano l'adozione di AI on-prem
 21 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative