Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Fondamenti dell'AI Locale Sicura
- Significato di AI locale e on-prem in ambienti regolamentati
- AI nel cloud rispetto alla distribuzione interna per carichi di lavoro sensibili
- Casi d'uso aziendali comuni per assistenti privati e supporto ai flussi di lavoro
- Componenti fondamentali di un'architettura AI locale sicura
Nozioni di Base su Ollama e Modelli Open Source
- Come Ollama si integra nello stack di sviluppo locale
- Scaricamento, esecuzione e gestione dei modelli localmente
- Scelta dei modelli in base a dimensioni, qualità, hardware e licenza
- Allineamento delle opzioni dei modelli a compiti aziendali pratici
Preparazione dell'Ambiente On-Prem
- Preparazione di host, workstation e server
- Installazione e configurazione di Ollama per inferenza locale
- Utilizzo di container e strumenti di sviluppo interni
- Verifica dell'accesso API e della prontezza operativa di base
Lavorare Efficacemente con i Modelli Locali
- Esecuzione di prompt e definizione delle uscite con istruzioni di sistema
- Riutilizzo di template per compiti aziendali coerenti
- Gestione delle versioni dei modelli e degli artefatti interni
- Ottimizzazione delle prestazioni di base per distribuzioni CPU e GPU
Costruire Flussi di Lavoro Aggenti Pratici
- Cosa rende un flusso di lavoro aggente in un ambiente controllato
- Pattern semplici per la pianificazione, l'uso di strumenti e i cicli di risposta
- Progettazione di assistenti focalizzati su compiti per operazioni interne
- Aggiunta di revisione umana, logica di fallback e gestione degli errori
Flussi di Lavoro Privati basati sul Recupero (Retrieval)
- Nozioni di base sulla generazione aumentata dal recupero (RAG) per l'accesso alla conoscenza interna
- Preparazione dei documenti per la suddivisione, l'indicizzazione e la ricerca
- Connessione di un archivio vettoriale locale a un'applicazione basata su Ollama
- Miglioramento della pertinenza e della qualità delle risposte con pattern di recupero ottimizzati
Pratiche di Sicurezza, Governance e Conformità
- Limiti nella gestione dei dati e considerazioni sulla privacy
- Controllo degli accessi, registrazione e supporto agli audit
- Sicurezza dei prompt, controlli sulle uscite e linee guida (guardrails)
- Punti di controllo della governance per la distribuzione e l'operazione in ambienti regolamentati
Pattern di Integrazione Aziendale
- Esposizione delle capacità AI locali tramite API interne
- Integrazione degli assistenti con applicazioni e servizi interni
- Supporto per casi d'uso relativi ad assistenti, elaborazioni batch e automazione dei flussi di lavoro
- Mantenimento delle soluzioni all'interno di confini di rete controllati
Valutazione delle Soluzioni AI Locali
- Valutazione di qualità, affidabilità e coerenza
- Test rispetto a requisiti aziendali, normativi e di sicurezza
- Confronto delle opzioni dei modelli per compiti aziendali specifici
- Istituzione di un ciclo pratico di miglioramento per i team interni
Laboratorio di Implementazione Pratica
- Costruzione di un assistente privato con Ollama e un modello open source
- Aggiunta di recupero su documenti interni approvati
- Introduzione di semplici azioni aggenti e controlli di sicurezza
- Revisione della distribuzione, delle operazioni e dei punti di controllo della governance
Pianificazione dell'Adozione e Prossimi Passi
- Revisione delle decisioni chiave su design e distribuzione
- Identificazione di errori comuni nei progetti AI regolamentati
- Pianificazione di casi d'uso pilota e allineamento con le parti interessate
- Definizione di una roadmap per l'adozione sicura dell'AI locale
Requisiti
- Conoscenza di base dei concetti di AI e dello sviluppo software
- Familiarità con gli strumenti da riga di comando, i container o gli ambienti di sviluppo locali
- Esperienza di base in scripting o programmazione
Destinatari
- Sviluppatori e team tecnici che costruiscono soluzioni AI private su infrastrutture interne
- Professionisti della sicurezza, della conformità e delle piattaforme che supportano l'AI in ambienti regolamentati
- Leader tecnici nei settori finanziario, sanitario, governativo e della difesa che valutano l'adozione di AI on-prem
21 ore