Corso di formazione Building Secure and Responsible LLM Applications
La sicurezza delle applicazioni LLM è la disciplina che riguarda il progettare, costruire e mantenere sistemi sicuri, affidabili e conformi alle politiche utilizzando modelli di linguaggio a grande scala.
Questo addestramento guidato da un istruttore (online o in sede) è rivolto ai sviluppatori AI intermedi-avanzati, architetti e responsabili prodotto che desiderano identificare e mitigare i rischi associati alle applicazioni alimentate da LLM, inclusa l'iniezione di prompt, la fuga di dati e l'output non filtrato, incorporando controlli di sicurezza come la validazione dell'input, il controllo umano in ciclo e le barriere per l'output.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Comprendere le vulnerabilità principali dei sistemi basati su LLM.
- Applicare principi di progettazione sicura all'architettura delle app LLM.
- Utilizzare strumenti come Guardrails AI e LangChain per la validazione, il filtraggio e la sicurezza.
- Integrare tecniche come lo sandboxing, il red teaming e la revisione umana in ciclo nelle pipeline di livello produttivo.
Formato del Corso
- Lettura interattiva e discussione.
- Molte esercitazioni e pratica.
- Esecuzione pratica in un ambiente di laboratorio live.
Opzioni di Personalizzazione del Corso
- Per richiedere un addestramento personalizzato per questo corso, si prega di contattarci per organizzare.
Struttura del corso
Panoramica dell'architettura LLM e della superficie di attacco
- Come vengono costruiti, distribuiti ed accessibili gli LLM tramite API
- Componenti chiave nelle stack di applicazioni LLM (ad esempio, prompt, agenti, memoria, API)
- Dove e come emergono le questioni di sicurezza nell'uso reale
Iniezione dei Prompt e Attacchi di Jailbreak
- Cosa è l'iniezione del prompt e perché è pericolosa
- Scenari di iniezione diretta ed indiretta del prompt
- Tecnologie di jailbreaking per aggirare i filtri di sicurezza
- Strategie di rilevazione e mitigazione
Verniciatura dei Dati e Rischi alla Privacy
- Esposizione accidentale dei dati attraverso le risposte
- Fuga di PII e abuso della memoria del modello
- Progettazione di prompt consapevoli della privacy e generazione migliorata con il recupero (RAG)
Filtraggio e Protezione dell'Output LLM
- Utilizzo di Guardrails AI per la filtratura e la validazione del contenuto
- Definizione di schemi di output e vincoli
- Monitoraggio e registrazione degli output non sicuri
Approcci con l'Uomo nel Loop e Workflow
- Dove e quando introdurre il controllo umano
- Coda di approvazione, soglie di punteggio, gestione del fallback
- Calibrazione della fiducia e ruolo dell'esponibilità
App Sicura LLM Design Patterns
- Meno privilegi e sandboxing per le chiamate API e gli agenti
- LIMITAZIONE DELLE RICHIESTE, LIMITAZIONE DI VELOCITÀ E RILEVAMENTO DELL'ABUSAZIONE
- Concatenamento robusto con LangChain e isolamento del prompt
Conformità, Logging e Governance
- Garantire l'audibilità degli output LLM
- Mantenere la tracciabilità e il controllo delle versioni dei prompt
- Allinearsi con le politiche interne di sicurezza e i requisiti normativi
Riepilogo e Passaggi Successivi
Requisiti
- Una comprensione dei modelli linguistici a grande scala e delle interfacce basate su prompt
- Esperienza nella creazione di applicazioni LLM utilizzando Python
- Familiarità con le integrazioni API e i rilasci basati sul cloud
Pubblico
- Sviluppatori AI
- Architetti di applicazioni e soluzioni
- Gestori prodotti tecnici che lavorano con strumenti LLM
I corsi di formazione interaziendali richiedono più di 5 partecipanti.
Corso di formazione Building Secure and Responsible LLM Applications - Booking
Corso di formazione Building Secure and Responsible LLM Applications - Enquiry
Building Secure and Responsible LLM Applications - Richiesta di consulenza
Richiesta di consulenza
Corsi in Arrivo
Corsi relativi
AI Automation with n8n and LangChain
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a sviluppatori e professionisti IT di tutti i livelli di competenza che desiderano automatizzare attività e processi utilizzando l'intelligenza artificiale senza scrivere codice esteso.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Progetta e implementa flussi di lavoro complessi utilizzando l'interfaccia di programmazione visiva di n8n.
- Integra le funzionalità di intelligenza artificiale nei flussi di lavoro utilizzando LangChain.
- Crea chatbot e assistenti virtuali personalizzati per vari casi d'uso.
- Esegui analisi ed elaborazione avanzate dei dati con agenti di intelligenza artificiale.
Automating Workflows with LangChain and APIs
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto ad analisti aziendali e ingegneri dell'automazione di livello principiante che desiderano capire come utilizzare LangChain e le API per automatizzare attività e flussi di lavoro ripetitivi.
Al termine di questo corso di formazione, i partecipanti saranno in grado di:
- Comprendere le basi dell'integrazione API con LangChain.
- Automatizza i flussi di lavoro ripetitivi utilizzando LangChain e Python.
- Utilizza LangChain per connettere varie API per processi aziendali efficienti.
- Crea e automatizza flussi di lavoro personalizzati utilizzando le API e le funzionalità di automazione di LangChain.
Building Conversational Agents with LangChain
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a professionisti di livello intermedio che desiderano approfondire la loro comprensione degli agenti conversazionali e applicare LangChain a casi d'uso del mondo reale.
Al termine di questo corso di formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti di LangChain e la sua applicazione nella creazione di agenti conversazionali.
- Sviluppare e distribuire agenti conversazionali utilizzando LangChain.
- Integra gli agenti conversazionali con API e servizi esterni.
- Applicare Natural Language Processing (NLP) tecniche per migliorare le prestazioni degli agenti conversazionali.
Building Private AI Workflows with Ollama
14 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta a professionisti di livello avanzato che desiderano implementare flussi di lavoro basati sull'intelligenza artificiale sicuri ed efficienti utilizzando Ollama.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Distribuire e configurare Ollama per l'elaborazione AI privata.
- Integrare modelli di intelligenza artificiale nei flussi di lavoro aziendali sicuri.
- Ottimizza le prestazioni dell'intelligenza artificiale mantenendo la riservatezza dei dati.
- Automatizza i processi aziendali con funzionalità di intelligenza artificiale on-premise.
- Garantire la conformità alle policy di sicurezza e governance aziendali.
Deploying and Optimizing LLMs with Ollama
14 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta ai professionisti di livello intermedio che desiderano distribuire, ottimizzare e integrare LLM utilizzando Ollama.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Impostare e distribuire LLM utilizzando Ollama.
- Ottimizza i modelli di intelligenza artificiale per migliorare prestazioni ed efficienza.
- Sfruttare l'accelerazione GPU per migliorare la velocità di inferenza.
- Integrare Ollama nei flussi di lavoro e nelle applicazioni.
- Monitorare e mantenere le prestazioni del modello di intelligenza artificiale nel tempo.
Ethical Considerations in AI Development with LangChain
21 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a ricercatori di intelligenza artificiale di livello avanzato e responsabili politici che desiderano esplorare le implicazioni etiche dello sviluppo dell'intelligenza artificiale e imparare come applicare le linee guida etiche durante la creazione di soluzioni di intelligenza artificiale con LangChain.
Al termine di questo corso di formazione, i partecipanti saranno in grado di:
- Identificare le questioni etiche chiave nello sviluppo dell'IA con LangChain.
- Comprendi l'impatto dell'IA sulla società e sui processi decisionali.
- Sviluppare strategie per la creazione di sistemi di intelligenza artificiale equi e trasparenti.
- Implementa le linee guida etiche sull'intelligenza artificiale nei progetti basati su LangChain.
Enhancing User Experience with LangChain in Web Apps
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a sviluppatori web di livello intermedio e UX designer che desiderano sfruttare LangChain per creare applicazioni web intuitive e facili da usare.
Al termine di questo corso di formazione, i partecipanti saranno in grado di:
- Comprendere i concetti fondamentali di LangChain e il suo ruolo nel migliorare l'esperienza dell'utente web.
- Implementa LangChain nelle app Web per creare interfacce dinamiche e reattive.
- Integra le API nelle app Web per migliorare l'interattività e il coinvolgimento degli utenti.
- Ottimizza l'esperienza utente utilizzando le funzionalità di personalizzazione avanzate di LangChain.
- Analizza i dati sul comportamento degli utenti per ottimizzare le prestazioni e l'esperienza delle app Web.
Fine-Tuning and Customizing AI Models on Ollama
14 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta a professionisti di livello avanzato che desiderano perfezionare e personalizzare i modelli di intelligenza artificiale su Ollama per prestazioni migliorate e applicazioni specifiche del dominio.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Impostare un ambiente efficiente per la messa a punto dei modelli di intelligenza artificiale su Ollama.
- Preparare set di dati per la messa a punto supervisionata e l'apprendimento per rinforzo.
- Ottimizza i modelli di intelligenza artificiale per prestazioni, precisione ed efficienza.
- Distribuisci modelli personalizzati in ambienti di produzione.
- Valutare i miglioramenti del modello e garantirne la robustezza.
Introduction to AI Security and Risk Management
14 oreQuesto corso guidato dal formatore in Italia (online o presenza) è rivolto a professionisti di sicurezza IT, gestione dei rischi e conformità livello principiante che desiderano comprendere i concetti fondamentali della sicurezza AI, i vettori di minaccia e i framework globali come NIST AI RMF e ISO/IEC 42001.
Al termine del corso, i partecipanti saranno in grado di:
- Comprendere i rischi di sicurezza unici introdotti dai sistemi AI.
- Identificare vettori di minaccia come attacchi avversari, avvelenamento dei dati e inversione del modello.
- Applicare modelli di governance fondamentali come il NIST AI Risk Management Framework.
- Allineare l'uso dell'AI con le normative emergenti, i lineamenti di conformità ed i principi etici.
LangChain: Building AI-Powered Applications
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a sviluppatori e ingegneri del software di livello intermedio che desiderano creare applicazioni basate sull'intelligenza artificiale utilizzando il framework LangChain.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti di LangChain e dei suoi componenti.
- Integra LangChain con modelli linguistici di grandi dimensioni (LLM) come GPT-4.
- Crea applicazioni AI modulari utilizzando LangChain.
- Risolvi i problemi comuni nelle applicazioni LangChain.
Integrating LangChain with Cloud Services
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a data engineer di livello avanzato e DevOps professionisti che desiderano sfruttare le capacità di LangChain integrandolo con vari servizi cloud.
Al termine di questo corso di formazione, i partecipanti saranno in grado di:
- Integra LangChain con le principali piattaforme cloud come AWS, Azure e Google Cloud.
- Utilizza API e servizi basati su cloud per migliorare le applicazioni basate su LangChain.
- Ridimensiona e distribuisci agenti conversazionali nel cloud per l'interazione in tempo reale.
- Implementa le best practice di monitoraggio e sicurezza negli ambienti cloud.
LangChain for Data Analysis and Visualization
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a professionisti dei dati di livello intermedio che desiderano utilizzare LangChain per migliorare le proprie capacità di analisi e visualizzazione dei dati.
Al termine di questo corso di formazione, i partecipanti saranno in grado di:
- Automatizza il recupero e la pulizia dei dati utilizzando LangChain.
- Conduci analisi avanzate dei dati utilizzando Python e LangChain.
- Crea visualizzazioni con Matplotlib e altre librerie Python integrate con LangChain.
- Sfrutta LangChain per generare informazioni dettagliate in linguaggio naturale dall'analisi dei dati.
LangChain Fundamentals
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a sviluppatori e ingegneri del software di livello principiante e intermedio che desiderano apprendere i concetti fondamentali e l'architettura di LangChain e acquisire le competenze pratiche per la creazione di applicazioni basate sull'intelligenza artificiale.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i principi fondamentali di LangChain.
- Impostare e configurare l'ambiente LangChain.
- Comprendere l'architettura e il modo in cui LangChain interagisce con i modelli linguistici di grandi dimensioni (LLM).
- Sviluppa applicazioni semplici utilizzando LangChain.
Getting Started with Ollama: Running Local AI Models
7 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta ai professionisti principianti che desiderano installare, configurare e utilizzare Ollama per eseguire modelli di intelligenza artificiale sui propri computer locali.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti di Ollama e le sue capacità.
- Impostare Ollama per l'esecuzione di modelli di intelligenza artificiale locali.
- Distribuire e interagire con LLM utilizzando Ollama.
- Ottimizza le prestazioni e l'utilizzo delle risorse per i carichi di lavoro dell'intelligenza artificiale.
- Esplora i casi d'uso per l'implementazione locale dell'intelligenza artificiale in vari settori.
Securing AI Models: Threats, Attacks, and Defenses
14 oreQuesta formazione live guidata dall'instructor (online o sul posto) è rivolta a professionisti intermedi di machine learning e cybersecurity che desiderano comprendere e mitigare le minacce emergenti contro i modelli AI, utilizzando sia framework concettuali che difese pratiche come addestramento robusto e privacy differenziale.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Identificare e classificare le minacce specifiche AI come attacchi avversari, inversione e avvelenamento dei dati.
- Utilizzare strumenti come l'Adversarial Robustness Toolbox (ART) per simulare gli attacchi e testare i modelli.
- Applicare difese pratiche incluse l'addestramento avversario, l'iniezione di rumore e tecniche di preservazione della privacy.
- Delineare strategie di valutazione del modello consapevoli delle minacce in ambienti di produzione.