Corso di formazione Building Secure and Responsible LLM Applications
LLM application security is the discipline of designing, building, and maintaining safe, trustworthy, and policy-compliant systems using large language models.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.
By the end of this training, participants will be able to:
- Understand the core vulnerabilities of LLM-based systems.
- Apply secure design principles to LLM app architecture.
- Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
- Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Struttura del corso
Overview of LLM Architecture and Attack Surface
- How LLMs are built, deployed, and accessed via APIs
- Key components in LLM app stacks (e.g., prompts, agents, memory, APIs)
- Where and how security issues arise in real-world use
Prompt Injection and Jailbreak Attacks
- What is prompt injection and why it’s dangerous
- Direct and indirect prompt injection scenarios
- Jailbreaking techniques to bypass safety filters
- Detection and mitigation strategies
Data Leakage and Privacy Risks
- Accidental data exposure through responses
- PII leaks and model memory misuse
- Designing privacy-conscious prompts and retrieval-augmented generation (RAG)
LLM Output Filtering and Guarding
- Using Guardrails AI for content filtering and validation
- Defining output schemas and constraints
- Monitoring and logging unsafe outputs
Human-in-the-Loop and Workflow Approaches
- Where and when to introduce human oversight
- Approval queues, scoring thresholds, fallback handling
- Trust calibration and role of explainability
Secure LLM App Design Patterns
- Least privilege and sandboxing for API calls and agents
- Rate limiting, throttling, and abuse detection
- Robust chaining with LangChain and prompt isolation
Compliance, Logging, and Governance
- Ensuring auditability of LLM outputs
- Maintaining traceability and prompt/version control
- Aligning with internal security policies and regulatory needs
Summary and Next Steps
Requisiti
- An understanding of large language models and prompt-based interfaces
- Experience building LLM applications using Python
- Familiarity with API integrations and cloud-based deployments
Audience
- AI developers
- Application and solution architects
- Technical product managers working with LLM tools
I corsi di formazione interaziendali richiedono più di 5 partecipanti.
Corso di formazione Building Secure and Responsible LLM Applications - Booking
Corso di formazione Building Secure and Responsible LLM Applications - Enquiry
Building Secure and Responsible LLM Applications - Richiesta di consulenza
Richiesta di consulenza
Corsi in Arrivo
Corsi relativi
Building Private AI Workflows with Ollama
14 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta a professionisti di livello avanzato che desiderano implementare flussi di lavoro basati sull'intelligenza artificiale sicuri ed efficienti utilizzando Ollama.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Distribuire e configurare Ollama per l'elaborazione AI privata.
- Integrare modelli di intelligenza artificiale nei flussi di lavoro aziendali sicuri.
- Ottimizza le prestazioni dell'intelligenza artificiale mantenendo la riservatezza dei dati.
- Automatizza i processi aziendali con funzionalità di intelligenza artificiale on-premise.
- Garantire la conformità alle policy di sicurezza e governance aziendali.
Claude AI for Content Creation
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a creatori di contenuti, scrittori e addetti al marketing di livello principiante o intermedio che desiderano sfruttare l'intelligenza artificiale di Claude per la generazione, la modifica e la sintesi dei contenuti per migliorare blog, report e materiali di marketing.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Utilizza l'intelligenza artificiale di Claude per il brainstorming sui contenuti e l'ampliamento delle idee.
- Migliora la tua scrittura con l'editing e la correzione di bozze assistiti dall'intelligenza artificiale.
- Genera riepiloghi per contenuti e report di formato esteso.
- Automatizza la creazione di testi di marketing per diverse piattaforme.
Claude AI for Developers: Building AI-Powered Applications
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a sviluppatori software di livello intermedio e ingegneri di intelligenza artificiale che desiderano integrare Claude AI nelle loro applicazioni, creare chatbot basati sull'intelligenza artificiale e migliorare la funzionalità del software con l'automazione basata sull'intelligenza artificiale.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Utilizza l'API AI di Claude per integrare l'intelligenza artificiale nelle applicazioni.
- Sviluppare chatbot e assistenti virtuali basati sull'intelligenza artificiale.
- Migliora le applicazioni con l'automazione basata sull'intelligenza artificiale e l'elaborazione del linguaggio naturale.
- Ottimizzare e mettere a punto i modelli di intelligenza artificiale di Claude per diversi casi d'uso.
Claude AI for Research and Knowledge Management
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a ricercatori, analisti e knowledge worker di livello intermedio che desiderano sfruttare Claude AI per elaborare grandi quantità di dati, sintetizzare informazioni e automatizzare le attività di ricerca.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Utilizza Claude AI per revisioni della letteratura e sintesi della ricerca.
- Riassumere relazioni, articoli di ricerca e documenti lunghi.
- Estrai informazioni e tendenze chiave da dati strutturati e non strutturati.
- Integrare l'intelligenza artificiale di Claude nei flussi di lavoro di ricerca e gestione della conoscenza.
Claude AI for Workflow Automation and Productivity
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in sede) è rivolta ai professionisti principianti che desiderano integrare Claude AI nei loro flussi di lavoro quotidiani per migliorare l'efficienza e l'automazione.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Utilizza Claude AI per automatizzare le attività ripetitive e semplificare i flussi di lavoro.
- Migliora la produttività personale e di gruppo utilizzando l'automazione basata sull'intelligenza artificiale.
- Integrare Claude AI con gli strumenti e le piattaforme aziendali esistenti.
- Ottimizza il processo decisionale e la gestione delle attività basati sull'intelligenza artificiale.
Deploying and Optimizing LLMs with Ollama
14 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta ai professionisti di livello intermedio che desiderano distribuire, ottimizzare e integrare LLM utilizzando Ollama.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Impostare e distribuire LLM utilizzando Ollama.
- Ottimizza i modelli di intelligenza artificiale per migliorare prestazioni ed efficienza.
- Sfruttare l'accelerazione GPU per migliorare la velocità di inferenza.
- Integrare Ollama nei flussi di lavoro e nelle applicazioni.
- Monitorare e mantenere le prestazioni del modello di intelligenza artificiale nel tempo.
Fine-Tuning and Customizing AI Models on Ollama
14 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta a professionisti di livello avanzato che desiderano perfezionare e personalizzare i modelli di intelligenza artificiale su Ollama per prestazioni migliorate e applicazioni specifiche del dominio.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Impostare un ambiente efficiente per la messa a punto dei modelli di intelligenza artificiale su Ollama.
- Preparare set di dati per la messa a punto supervisionata e l'apprendimento per rinforzo.
- Ottimizza i modelli di intelligenza artificiale per prestazioni, precisione ed efficienza.
- Distribuisci modelli personalizzati in ambienti di produzione.
- Valutare i miglioramenti del modello e garantirne la robustezza.
Introduction to Google Gemini AI
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a sviluppatori di livello principiante e intermedio che desiderano integrare funzionalità di intelligenza artificiale nelle loro applicazioni utilizzando Google Gemini AI.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti dei modelli linguistici di grandi dimensioni.
- Configura e usa Google Gemini AI per varie attività di intelligenza artificiale.
- Implementa trasformazioni da testo a testo e da immagine a testo.
- Crea applicazioni di base basate sull'intelligenza artificiale.
- Esplora le funzionalità avanzate e le opzioni di personalizzazione in Google Gemini AI.
Google Gemini AI for Content Creation
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta ai creatori di contenuti di livello intermedio che desiderano utilizzare Google Gemini AI per migliorare la qualità e l'efficienza dei contenuti.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere il ruolo dell'intelligenza artificiale nella creazione di contenuti.
- Configura e utilizza Google Gemini AI per generare e ottimizzare i contenuti.
- Applica trasformazioni da testo a testo per produrre contenuti creativi e originali.
- Implementa strategie SEO utilizzando approfondimenti basati sull'intelligenza artificiale.
- Analizza le prestazioni dei contenuti e adatta le strategie utilizzando Gemini AI.
Google Gemini AI for Transformative Customer Service
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta ai professionisti del servizio clienti di livello intermedio che desiderano implementare Google Gemini AI nelle loro operazioni di assistenza clienti.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendi l'impatto dell'intelligenza artificiale sul servizio clienti.
- Configura Google Gemini AI per automatizzare e personalizzare le interazioni con i clienti.
- Utilizza le trasformazioni da testo a testo e da immagine a testo per migliorare l'efficienza del servizio.
- Sviluppa strategie basate sull'intelligenza artificiale per l'analisi del feedback dei clienti in tempo reale.
- Esplora le funzionalità avanzate per creare un'esperienza di servizio clienti senza interruzioni.
Google Gemini AI for Data Analysis
21 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta ad analisti di dati di livello principiante e intermedio e a professionisti aziendali che desiderano eseguire attività complesse di analisi dei dati in modo più intuitivo in vari settori utilizzando Google Gemini AI.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti di Google Gemini AI.
- Collega varie fonti di dati a Gemini AI.
- Esplora i dati utilizzando query in linguaggio naturale.
- Analizza i modelli di dati e ricava informazioni dettagliate.
- Crea visualizzazioni di dati accattivanti.
- Comunica in modo efficace le informazioni basate sui dati.
Intermediate Gemini AI for Public Sector Professionals
16 oreThis instructor-led, live training in Italia (online or onsite) is aimed at intermediate-level public sector professionals who wish to use Gemini to generate high-quality content, assist with research, and improve productivity through more advanced AI interactions.
By the end of this training, participants will be able to:
- Craft more effective and tailored prompts for specific use cases.
- Generate original and creative content using Gemini.
- Summarize and compare complex information with precision.
- Use Gemini for brainstorming, planning, and organizing ideas efficiently.
Introduction to Claude AI: Conversational AI and Business Applications
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a professionisti aziendali alle prime armi, team di assistenza clienti e appassionati di tecnologia che desiderano comprendere i fondamenti di Claude AI e sfruttarli per applicazioni aziendali.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Scopri le capacità e i casi d'uso di Claude AI.
- Configura e interagisci con Claude AI in modo efficace.
- Automatizza i flussi di lavoro aziendali con l'intelligenza artificiale conversazionale.
- Migliora il coinvolgimento e il supporto dei clienti utilizzando soluzioni basate sull'intelligenza artificiale.
LangChain: Building AI-Powered Applications
14 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a sviluppatori e ingegneri del software di livello intermedio che desiderano creare applicazioni basate sull'intelligenza artificiale utilizzando il framework LangChain.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti di LangChain e dei suoi componenti.
- Integra LangChain con modelli linguistici di grandi dimensioni (LLM) come GPT-4.
- Crea applicazioni AI modulari utilizzando LangChain.
- Risolvi i problemi comuni nelle applicazioni LangChain.
Getting Started with Ollama: Running Local AI Models
7 oreQuesta formazione dal vivo condotta da un istruttore in Italia (online o in loco) è rivolta ai professionisti principianti che desiderano installare, configurare e utilizzare Ollama per eseguire modelli di intelligenza artificiale sui propri computer locali.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i fondamenti di Ollama e le sue capacità.
- Impostare Ollama per l'esecuzione di modelli di intelligenza artificiale locali.
- Distribuire e interagire con LLM utilizzando Ollama.
- Ottimizza le prestazioni e l'utilizzo delle risorse per i carichi di lavoro dell'intelligenza artificiale.
- Esplora i casi d'uso per l'implementazione locale dell'intelligenza artificiale in vari settori.