Contattataci

Struttura del corso

Giorno 01

Panoramica sulla Business Intelligence basata sui Big Data per l’analisi dell'intelligence criminale

  • Casi studio riguardanti la polizia – Analisi predittiva applicata al pattugliamento
  • Tasso di adozione dei Big Data nelle forze di polizia e il modo in cui si stanno orientando verso l’analitica predittiva
  • Novità tecnologiche quali sensori per rilevare spari, video di sorveglianza e social media
  • Riduzione dell’eccesso informativo tramite l’utilizzo delle tecnologie Big Data
  • Integrazione tra i dati in formato Big Data e quelli storici conservati nei sistemi preesistenti
  • Nozioni fondamentali sulle tecnologie abilitanti per l’analisi predittiva
  • Integrazione dei dati e visualizzazione tramite dashboard
  • Gestione delle frodi
  • Regole aziendali e rilevamento delle frodi
  • Rilevamento e profilazione delle minacce
  • Analisi costi-benefici legata all’implementazione dei Big Data

Introduzione ai Big Data

  • Le caratteristiche principali: Volume, Varietà, Velocità e Veridicità
  • Architettura MPP (Massively Parallel Processing)
  • Data Warehouse – struttura fissa e database che si evolvono lentamente
  • Database MPP: Greenplum, Exadata, Teradata, Netezza, Vertica ecc.
  • Soluzioni basate su Hadoop – non richiedono una struttura predefinita per i dati
  • Ciclo operativo tipico: HDFS, MapReduce, recupero dei dati da HDFS
  • Apache Spark per l’elaborazione di flussi di dati in tempo reale
  • Elaborazioni batch – adatte a analisi non interattive
  • Gestione del volume: CEP – processamento di flussi temporali
  • Scelte principali per il CEP: prodotti quali Infostreams, Apama, MarkLogic ecc.
  • Alternativa meno matura nel settore: Storm/S4
  • Database NoSQL – a colonne o a coppie chiave-valore: utili come supporto analitico ai database tradizionali

Soluzioni NoSQL

  • Archivi key-value: Keyspace, Flare, SchemaFree, RAMCloud, Oracle NoSQL Database (OnDB)
  • Archivi key-value: Dynamo, Voldemort, Dynomite, SubRecord, Mo8onDb, DovetailDB
  • Archivi gerarchici key-value: GT.m, Cache
  • Archivi key-value ordinati: TokyoTyrant, Lightcloud, NMDB, Luxio, MemcacheDB, Actord
  • Caching key-value: Memcached, Repcached, Coherence, Infinispan, EXtremeScale, JBossCache, Velocity, Terracoqua
  • Archivi tuple: Gigaspaces, Coord, Apache River
  • Database orientati agli oggetti: ZopeDB, DB40, Shoal
  • Document Store: CouchDB, Cloudant, Couchbase, MongoDB, Jackrabbit, database XML, ThruDB, CloudKit, Prsevere, Riak-Basho, Scalaris
  • Archivi a colonne larghe: BigTable, HBase, Apache Cassandra, Hypertable, KAI, OpenNeptune, Qbase, KDI

Tipologie di dati e problematiche legate alla loro pulizia nei Big Data

  • I database relazionali hanno una struttura fissa: non favoriscono un ambiente flessibile ed esplorativo
  • I sistemi NoSQL offrono una semi-strutturazione: sufficiente per immagazzinare dati anche senza uno schema predefinito
  • Problematiche legate alla pulizia dei dati

Hadoop

  • Quando scegliere Hadoop?
  • I database aziendali possono gestire volumi enormi di informazioni, ma richiedono una struttura rigida e non si prestano all’esplorazione spontanea
  • I dati semi-strutturati risultano difficili da gestire con i sistemi tradizionali
  • L’archiviazione su larga scala implica sforzi considerevoli e un sistema statico anche dopo l’implementazione
  • Per gestire grandi quantità di dati eterogenei su hardware standard, si predilige Hadoop
  • Per creare una cluster Hadoop sono necessari soltanto dispositivi hardware commerciali

Introduzione a MapReduce e HDFS

  • MapReduce distribuisce i calcoli su diversi server
  • HDFS consente di rendere i dati accessibili in modo locale alle operazioni computazionali, garantendo la ridondanza
  • I dati possono non essere strutturati o prevedere uno schema fisso (a differenza dei database relazionali)
  • È responsabilità dello sviluppatore interpretare correttamente i dati raccolti
  • Sviluppare con MapReduce richiede Java: pro e contro; inoltre occorre caricare manualmente i dati su HDFS

Giorno 02

L’ecosistema Big Data – Costruzione di un flusso ETL (Extract, Transform, Load) e scelta degli strumenti adeguati

  • Hadoop contro altre soluzioni NoSQL
  • Accesso casuale ai dati in modalità interattiva
  • HBase: database a colonne che opera su base Hadoop
  • L’accesso casuale è limitato dal volume massimo di 1 PB
  • Non adatto per analisi ad hoc, ma efficace per registrazione dati, conteggi e analisi temporali
  • Sqoop: trasferimento dei dati dai database verso Hive o HDFS (accesso tramite JDBC/ODBC)
  • Flume: inoltro di flussi di dati come quelli di log verso HDFS

Sistemi per la gestione dei Big Data

  • Quando componenti e nodi computazionali si aggiungono o si guastano, entra in gioco ZooKeeper: utilizzato per configurazione, coordinamento e servizi di denominazione
  • Per gestire pipeline complesse e workflow complessi si ricorre a Oozie: facilita la gestione dipendenze e concatenazioni dei processi
  • Ambari si occupa del deploy, della configurazione, della gestione cluster e degli aggiornamenti tecnici (operazioni da amministratore di sistema)
  • Nell’ambiente Cloud: Whirr permette il deployment rapido dei sistemi

Analitica predittiva – Tecniche fondamentali e Business Intelligence basata sull’apprendimento automatico

  • Nozioni introduttive all’apprendimento automatico
  • Tecniche di classificazione dei dati
  • Predizione Bayesiana: preparazione del file addestrativo
  • Macchine a vettori di supporto (Support Vector Machine)
  • Algebra p-Tree e analisi verticale in KNN
  • Reti neurali
  • Gestione di dataset complessi: Random Forest (RF)
  • Automatizzazione dell’elaborazione: Multi-model ensemble RF
  • Automazione tramite Soft10-M
  • Treeminer – strumento per l’analisi testuale
  • Apprendimento agile
  • Apprendimento basato su agenti
  • Distribuzione dei processi di apprendimento
  • Strumenti open source utilizzati nell’analitica predittiva: R, Python, Rapidminer, Mahut

Ecosistema dell’analisi predittiva e sue applicazioni nell’intelligence criminale

  • Tecnologia e procedure investigative
  • Analisi per l’estrazione di intuizioni significative
  • Visualizzazione dei dati per migliorare la comprensione
  • Analitica predittiva strutturata
  • Analitica predittiva non strutturata
  • Profilazione di minacce, frodi e fornitori sospetti
  • Sistemi per la raccomandazione automatizzata
  • Rilevamento dei pattern significativi
  • Identificazione automatica di regole e scenari: fallimenti, frodi, ottimizzazioni
  • Individuazione delle cause profonde di un problema
  • Analisi del sentiment
  • Analitica CRM
  • Analitica sulle reti relazionali
  • Estrazione informazioni testuali da verbali, dichiarazioni dei testimoni e contenuti presenti su internet
  • Rivista assistita dalle tecnologie
  • Analisi delle frodi
  • Analisi in tempo reale

Giorno 03

Analisi scalabili e in tempo reale su piattaforma Hadoop

  • Perché gli algoritmi tradizionali faticano ad operare in ambiente Hadoop/HDFS
  • Apache Hama: per il calcolo distribuito sincrono a massiva scala
  • Apache Spark: potente per l’elaborazione cluster e le analisi temporali
  • CMU Graphics Lab2: approccio asincrono basato sui grafi per la distribuzione computazionale
  • Treeminer propone l’algebra p-KNN, utile a ridurre i requisiti hardware necessari per il calcolo

Strumenti per l’eDiscovery e le indagini forensi

  • Confronto tra i costi ed efficienza operativa dell’analisi dei Big Data rispetto ai database tradizionali
  • Coding predittivo e rivista assistita dalle tecnologie (TAR)
  • Demo in tempo reale tramite vMiner per dimostrare come il TAR acceleri l’indagine
  • Indicizzazione più rapida grazie a HDFS – maggiore velocità di trattamento dei dati
  • NLP (elaborazione del linguaggio naturale): prodotti e tecniche open source
  • Elaborazione linguistica multilingue per gestire contenuti in lingue straniere

Business Intelligence basata sui Big Data per la cybersecurity – Panoramica integrata, raccolta dati veloce e rilevamento precoce delle minacce

  • Nozioni fondamentali sull’analisi della sicurezza: superficie di attacco, configurazioni errate e difese informatiche
  • Infrastruttura di rete – enorme capacità di trasmissione dei dati e flusso ETL adattato alle analisi in tempo reale
  • Approccio predittivo vs prescrittivo: regole fisse versus rilevamento automatizzato delle minacce mediante i metadati

Raccogliere dati eterogenei per l’analisi dell’intelligence criminale

  • Utilizzo di IoT come sensori per acquisire informazioni
  • Satelliti come strumenti per il monitoraggio domestico e territoriale
  • Raccolta dati video e dalle telecamere per identificare i colpevoli
  • Ulteriori fonti: droni, videocamere indossabili, sistemi GPS e sensori termici
  • Combinazione tra acquisizione automatizzata di dati e informazioni provenienti da testimoni, interrogatori o ricerche documentali
  • Proiezioni riguardo a potenziali episodi criminali

Giorno 04

Business Intelligence anti-frode basata sui Big Data – Analisi dei modelli di frode

  • Classificazione fondamentale: analisi predittiva vs regole rigide
  • Tecniche di machine learning supervisionato e non supervisionato per rilevare schemi fraudolenti
  • Frodi tra aziende, truffe assicurative, falsificazioni fiscali ed evasione fiscale

Analitica dei social media – Raccogliere e analizzare informazioni utili alle indagini

  • Modalità con cui i criminali utilizzano i social network per organizzarsi, reclutare membri o pianificare le azioni
  • API ETL per estrarre contenuti dai vari social media
  • Gestione di testo, immagini, metadati e video
  • Analisi del sentiment attraverso i post pubblici su tali piattaforme
  • Filtri contestuali ed extracontestuali per selezionare i contenuti pertinenti
  • Dashboard unificato in grado di aggregare informazioni provenienti da più social network
  • Profilazione automatizzata degli utenti iscritti
  • Per ogni categoria d’analisi, sarà fornita una demo interattiva tramite il tool Treeminer

Evoluzione dei Big Data nell’elaborazione delle immagini e dei video

  • Tecniche di archiviazione per immagini su larga scala: soluzioni utilizzabili per dataset superiori al petabyte
  • LTFS (Linear Tape File System) e LTO (Linear Tape Open)
  • GPFS-LTFS – sistema a più livelli adatto all’immagazzinamento di enormi quantità di contenuti visivi
  • Nozioni fondamentali dell’analisi delle immagini
  • Riconoscimento degli oggetti raffigurati
  • Segmentazione dei contenuti visivi
  • Tracciamento del movimento nell’ambiente
  • Reconstruzione tridimensionale delle scene

Biometria, DNA e programmi avanzati di identificazione umana

  • Oltre alle impronte digitali e al riconoscimento facciale
  • Riconoscimento vocale, analisi del tipo di digitazione (keystroke) e CODIS – sistema unificato per l’analisi genetica
  • Dall’analisi puramente genetica si passa alla fenotipizzazione forense: ricostruzione del volto partendo da campioni DNA

Dashboard Big Data – facilità di accesso e visualizzazione dei dati raccolti:

  • Integrazione tra le piattaforme operative esistenti e la dashboard Big Data
  • Gestione centralizzata dei dati in formato Big Data
  • Caso studio su soluzioni Dashboard: Tableau e Pentaho
  • Sfruttare l’infrastruttura Big Data per offrire servizi geolocalizzati alle istituzioni governative
  • Sistemi di tracciamento e monitoraggio efficaci

Giorno 05

Modalità per dimostrare i benefici dell’implementazione dei sistemi Business Intelligence Big Data:

  • Calcolo del ROI (Return on Investment) conseguito dall’adozione di queste tecnologie
  • Casi studio che evidenziano il risparmio di tempo degli analisti nella raccolta e preparazione dati – aumento complessivo della produttività
  • Minore spesa legata alle licenze dei database
  • Risparmi economici derivanti da servizi geolocalizzati
  • Riduzione delle perdite dovute alla prevenzione preventiva delle frodi
  • Strutturazione di un modello foglio elettronico per stimare spese e vantaggi economici legati all’utilizzo dei Big Data

Procedimento passo dopo passo per sostituire un sistema dati legacy con una soluzione Big Data:

  • Mappa di migrazione verso le tecnologie Big Data
  • Informazioni essenziali da considerare prima della progettazione
  • Modalità alternative per determinare Volume, Velocità, Varietà e Veridicità dei dati in gioco
  • Metodi per stimare il tasso di crescita futura dei dati
  • Casi studio di successo

Rassegna dei principali fornitori Big Data e delle rispettive soluzioni:

  • Accenture
  • APTEAN (ex CDC Software)
  • Cisco Systems
  • Cloudera
  • Dell
  • EMC
  • GoodData Corporation
  • Guavus
  • Hitachi Data Systems
  • Hortonworks
  • HP
  • IBM
  • Informatica
  • Intel
  • Jaspersoft
  • Microsoft
  • MongoDB (ex 10Gen)
  • MU Sigma
  • Netapp
  • Opera Solutions
  • Oracle
  • Pentaho
  • Platfora
  • Qliktech
  • Quantum
  • Rackspace
  • Revolution Analytics
  • Salesforce
  • SAP
  • SAS Institute
  • Sisense
  • Software AG/Terracotta
  • Soft10 Automation
  • Splunk
  • Sqrrl
  • Supermicro
  • Tableau Software
  • Teradata
  • Think Big Analytics
  • Tidemark Systems
  • Treeminer
  • VMware (gruppo EMC)

Sessione di domande e risposte

Requisiti

  • Conoscenza dei processi e dei sistemi informativi utilizzati dalle forze dell’ordine
  • Comprensione di base di SQL/Oracle o di database relazionali
  • Conoscenze fondamentali di statistica (al livello dell’utilizzo delle foglie di calcolo)

Destinatari

  • Specialisti del settore della sicurezza con competenze tecniche.
 35 ore

Numero di Partecipanti


Prezzo per partecipante

Recensioni (3)

Corsi in Arrivo

Categorie relative