ORSYS : 02. Etat de l'art du Big Data

Big Data, état de l'art

L'accroissement continuel des données numériques dans les organisations a conduit à l'émergence du Big Data. Ce concept recouvre les questions de stockage et de conservation de vastes quantités de données mais aussi celles liées au gisement potentiel de valeur que représentent ces masses d'informations. Ce séminaire présente les problèmes spécifiques du Big Data et les solutions techniques potentielles, de la gestion des données aux différents types de traitement.

Objectifs pédagogiques

1. Découvrir les principaux concepts du Big Data
2. Appréhender les avantages et les contraintes du Big Data
3.  Comprendre les enjeux économiques du Big Data
4.  Connaître l’écosystème du Big Data et appréhender les technologies associées
5. Savoir anticiper son intégration dans les activités informatiques de l’entreprise
6. Prendre en compte la sécurité et la confidentialité des données dans l’exploitation du Big Data

Déroulement de la formation :

1. Introduction
2. Big Data : traitement depuis l'acquisition jusqu'au résultat
3. Relations entre Cloud et Big Data
4. Introduction à l'Open Data
5. Matériel pour les architectures de stockage
6. Protection des données
7. Méthodes de traitement et champs d'application

Programme détaillé de la formation :

 1. Introduction

1/4 jour

- Les origines du Big Data : un monde de données numériques, l'e-santé, chronologie.

- Une définition par les quatre V : la provenance des données.

- Une rupture : changements de quantité, de qualité, d'habitudes.

- La valeur de la donnée : un changement d'importance.

- La donnée en tant que matière première.

- Le quatrième paradigme de la découverte scientifique.  

 2. Big Data : traitements depuis l'acquisition jusqu'au résultat

1/4 jour

- L'enchaînement des opérations. L'acquisition.

- Le recueil des données : crawling, scraping.

- La gestion de flux événementiels (Complex Event Processing, CEP).

- L'indexation du flux entrant.

- L'intégration avec les anciennes données.

- La qualité des données : un cinquième V ?

- Les différents types de traitement : recherche, apprentissage (Machine Learning, transactionnel, data mining).

- D'autres modèles d'enchaînement : Amazon, e-Santé.

- Un ou plusieurs gisements de données ? De Hadoop à l'in-memory.

- De l'analyse de tonalité à la découverte de connaissances.  

 3. Relations entre Cloud et Big Data

1/4 jour

- Le modèle d'architecture des Clouds publics et privés.

- Les services XaaS.

- Les objectifs et avantages des architectures Cloud.

- Les infrastructures.

- Les égalités et les différences entre Cloud et Big Data.

- Les Clouds de stockage.

- Classification, sécurité et confidentialité des données.

- La structure comme critère de classification : non structurée, structurée, semi-structurée.

- Classification selon le cycle de vie : données temporaires ou permanentes, archives actives.

- Difficultés en matière de sécurité : augmentation des volumétries, la distribution.

- Les solutions potentielles.  

 4. Introduction à l'Open Data

1/4 jour

- La philosophie des données ouvertes et les objectifs.

- La libération des données publiques.

- Les difficultés de la mise en œuvre.

- Les caractéristiques essentielles des données ouvertes.

- Les domaines d'application. Les bénéfices escomptés.

 5. Matériel pour les architectures de stockage

1/3 jour

- Les serveurs, disques, réseaux et l'usage des disques SSD, l'importance de l'infrastructure réseau.

- Les architectures Cloud et les architectures plus traditionnelles.

- Les avantages et les difficultés.

- Le TCO. La consommation électrique : serveurs (IPNM), disques (MAID).

- Le stockage objet : principe et avantages.

- Le stockage objet par rapport aux stockages traditionnels NAS et SAN.

- L'architecture logicielle.

- Niveaux d'implantation de la gestion du stockage.

- Le "Software Defined Storage".

- Architecture centralisée (Hadoop File System).

- L'architecture Peer-to-Peer et l'architecture mixte.

- Les interfaces et connecteurs : S3, CDMI, FUSE, etc.

- Avenir des autres stockages (NAS, SAN) par rapport au stockage objet.  

 6. Protection des données

1/3 jour

- La conservation dans le temps face aux accroissements de volumétrie.

- La sauvegarde, en ligne ou locale ?

- L'archive traditionnelle et l'archive active.

- Les liens avec la gestion de hiérarchie de stockage : avenir des bandes magnétiques.

- La réplication multisites.

- La dégradation des supports de stockage.  

 7. Méthodes de traitement et champs d'application

1/3 jour

- Classification des méthodes d'analyse selon le volume des données et la puissance des traitements.

- Hadoop : le modèle de traitement Map Reduce.

- L'écosystème Hadoop : Hive, Pig. Les difficultés d'Hadoop.