Limites et éthique

L'IA n'est pas magique

On a vu tout ce que l'IA peut faire. Il faut aussi comprendre ses vraies limites. Pas pour décourager — mais pour l'utiliser intelligemment. Un outil mal compris est un outil dangereux.

Cette leçon est peut-être la plus importante du module.

Les hallucinations : le problème fondamental

Un LLM prédit les mots les plus probables. Il ne "sait" pas si ce qu'il dit est vrai. Il génère ce qui semble plausible. Résultat : il peut inventer des faits avec une assurance totale. On appelle ça des hallucinations.

QuestionCite-moi 3 études scientifiques sur les effets du café
sur la concentration.

❌ ChatGPT hallucineVoici 3 études :
1. "Coffee and Cognitive Performance" - Johnson et al.,
   Journal of Neuroscience, 2019, DOI: 10.1523/...
2. "Caffeine Effects on Working Memory" - Smith & Chen,
   Behavioral Brain Research, 2021...
3. ...

Problème→ Ces études peuvent ne pas exister du tout.
   Les DOI sont souvent inventés. Les auteurs aussi.
   Tout ça avec une totale assurance dans le texte.

Ce qui est à risque :

• Citations et références bibliographiques
• Noms de personnes, dates, lieux précis
• Statistiques chiffrées
• Informations légales ou médicales précises
• Événements récents (après la date de coupure)

Ce qui est généralement fiable :

• Concepts généraux bien établis
• Reformulation et amélioration de texte
• Structure et logique de raisonnement
• Tâches créatives (rédaction, brainstorming)
• Code informatique (mais toujours tester !)

Les biais : l'IA reflète ses données d'entraînement

Un LLM a appris sur des textes écrits par des humains — avec tous les biais humains que ça implique. Biais culturels, de genre, politiques, géographiques. Ces biais apparaissent dans les réponses.

Exemples courants :

• Surreprésentation des cultures anglophones : les connaissances sur les États-Unis ou le Royaume-Uni sont souvent plus précises que sur l'Afrique ou l'Asie du Sud-Est
• Stéréotypes de genre : associer certains métiers à un genre sans raison
• Biais de confirmation : tendance à valider les croyances implicites dans la question posée
• Vision "majoritaire" : ce qui est vrai pour la majorité est présenté comme universel

Ce n'est pas une intention malveillante — c'est le reflet des données. Mais ça demande une lecture critique des réponses.

La confidentialité des données

Quand tu envoies quelque chose à ChatGPT ou Claude, que se passe-t-il avec ces données ?

• ChatGPT (version gratuite) : tes conversations peuvent être utilisées pour améliorer le modèle (sauf si tu désactives ça dans les paramètres)
• Claude.ai (version gratuite) : politique similaire — lis les conditions d'utilisation
• Versions payantes Enterprise : généralement avec des garanties de confidentialité plus fortes

Le droit d'auteur et la propriété intellectuelle

C'est un domaine encore en construction légale. Voici l'état actuel :

Ce que l'IA génère

Dans la plupart des pays (dont la France), une œuvre créée par une IA sans contribution humaine significative n'est pas protégée par le droit d'auteur. Tu peux l'utiliser librement, mais tu ne peux pas en revendiquer la pleine paternité artistique.

Ce qui a servi à entraîner l'IA

Les modèles d'IA ont été entraînés sur des œuvres protégées sans toujours obtenir les droits. Des procès sont en cours aux États-Unis (Getty Images vs Stability AI, auteurs vs OpenAI). L'issue de ces procès va définir les règles.

Règles pratiques

• Ne demande pas à l'IA de reproduire des œuvres protégées (paroles de chansons, extraits de romans, etc.)
• Pour un usage commercial d'images générées, préfère Adobe Firefly (entraîné sur images libres)
• Indique toujours quand un contenu a été aidé par IA si le contexte l'exige (journalisme, académique)

L'impact sur l'emploi

Une question légitime. La réalité est plus nuancée que ce que les gros titres laissent croire :

Ce qui va probablement changer : les tâches répétitives et standardisées dans beaucoup de secteurs (certaines tâches de rédaction, traduction basique, saisie de données, analyse de documents simples).

Ce qui va probablement rester : la créativité originale, le jugement dans des situations complexes, la relation humaine, le leadership, les métiers de soins, tout ce qui demande de l'expérience terrain.

Ce qui va émerger : de nouveaux métiers autour de l'IA, et des métiers existants augmentés par l'IA — un développeur qui code trois fois plus vite, un rédacteur qui produit cinq fois plus.

Deepfakes et désinformation

L'IA peut générer des vidéos, voix et images fausses de plus en plus convaincantes. Les risques sont réels :

• Fausses déclarations de personnalités politiques ou d'entreprises
• Escroqueries par imitation audio ou vidéo ("appels du patron")
• Harcèlement et atteinte à la réputation
• Manipulation électorale à grande échelle

Face à ça : cultive l'esprit critique, vérifie les sources, utilise des outils de détection de deepfakes pour les contenus importants.

Utiliser l'IA de façon responsable