L'IA dévoile ses failles profondes

Dans le périodique : Le Monde, n°24608 (14/02/2024)
• Auteur : David Larousserie
• Pages : p.1,4-5 du Cahier Science
  • Langues : Français
• • Nature du document : documentaire
  • Résumé :

    Dossier consacré aux failles de l'IA (Intelligence artificielle) : les travaux scientifiques visant à tromper, détourner, faire dérailler, voire anéantir les IA génératives ; les risques liés aux vulnérabilités des IA (vol de données personnelles, manipulation d'un utilisateur, prise de contrôle d'un chatbot...) ; les maillons ciblés par les attaques des chercheurs (les données, les modèles et l'apprentissage) ; les techniques utilisées (répétition d'un terme, empoisonnement des données afin d'influencer les résultats des modèles, corruption des annotateurs humains, l'injection indirecte de prompt) ; le développement de chatbots malveillants par l'industrie du crime organisé. Encadré : la publication d'un état des lieux sur la sécurité des grands modèles de langue.

• • Descripteurs : intelligence artificielle / sécurité informatique