L’IA Grok, «autant un problème humain que technologique»

Des détournements de photographies réelles ou des créations explicites avec des personnes identifiables ont été recensés sur le réseau social X. Ces usages interrogent sur les limites de la technologie et la responsabilité humaine derrière ces dérives.

Pour Karim Youssef, le cofondateur de l’IA luxembourgeoise génératrice d’images, LetzAI, ce phénomène n’est pas celui d’une IA devenue incontrôlable, mais «c’est autant un problème humain qu’un problème technologique».

Une IA n’a pas de morale propre

Non, une intelligence artificielle générative n’est pas capable de juger par elle-même ce qui est acceptable ou non. «L’IA n’a pas de capacités de réflexion intrinsèques et n’est pas consciente», pose Karim Youssef.

Autrement dit, elle ne raisonne ni en termes de bien ni de mal. «Un système d’IA générative ne pense pas intrinsèquement en termes d’éthique, mais reflète plutôt l’éthique implicite et sous-jacente présente dans ses données d’entraînement», précise-t-il.

Les contenus dépendent donc directement des données utilisées pour entraîner les modèles, mais aussi des filtres ou des limites définis par leurs concepteurs. L’IA n’a pas de conscience : elle reproduit un cadre, elle ne l’invente pas. Dès lors, les dérives observées ne sont pas le fruit d’une intention de la machine, mais d’un système permissif.

Chez LetzAI, cette réalité a conduit à une approche de sécurité dès sa conception. La plateforme repose sur plusieurs niveaux de protection contre les contenus illégaux. En amont, les fournisseurs de modèles, tels que Google, intègrent des filtres capables de bloquer certains prompts. En aval, LetzAI ajoute sa propre modération avec une «analyse de prompts et une modération de contenu alignées sur les réglementations luxembourgeoise et européenne».

Les images générées sont systématiquement analysées afin d’identifier les contenus potentiellement sexuels ou illégaux. Une attention particulière est portée aux représentations de mineurs, strictement interdites. Même les tentatives de contournement, comme l’ajout d’un consentement fictif dans un prompt, sont prises en compte.

«Aucun système n’est infaillible à 100 %»

Pour autant, Karim Youssef reste lucide et affirme qu’«aucun système n’est infaillible à 100 %». Ces technologies «sont des systèmes de reconnaissance de motifs avec des limitations», concède-t-il.

Elles peuvent produire des faux positifs ou des faux négatifs et, surtout, «ne comprennent pas vraiment le contexte légal». L’IA n’interprète pas la loi, elle applique des règles statistiques basées sur des probabilités.

Dans le cas de Grok, ces limites sont accentuées par son intégration directe à un réseau social où la diffusion est instantanée et massive. L’outil ne se contente pas de générer des images, mais alimente un espace où les contenus problématiques peuvent déjà être partagés.

Suspendre X, une réponse symbolique

Face à la prolifération de deepfakes sexuels sur la plateforme X, le Premier ministre britannique, Keir Starmer, a évoqué l’idée d’une suspension temporaire du réseau social.

Une réponse que Karim Youssef juge largement insuffisante. «Suspendre une plateforme est une politique théâtrale qui ne s’attaque pas aux causes profondes», estime-t-il.

Les outils d’IA générative existent bien au-delà d’une seule plateforme et les usages malveillants ne disparaissent pas avec une interdiction de cet ordre. «Le chat est sorti du sac», décrit-il. «Si des acteurs malveillants veulent vraiment créer du contenu problématique, ils le peuvent et ils le feront.» Il existe en effet déjà des modèles accessibles hors ligne ou via des marchés parallèles, qui rendent dès lors le contrôle impossible.

Pour Karim Youssef, les dérives sexuelles associées à Grok ne constituent donc pas une anomalie isolée, mais un révélateur : l’IA continuera de progresser, mais elle restera toujours dépendante des intentions humaines qui la guident.