Pangram lève 9 M$ pour traquer le « slop » IA

Résumé

La start-up new-yorkaise Pangram lève 9 M$ pour renforcer ses outils de détection de contenus IA, lancer son modèle texte Pangram 4 et un détecteur d’images en préversion.

Les faits

La start-up new-yorkaise Pangram, spécialisée dans la détection de contenus générés par l’IA, a levé 9 millions de dollars pour répondre à la prolifération de « slop » IA sur internet. La société parie sur une hausse durable de la demande pour des outils capables de distinguer les textes produits par des humains de ceux générés ou assistés par des modèles d’IA. La levée de fonds est menée par Menlo Ventures, avec la participation de Haystack, ScOp, Script Capital et Cadenza. Ce tour intervient au moment où Pangram lance son nouveau modèle de détection de texte, Pangram 4, présenté comme capable de dépasser 99 % de précision pour identifier les écrits assistés par l’IA et les contenus hybrides mêlant humain et IA, tout en repérant plus facilement les programmes de « humanisation » d’IA. Pangram dévoile également Pangram Image, un modèle de détection d’images générées par IA accessible pour l’instant en « research preview », avec un déploiement plus large prévu dans les prochaines semaines. Fondée il y a environ deux ans par les diplômés en IA et machine learning de Stanford Max Spero et Bradley Emi, la start-up s’est créée dans le sillage de ChatGPT, alors que les bots, les contenus SEO générés par IA et ce que Spero décrit comme des « campagnes de désinformation russes alimentées par des LLM et des campagnes influencées par les Émirats arabes unis sur Twitter » se multipliaient. Le système de Pangram repose sur un large modèle de machine learning entraîné sur des dizaines de millions de documents humains. L’équipe a construit pour chacun un « miroir synthétique », reprenant le sujet, la longueur et le ton, mais rédigé par un LLM de pointe. Selon Spero, « notre modèle apprend les différences stylistiques et les choix que l’IA fait de manière systématique, et il est capable de s’en servir pour déterminer avec une grande confiance ce qui est généré par l’IA », sans recourir à des métadonnées cachées ou à des filigranes. Pangram ne se limite pas à distinguer texte entièrement écrit par IA ou non : l’entreprise veut aussi quantifier les différents niveaux d’assistance, par exemple lorsqu’un auteur rédige son texte puis sollicite une IA pour l’éditer ou le nettoyer, aidant à clarifier cette part, à condition qu’elle soit divulguée. Pour l’instant, les nouveaux modèles ne sont pas infaillibles. Le journaliste qui a testé Pangram constate que le détecteur texte est « très impressionnant mais pas parfait ». Il souligne que le modèle signale aisément des articles d’actualité entièrement générés par ChatGPT ou Claude, et résiste à des tentatives d’édition humaine destinées à les rendre plus « humains », ou à des prompts visant à contourner les détecteurs. Mais Pangram a aussi classé comme écrites par IA certaines phrases que le journaliste avait entièrement réécrites lui-même, et a parfois attribué une assistance IA à des phrases strictement humaines, alors qu’un article complet rédigé par lui obtenait un score de 100 % humain.

Pourquoi c’est important

L’essor de Pangram intervient dans un contexte où l’usage de l’IA dans les textes et les images devient banal, avec des erreurs parfois bénignes mais aussi des dérives lourdes de conséquences, des discours politiques rédigés sur la base de prompts d’IA jusqu’à des plaidoiries d’avocats appuyées sur de fausses références générées par ChatGPT. Cette situation alimente un durcissement des règles dans les institutions, comme le nouvel encadrement d’arXiv qui prévoit une interdiction de soumission d’un an pour les auteurs dont les articles exhibent des signes de non-relecture des sorties d’IA, comme des références halluciné es ou des commentaires du type « Voulez-vous que j’apporte des modifications ? ». Dans ce paysage, des acteurs comme Pangram, mais aussi Winston AI, Originality.ai, Copyleaks et GPTZero, misent sur une demande croissante de détection fiable. La technologie de Pangram, bien que perfectible, se positionne comme un outil de résistance face à la normalisation des contenus générés par IA qui envahissent internet, les tribunaux et les travaux académiques. En rendant l’« auteur » des textes et images plus lisible, la start-up veut permettre aux lecteurs de savoir s’ils doivent aborder un texte en se méfiant de possibles hallucinations ou en le considérant comme le produit d’un travail journalistique ou scientifique documenté.

Questions fréquentes

Combien Pangram a-t-elle levé pour sa technologie de détection d’IA ?

Pangram a levé 9 millions de dollars pour développer et déployer ses modèles de détection de contenus générés par l’intelligence artificielle.

Qu’est-ce que Pangram 4 ?

Pangram 4 est le nouveau modèle de détection de texte de Pangram, annoncé avec plus de 99 % de précision pour repérer les écrits assistés par l’IA et les contenus hybrides.

Pangram propose-t-elle aussi un détecteur d’images IA ?

Oui, Pangram lance Pangram Image, un modèle de détection d’images générées par IA, disponible pour l’instant en préversion de recherche avant un déploiement plus large.

Comment Pangram entraîne son modèle de détection de texte ?

Pangram entraîne son modèle sur des dizaines de millions de documents humains, puis crée pour chacun un « miroir synthétique » rédigé par un LLM afin d’apprendre les différences stylistiques.

Le détecteur de Pangram est-il parfait ?

Non. Un test montre qu’il détecte très bien les textes entièrement générés par IA mais qu’il peut parfois classer comme IA des phrases entièrement réécrites par un humain.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.