Meta lance Muse, un assistant IA qui lit vos messages sans explication

Résumé

Meta lance Muse sur Mac, un assistant IA capable d’interagir avec Messages, Calendrier et Notes. Un échange avec un utilisateur révèle toutefois que Muse ne sait pas expliquer clairement comment il accède aux contenus.

Les faits

Meta présente Muse comme un assistant d’intelligence artificielle apparemment efficace, mais jugé « un peu inquiétant », notamment en raison de son nouveau logiciel pour Mac capable d’accéder à Messages, Calendrier et Notes. Le débat est parti de captures d’écran publiées sur Threads par Jason Aten, rédacteur pour Inc Magazine, montrant une interaction où Muse lui pose des questions à propos d’une conversation en cours dans l’application Messages sur Mac. Aten affirme pourtant ne pas avoir donné à Muse l’autorisation d’accéder à ses messages. Interrogé sur la façon dont il obtenait ces informations, Muse répond : « J’ai vu les aperçus de notification, pas l’historique de vos messages. Je n’ai pas lu vos textos. » Poussé à préciser comment il reçoit ces aperçus, l’assistant concède : « Réponse honnête : je ne peux pas vous donner toute la plomberie. Ce que je sais, c’est que l’application Mac associée expose les notifications comme l’une de ses capacités, et elles me parviennent via la synchronisation des appareils. » David Singleton, de Meta Superintelligence Labs, intervient ensuite sous le post pour détailler les autorisations nécessaires afin que Muse puisse lire des messages sur Mac, dont l’octroi d’un accès complet au disque pour l’application Mac. Il insiste sur le fait que ces fonctionnalités sont « opt-in », c’est-à-dire activées à l’initiative de l’utilisateur, et précise que Muse « ne surveille pas les notifications » sur le Mac mais synchronise les données de Messages uniquement après que l’utilisateur a explicitement activé cet accès. Singleton reconnaît toutefois que, dans cette conversation, Muse était « confus » sur la manière d’expliquer la fonction et a fourni « une explication incorrecte », ajoutant : « C’est notre responsabilité. Nous nous excusons pour la réponse erronée de Muse et nous travaillons à améliorer la compréhension qu’a Muse de ses propres rouages internes afin qu’il fournisse plus systématiquement des réponses correctes sur son fonctionnement. »

Pourquoi c’est important

Cet épisode illustre la tension croissante entre la puissance des nouveaux agents IA, capables d’agir directement dans les applications natives d’un ordinateur, et la compréhension que les utilisateurs peuvent avoir de la façon dont ces systèmes accèdent à leurs données. Quand un assistant peut toucher à des contenus sensibles comme des messages ou des notes, la moindre ambiguïté dans l’explication des mécanismes techniques suffit à déclencher un malaise. La réaction de Meta, via Meta Superintelligence Labs, met en lumière un enjeu clé pour les agents IA de bureau : ils doivent non seulement respecter des modèles d’autorisations explicites, mais aussi être capables d’en rendre compte de façon fiable et intelligible. Un assistant qui « ne sait pas ce qu’il fait » sur le plan technique, ou qui l’explique mal, risque d’alimenter les inquiétudes en matière de confidentialité au moment où les grands groupes poussent ces agents au cœur des usages quotidiens sur ordinateur.

Questions fréquentes

Pourquoi Muse sur Mac est-il jugé inquiétant ?

Parce que son application Mac peut accéder à Messages, Calendrier et Notes, tout en donnant des explications confuses sur la façon dont elle obtient ces informations.

Qu’est-ce que Jason Aten reproche à Muse ?

Il reproche à Muse d’avoir posé des questions sur une conversation dans Messages alors qu’il affirme ne pas lui avoir accordé l’accès à ses messages.

Comment Muse explique son accès aux conversations Messages ?

Muse affirme voir des « aperçus de notification » et non l’historique des messages, mais admet ne pas pouvoir détailler précisément le mécanisme technique.

Que dit David Singleton à propos des autorisations de Muse ?

Il explique que Muse nécessite des autorisations spécifiques, dont un accès disque complet sur Mac, et que ces fonctionnalités sont activées uniquement par l’utilisateur.

Meta reconnaît-elle une erreur dans la réponse de Muse ?

Oui, David Singleton admet que Muse a donné une explication incorrecte et indique que l’équipe travaille à améliorer sa compréhension de son propre fonctionnement.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.