Le chef de Signal déclare que les assistants IA veulent les clés de votre vie privée

La présidente de Signal, Meredith Whittaker, a averti que les utilisateurs ne devraient pas traiter les chatbots d'IA comme des amis, des confidents ou des partenaires conscients dans leurs conversations privées.

Avertissement de Signal

Whittaker a tenu ces propos lors d'un entretien avec Bloomberg sur la politique, la vie privée et Signal, où elle a été interrogée sur les risques liés à la confidentialité des chatbots tels que ChatGPT et Claude. « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles », a-t-elle déclaré.

Elle a indiqué qu'elle utilise parfois des outils d'IA « pour mettre en forme un document de temps à autre », mais qu'elle ne leur pose pas de questions. Whittaker a dit qu'elle prend « très au sérieux » sa réflexion et son écriture, et ne veut pas que ce processus soit interrompu par un système qui « fait la moyenne de ce qui existe déjà ».

Ses commentaires s'inscrivent dans la position plus générale de Signal selon laquelle les communications privées ne devraient pas devenir des données d'entrée pour des systèmes fondés sur un accès étendu aux données. L'avertissement n'a pas été formulé comme un rejet de toute utilisation de l'IA, mais comme un rejet du fait de traiter les chatbots comme des homologues personnels de confiance.

À lire également : Bitcoin Reclaims $64K On $39B Rally But Spot Demand Weakens

Confidentialité de l'IA

Whittaker a également remis en question un scénario présenté par Mustafa Suleyman, PDG de Microsoft AI, qui avait prédit que les utilisateurs pourraient laisser Microsoft Copilot gérer tous leurs achats de Noël cette année. Elle a déclaré qu'un tel système nécessiterait un large accès aux données personnelles pour fonctionner comme décrit.

Cet accès, a-t-elle précisé, pourrait inclure une carte de crédit, un navigateur, Signal, la possibilité d'envoyer des messages à des membres de la famille, une adresse domiciliaire et un calendrier. « Ce que vous venez de décrire est un système avec un accès très omniprésent à de multiples applications et services », a déclaré Whittaker.

Elle a ajouté que, dans le contexte de Signal, cela équivaudrait à « une sorte de porte dérobée ».

Son argument était que les assistants d'IA agentiques modifient la question de la confidentialité car ils ne se contentent pas de répondre aux requêtes, ils peuvent nécessiter des autorisations pour agir à travers différents services.

Ce débat fait suite à une évolution plus large du marché de l'IA, passant des chatbots qui répondent au sein d'une seule application à des assistants capables de planifier, d'acheter, d'envoyer des messages et de gérer un agenda. Cela fait de l'accès, et non seulement de la qualité des résultats, la question centrale dans les discussions sur la confidentialité autour de l'IA grand public.

Lire ensuite : Saylor Fires Back As Strategy Bitcoin Reserves Beat Debt By $48B