Koko, une plate-forme en ligne de santé mentale, a prodigué à quelque 4.000 utilisateurs un conseil qui avait été créé par une AI, sans les en informer au préalable. Le fondateur de Koko le révèle fièrement sur Twitter, mais il a vite été sensibilisé aux conséquences éthiques de ce genre de chose.
Koko est une plate-forme en ligne (anglophone) sans but lucratif dans le domaine de la santé mentale. Dans la pratique, il s’agit d’un serveur Discord où l’utilisateur peut se connecter, afin d’exprimer anonymement ses préoccupations à d’autre utilisateurs, anonymes eux aussi. Ces autres utilisateurs ne sont pas des psychologues, mais des ‘personnes normales’, selon le texte introductif sur le serveur même.
Mais il y a parfois l’intervention d’une intelligence artificielle (AI). Rob Morris, le fondateur de Koko, a ainsi annoncé sur Twitter qu’il avait mené une expérience psychologique par laquelle il faisait générer pour quelque 4.000 demandeurs d’aide une réponse par GPT-3, un algorithme linguistique sophistiqué. Les utilisateurs se trouvant du côté des répondants pouvaient alors choisir ce message pour réagir plus rapidement.
La conclusion de l’expérience, selon Morris dans son tweet, c’est que cette forme simulée d’empathie est plus rapide, tout en ‘dégageant un air bizarre’. Les demandeurs d’aide se montrèrent initialement très contents des réponses de l’AI, puis vraiment contrariés, lorsqu’ils apprirent qu’il ne s’agissait pas d’un véritable être humain.
A l’entendre, Morris a effectué ce test pour mettre en garde contre l’utilisation de trop de technologie dans le domaine du bien-être psychologique, mais il lui fut bien vite reproché sur Twitter d’avoir réalisé là une expérience psychologique illégale sur des personnes vulnérables et que c’était tout à fait contraire à l’éthique. Aux Etats-Unis (et dans la plupart des pays au monde), tout test psychologique, même non ‘officiel’, doit d’abord être approuvé par un panel de scientifiques qui vérifient si l’expérience peut s’avérer nocive.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici