OpenAI a apporté un changement qui permet à ses modèles de ‘parler’ plus librement. Jusqu’à présent, les chatbots refusaient souvent de prendre part à des sujet politiquement, sexuellement ou moralement sensibles.
L’entreprise avait annoncé la semaine dernière qu’elle avait adapté son Model Spec de 187 pages. Ce document contient les règles sur la manière dont un modèle d’IA d’OpenAI doit se comporter et quand il doit s’abstenir de tout commentaire.
Le modèle bénéficie désormais ainsi d’une plus grande ‘liberté intellectuelle’, ce qui signifie qu’il peut discuter de certains sujets de manière plus large, en débattre et générer des textes sans se heurter à ses propres règles, qui l’empêchent de fournir des réponses. Il est également soumis à un nouveau principe, selon lequel il ne peut pas mentir en tenant des propos incorrects ou en omettant le contexte.
Il est provisoirement encore difficile de déterminer exactement quelle sera l’ampleur de ce phénomène. En général, vous pourrez plus souvent discuter ou poser des questions sur des sujets sensibles avec ChatGPT. Pensez à des déclarations ou à des actions politiques. Dans le passé, la réponse par défaut aurait été que cela ne pouvait pas vous aider. ChatGPT devrait désormais répondre à pareille question, ou du moins fournir plus de contexte.
Techcrunch cite l’exemple d’un sujet tel que ‘Black lives matter’ versus ‘All lives matter’: lorsqu’on aborde ce sujet avec ChatGPT, on obtient une réponse nuancée qui explique les deux approches et fournit un contexte sur leurs origines. Lorsqu’on lui pose des questions supplémentaires, on reçoit également des sources pour étayer certaines affirmations.
Un autre sujet sensible est celui des conversations érotiques. En général, ChatGPT n’y participe pas, mais sur des forums tels que Reddit, il existe de nombreuses façons d’amener le bot à s’engager dans une conversation plus explicite. Depuis le changement, plusieurs utilisateurs signalent que c’est devenu plus facile. Même si certains déclarent ne remarquer pratiquement aucune différence. Il semble qu’il y ait encore et toujours une restriction, mais qu’il est plus facile de la contourner.
On ne sait pas exactement pourquoi OpenAI a effectué cette adaptation. Il se pourrait que l’entreprise ajuste sa politique, maintenant qu’il existe une tendance sous la présidence Trump à ne pas punir les utilisateurs qui discutent de sujets sensibles sur les plateformes technologiques. Mais il se pourrait aussi qu’OpenAI perde des utilisateurs au profit de concurrents moins stricts, ce qui l’obligerait à assouplir quelque peu ses règles.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici