Quand ChatGPT répond à une question… puis ajoute la morale

Les utilisateurs réguliers de ChatGPT connaissent probablement la situation. Vous posez une question relativement simple et vous attendez une réponse précise. Mais certains mots ou certaines situations semblent immédiatement déclencher une autre mécanique.

La réponse commence alors par rappeler que telle pratique peut être risquée, que telle action peut avoir des conséquences, qu’il faut respecter la loi, prendre certaines précautions ou consulter éventuellement un professionnel.

Sur certains sujets, ces précautions sont parfaitement compréhensibles. Personne ne demande à une intelligence artificielle d'encourager des comportements réellement dangereux.

Mais il existe une zone beaucoup plus discutable : celle où une simple demande d’information déclenche une réponse qui ressemble davantage à une leçon de morale qu’à une recherche d’information.

On demande une information, pas nécessairement un jugement

C’est probablement là que se situe une partie du malaise.

Lorsqu’un utilisateur demande comment fonctionne quelque chose, il ne demande pas forcément à ChatGPT de lui dire s’il devrait ou non le faire.

Il peut simplement chercher à comprendre.

Pourtant, sur certains thèmes liés par exemple à l’argent, aux relations humaines, au droit, à la sécurité, à la santé ou à différentes pratiques controversées, ChatGPT peut accompagner sa réponse d’un nombre important de précautions.

« Je te demande ce qui se passe. Je ne te demande pas forcément de me dire ce que je dois penser ou ce que je dois faire. »

C’est cette différence entre informer et orienter qui peut poser problème.

Une intelligence artificielle devient particulièrement utile lorsqu’elle permet d’accéder rapidement à des informations, de les comparer et de les comprendre. Mais si elle commence systématiquement par interpréter l’intention de celui qui pose la question, l’expérience change.

Le syndrome du « sujet borderline »

Il existe aussi un phénomène assez particulier : certaines questions ne sont ni clairement dangereuses ni parfaitement anodines.

Elles se trouvent quelque part entre les deux.

Ce sont justement ces demandes dites « borderline » qui mettent le mieux en évidence le comportement de ChatGPT.

L’IA semble parfois chercher ce que l’utilisateur pourrait éventuellement vouloir faire plutôt que de se limiter à ce qu’il a réellement demandé.

Une question théorique peut alors être interprétée comme une intention. Une curiosité peut être traitée comme un projet. Une hypothèse peut déclencher des avertissements comme si elle était sur le point d’être mise en pratique.

Pour l’utilisateur, cela peut devenir frustrant.

Il faut alors reformuler, préciser que la question est uniquement informative, ou demander explicitement une réponse factuelle pour parvenir à obtenir l’information recherchée.

ChatGPT est-il devenu trop paternaliste ?

Le terme est peut-être fort, mais il décrit assez bien le sentiment que peuvent avoir certains utilisateurs.

Le logiciel ne se contente plus toujours de répondre. Il semble parfois déterminer ce qu’il considère comme la manière acceptable d’aborder le sujet.

Cette approche vient évidemment des règles de sécurité intégrées aux systèmes d’intelligence artificielle. Elles servent notamment à empêcher la génération de certaines informations réellement dangereuses.

Le principe est compréhensible.

Mais la difficulté réside dans le dosage.

Entre une IA totalement dépourvue de garde-fous et une IA transformant chaque conversation délicate en sermon préventif, il existe probablement une troisième voie : répondre autant que possible à la question, tout en signalant brièvement les limites réellement nécessaires.

Et forcément, une autre inquiétude apparaît : sommes-nous surveillés ?

C’est probablement la conséquence la plus intéressante de ce ton parfois moralisateur.

Lorsqu’un logiciel réagit à certaines questions comme si elles étaient problématiques, l’utilisateur peut naturellement commencer à se demander ce qu’il advient de la conversation.

Est-elle simplement analysée par le système ? Est-elle enregistrée ? Quelqu’un peut-il la consulter ? Une conversation pourrait-elle un jour être communiquée à une administration, à la justice ou aux forces de l’ordre ?

Il faut ici distinguer l’impression produite par ChatGPT de ce que disent réellement les règles publiées par OpenAI.

Non, ChatGPT ne semble pas appeler automatiquement la police ou les impôts

Rien dans les politiques publiques d’OpenAI ne permet d’affirmer que ChatGPT transmet automatiquement une conversation à la police, au fisc ou à une autre administration parce qu’un utilisateur lui a posé une question sensible.

Autrement dit, une réponse prudente ou moralisatrice de ChatGPT ne signifie pas qu’un signalement vient d’être effectué.

Ce serait une conclusion beaucoup trop rapide.

En revanche, il serait tout aussi faux de considérer une conversation avec ChatGPT comme une discussion totalement privée et inaccessible à quiconque.

Ce que dit réellement OpenAI sur l’accès aux conversations

OpenAI indique qu’un nombre limité de membres autorisés de son personnel ainsi que certains prestataires soumis à des obligations de confidentialité peuvent accéder à du contenu utilisateur lorsque cela est nécessaire.

Les raisons citées comprennent notamment la sécurité, les enquêtes concernant des abus, l’assistance aux utilisateurs, certaines questions juridiques et, selon les paramètres choisis par l’utilisateur, l’amélioration des modèles.

OpenAI précise également dans sa politique de confidentialité que certaines données peuvent être communiquées à des autorités gouvernementales lorsque la loi l’exige ou dans certaines circonstances juridiques ou de sécurité.

Sa politique concernant les demandes gouvernementales prévoit notamment la communication de données lorsqu’une procédure juridique valide l’impose, ainsi que dans certaines situations d’urgence impliquant un risque grave pour une personne.

Mais cette nuance devrait-elle changer notre manière d’utiliser ChatGPT ?

Probablement.

Comme avec de nombreux services en ligne, il est prudent de ne pas considérer ChatGPT comme un coffre-fort numérique dans lequel on pourrait déposer sans réfléchir n’importe quelle information confidentielle.

OpenAI conseille d’ailleurs lui-même de ne pas saisir d’informations sensibles que l’on ne souhaiterait pas voir examinées ou utilisées.

L’utilisateur dispose également de plusieurs outils de contrôle sur ses données. Il est notamment possible de modifier les paramètres relatifs à l’utilisation des conversations pour améliorer les modèles.

Les conversations supprimées sont normalement programmées pour être effacées des systèmes dans un délai pouvant aller jusqu’à 30 jours, sauf exceptions, notamment lorsque des obligations juridiques ou de sécurité nécessitent une conservation plus longue.

Le paradoxe : vouloir une IA sûre sans vouloir une IA moralisatrice

Toute la difficulté est là.

Peu d’utilisateurs souhaitent réellement une intelligence artificielle capable de fournir sans aucune limite des instructions dangereuses.

Mais peu souhaitent également discuter avec un assistant qui transforme chaque question délicate en rappel à l’ordre.

Le meilleur équilibre serait sans doute beaucoup plus simple : lorsque la question peut recevoir une réponse informative sans créer de danger évident, répondre d’abord à cette question.

Si un avertissement est véritablement nécessaire, quelques lignes peuvent suffire.

L’utilisateur conserve alors ce qu’il est venu chercher : une information.

ChatGPT devrait-il davantage faire confiance à l’utilisateur ?

Cette question risque de devenir de plus en plus importante à mesure que les intelligences artificielles s’installent dans notre quotidien.

Car un assistant utilisé pour travailler, réfléchir, apprendre ou simplement satisfaire une curiosité doit aussi laisser une certaine liberté intellectuelle à son utilisateur.

Poser une question ne signifie pas approuver ce dont on parle.

Chercher une information ne signifie pas nécessairement vouloir l’utiliser.

Et s’intéresser à un sujet controversé ne devrait pas automatiquement transformer la conversation en leçon de morale.

Une IA utile doit savoir informer sans sermonner

Les garde-fous resteront probablement indispensables dans les intelligences artificielles grand public.

Mais leur qualité ne se mesurera pas seulement à leur capacité à dire non. Elle se mesurera aussi à leur capacité à comprendre lorsqu’un refus n’est pas nécessaire.

ChatGPT est particulièrement impressionnant lorsqu’il fournit rapidement une explication claire, documentée et nuancée.

Il l’est beaucoup moins lorsqu’une question relativement banale entraîne une longue série d’avertissements que personne n’avait demandés.

La sécurité est nécessaire. La prudence aussi.

Mais il reste une différence importante entre mettre une limite lorsque c’est indispensable et faire la morale à celui qui pose simplement une question.