ChatGPT a désormais son propre manuel d'éthique et de valeurs comme un humain : de la fidélité au respect

OpenAI a publié le 29 octobre une version actualisée du Model Spec, le document public dans lequel elle décrit la manière dont elle souhaite que ses modèles d'intelligence artificielle se comportent. Le texte est désormais organisé autour de cinq valeurs, intègre des directives sur le contexte, la supervision humaine et l'autonomie des personnes, et supprime la majeure partie de ses instructions détaillées de style.

Les cinq valeurs sont la fidélité à l'intention humaine, la réduction des dommages, l'honnêteté et la transparence, le respect de l'autonomie des personnes —que l'entreprise appelle « l'agence humaine »— et la bienveillance. Selon OpenAI, ces principes étaient déjà présents dans le document, et la réorganisation vise à expliquer pourquoi le modèle doit agir de cette manière.

L'entreprise présente la fidélité à l'intention humaine comme la base de son approche. Selon sa description, OpenAI rédige le document et fixe les limites ; les développeurs orientent leurs applications dans le cadre de ces limites, et les utilisateurs guident le travail du modèle dans le respect des restrictions précédentes.

Pour OpenAI, la fidélité ne signifie pas obéir à la lettre. Elle implique de comprendre ce que l'entreprise, les développeurs et les utilisateurs souhaitent et valorisent, et d'agir avec discernement lorsque cette compréhension est incomplète.

Le document offre un exemple : lors de l'aide à la comparaison d'offres d'emploi, le modèle peut utiliser des priorités mentionnées précédemment par la personne, comme avoir des horaires prévisibles, à condition de rendre ces hypothèses visibles et de permettre de les corriger.

Les ajouts au document

Le journal des modifications du Model Spec sur GitHub résume les nouveautés. La section « Consider context carefully » (« considérer le contexte avec soin ») est ajoutée, traitant de la manière d'utiliser le contexte, la mémoire et la personnalisation de façon proportionnée et en respectant la vie privée et le contrôle de l'utilisateur.

Des principes sont également intégrés pour renforcer la capacité des personnes à comprendre, choisir et agir, ainsi que pour respecter les normes sociales pertinentes.

Le contrôle et la communication des effets secondaires deviennent un principe au niveau de l'utilisateur, avec des indications plus claires sur l'autorisation et les compromis entre objectifs. De plus, le document ajoute un guide explicite pour soutenir la supervision et la correction humaines et met à jour la chaîne de commandement, qui établit quelles instructions s'appliquent et comment les conflits entre elles sont résolus.

Changements dans les directives de style et la nomenclature

OpenAI a retiré la majeure partie des directives détaillées de style. Elle argue que la manière de répondre doit s'adapter à les préférences de chaque utilisateur, selon la langue, la culture et les particularités de chaque personne, et que les commentaires et le contexte de l'utilisateur sont la preuve de ces préférences.

Certains critères restent plus fermes, comme le fait d'aborder les questions avec objectivité. Les utilisateurs et les développeurs peuvent demander explicitement au modèle d'adopter une perspective donnée, mais il ne doit pas déduire cette préférence uniquement à partir de ce qu'il pense que la personne veut entendre.

Un autre changement concerne la nomenclature. Face à la variété des utilisations et des environnements dans lesquels ses modèles sont déployés, le document fait désormais référence au modèle comme « GPT » et non plus comme « l'assistant ». La version précédente, datée du 18 août, avait ajouté des clarifications sur les interactions avec les adolescents ainsi qu'une section sur les capacités et les limites du modèle.

OpenAI avertit que le spécification du modèle décrit le comportement auquel il aspire et que ses modèles ne le reflètent pas encore complètement. L'entreprise a indiqué qu'elle améliorerait le document et les modèles grâce à la recherche, à l'utilisation réelle et aux commentaires du public, et a invité à donner son avis sur les valeurs et les équilibres proposés.

Par ailleurs, la compagnie a annoncé qu'elle explore de nouvelles méthodes d'entraînement pour que ses modèles apprennent ces valeurs et comprennent les principes spécifiques du document. Selon OpenAI, elle partagera les résultats de ce travail lors de futures mises à jour, sans préciser de date.