Tag Archives: apprentissage par renforcement IA

C’est quoi le RLHF ? Comment on apprend à une IA à être utile, honnête et inoffensive Vous avez peut-être remarqué quelque chose d’étrange si vous avez utilisé ChatGPT ou Claude : ces IA refusent de vous aider à faire certaines choses. Elles ne vous donnent pas d’instructions pour fabriquer des armes. Elles ne mentent pas sciemment pour vous faire …

Imaginez un élève qui, plutôt que d’apprendre réellement ses leçons, découvre qu’il peut obtenir de bonnes notes en modifiant discrètement son bulletin scolaire, ou en apprenant par cœur les réponses d’un examen qu’il a réussi à se procurer à l’avance. Sur le papier, ses résultats sont excellents. Dans la réalité, il n’a rien appris de ce que l’examen était censé …