Apprentissage par renforcement

Un article de Wikipédia, l'encyclopédie libre
Aller à la navigation Aller à la recherche

L'apprentissage par renforcement ( RL ) est un domaine de l'apprentissage automatique qui s'intéresse à la manière dont les agents intelligents doivent agir dans un environnement afin de maximiser la notion de récompense cumulative. L'apprentissage par renforcement est l'un des trois paradigmes de base de l'apprentissage automatique, aux côtés de l' apprentissage supervisé et de l'apprentissage non supervisé .

L'apprentissage par renforcement diffère de l'apprentissage supervisé en ce qu'il n'est pas nécessaire de présenter des paires entrée/sortie étiquetées et qu'il n'est pas nécessaire de corriger explicitement les actions sous-optimales. Au lieu de cela, l'accent est mis sur la recherche d'un équilibre entre l'exploration (de territoires inexplorés) et l'exploitation (des connaissances actuelles). [1] Les algorithmes RL partiellement supervisés peuvent combiner les avantages des algorithmes supervisés et RL. [2]

L'environnement est généralement énoncé sous la forme d'un processus de décision de Markov (MDP), car de nombreux algorithmes d'apprentissage par renforcement pour ce contexte utilisent des techniques de programmation dynamique . [3] La principale différence entre les méthodes de programmation dynamique classiques et les algorithmes d'apprentissage par renforcement est que ces derniers ne supposent pas la connaissance d'un modèle mathématique exact du MDP et qu'ils ciblent de grands MDP où les méthodes exactes deviennent irréalisables.

Présentation

Le cadrage typique d'un scénario d'apprentissage par renforcement (RL) : un agent effectue des actions dans un environnement, qui sont interprétées en une récompense et une représentation de l'état, qui sont renvoyées à l'agent.

En raison de sa généralité, l'apprentissage par renforcement est étudié dans de nombreuses disciplines, telles que la théorie des jeux , la théorie du contrôle , la recherche opérationnelle , la théorie de l'information , l'optimisation basée sur la simulation , les systèmes multi-agents , l'intelligence en essaim et les statistiques . Dans la littérature sur la recherche opérationnelle et le contrôle, l'apprentissage par renforcement est appelé programmation dynamique approximative ou programmation neurodynamique. Les problèmes d'intérêt en apprentissage par renforcement ont également été étudiés dans la théorie du contrôle optimal, qui s'intéresse principalement à l'existence et à la caractérisation de solutions optimales et d'algorithmes pour leur calcul exact, et moins à l'apprentissage ou à l'approximation, en particulier en l'absence d'un modèle mathématique de l'environnement. En économie et en théorie des jeux , l' apprentissage par renforcement peut être utilisé pour expliquer comment l' équilibre peut survenir sous une rationalité limitée .

Le renforcement de base est modélisé comme un processus décisionnel de Markov (MDP) :

  • un ensemble d'états d'environnement et d'agent, S ;
  • un ensemble d'actions, A , de l'agent ;
  • est la probabilité de transition (au temps) de l'étatétabliren action.
  • est la récompense immédiate après la transition depouravec action.

Le but de l'apprentissage par renforcement est que l'agent apprenne une politique optimale, ou presque optimale, qui maximise la "fonction de récompense" ou un autre signal de renforcement fourni par l'utilisateur qui s'accumule à partir des récompenses immédiates. Ceci est similaire aux processus qui semblent se produire en psychologie animale. Par exemple, les cerveaux biologiques sont câblés pour interpréter des signaux tels que la douleur et la faim comme des renforcements négatifs, et interpréter le plaisir et la prise de nourriture comme des renforcements positifs. Dans certaines circonstances, les animaux peuvent apprendre à adopter des comportements qui optimisent ces récompenses. Cela suggère que les animaux sont capables d'apprentissage par renforcement. [4] [5]

Un agent d'apprentissage par renforcement de base AI interagit avec son environnement par pas de temps discrets. A chaque instant t , l'agent reçoit l'état courantet récompense. Il choisit alors une actionde l'ensemble des actions disponibles, qui est ensuite envoyé à l'environnement. L'environnement passe à un nouvel étatet la récompenseassocié à la transition est déterminé. Le but d'un agent d'apprentissage par renforcement est d'apprendre une politique :,qui maximise la récompense cumulée attendue.

La formulation du problème en tant que MDP suppose que l'agent observe directement l'état environnemental actuel ; dans ce cas, on dit que le problème a une observabilité totale . Si l'agent n'a accès qu'à un sous-ensemble d'états, ou si les états observés sont corrompus par du bruit, on dit que l'agent a une observabilité partielle , et formellement le problème doit être formulé comme un processus de décision de Markov partiellement observable . Dans les deux cas, l'ensemble des actions disponibles pour l'agent peut être restreint. Par exemple, l'état d'un solde de compte pourrait être restreint à être positif ; si la valeur actuelle de l'état est 3 et que la transition d'état tente de réduire la valeur de 4, la transition ne sera pas autorisée.

Lorsque la performance de l'agent est comparée à celle d'un agent qui agit de manière optimale, la différence de performance donne lieu à la notion de regret . Afin d'agir de manière quasi optimale, l'agent doit raisonner sur les conséquences à long terme de ses actions (c'est-à-dire maximiser les revenus futurs), bien que la récompense immédiate associée à cela puisse être négative.

Ainsi, l'apprentissage par renforcement est particulièrement bien adapté aux problèmes qui incluent un compromis entre récompense à long terme et à court terme. Il a été appliqué avec succès à divers problèmes, notamment le contrôle des robots , [6] la planification des ascenseurs , les télécommunications , le backgammon , les dames [7] et Go ( AlphaGo ).

Deux éléments rendent l'apprentissage par renforcement puissant : l'utilisation d'échantillons pour optimiser les performances et l'utilisation de l'approximation de fonctions pour traiter de grands environnements. Grâce à ces deux composantes clés, l'apprentissage par renforcement peut être utilisé dans de grands environnements dans les situations suivantes :

  • Un modèle de l'environnement est connu, mais une solution analytique n'est pas disponible ;
  • Seul un modèle de simulation de l'environnement est donné (objet d' une optimisation par simulation ) ; [8]
  • La seule façon de collecter des informations sur l'environnement est d'interagir avec lui.

Les deux premiers de ces problèmes pourraient être considérés comme des problèmes de planification (puisqu'une certaine forme de modèle est disponible), tandis que le dernier pourrait être considéré comme un véritable problème d'apprentissage. Cependant, l'apprentissage par renforcement convertit les deux problèmes de planification en problèmes d' apprentissage automatique .

Exploration

Le compromis entre l'exploration et l'exploitation a été étudié de manière plus approfondie à travers le problème du bandit multi-armé et pour les MDP à espace d'état fini dans Burnetas et Katehakis (1997). [9]

L'apprentissage par renforcement nécessite des mécanismes d'exploration intelligents ; la sélection aléatoire d'actions, sans référence à une distribution de probabilité estimée, montre des performances médiocres. Le cas des (petits) processus de décision de Markov finis est relativement bien compris. Cependant, en raison du manque d'algorithmes qui s'adaptent bien au nombre d'états (ou s'adaptent aux problèmes avec des espaces d'états infinis), les méthodes d'exploration simples sont les plus pratiques.

Une telle méthode est-gourmand, oùest un paramètre contrôlant la quantité d'exploration par rapport à l'exploitation. Avec probabilité, l'exploitation est choisie, et l'agent choisit l'action qui, selon lui, a le meilleur effet à long terme (les liens entre les actions sont rompus uniformément au hasard). Alternativement, avec probabilité, l'exploration est choisie et l'action est choisie uniformément au hasard.est généralement un paramètre fixe mais peut être ajusté soit selon un calendrier (ce qui oblige l'agent à explorer progressivement moins), soit de manière adaptative en fonction d'heuristiques. [dix]

Algorithmes pour l'apprentissage du contrôle

Même si la question de l'exploration est ignorée et même si l'état était observable (supposé ci-après), le problème reste d'utiliser l'expérience passée pour savoir quelles actions conduisent à des récompenses cumulées plus élevées.

Critère d'optimalité

Politique

La sélection d'actions de l'agent est modélisée sous la forme d'une carte appelée policy :

La carte des politiques donne la probabilité d'agirlorsqu'il est en état. [11] : 61  Il existe aussi des politiques déterministes.

Fonction état-valeur

La fonction valeurest défini comme le rendement attendu commençant par l'état, c'est à dire, et suivant successivement la politique. Par conséquent, en gros, la fonction de valeur estime "à quel point" il est bon d'être dans un état donné. [11] : 60 

où la variable aléatoiredésigne le rendement et est défini comme la somme des futures récompenses actualisées :

est la récompense à l'étape,est le taux d'actualisation . Gamma est inférieur à 1, donc les événements dans un futur lointain sont moins pondérés que les événements dans un futur immédiat.

L'algorithme doit trouver une politique avec un rendement maximal attendu. De la théorie des MDPs on sait que, sans perte de généralité, la recherche peut être restreinte à l'ensemble des politiques dites stationnaires . Une politique est stationnaire si la distribution d'action qu'elle renvoie ne dépend que du dernier état visité (issu de l'historique de l'agent d'observation). La recherche peut encore être restreinte aux politiques stationnaires déterministes . Une politique stationnaire déterministe sélectionne de manière déterministe des actions en fonction de l'état actuel. Étant donné qu'une telle politique peut être identifiée avec une mise en correspondance de l'ensemble d'états avec l'ensemble d'actions, ces politiques peuvent être identifiées avec de telles mises en correspondance sans perte de généralité.

Force brute

L' approche par force brute comporte deux étapes :

  • Pour chaque politique possible, des exemples de retours en la suivant
  • Choisissez la police avec le rendement attendu le plus élevé

Un problème avec cela est que le nombre de politiques peut être grand, voire infini. Une autre est que la variance des rendements peut être importante, ce qui nécessite de nombreux échantillons pour estimer avec précision le rendement de chaque politique.

Ces problèmes peuvent être atténués si nous supposons une certaine structure et permettons aux échantillons générés à partir d'une politique d'influencer les estimations faites pour les autres. Les deux principales approches pour y parvenir sont l'estimation de la fonction de valeur et la recherche directe de politique .

Fonction valeur

Les approches de la fonction de valeur tentent de trouver une politique qui maximise le rendement en maintenant un ensemble d'estimations des rendements attendus pour une politique (généralement soit la politique « actuelle » [sur la politique] ou la politique optimale [hors politique]).

Ces méthodes reposent sur la théorie des processus de décision de Markov, où l'optimalité est définie dans un sens plus fort que le précédent : une politique est dite optimale si elle atteint le rendement le plus attendu à partir de n'importe quel état initial (c'est-à-dire que les distributions initiales ne jouent aucun rôle rôle dans cette définition). Encore une fois, une politique optimale peut toujours être trouvée parmi les politiques stationnaires.

Pour définir l'optimalité de manière formelle, définir la valeur d'une politiquepar

représente le retour associé à la suitede l'état initial. Définircomme la valeur maximale possible de, oùest autorisé à changer,

Une politique qui atteint ces valeurs optimales dans chaque état est appelée optimale . Il est clair qu'une politique qui est optimale dans ce sens fort est également optimale dans le sens où elle maximise le rendement attendu, puisque, oùest un état échantillonné aléatoirement à partir de la distributiond'états initiaux (donc).

Bien que les valeurs d'état suffisent à définir l'optimalité, il est utile de définir les valeurs d'action. Étant donné un état, une actionet une politique, la valeur d'action de la paireen dessous deest défini par

représente maintenant le retour aléatoire associé à la première actionen étatet suivant, après.

La théorie des MDP stipule que siest une politique optimale, nous agissons de manière optimale (prenons l'action optimale) en choisissant l'action parmiavec la valeur la plus élevée à chaque état,. La fonction action-valeur d'une telle politique optimale () est appelée la fonction de valeur d'action optimale et est généralement notée par. En résumé, la connaissance de la fonction action-valeur optimale suffit à elle seule pour savoir comment agir de manière optimale.

En supposant une connaissance complète du MDP, les deux approches de base pour calculer la fonction action-valeur optimale sont l' itération de valeur et l'itération de politique . Les deux algorithmes calculent une séquence de fonctions() qui convergent vers. Le calcul de ces fonctions implique le calcul des attentes sur l'ensemble de l'espace d'états, ce qui n'est pas pratique pour tous les MDP (finis) sauf les plus petits. Dans les méthodes d'apprentissage par renforcement, les attentes sont approximées en faisant la moyenne sur des échantillons et en utilisant des techniques d'approximation de fonctions pour faire face à la nécessité de représenter des fonctions de valeur sur de grands espaces d'état-action.

Méthodes de Monte Carlo

Les méthodes de Monte Carlo peuvent être utilisées dans un algorithme qui imite l'itération de politique. L'itération de la politique consiste en deux étapes : l'évaluation de la politique et l'amélioration de la politique .

Monte Carlo est utilisé dans l'étape d'évaluation de la politique. Dans cette étape, étant donné une politique stationnaire et déterministe, le but est de calculer les valeurs de la fonction(ou une bonne approximation) pour toutes les paires état-action. En supposant (pour simplifier) ​​que le MDP est fini, que suffisamment de mémoire est disponible pour accueillir les valeurs d'action et que le problème est épisodique et après chaque épisode, un nouveau commence à partir d'un état initial aléatoire. Ensuite, l'estimation de la valeur d'un couple état-action donnépeut être calculé en faisant la moyenne des rendements échantillonnés provenant deheures supplémentaires. Avec un temps suffisant, cette procédure peut ainsi construire une estimation précisede la fonction action-valeur. Ceci termine la description de l'étape d'évaluation de la politique.

Dans l'étape d'amélioration de la politique, la politique suivante est obtenue en calculant une politique gloutonne par rapport à: Étant donné un état, cette nouvelle politique renvoie une action qui maximise. En pratique , l' évaluation paresseuse peut différer le calcul des actions de maximisation au moment où elles sont nécessaires.

Les problèmes avec cette procédure incluent :

  • La procédure peut passer trop de temps à évaluer une politique sous-optimale.
  • Il utilise des échantillons de manière inefficace en ce sens qu'une longue trajectoire n'améliore l'estimation que de la seule paire état-action qui a démarré la trajectoire.
  • Lorsque les rendements le long des trajectoires ont une variance élevée , la convergence est lente.
  • Cela ne fonctionne que dans les problèmes épisodiques ;
  • Cela ne fonctionne que dans les petits MDP finis.

Méthodes

Le premier problème est corrigé en permettant à la procédure de modifier la politique (à certains ou à tous les états) avant que les valeurs ne se stabilisent. Cela aussi peut être problématique car cela pourrait empêcher la convergence. La plupart des algorithmes actuels le font, donnant naissance à la classe des algorithmes d'itération de politique généralisée . De nombreuses méthodes critiques d'acteurs appartiennent à cette catégorie.

Le deuxième problème peut être corrigé en permettant aux trajectoires de contribuer à n'importe quelle paire état-action qu'elles contiennent. Cela peut également aider dans une certaine mesure avec le troisième problème, bien qu'une meilleure solution lorsque les rendements ont une variance élevée sont les méthodes de différence temporelle (TD) de Sutton qui sont basées sur l' équation récursive de Bellman . [12] [13] Le calcul dans les méthodes TD peut être incrémental (quand après chaque transition la mémoire est changée et la transition est jetée), ou batch (quand les transitions sont batch et les estimations sont calculées une fois sur la base du batch) . Méthodes par lots, telles que la méthode des différences temporelles des moindres carrés, [14]peuvent mieux utiliser les informations contenues dans les échantillons, tandis que les méthodes incrémentales sont le seul choix lorsque les méthodes par lots sont irréalisables en raison de leur grande complexité de calcul ou de mémoire. Certaines méthodes tentent de combiner les deux approches. Les méthodes basées sur les différences temporelles surmontent également le quatrième problème.

Afin de résoudre le cinquième problème, des méthodes d'approximation de fonctions sont utilisées. L'approximation de la fonction linéaire commence par une cartographiequi attribue un vecteur de dimension finie à chaque couple état-action. Ensuite, les valeurs d'action d'une paire état-actionsont obtenus en combinant linéairement les composantes deavec quelques poids :

Les algorithmes ajustent ensuite les pondérations, au lieu d'ajuster les valeurs associées aux paires état-action individuelles. Des méthodes basées sur des idées issues de statistiques non paramétriques (dont on peut voir qu'elles construisent leurs propres caractéristiques) ont été explorées.

L'itération de valeur peut également être utilisée comme point de départ, donnant naissance à l' algorithme Q-learning et à ses nombreuses variantes. [15]

Le problème avec l'utilisation des valeurs d'action est qu'elles peuvent avoir besoin d'estimations très précises des valeurs d'action concurrentes qui peuvent être difficiles à obtenir lorsque les retours sont bruyants, bien que ce problème soit atténué dans une certaine mesure par les méthodes de différence temporelle. L'utilisation de la méthode d'approximation de la fonction dite compatible compromet la généralité et l'efficacité. Un autre problème spécifique à TD vient de leur dépendance à l'équation récursive de Bellman. La plupart des méthodes TD ont un soi-disantparamètrequi peut interpoler en continu entre les méthodes de Monte Carlo qui ne reposent pas sur les équations de Bellman et les méthodes TD de base qui reposent entièrement sur les équations de Bellman. Cela peut être efficace pour pallier ce problème.

Recherche directe de politique

Une méthode alternative consiste à rechercher directement dans (un sous-ensemble de) l'espace politique, auquel cas le problème devient un cas d' optimisation stochastique . Les deux approches disponibles sont les méthodes basées sur le gradient et les méthodes sans gradient.

Les méthodes basées sur le gradient ( méthodes du gradient de politique ) commencent par une cartographie d'un espace de dimension finie (paramètre) à l'espace des politiques : étant donné le vecteur de paramètres, laisserdénotent la politique associée à. Définition de la fonction de performance par

dans des conditions douces, cette fonction sera différentiable en fonction du vecteur de paramètre. Si le gradient deétait connue, on pouvait utiliser la montée en pente . Puisqu'une expression analytique du gradient n'est pas disponible, seule une estimation bruitée est disponible. Une telle estimation peut être construite de plusieurs manières, donnant lieu à des algorithmes tels que la méthode REINFORCE de Williams [16] (connue sous le nom de méthode du rapport de vraisemblance dans la littérature sur l' optimisation basée sur la simulation ). [17] Des méthodes de recherche de politique ont été utilisées dans le contexte de la robotique . [18] De nombreuses méthodes de recherche de politiques peuvent rester bloquées dans les optima locaux (car elles sont basées sur la recherche locale ).

Une grande classe de méthodes évite de s'appuyer sur les informations de gradient. Celles-ci incluent le recuit simulé , la recherche d'entropie croisée ou les méthodes de calcul évolutif . De nombreuses méthodes sans gradient peuvent atteindre (en théorie et à la limite) un optimum global.

Les méthodes de recherche de politique peuvent converger lentement compte tenu des données bruyantes. Par exemple, cela se produit dans les problèmes épisodiques lorsque les trajectoires sont longues et la variance des retours est grande. Les méthodes basées sur la fonction de valeur qui s'appuient sur les différences temporelles pourraient aider dans ce cas. Ces dernières années, des méthodes acteur-critique ont été proposées et ont donné de bons résultats sur divers problèmes. [19]

Algorithmes basés sur des modèles

Enfin, toutes les méthodes ci-dessus peuvent être combinées avec des algorithmes qui apprennent d'abord un modèle. Par exemple, l'algorithme Dyna [20] apprend un modèle à partir de l'expérience et l'utilise pour fournir davantage de transitions modélisées pour une fonction de valeur, en plus des transitions réelles. De telles méthodes peuvent parfois être étendues à l'utilisation de modèles non paramétriques, comme lorsque les transitions sont simplement stockées et "rejouées" [21] à l'algorithme d'apprentissage.

Il existe d'autres façons d'utiliser des modèles que de mettre à jour une fonction de valeur. [22] Par exemple, dans le modèle de contrôle prédictif, le modèle est utilisé pour mettre à jour directement le comportement.

Théorie

Les comportements asymptotiques et à échantillon fini de la plupart des algorithmes sont bien compris. Des algorithmes dont les performances en ligne sont prouvées (abordant le problème de l'exploration) sont connus.

Une exploration efficace des MDP est donnée dans Burnetas et Katehakis (1997). [9] Des limites de performance en temps fini sont également apparues pour de nombreux algorithmes, mais ces limites devraient être plutôt lâches et donc plus de travail est nécessaire pour mieux comprendre les avantages et les limites relatifs.

Pour les algorithmes incrémentaux, les problèmes de convergence asymptotique ont été réglés [ clarification nécessaire ] . Les algorithmes basés sur la différence temporelle convergent sous un ensemble de conditions plus large qu'il n'était possible auparavant (par exemple, lorsqu'ils sont utilisés avec une approximation de fonction arbitraire et lisse).

Recherche

Les sujets de recherche comprennent

  • méthodes adaptatives qui fonctionnent avec moins (ou pas) de paramètres dans un grand nombre de conditions
  • résoudre le problème de l'exploration dans les grands MDP
  • combinaisons avec des cadres basés sur la logique [23]
  • évaluations empiriques à grande échelle
  • apprendre et agir avec des informations partielles (par exemple, en utilisant la représentation prédictive de l'état )
  • apprentissage par renforcement modulaire et hiérarchique [24]
  • améliorer les méthodes existantes de recherche de fonction de valeur et de politique
  • algorithmes qui fonctionnent bien avec de grands espaces d'action (ou continus)
  • apprentissage par transfert [25]
  • apprentissage tout au long de la vie
  • planification efficace basée sur des échantillons (par exemple, basée sur la recherche arborescente de Monte Carlo ).
  • détection de bugs dans les projets logiciels [26]
  • Motivation intrinsèque qui différencie les comportements de recherche d'informations et de type curiosité des comportements axés sur un objectif dépendant d'une tâche (généralement) en introduisant une fonction de récompense basée sur la maximisation de nouvelles informations [27] [28] [29]
  • L'apprentissage par renforcement multiagent ou distribué est un sujet d'intérêt. Les applications se multiplient. [30]
  • Apprentissage par renforcement acteur-critique
  • Des algorithmes d'apprentissage par renforcement tels que l'apprentissage TD sont à l'étude en tant que modèle d' apprentissage basé sur la dopamine dans le cerveau. Dans ce modèle, les projections dopaminergiques de la substantia nigra aux ganglions de la base fonctionnent comme l'erreur de prédiction.
  • L'apprentissage par renforcement a été utilisé dans le cadre du modèle d'apprentissage des compétences humaines, en particulier en ce qui concerne l'interaction entre l'apprentissage implicite et explicite dans l'acquisition des compétences (la première publication sur cette application remonte à 1995-1996).
  • Contrôle centré sur l'occupant
  • Trading algorithmique et exécution optimale [31]
  • Optimisation des ressources informatiques [32] [33] [34]
  • Réduction des déchets dans la chaîne d'approvisionnement alimentaire [35] [36]

Comparaison des algorithmes d'apprentissage par renforcement

Algorithme La description Politique Espace Action Territoire de l'État Opérateur
monte Carlo Chaque visite à Monte Carlo Soit Discret Discret Échantillon-moyens
Q-apprentissage État–action–récompense–état Hors politique Discret Discret valeur Q
SRAS État–action–récompense–état–action Politique Discret Discret valeur Q
Q-learning - Lambda État-action-récompense-état avec traces d'éligibilité Hors politique Discret Discret valeur Q
Sarsa - Lambda État–action–récompense–état–action avec traces d'éligibilité Politique Discret Discret valeur Q
DQN Réseau Q profond Hors politique Discret Continu valeur Q
DDPG Gradient politique déterministe profond Hors politique Continu Continu valeur Q
A3C Algorithme Asynchronous Advantage Actor-Critic Politique Continu Continu Avantage
NAF Q-Learning avec fonctions d'avantage normalisées Hors politique Continu Continu Avantage
TRPO Optimisation de la politique de région de confiance Politique Continu Continu Avantage
OPP Optimisation de la politique proximale Politique Continu Continu Avantage
TD3 Gradient de politique déterministe profond à double retard Hors politique Continu Continu valeur Q
SAC Acteur-Critique Doux Hors politique Continu Continu Avantage

Apprentissage

Les tâches d'apprentissage par renforcement associatif combinent des facettes de tâches d'automates d'apprentissage stochastique et des tâches de classification de modèles d'apprentissage supervisé. Dans les tâches d'apprentissage par renforcement associatif, le système d'apprentissage interagit en boucle fermée avec son environnement. [37]

Apprentissage

Cette approche étend l'apprentissage par renforcement en utilisant un réseau neuronal profond et sans concevoir explicitement l'espace d'état. [38] Les travaux sur l'apprentissage des jeux ATARI par Google DeepMind ont attiré l'attention sur l'apprentissage par renforcement profond ou l'apprentissage par renforcement de bout en bout . [39]

Apprentissage

Dans l'apprentissage par renforcement inverse (IRL), aucune fonction de récompense n'est donnée. Au lieu de cela, la fonction de récompense est déduite d'un comportement observé par un expert. L'idée est d'imiter le comportement observé, qui est souvent optimal ou proche de l'optimal. [40]

Apprentissage par renforcement sécurisé

L'apprentissage par renforcement sûr (SRL) peut être défini comme le processus de politiques d'apprentissage qui maximisent l'attente de retour dans les problèmes dans lesquels il est important d'assurer des performances raisonnables du système et/ou de respecter les contraintes de sécurité pendant les processus d'apprentissage et/ou de déploiement. [41]

PSRL

Dans les algorithmes PSRL, les avantages des approches supervisées et basées sur RL sont combinés de manière synergique. Par exemple, la politique de contrôle apprise par une approche basée sur ANN inverse pour contrôler un système non linéaire peut être affinée à l'aide de RL, évitant ainsi le coût de calcul encouru en partant d'une politique aléatoire dans RL traditionnel. Les approches partiellement supervisées peuvent atténuer le besoin de données de formation étendues dans l'apprentissage supervisé tout en réduisant le besoin d'une exploration aléatoire exhaustive coûteuse en RL pur. [2]

Voir aussi

Références

  1. ^ Kaelbling, Leslie P. ; Littman, Michael L. ; En ligneMoore, Andrew W. (1996). "Apprentissage par renforcement : une enquête" . Journal de recherche sur l'intelligence artificielle . 4 : 237–285. arXiv : cs/9605103 . doi : 10.1613/jair.301 . S2CID  1708582 . Archivé de l'original le 2001-11-20.
  2. ^ un b Pandian, B. Jaganatha; Noël, Mathew Mithra (2018-09-01). "Contrôle d'un bioréacteur à l'aide d'un nouvel algorithme d'apprentissage par renforcement partiellement supervisé" . Journal de contrôle des processus . 69 : 16–29. doi : 10.1016/j.jprocont.2018.07.013 . ISSN 0959-1524 . S2CID 126074778 .  
  3. ^ van Otterlo, M.; Wiering, M. (2012). Apprentissage par renforcement et processus décisionnels de Markov . Apprentissage par renforcement . Adaptation, Apprentissage et Optimisation. Vol. 12. p. 3–42. doi : 10.1007/978-3-642-27645-3_1 . ISBN 978-3-642-27644-6.
  4. ^ Russell, Stuart J.; Norvig, Peter (2010). L'intelligence artificielle : une approche moderne (troisième éd.). Upper Saddle River, New Jersey. pages 830, 831. ISBN 978-0-13-604259-4.
  5. ^ Lee, Daeyeol; Seo, Hyojung ; Jung, Min Whan (21 juillet 2012). "Base neurale de l'apprentissage par renforcement et de la prise de décision" . Revue annuelle des neurosciences . 35 (1): 287–308. doi : 10.1146/annurev-neuro-062111-150512 . PMC 3490621 . PMID 22462543 .  
  6. ^ Xie, Zhaoming, et al. " ALLSTEPS : Apprentissage axé sur le programme d'études des compétences de tremplin ." Forum d'infographie. Vol. 39. N° 8. 2020.
  7. ^ Sutton & Barto 1998 , chapitre 11.
  8. ^ Gosavi, Abhijit (2003). Optimisation basée sur la simulation : techniques d'optimisation paramétrique et renforcement . Série Interfaces Recherche Opérationnelle/Informatique. Springer. ISBN 978-1-4020-7454-7.
  9. ^ un b Burnetas, Apostolos N.; Katehakis, Michael N. (1997), "Politiques adaptatives optimales pour les processus de décision de Markov", Mathematics of Operations Research , 22 : 222–255, doi : 10.1287/moor.22.1.222
  10. ^ Tokic, Michel; Palm, Günther (2011), « Exploration basée sur la différence de valeur : contrôle adaptatif entre Epsilon-Greedy et Softmax » (PDF) , KI 2011 : Advances in Artificial Intelligence , Lecture Notes in Computer Science, vol. 7006, Springer, p. 335–346, ISBN  978-3-642-24455-1
  11. ^ un b "L'apprentissage de renfort : Une introduction" (PDF) .
  12. ^ Sutton, Richard S. (1984). Attribution de crédits temporels en apprentissage par renforcement (thèse de doctorat). Université du Massachusetts, Amherst, MA.
  13. ^ Sutton & Barto 1998 , §6. Apprentissage par Différence Temporelle .
  14. ^ Bradtke, Steven J. ; Barto, Andrew G. (1996). "Apprendre à prédire par la méthode des différences temporelles". Apprentissage automatique . 22 : 33–57. CiteSeerX 10.1.1.143.857 . doi : 10.1023/A:1018056104778 . S2CID 20327856 .  
  15. ^ Watkins, Christopher JCH (1989). Apprendre des récompenses différées (PDF) (thèse de doctorat). King's College, Cambridge, Royaume-Uni.
  16. ^ Williams, Ronald J. (1987). "Une classe d'algorithmes d'estimation de gradient pour l'apprentissage par renforcement dans les réseaux de neurones". Actes de la première conférence internationale de l'IEEE sur les réseaux de neurones . CiteSeerX 10.1.1.129.8871 . 
  17. ^ Peters, janvier ; Vijayakumar, Sethu ; Schaal, Stefan (2003). "Apprentissage par renforcement pour la robotique humanoïde" (PDF) . Conférence internationale IEEE-RAS sur les robots humanoïdes .
  18. ^ Deisenroth, Marc Peter ; Neumann, Gerhard ; Peters, Jan (2013). Une enquête sur la recherche de politiques pour la robotique (PDF) . Fondements et tendances en robotique. Vol. 2. Éditeurs MAINTENANT. p. 1–142. doi : 10.1561/2300000021 . hdl : 10044/1/12051 .
  19. ^ Juliani, Arthur (2016-12-17). "Apprentissage par renforcement simple avec Tensorflow Partie 8 : Agents critiques d'acteurs asynchrones (A3C)" . Moyen . Récupéré le 22/02/2018 .
  20. ^ Sutton, Richard (1990). "Architectures intégrées pour l'apprentissage, la planification et la réaction basées sur la programmation dynamique". Apprentissage automatique : Actes du septième atelier international .
  21. ^ Lin, Long-Ji (1992). "Agents réactifs auto-améliorants basés sur l'apprentissage, la planification et l'enseignement par renforcement". Tome 8 sur l'apprentissage automatique .
  22. ^ van Hasselt, Hado; Hessel, Matteo; Aslanides, John (2019). "Quand utiliser des modèles paramétriques dans l'apprentissage par renforcement ?". Progrès dans les systèmes de traitement neuronal de l'information 32 .
  23. ↑ Riveret , Régis ; Gao, Yang (2019). "Un cadre d'argumentation probabiliste pour les agents d'apprentissage par renforcement". Agents autonomes et systèmes multi-agents . 33 (1-2) : 216-274. doi : 10.1007/s10458-019-09404-2 . S2CID 71147890 . 
  24. ^ Kulkarni, Tejas D.; Narasimhan, Karthik R.; Saeedi, Ardavan ; Tenenbaum, Joshua B. (2016). "Apprentissage par renforcement profond hiérarchique : intégration de l'abstraction temporelle et de la motivation intrinsèque" . Actes de la 30e Conférence internationale sur les systèmes de traitement de l'information neuronale . NIPS'16. États-Unis : Curran Associates Inc. : 3682–3690. arXiv : 1604.06057 . Bib code : 2016arXiv160406057K . ISBN 978-1-5108-3881-9.
  25. ^ George Karimpanal, Thommen; Bouffanais, Roland (2019). "Cartes auto-organisatrices pour le stockage et le transfert de connaissances dans l'apprentissage par renforcement". Comportement adaptatif . 27 (2): 111–126. arXiv : 1811.08318 . doi : 10.1177/1059712318818568 . ISSN 1059-7123 . S2CID 53774629 .  
  26. ^ "Sur l'utilisation de l'apprentissage par renforcement pour tester les mécanismes de jeu : ACM - Ordinateurs dans le divertissement" . cie.acm.org . Récupéré le 27/11/2018 .
  27. ^ Kaplan, F.; En ligneOudeyer, P. (2004). "Maximiser les progrès d'apprentissage: un système de récompense interne pour le développement". Dans Iida, F.; Pfeifer, R.; Steels, L.; Kuniyoshi, Y. (éd.). Intelligence Artificielle Incarnée . Notes de cours en informatique. Vol. 3139.Berlin; Heidelberg : Springer. p. 259–270. doi : 10.1007/978-3-540-27833-7_19 . ISBN 978-3-540-22484-6.
  28. ^ Klyubin, A.; Polani, D.; En ligneNehaniv, C. (2008). "Gardez vos options ouvertes : un principe de conduite basé sur l'information pour les systèmes sensorimoteurs" . PLOS ONE . 3 (12) : e4018. Bibcode : 2008PLoSO...3.4018K . doi : 10.1371/journal.pone.0004018 . PMC 2607028 . PMID 19107219 .  
  29. ^ Barto, AG (2013). "Motivation intrinsèque et apprentissage par renforcement". Apprentissage intrinsèquement motivé dans les systèmes naturels et artificiels . Berlin; Heidelberg : Springer. p. 17–47.
  30. ^ "Apprentissage par renforcement / Succès de l'apprentissage par renforcement" . umichrl.pbworks.com . Récupéré le 06/08/2017 .
  31. ^ Daberius, Kevin; Granat, Elvin; Karlsson, Patrick (2020). "Exécution approfondie - Apprentissage par renforcement basé sur la valeur et la politique pour le trading et battre les références du marché" . Le Journal de l'apprentissage automatique en finance . 1 .
  32. ^ Dey, Somdip ; Singh, Amit Kumar; Wang, Xiaohang; McDonald-Maier, Klaus (mars 2020). "Apprentissage par renforcement sensible à l'interaction utilisateur pour la puissance et l'efficacité thermique des MPSoC mobiles CPU-GPU" . 2020 Design, Automation Test in Europe Conference Exhibition (DATE) : 1728–1733. doi : 10.23919/DATE48585.2020.9116294 . ISBN 978-3-9819263-4-7. S2CID  219858480 .
  33. ^ Interrogé, Tony. "Les smartphones deviennent plus intelligents avec l'innovation d'Essex | Business Weekly | Technology News | Business news | Cambridge et l'Est de l'Angleterre" . www.businessweekly.co.uk . Récupéré le 17/06/2021 .{{cite web}}: CS1 maint: url-status (link)
  34. ^ Williams, Rhiannon (2020-07-21). "Les futurs smartphones 'prolongeront leur propre autonomie en surveillant le comportement des propriétaires'" . je . Récupéré le 17/06/2021 .{{cite web}}: CS1 maint: url-status (link)
  35. ^ Dey, Somdip ; Saha, Suman ; Singh, Amit Kumar; McDonald-Maier, Klaus (2022-02-12). "SmartNoshWaste : Utilisation de la chaîne de blocs, de l'apprentissage automatique, du cloud computing et du code QR pour réduire le gaspillage alimentaire dans les villes intelligentes décentralisées activées par le Web 3.0" . Villes intelligentes . 5 (1): 162–176. doi : 10.3390/smartcities5010011 . ISSN 2624-6511 . 
  36. ^ Stanley, John. "Ce fondateur a lancé une entreprise technologique pour réduire le gaspillage alimentaire et améliorer la durabilité pour un avenir meilleur" . Entrepreneur (magazine) . Récupéré le 07/03/2022 .
  37. ^ Soucek, Branko (6 mai 1992). Programmation dynamique, génétique et chaotique : la série sur la technologie informatique de sixième génération . John Wiley & Sons, Inc. p. 38. ISBN 0-471-55717-X.
  38. ^ François-Lavet, Vincent; et coll. (2018). "Une introduction à l'apprentissage par renforcement profond". Fondements et tendances de l'apprentissage automatique . 11 (3–4): 219–354. arXiv : 1811.12560 . Bibcode : 2018arXiv181112560F . doi : 10.1561/2200000071 . S2CID 54434537 . 
  39. ^ Mnih, Volodymyr; et coll. (2015). "Contrôle au niveau humain grâce à l'apprentissage par renforcement profond" . Nature . 518 (7540): 529-533. Bibcode : 2015Natur.518..529M . doi : 10.1038/nature14236 . PMID 25719670 . S2CID 205242740 .  
  40. ^ Ng, AY; Russel, SJ (2000). "Algorithmes pour l'apprentissage par renforcement inverse" (PDF) . Actes ICML '00 Actes de la dix-septième conférence internationale sur l'apprentissage automatique . pages 663–670. ISBN  1-55860-707-2.
  41. ^ García, Javier; Fernandez, Fernando (1er janvier 2015). "Une enquête complète sur l'apprentissage par renforcement sûr" (PDF) . Le Journal de la recherche sur l'apprentissage automatique . 16 (1): 1437-1480.

Lectures complémentaires

Liens externes