Accueil
Publications
Avez-vous déjà envisagé de vivre 1000 ans ? Si non, saviez-vous que certains l’envisagent pourtant déjà ? Au jour où certains experts s’interrogent sur l’avenir du transhumanisme, une réflexion éthique s’impose autour de ces développements. L’intelligence artificielle va-t-elle dépasser l’intelligence humaine ? La singularité technologique est-elle un fantasme ?
Les derniers « exploits » de l’intelligence artificielle (IA) de Google, DeepMind, ont de quoi laisser songeur. Des tests ont en effet montré que plus l’intelligence est élevée, et plus le programme est capable d’agressivité aux fins d’effectuer une tâche quelconque. Il s’agissait pour deux programmes de récolter un maximum de pommes dans un jeu vidéo, et ils disposaient d’un rayon laser qui pouvait mettre l’autre hors-jeu pour un moment.
Tant qu’il y a assez de pommes, tout se passe bien, mais dès qu’elles viennent à manquer, les deux agents deviennent agressifs, alors que les programmes les « moins intelligents » se sont contentés de partager les pommes… Une belle métaphore, car s’il est vrai que ces programmes savent apprendre, ils ne le font jamais que sur des bases et des principes qui leur sont donnés par l’homme.
Pour se comporter de manière coopérative au contraire, un autre jeu a été conçu : Wolfpack ; les deux loups et la proie. Les deux loups doivent coopérer pour chasser la proie et ne pas se faire voler la carcasse par les charognards. On se croirait dans le monde politique… ou la finance. Ainsi la coopération va se mettre en place si l’intérêt supérieur le demande, mais d’autres environnements font naître la cupidité, comme l’explique Joël Z Leibo, membre de l’équipe de recherche :
« Ce modèle (…) montre que certains aspects du comportement humain semblent émerger comme un produit de l’environnement et de l’apprentissage. Des politiques moins agressives émergent de l’apprentissage dans des environnements relativement abondants, avec moins de possibilités d’actions coûteuses. La motivation de la cupidité reflète la tentation de surpasser un rival et de recueillir toutes les pommes soi-même ».
----------
Les progrès constants de l’intelligence artificielle obligent à une réflexion éthique, comme y a appelé Elon Musk, patron de Tesla : « Les systèmes d’IA ont aujourd’hui des capacités impressionnantes mais étroites. Il semble que nous allons continuer à réduire leurs contraintes, et dans le cas extrême, ils atteindront une performance humaine sur pratiquement toutes les tâches intellectuelles. Il est difficile de comprendre à quel point une IA humaine pourrait bénéficier à la société, et il est tout aussi difficile d’imaginer à quel point cela pourrait nuire à la société si celle-ci est conçue ou utilisée de manière incorrecte ». A cet effet il a fondé OpenAI, une association de recherche dédiée à l’éthique
Pour lire la suite :
https://jack35.wordpress.com/2017/05/04/peut-on-echapper-a-la-fusion-homme-machine/
Personnellement je trouve que c'est un danger pour l'humanité, et vous ?
Les derniers « exploits » de l’intelligence artificielle (IA) de Google, DeepMind, ont de quoi laisser songeur. Des tests ont en effet montré que plus l’intelligence est élevée, et plus le programme est capable d’agressivité aux fins d’effectuer une tâche quelconque. Il s’agissait pour deux programmes de récolter un maximum de pommes dans un jeu vidéo, et ils disposaient d’un rayon laser qui pouvait mettre l’autre hors-jeu pour un moment.
Tant qu’il y a assez de pommes, tout se passe bien, mais dès qu’elles viennent à manquer, les deux agents deviennent agressifs, alors que les programmes les « moins intelligents » se sont contentés de partager les pommes… Une belle métaphore, car s’il est vrai que ces programmes savent apprendre, ils ne le font jamais que sur des bases et des principes qui leur sont donnés par l’homme.
Pour se comporter de manière coopérative au contraire, un autre jeu a été conçu : Wolfpack ; les deux loups et la proie. Les deux loups doivent coopérer pour chasser la proie et ne pas se faire voler la carcasse par les charognards. On se croirait dans le monde politique… ou la finance. Ainsi la coopération va se mettre en place si l’intérêt supérieur le demande, mais d’autres environnements font naître la cupidité, comme l’explique Joël Z Leibo, membre de l’équipe de recherche :
« Ce modèle (…) montre que certains aspects du comportement humain semblent émerger comme un produit de l’environnement et de l’apprentissage. Des politiques moins agressives émergent de l’apprentissage dans des environnements relativement abondants, avec moins de possibilités d’actions coûteuses. La motivation de la cupidité reflète la tentation de surpasser un rival et de recueillir toutes les pommes soi-même ».
----------
Les progrès constants de l’intelligence artificielle obligent à une réflexion éthique, comme y a appelé Elon Musk, patron de Tesla : « Les systèmes d’IA ont aujourd’hui des capacités impressionnantes mais étroites. Il semble que nous allons continuer à réduire leurs contraintes, et dans le cas extrême, ils atteindront une performance humaine sur pratiquement toutes les tâches intellectuelles. Il est difficile de comprendre à quel point une IA humaine pourrait bénéficier à la société, et il est tout aussi difficile d’imaginer à quel point cela pourrait nuire à la société si celle-ci est conçue ou utilisée de manière incorrecte ». A cet effet il a fondé OpenAI, une association de recherche dédiée à l’éthique
Pour lire la suite :
https://jack35.wordpress.com/2017/05/04/peut-on-echapper-a-la-fusion-homme-machine/
Personnellement je trouve que c'est un danger pour l'humanité, et vous ?
