Parlons Futur (Thomas Jestin)

Attention : je diffuse des extraits de C dans l'Air et les commente ensuite, les extraits sont difficilement audibles malheureusement, mais il suffit de les passer, car je les résume ensuite avant de les commenter, désolé, je m'y prendrai mieux la prochaine fois.

 

Ressources utiles discutées dans le podcast : Lien vers l'épisode de C dans l'Air en question, avec notamment comme invités :

- Gaspard Koenig, philosophe, auteur de "La fin de l’individu : voyage d’un philosophe au pays de l’intelligence artificielle" - Laurence Devillers, professeur en intelligence artificielle : Université La Sorbonne, experte en interaction humain / machine, auteur de "Les robots "émotionnels"

La pétition en question, signée notamment par Yoshua Bengio, un des 3 parrains du deeplearning qui est derrière les dernières grandes avancées en IA. Yoshua Bengio est le seul des 3 à ne pas avoir rejoint le privé (à la différene de ses aînés Yann LeCun chez Meta et Geoffrey Hinton chez Google Brain) La pétition s'interroge "Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?", considérant ainsi des risques de court terme, moyen terme et long terme. La position la plus radicales sur les risques liés à l'IA, celle d'Eliezer Yudkowsky : 

"Many researchers steeped in these issues, including myself, expect that the most likely result of building a superhumanly smart AI, under anything remotely like the current circumstances, is that literally everyone on Earth will die. Not as in “maybe possibly some remote chance,” but as in “that is the obvious thing that would happen.” (tribune dans le magazine Time Pausing AI Developments Isn't Enough. We Need to Shut it All Down, écouter aussi mon précédent épisode de podcast) Chimp beats students at computer game (article dans le magazine Nature, en vidéo sur Youtube) Why Are Our Brains Shrinking? (University of San Francisco)

"over the last 20,000 years alone, human brains have shrunk from 1,500 cubic centimeters (cc) to 1,350 cc, roughly the size of a tennis ball." Les 4 grandes positions face à l'IA pour simplifier

• Ceux qui ont signé cette pétition (Gary Marcus et Yoshua Bengio notamment) ou qui soutiennent les mêmes positions sans avoir pour autant signé ou soutenu la pétition, s'inquiétant des risques de court, moyen et long terme (notamment parmi ceux qui n'ont pas signé : Geoffrey Hinton, le plus anciens des 3 parrains de l'IA ; Demis Hassabis, CEO de Deepmind, l'autre labo de pointe sur l'IA avec openAI ; une partie des employés d'OpenAI en off, et même Sam Altman CEO d'OpenAI sur les enjeux de moyen et long terme)
• Ceux qui ont refusé de signer cette pétition car elles n'insistent pas assez sur les risques de court terme (en anglais: fairness, algorithmic bias, accountability, transparency, inequality, cost to the environment, disinformation, cybercrime) et trop sur les risques de long terme relevant de la science fiction (notamment les chercheuses en AI et sciences du langage Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, and Margaret Mitchell)
• Ceux qui refusent de signer car ils considèrent que c'est en développant l'IA qu'on trouvera aussi les solutions à ses problèmes, et que les risques encourus ne sont pas encore assez clairs, l'IA étant encore très primitive (notamment Yann LeCun, et OpenAI pour l'instant)
• Enfin les plus radicaux comme Eliezer Yudkowsky qui refusent de signer cette pétition car ils pensent qu'elle ne vas pas assez loin et minimise le risque existentiel.

Présentation générale du livre fascinant de Peter Zeihan "Disunited Nations: The Scramble for Power in an Ungoverned World", résumé du 1er chapitre.

Two years ago, Casey Handmer quit working on GPS science at NASA JPL to start Terraform Industries, a wild idea backed by visionary investors (including Stripe co-founder and CEO) to bolt our growing solar abundance to growing hydrocarbon scarcity. His plan? To make the world's cheapest green hydrogen, the world's cheapest direct air capture CO2, and cheap natural gas.

This is my conversation with Casey! It's quite long, but I've detailed the timestamps below, Casey elaborated on many important issues, make sure to give them a listen :)

Recorded on Oct 12th.

And mind the two questions about Mars at the end :)

• 00:00:28: Casey Handmer's background in science and industry and what led him to found Terraform Industries

• 00:02:30: Why Hyperloop One, which Casey worked on, didn't work as expected

• 00:04:38: Why "Terraform Industries" as the company name?

• 00:09:45: Terraform Industries' philosophy

• 00:13:20: How Terraform Industries is a fundamental bet on cheap solar PV electricity and why it will get ever cheaper for a long time

• 00:18:08: What the cost of solar PV electricity needs to be for Terraform Industries' green e-methane to start being competitive with fossil methane

• 00:20:20: What it needs to be for green e-kerosene to be competitive with fossil kerosene, in order to make aviation carbon-neutral

• 00:21:30: Casey explains how we may even be able to make food thanks to cheap solar, air and water

• 00:24:00: Can total cumulative solar PV deployment continue to double at current pace (approx. once every 2 years) long enough to have enough capacity to displace all fossil fuels?

• 00:30:15: Why has Casey been sharing his plans very openly so far? 

• 00:32:50: Casey shares an interesting analogy with the electric car industry

• 00:36:00: Can Europe compete with China on the EV market? do tariffs help?

• 00:37:55: How does Terraform industries work? What are the three subsystems of its first product?

• 00:41:30: Why does Terraform Industries want low-efficiency systems?

• 00:46:50: What should the be the cost of solar PV electricity for Terraform Industries' green e-methane to start being competitive?

• 00:49:00: What could be the market size for such machines? And as they're low tech and will be copied, what minimum market share could Terraform Industries hope to retain ultimately?

• 00:50:30: Does Terraform Industries intend more on selling the machines or operating the machines and selling green e-hydrocarbons?

• 00:53:25: Is what Terraform Industries is doing easier than coming up with and industrializing the Haber-Bosch process? (that helps fix nitrogen as ammonia from the air and make fertilizer, letting us feed billions more than if we didn't have it otherwise)

• 00:58:35: Hear Casey say which percentage of solar arrays, easily, will be used to make synthetic fuel 10 years from now, shocking!

• 00:58:52: What's the status right now for Terraform Industries? What are the next milestones?

• 01:01:28: What risks is Terraform Industries facing?

• 01:04:50: What about methane leaks? Especially as Casey Handmer expects world methane consumption to go up as methane gets cheaper and carbon-neutral

• 01:07:20: As Terraform Industries actually makes green hydrogen (before reacting it with captured CO2 to make methane CH4), why not stop there and provide hydrogen to the "hydrogen economy" that people see about to boom? For industrial heat, aviation, shipping etc.

• 01:13:20: Why is Casey Handmer fascinated with airships?

• 01:19:38: What about nuclear fusion? Could it help do without solar plants? (Helion talks about 1MW fusion plant the size of a container as opposed to 5-10 acres for a 1MW solar PV plant)

• 01:28:00: Why does Casey Handmer think that ultimately most of solar PV electricity will be used to synthesize green hydrocarbons for aviation (which will hence boom) as opposed to every other use combined.

• 01:37:00: Can Starhip be a thing when it comes to point-to-point transport on Earth?

• 01:39:55: Why taxing carbon doesn't work

• 01:44:00: Why current carbon capture and storage approaches can't scale to any meaningful scale

• 01:46:20: How does AI progress impact what Terraform Industries is doing? What would AGI do?

• 01:49:05: Will what Terraform Industries is doing be commoditized? Making it hard to find investors? 

• 01:52:35: Stratospheric Aerosol Injection : one of the two other important things we need to be doing to fix the climate crisis (beyond making all we do carbon-neutral for the atmosphere)

• 01:57:10: The other thing, "enhanced weathering", the best way to remove legacy CO2 from the atmosphere (possibly at $20/ton of CO2)

• 02:00:10: Casey Handmer's spiciest takes on energy (why batteries will ultimately bankrupt most long power lines, and also why it won't make sense to build more fission reactors)

• 02:08:48: What about the interseasonal intermittency problem with solar PV?

• 02:11:23: Hear Casey say why in the long term even methane pipelines will struggle to operate profitably as methane will be synthesized locally, even in temperate latitudes

• 02:19:30: Sending humans to Mars means bringing with us our microbes. As Mars could be habitable and inhabited by local microbes, even near the surface, we could ending confusing our search for life there, as Earth and potential Mars life may be related. Isn't that a reason to hold on for now and just send our robots which present much less of a risk?

• 02:24:24: We make all these plans to settle Mars, but what if Mars gravity is a non-starter for humans? Shouldn't the first thing be for us to build ae a space station that can be spun to recreate Mars gravity so as to test its effect on us, before anything else?

• 02:28:50: What surprised Casey the most moving from Australia to the US. About California and Texas.

• 02:32:00: Books recommended by Casey (see below for references)

• 02:32:45: About Elon Musk

 

Casey Handmer's blog articles we discussed (highly recommended):

• How to Produce Green Hydrogen for $1/kg

• Radical Energy Abundance

• Grid Storage: Batteries Will Win

• The Terraformer Mark One

• We should not let the Earth overheat!

• Terraform Industries Whitepaper 2.0 (Jan 2023)

• Is nuclear power a solution to climate change?

 

My explainer: Green, On-Demand, Abundant Energy by 2050 is Definitely Possible: Here's the Plan with the direct link to section 2 focussing on what Terraform Industries is doing

 

Discussed in the conversation:

• The Leuna factory in Germany, built by BASF in 1916, that Casey visited and mentioned at 00:54:40

• The Zeppelin Hidenburg scene in Indiana Jones and the last crusade (1989)

• See on Google Earth an open quarry by the sea, south east of Santa Catalina Island, opposite Los Angeles, mentioned when discussing enhanced weathering as the best solution to scrub the atmosphere of legacy CO2.

• Recommanded Books: 

  • Pieces of the Action, by Vannevar Bush (1970)

  • The Alchemy of Air: A Jewish Genius, a Doomed Tycoon, and the Scientific Discovery That Fed the World but Fueled the Rise of Hitler, by Thomas Hager (2009)

 

Useful resources

• Casey Handmer's personal blog site

• Terraform Industries' website

• Terraform Industries' blog site

• Find Casey Handmer on Twitter

 

À propos de l'éditeur du podcast Thomas Jestin :

• Ma newsletter Parlons Futur : une fois par semaine au plus, une sélection de news, mêlant sources anglophones et francophones, résumées en bullet points sur des sujets tech, science, éco, géopolitique et défense  pour mieux appréhender le futur.
• La liste de mes plus de 50 essais à ce jour dont certains publiés dans le Journal du Net, Les Echos (ici), l'Express.
• Me retrouver sur Twitter : twitter.com/thomasjestin
• Plus d'infos sur moi
• Me contacter : parlonsfutur@substack.com

Résumé d'un article très intéresssant de Noah Smith https://noahpinion.substack.com/p/the-third-magic

Eliezer Yudkowsky, expert reconnu des risques liés à l'IA: "We’re All Gonna Die" (entretien de près de 2 heures sur Youtube, transcript here)

• Eliezer Yudkowsky est sans doute la figure la plus connue et respectée depuis 20 ans dans le milieu de la recherche sur les façons d'aligner l'IA sur nos valeurs humaines
  • Wikipedia : Eliezer Yudkowsky is an American decision theory and artificial intelligence (AI) researcher and writer. He is a co-founder and research fellow at the Machine Intelligence Research Institute (MIRI), a private research nonprofit based in Berkeley, California. His work on the prospect of a runaway intelligence explosion was an influence on Nick Bostrom's Superintelligence: Paths, Dangers, Strategies.
  • Yudkowsky's views on the safety challenges posed by future generations of AI systems are discussed in the undergraduate textbook in AI, Stuart Russell and Peter Norvig's Artificial Intelligence: A Modern Approach.
• Eliezer Yudkowsky a livré il y a quelques semaines un entretien de près de 2 heures durant lesquelles il a partagé et expliqué sa conviction profonde: "nous allons tous mourir des mains d'une super intelligence artificielle", se montrant plus résigné que jamais, mais disant malgré tout vouloir "fight until the end with dignity"
  • Eliezer Yudkowsky s'est dit d'abord surpris par le rythme des progrès en IA ces dernières années, à ses yeux, il est très probable qu'on parvienne à développer une super IA, plus capable que tous les êtres humains réunis à un moment ou un autre ce siècle-ci ("3 ans, 15 ans, plus ? Difficile de savoir...")
  • Ses travaux depuis 20 ans l'on conduit à un constat sans appel : nous ne savons pas comment programmer une super IA pour être certain qu'elle ne nous nuise pas, et ne sommes pas près de le faire, c'est une tâche éminemment compliquée et sans doute impossible, qui demanderait qu'on y consacre des ressources extraordinaires, et il est trop tard pour cela
  • C'est tout l'inverse qui se passe selon lui, les meilleurs labos en IA foncent tête baissée, leurs précautions sont bien insuffisantes et principalement de façade
    • L'actualité semble lui donner raison : "Microsoft got rid of its entire company division devoted to AI "ethics and society" during its January layoffs" "Most of their 30-person staff was reassigned way back in October, leaving just seven employees to manage the department." "Months later, though, they were all dismissed, along with the division — right as the company announced its mammoth $10 billion investment in OpenAI." (source)
    • à noter toute fois que Sam Altman, CEO d'OpenAI, écrivait récemment : "Some people in the AI field think the risks of AGI (and successor systems) are fictitious; we would be delighted if they turn out to be right, but we are going to operate as if these risks are existential.", linking to that article AI Could Defeat All Of Us Combined 
  • Eliezer Yudkowsky a eu un espoir en 2015 quand il a participé à la grande conférence sur les risques de l'IA organisée par Elon Musk, rassemblant des experts du sujet comme Stuart Russel, Demis Hassabis (co-fondateur de DeepMind en 2014), Ilya Sutskever et bien d'autres.
  • Mais il a très vite déchanté, la conférence a accouché du pire des résultats à ses yeux : la création d'OpenAI peu après (par Ilya Sutskever, Sam Altman, Elon Musk, Peter Thiel et d'autres)
  • Au lieu de freiner le développement de l'IA et d'essayer de résoudre la question de son alignement avec "nos valeurs", OpenAI cherche à accélérer les capacités de l'IA autant que possible, en reléguant selon lui au second plan et avec insincérité les efforts sur la sécurité, comme dit Sam Altman, CEO d'OpenAI, "ma philosophie a toujours été de scaler autant que possible et de voir ce qui se passe"
  • Eliezer Yudkowsky conclut que les labos les plus en pointe sur l'IA, ivres de leur pouvoirs démiurgiques naissants et en pleine concurrence, nous emmènent tout droit vers la catastrophe, tandis que les politiques, dépassés, n'ont pas saisi  le caractère existentiel du risque. La cause est perdue à ses yeux.
  • Il explique qu'une super IA sera très vite si supérieure à nous dans tous les domaines cognitifs que nous ne pourrons pas anticiper ce qu'elle fera.
  • Une telle IA ni ne nous aimera ni ne nous détestera, mais nous sera indifférente, comme nous pouvons l'être vis à vis des fourmis. Car encore une fois nous n'avons aucune idée quant à comment la programmer pour être "gentille", en quelques mots :
    • soit car on est trop spécifique dans nos règles, et la super IA trouvera une faille, car il est impossible pour nous de prévoir tous les cas de figures
    • soit parce qu'on serait trop général, nos règles seraient alors sujettes à une interprétation trop large
  • Et au-delà, encore une fois, impossible de prévoir comment se comportera une super IA plus douée que nous à tous les niveaux, impossible a priori de savoir ce qu'elle ferait de nos règles
  • Eliezer Yudkowsky explique qu'une telle IA trouvera sans doute très vite un bien meilleur usage à faire des atomes nous constituant, bref, nous serons tous éliminés, c'est le scénario dont il est persuadé.
  • Eliezer Yudkowsky est apparu plus résigné que jamais dans ce podcast, et l'émotion était palpable, ambiance.
  • Eliezer Yudkowsky est reconnu, il connaît bien son sujet, on ne peut s'empêcher de penser en l'écoutant qu'il décrit là un futur possible, mais que faire ? Pendant ce temps-là, les sommes investies dans l'IA explosent...
  • Ezra Klein du New York Times sur ce sujet récemment :
    • In a 2022 survey, A.I. experts were asked, “What probability do you put on human inability to control future advanced A.I. systems causing human extinction or similarly permanent and severe disempowerment of the human species?” The median reply was 10%.
    • I find that hard to fathom, even though I have spoken to many who put that probability even higher. Would you work on a technology you thought had a 10 percent chance of wiping out humanity?
    • I often ask them the same question: If you think calamity so possible, why do this at all? Different people have different things to say, but after a few pushes, I find they often answer from something that sounds like the A.I.’s perspective. Many — not all, but enough that I feel comfortable in this characterization — feel that they have a responsibility to usher this new form of intelligence into the world.  

Podcast assez long, j'ai bien détaillé le minutage, n'hésitez pas à picorer les passages dans l'ordre que vous voulez :) Pierre Bellanger : "C'est peut-être la première fois que je fais un podcast."  

• 00:00:35 : comment Pierre Bellanger est passé d'un diplôme en biologie au lancement d'une des première radios libres en passant par l'écologie militante
• (une anecdote parmi d'autres à 00:10:00 : cela a supposé à un moment de ramener des émetteurs d'Italie, payé avec son salaire d'agent hospitalier en psychiatrie)
• 00:16:00 : 1980, création à 21 ans de la radio libre Radio Cité Future en association avec le quotidien Le Monde
• 00:20:45 : comment l'interdiction de la publicité va plomber ses premiers débuts (épisode du banquier qui déchire son chéquier) et suivi du rebond en devenant consultant de façon improbable
• 00:24:25 : nouveau projet de radio, La Voix du Lézard, au départ sur l'univers des voyages mais très vite très éclectique (premier diffuseur à la radio en France de la musique New Wave et ensuite le rap, émissions de cul notamment)
• 00:32:50 : envoyer des brigades de clients chez les annonceurs, payer les premiers employés au black par chèque, écrire une lettre au culot au Ministre des Finances Pierre Bérégovoy (qui deviendra ensuite opérateur Skyrock !)
• 00:36:00 : l'inventeur du Sexophone, ou comment Pierre Bellanger est à l'origine des numéros surtaxés, permettant de monétiser le succès des annonces roses
• 00:40:10 : comment profiter des nouvelles vagues technologiques et en détourner les usages, avec toujours l'ambition d'être inclusif
• 00:51:40 : quid du paradoxe entre le nom Skyrock et le positionnement sur les musiques urbaines ? 
• 01:05:40 : l'épisode du Vaxibus Skyrock pour promouvoir la vaccination pendant le COVID dans les quartiers où le taux de vaccination était bas
• 01:10:00 : sur la radio Skyrock PLM (Pour Les Militaires), son rapport à la règle et le "faire nation"
• 01:20:25 : comment Skyrock embrasse la "verticale francophone" (80% des francophones, 240 millions de personnes se trouvent sur deux fuseaux horaires)
• 01:26:50 : le temps passé à écouter la radio a-t-il baissé depuis l'essor du web mobile et l'explosion de la consommation asynchrone de contenus ? Quel avenir pour la radio face à des acteurs comme Spotify, Deezer ?
• 01:42:40 : comment Skyrock choisit les artistes à diffuser aujourd'hui vs avant
• 01:48:50 : la genèse de la nouvelle aventure de Pierre Bellanger, la messagerie privée peer-to-peer Skred (les messages ne sont stockés sur aucun serveur) qui repose sur une techno développée par des chercheurs de l'INRIA
• 02:22:50 : Pierre Bellanger est à l'origine de l'adoption en France du dispositif Alerte Enlèvement, il nous raconte sa démarche
• 02:26:00 : son opinion sur les Etats-Unis et les excès, la vitalité de ce pays où il a étudié en 1975-76
• 02:30:50 : Pierre Bellanger revient sur un épisode singulier de sa carrière, le lancement de M-Radio, la première radio privée en URSS en 1989

    La bande-son : Artistes et morceaux cités dans le podcast

• Le groupe Carte de Séjour de Rachid Taha
• Eurythmics, Annie Lennox, Dave Stewart - Sweet Dreams (Are Made Of This) (Official Video)
• Passi - Le maton me guette
• Stomy Bugsy
• Bigflo & Oli
• Damso
• Van Halen - Jump (le premier morceau que Pierre Bellanger a diffusé sur la première radio privée qu'il a lancée en URSS)

Citations

• En parlant de Skyrock : "Je n'ai jamais voulu être une clef USB de chanteurs morts !"
• En parlant du virage vers le rap : "On s'ennuit dans les années 90 avec Skyrock car le rock ne nous amuse plus, ne nous excite plus !"
• "J'ai toujours voulu avoir une vision galactique et on me demandait par exemple une autorisation d'émettre à Bourg-en-Bresse"
• "J'ai toujours cru que j'étais original, mais en regardant les photos rétrospéctivement, je ressemble aux autres et ne suis à chaque fois que le fruit de mon époque"
• "Beaucoup des autres radios sont des radios rétroviseurs, nous sommes une radio pare-brise"
• En reprenant le philosophe et théoricien de la communication américain Paul Watzlawick : « Je comprends ce que j'ai dit quand on me répond »
• "Aujourd'hui sur Skyrock vous avez plus d'artistes du Nigéria qui sont diffusés que d'artistes américains !"
• "Quand on écoute la même chose que 300,000 *personnes en même temps, il se passe quelque chose."
• "La radio, une écoute intime et partagée. Une présence sonore au présent."
• "Sur les 20 titres les plus écoutés en nouveauté en France sur Spotify, 19 sont du rap, et le premier, les Enfoirés !"
• "Qui peut le plus peut difficilement le moins en radio."
• "Au XXème siècle, la liberté d'expression, c'était parler à tous, au XXIème, c'est choisir qui écoute !"
• En parlant des messageries qu'il a lancées, jusqu'à la dernière Skred : "Il faut distinguer l'idée des moyens et du moment, ne sacrifions pas une idée au prétexte que ce n'était pas le moment ou qu'on n'a pas essayé avec les bons moyens"
• "Il y a deux sortes de développeurs : ceux qui sont payés très cher pour faire ce qu'on leur demande, et ceux qui le sont beaucoup moins pour faire ce qu'ils veulent, l'INRIA est dans ce dernier cas" (INRIA, Institut national de recherche en sciences et technologies du numérique, dont des chercheurs ont développé la techno peer-to-peer utilisée pour la messagerie Skred)
• "Le serveur de Skred pourrait tenir sur un iphone" (les messages échangés sur Skred ne transitent pas par ses serveurs, principe du peer-to-peer)
• La formule attribuée au Cardinal de Richelieu : "Qu’on me donne six lignes écrites de la main du plus honnête homme, j’y trouverai de quoi le faire pendre."
• "Il ne faut pas dire les GAFAM, mais "MA GAF", car c'est notre erreur de ne pas avoir sur créer de tels géants"

  Abordés dans le podcast

• Skyrock PLM : la radio qui parle aux militaires : le communiqué de presse du Ministère des Armées ; le lien vers la radio
• Skyrock PLM - La Capsule : "La Capsule" est une vidéo quotidienne, optimisée pour les smartphones, qui reprend l’Info militaire de Skyrock PLM, illustrée avec les images d’actualité transmises par le service Communication de l’État-major des armées. "La Capsule" informe et valorise l’esprit de défense en moins de 3 minutes.
• La notion de Gegenwart en allemand pour illustrer la force de la radio face aux plateformes de streaming : le sentiment de présence maintenant au présent
• Le ministère des Solidarités et de la Santé et Skyrock annoncent la tournée du Vaxibus « Ça va ? Ça vax ! » (Santé.gouv ; Libération)
• Skred est la première appli de messagerie sécurisée en liberté

-Lien vers le site, l'appli sur l'App Store, et sur Google Play

-Pas besoin d’adresse email ou de numéro de téléphone pour l’utiliser.

- Skred permet de communiquer par message, voix et vidéo.

- Skred permet d’échanger tous types de fichiers (texte, image, son, musique, vidéo, logiciel).

- Les échanges sont chiffrés de bout en bout de mobile à mobile. Ils ne sont stockés sur aucun serveur. Les technologies de chiffrement sont open source.

- Classée par le magazine The Verge dans le top 7 des messageries mondiales les plus sûres

• Plus de détail sur le cursus de Pierre Bellanger : https://pierrebellanger.com/cursus/

  À propos de l'éditeur du podcast Thomas Jestin :

• Ma newsletter Parlons Futur : une fois par semaine au plus, une sélection de news, mêlant sources anglophones et francophones, résumées en bullet points sur des sujets tech, science, éco, géopolitique et défense  pour mieux appréhender le futur.
• La liste de mes plus de 50 essais à ce jour dont certains publiés dans le Journal du Net, Les Echos (ici), l'Express.
• Me retrouver sur Twitter : twitter.com/thomasjestin
• Suivez le podcast Parlons Futur pour recevoir les prochains entretiens, voici celui avec Jacques Attali par exemple
• Plus d'infos sur moi
• Me contacter : parlonsfutur@substack.com

Disclaimer : je n'ai reçu aucune rémunération pour recevoir Pierre Bellanger sur le podcast Parlons Futur et parler de son parcours et de ses activités

Pourquoi la Chine est-elle menacée d'effondrement? Pourquoi la Chine ne pourra pas dominer le monde comme l'a fait les Etats-Unis depuis la fin de la guerre froide, et pourquoi même les Etats-Unis n'en ont plus les moyens. Quelques éléments de réponse dans ce résumé du chapitre 2 du livre de Peter Zeihan

Ne rêvons pas, il va être très difficile de décarboner significativement notre monde avant très longtemps. Pensez au shipping, l'aviation, la chaleur industrielle, la gestion de l'intermittence intersaisonnière des énergies renouvelables...

Mais tout n'est pas perdu : au rythme où les prix de l'énergie solaire photovoltaïque baissent, dès l'année prochaine dans les endroits les plus propices, et bientôt presque partout, il sera possible, avec la machine de Terraform Industries, de produire du méthane de synthèse grâce au CO2 de l'atmopshère à un coût plus bas que le méthane fossile. Ce e-méthane a des émissions nettes nulles et est donc neutre pour notre atmopshère !

Il ne s'agit là rien de moins qu'une révolution profonde dans l'activité humaine, en gestation, dont très peu ont déjà conscience. C'est la solution qu'on attendait pour assurer notre transition énergétique sans avoir à choisir entre pauvreté et sobriété.

Dans ce podcast, je m'entretiens avec Lucie Nurdin, l'ingénieure chimiste en chef de l'équipe. Lucie va tout nous raconter ! Bienvenue aux avant-postes de la lutte contre le réchauffement climatique. Vous l'aurez entendue ici en premier :)

 

Au programme :

• 00:00:30 : le parcours de Lucie à l'ENS Ulm, le PhD à l'université de Calgary, les études postdoc à Caltech et l'intérêt au départ pour les carburants alternatifs
• 00:04:20 : la prise de conscience de l'impasse à court et moyen terme des carburants azotés comme l'ammoniac
• 00:07:40 : pourquoi Lucie visait l'ENS et ensuite après le PhD Caltech et pas une autre université
• 00:10:00 : pourquoi tout miser sur l'hydrogène est une impasse également
• 00:14:40 : pourquoi faire du méthane avec de l'électricité solaire photovoltaïque ? pourquoi ne pas distribuer et consommer directement cette électricité propre ?
• 00:19:20 : pourquoi l'humanité va continuer à utiliser les énergies hydrocarbures pendant encore très longtemps, d'où l'opportunité de les synthétiser avec l'eau et le CO2 de l'atmopshère (émissions nettes nulles) plutôt que de les extraire du sol (émissions positives)
• 00:22:20 : la chute vertigineuse du coût de l'électricité solaire photovoltaïque qui va bientôt permettre de produire du méthane de synthèse neutre en carbone à un prix compétitif face au gaz fossile !
• 00:25:20 : le genèse de Terraform Industries et le background du fondateur Casey Handmer
• 00:28:05 : comment fonctionne leur machine Mark One qui entre en production en 2024, expliqué à un enfant de 5 ans
• 00:31:30 : la martingale gagnante de Terraform Industries : intégrer des systèmes rodés utilisant des matériaux bon marché pour avoir une machine la moins chère possible, qui pourra être rentabilisée très rapidement
• 00:38:20 : la vision du fondateur pour faire scaler les opérations au plus vite, penser aux machines, mais aussi aux machines qui cosntruisent les machienes
• 00:39:10 : l'approche " from first principles" à la Musk du fondateur Casey Handmer
• 00:40:20 : le lien entre ces technologies et l'exploration humaine de Mars
• 00:42:50 : comme la loi de Moore à permis à Bill Gates de faire Microsoft, comme la chute du coût des batteries électriques ont rendu Tesla possible, la chute du coût de l'électricité solaire photovoltaïque va permettre la révolution portée par Terraform Industeries : remplacer les énergies fossiles par des hydrocarbures de synthèse utilisant le CO2 de l'atmosphère
• 00:44:07 :  les 3 réponses à l'objection des fuites de méthane
• 00:51:00 : le facteur limitant numéro 1 pour Terraform Industries et pourquoi on a de la marge
• 00:55:30 : ce qui va aider : tous les métaux et le verre peuvent être recyclés; et comment on peut faire du kérosène pour les avions et d'autres hydrocarbures à partir du méthane
• 00:59:28 : le trop grand coût pour encore longtemps de capturer et stocker le carbone comme moyen de dépolluer l'atmosphère : à défaut de pouvoir financer facilement des émissions négatives, il faut au moins viser des émissions nettes nulles, ce que permet la synthèse de méthane grâce au CO2 de l'atmopshère
• 01:02:25 : qu'est-ce que ce serait le succès dans 10 ans pour terraform Industries ?
• 01:05:45 : la réalité d'un monde où il n'y a pas assez d'énergie bon marché pour se chauffer par exemple, la difficulté à déployer des pompes à chaleur assez rapidement
• 01:07:30 : quid de la concurrence ?
• 01:10:00 : quid du bio-méthane ?
• 01:11:43 : comment aider Terraform Industries ? quels profils vont être recrutés ?
• 01:13:24 : le profil particulier du fondateur Casey Handmer
• 01:14:50 : le "château" de Terraform industries en Californie est ouvert aux visites !
• 01:15:50 : 10 ans de réflexion sur les énergies renouvelables ont amené Lucie là où elle est aujourd'hui, dans l'équipe de Terraform Industries

Infos utiles :

• Leur site : https://terraformindustries.com/
• Leur premier produit qui entre en production l'année prochaine : https://terraformindustries.wordpress.com/2023/06/26/the-terraformer-mark-one/
• Leur dernier livre blanc (janvier 2023) : https://terraformindustries.wordpress.com/2023/01/09/terraform-industries-whitepaper-2-0/
• Le blog du fondateur Casey Handmer avec des articles passionnant sur l'énergie et l'exploration spatiale : https://caseyhandmer.wordpress.com/
• Leur compte twitter/x : https://twitter.com/TerraformIndies
• Le compte twitter/x de Lucie Nurdin : https://twitter.com/lucie_nurdin
• Le compte twitter du fondateur Casey Handmer : https://twitter.com/CJHandmer
• Mon article qui détaille leur projet : N’en déplaise à Jean-Marc Jancovici, l’abondance énergétique neutre en carbone dès 2050, c’est possible !

À propos de l'éditeur du podcast Thomas Jestin :

• Ma newsletter Parlons Futur : une fois par semaine au plus, une sélection de news, mêlant sources anglophones et francophones, résumées en bullet points sur des sujets tech 🤖, science 🔬, éco 💰, géopolitique 🌏 et défense ⚔️ pour mieux appréhender le futur 🔮.
• La liste de mes plus de 50 essais à ce jour dont certains publiés dans le Journal du Net, Les Echos (ici), l'Express.
• Me retrouver sur Twitter : twitter.com/thomasjestin
• Suivez le podcast Parlons Futur pour recevoir les prochains entretiens, voici celui avec Jacques Attali par exemple
• Plus d'infos sur moi
• Me contacter : parlonsfutur@substack.com

Nouveau format dans lequel Agathe interroge Thomas, cofondateur de Yelda, sur certaines news qu'il a partagées dans le dernier numéro de la newsletter Parlons Futur 🚀"The best computer interface I’ve ever used" ; Musk Vs LeCun Twitter fight ; IA pour draguer, faire la guerre & more

Au menu :

1. GPT-4o : qu'en retenir
2. 00:11:20 : GPT-4 peut faire quasiment tous les devoirs de jeunes : qu'est-ce qu'on dit aux parents, aux professeurs ?
3. 00:25:20 : Expérience Tinder : une IA a discuté avec une trentaine de femmes pendant 24h, elles n'ont pas vu la différence.

Vous abonner à Parlons Futur : https://www.parlonsfutur.com/

Agathe Rocher : https://www.linkedin.com/in/agatherocher/

Thomas Jestin : https://www.linkedin.com/in/thomasjestin/

Yelda, l'IA vocale de la relation client : https://www.yelda.fr/

 

Dans ce podcast je pase en revue et commente les articles suivants :

• 00min00s : Inside China's Vast New Experiment in Social Ranking (14 déc 2017, Wired, article de 6000 mots)
• 12min47s : The Business of Artificial Intelligence (2017, Harvard Business Review, article de 5000 mots)
• 39min00s : These People Never Existed. They Were Made by an AI. (30 oct 2017, futurism.com)
• 41min16s : Nvidia’s new AI creates disturbingly convincing fake videos (5 déc 2017, thenextweb.com)
• 42min35s : These Creepy Mini-Brains May Finally Crack Deadly Brain Cancer (12 déc 2017, singularityhub.com)
• 47min43s : Une recherche suggère que ce n'est pas la conscience qui dirige l'esprit humain (27 nov 2017, trustmyscience.com)
• 53min23s : AI Can Now Produce Better Art Than Humans. Here’s How. (8 juil 2017, futurism.com)
• 1h01min13s : New robots can see into their future (4 déc 2017, news.berkeley.edu)
• 1h05min26s : Google’s New AI Is Better at Creating AI Than the Company’s Engineers (19 mai 2017, futurism.com)

2autres articles que je n'ai pas eu le temps de présenter mais que j'ai par ailleurs raccourcis sur la page dédiée à ce podcast :

• Computers are starting to reason like humans (14 juin 2017, www.sciencemag.org)
• AI's Implications for Productivity, Wages, and Employment (20 nov 2017, pcmag.com)

Je liste aussi ici les derniers articles que j'ai pu écrire dans la presse:

• 5 approximations de Laurent Alexandre face au Parlement Européen (Journal du Net, déc 2017)
• Réactions à l'article "The impossibility of intelligence explosion" (nov 2017)
• Comment nous discuterons demain : télépathie, changement de voix, et autres bizarreries (Journal du Net, nov 2017)
• Réponse à Jacques Attali qui se demande si l'IA peut rivaliser avec l'intelligence humaine et jouer les artistes (oct 2017), JA qui m'a d'ailleurs répondu sur Twitter : "Tres intéressante réponse, parlons en?"

Voici enfin le lien vers la page sur le site www.ParlonsFutur.com où pour chaque article ci-dessus je ne garde que les phrases clefs au format bullet point.

Vous trouverez aussi sur cette même page une sélection de mes derniers tweets.

 

  Meilleurs extraits de l'article de The Economist Conserve elephants. They hold a scientific mirror up to humans    

Elephants, about as unrelated to human beings as any mammal can be, seem nevertheless to have evolved intelligence, and possibly even consciousness. Though they may not be alone in this (similar claims are made for certain whales, social carnivores and a few birds), they are certainly part of a small and select group. Losing even one example of how intelligence comes about and makes its living in the wild would not only be a shame in its own right, it would also diminish the ability of biologists of the future to understand the process, and thus how it happened to human beings.

  Dr Wittemyer argues that, human beings aside, no species on Earth has a more complex society than that of elephants. And elephant society does indeed have parallels with the way humans lived before the invention of agriculture.   The nuclei of their social arrangements are groups of four or five females and their young that are led by a matriarch who is mother, grandmother, great-grandmother, sister or aunt to most of them. Though males depart their natal group when maturity beckons at the age of 12, females usually remain in it throughout their lives.   Families are part of wider “kinship” groups that come together and separate as the fancy takes them. Families commune with each other in this way about 10% of the time. On top of this, each kinship group is part of what Dr Douglas-Hamilton, a Scot, calls a clan. Clans tend to gather in the dry season, when the amount of habitat capable of supporting elephants is restricted. Within a clan, relations are generally friendly. All clan members are known to one another and, since a clan will usually have at least 100 adult members, and may have twice that, this means an adult (an adult female, at least) can recognise and have meaningful social relations with that many other individuals.   A figure of between 100 and 200 acquaintances is similar to the number of people with whom a human being can maintain a meaningful social relationship—a value known as Dunbar’s number, after Robin Dunbar, the psychologist who proposed it. Dunbar’s number for people is about 150. It is probably no coincidence that this reflects the maximum size of the human clans of those who make their living by hunting and gathering, and who spend most of their lives in smaller groups of relatives, separated from other clan members, scouring the landscape for food.   Dealing with so many peers, and remembering details of such large ranges, means elephants require enormous memories. Details of how their brains work are, beyond matters of basic anatomy, rather sketchy. But one thing which is known is that they have big hippocampuses. These structures, one in each cerebral hemisphere, are involved in the formation of long-term memories. Compared with the size of its brain, an elephant’s hippocampuses are about 40% larger than those of a human being, suggesting that the old proverb about an elephant never forgetting may have a grain of truth in it.   In the field, the value of the memories thus stored increases with age. Matriarchs, usually the oldest elephant in a family group, know a lot. The studies in Amboseli and Samburu have shown that, in times of trouble such as a local drought, this knowledge permits them to lead their groups to other, richer pastures visited in the past. Though not actively taught (at least, as far as is known) such geographical information is passed down the generations by experience. Indeed, elephant biologists believe the ability of the young to benefit by and learn from the wisdom of the old is one of the most important reasons for the existence of groups—another thing elephants share with people.   Nor is it only in their social arrangements that elephants show signs of parallel evolution with humans. They also seem to have a capacity for solving problems by thinking about them in abstract terms. This is hard to demonstrate in the wild, for any evidence is necessarily anecdotal. But experiments conducted on domesticated Asian elephants (easier to deal with than African ones) show that they can use novel objects as tools to obtain out-of-reach food without trial and error beforehand. This is a trick some other species, such as great apes, can manage, but which most animals find impossible.   Wild elephants engage in one type of behaviour in particular that leaves many observers unable to resist drawing human parallels. This is their reaction to their dead. Elephant corpses are centres of attraction for living elephants. They will visit them repeatedly, sniffing them with their trunks and rumbling as they do so (see picture overleaf). This is a species-specific response; elephants show no interest in the dead of any other type of animal. And they also react to elephant bones, as well as bodies, as Dr Wittemyer has demonstrated. Prompted by the anecdotes of others, and his own observations that an elephant faced with such bones will often respond by scattering them, he laid out fields of bones in the bush. Wild elephants, he found, can distinguish their conspecifics’ skeletal remains from those of other species. And they do, indeed, pick them up and fling them into the bush.    

00 min 56 sec : présentation du parcours de Jacques Attalli (JA)

01 min 56 sec : présentation de son oeuvre écrite

03 min 55 sec : comment JA définit l'intelligence artificielle (IA)

04 min 11 sec : comment définissez-vous l'intelligence humaine ?

09 min 36 sec : faut-il découpler intelligence et conscience ? peut-on imaginer des machines intelligentes qui ne seraient pas conscientes ?

11 min 35 sec :pourquoi l'IA n'est qu'une "technique sommaire et utile de prédiction, étape assez passagère avant l'avènement de sciences et technologies infiniment plus prometteuses", et constitue en fait "un appauvrissement majeur de la réflexion intellectuelle" selon JA

14 min 28 sec : l'IA va-t-elle renforcer l'emprise des GAFA sur le monde ?

15 min 05 sec : "l'IA jouera un rôle encore plus importants dans les pays totalitaires voire dans la mise en place de systèmes totalitaires dans les pays démocratiques car.."

16 min 02 sec : "l'IA sera d'abord une technologie chinoise parce que..."

18 min 06 sec : L'IA induira-t-elle un chômage de masse ?

22 min 01 sec :  Sachant que l'IA sera bientôt en mesure de comprendre nos émotions et de les simuler à la perfection, les métiers reposant sur le rapport humain sont-ils donc vraiment à l'abri ?

23 min 55 sec : aux Etats-Unis, de plus en plus de jeunes choisissent délibérément de se retirer du marché du travail pour mieux profiter d'une offre de loisirs numériques toujours plus vaste, qualititative et meilleure marché voire gratuite, que pensez-vous de cette tendance ?

27 min 12 sec : que faire face aux nouvelles addictions comme les jeux vidéos et les réseaux sociaux ?

30 min 22 sec : croyez-vous à la théorie de la Singularité ? "Monsieur Kurzweil m'a toujours paru comme un gentil naïf manquant infiniment de culture"

Kishore Mahbubani, ancien ambassadeur de Singapour à L'ONU, vient de publier un livre remarquable : Has China Won?: The Chinese Challenge to American Primacy

Il y apporte une perspective qui dérange, différente de ce qu'on a l'habitude d'entendre en Europe et aux Etats-Unis.

Voici ce qu'il faut retenir de l'introduction de ce nouveau livre.

 

à suivre : récap de chacun des chapitre

Découvrez les 3 piliers de la domination de monde par les Britanniques à leur époque, et en quoi la Chine est bien loin de pouvoir marcher dans leurs pas!

Nicolas Colin is the co-founder of The Family, a company that helps European startups scale. He's also the author of Hedge: A Greater Safety Net for the Entrepreneurial Age   [full transcript of the Q&A can be found here]   Q&A between Nicolas Colin (twitter.com/Nicolas_Colin) & Thomas Jestin (twitter.com/thomasjestin) in Singapore, March 2019

• 00:00 : intro : who's Nicolas Colin, his background, why he's in Singapore for a few days
• 2min 40sec :  tell us what The Family is
• 7m 35s : can you comment on some of the points of The Family's manifesto ?
• 8m 28s : how The Family was born from the idea that we're now in the Entrepreneurial Age (and not so much the information age), derived from that foundational article The Entrepreneurial age by Babak Nivi, cofounder of AngelList
• 11m 00s : what is an entrepreneur ?
• 13m 50s : The Family has the ambition to become the new Berkshire Hathaway (as detailed here), by providing capital and unfair advantages to entrepreneurs, what about these unfair advantages ? (less and less about these, more about capital and relationships with VCs, access to VCs, help raise fast and on good terms, they have a white list of VCs)
• 16m 50s : explain why you don't believe in gathering startups together under the same roof, like in the case of France at Station F
• 20m 52s : why don't you believe in mentors for European startups ?
• 24m 30s : can you say a word about some of the startups you're helping that are representative of your portfolio ? (special mention about Heetch, a French VTC app, see more here)
• 29m 00s : how Nicolas Colin was sued himself by the CEO of the leading taxi company in Paris
• 30m 50s : tell us a bit about how you used growth hacking yourself at The Family
• 36m 38s : about ramen-entrepreneurs and cockroach-entrepreneurs
• 38m 15s : quick intro of the book Hedge: A Greater Safety Net for the Entrepreneurial Age
• 39m 40s : about the Tech Backlash that started in the US a few years ago, as the genesis for the book
• 42m 55s : the argument of the book : we have to reinvent the Great Safety Net
• 44m 05s : what the first Great Safety Net was about (see the illustration on that article with full transcript of the Q&A)
• 46m 45s : why the Great Safety Net doesn't work anymore
• 48m 42s : please define your concept of "the multitude" (or the "networked individual"), different in your mind from the masses and the people
• 53m 33s : why our age is not so much the age of data, but the Entrepreneurial Age
• 55m 52s : how now power lies outside of companies, not inside anymore
• 56m 55s : tell us about your definition of a tech company (clue : telco are not tech companies) (see image in the article with transcript of the Q&A)
• 1h 00m 07s : what about that Great Safety Net 2.0 (see image in the article)
• 1h 02m 35s : tell us about your concept of hunters vs settlers (see image in the article)
• 1h 09m 40s : the particular case of Singapore that wants to attract hunters but at the same time prevent its own people from becoming hunters themselves and leaving Singapore
• 1h 11m 55s : please elaborate on that idea of "exit unions", as a cog in your Great Safety Net 2.0
• 1h 16m 58s : why entrepreneurs will be the ones bringing about that Greater Safety Net, and not the state : the example of Lambda school
• 1h 18m 11s : examples of start-ups from The Family's portfolio helping bring about the Greater Safety Net (www.side.co)
• 1h 19m 20s : why do you think the Universal Basic Income is such a bad idea ?
• 1h 22m 56s : about BREXIT, Boris Johnson said that the UK can become the new Singapore, is it going to happen ? is BREXIT affecting your work ? (mention of How Asia Works, by Joe Studwell)
• 1h 25m 34s : why GDPR doesn't work

Questions from the public

• 1h 28m 20s : apart from market size and homogeneity and the fact that European governments don't understand startups, why don't we have European Googles or Facebooks ? (clue : we have too good a life in Europe)
• 1h 32m 48s : are Alibaba and Tencent tech companies based on your definition ?
• 1h 34m 26s : you talked a lot about consumer-based businesses, what about the future of enterprise businesses (businesses targeting businesses) in your opinion ?
• 1h 37m 12s : do you think that the networked individual system works or already works in China ? does it have potential in Africa in the future as well ?
• 1h 39m 55s : what are your expectations from the ideal investor ? (in short : swift response, good terms, support when in trouble)
• 1h 42m 01s : what are you looking for when assessing an early-stage startup to help and invest in ?  (in short : intensity)

[full transcript of the Q&A can be found here]

Interview happened with the help of the French Tech Singapore and the ENGIE factory in March 2019

Dans ce podcast, j'ai souhaité réagir à l'émission C Dans L'Air du 15 décembre 2017 "Trump veut la lune" dans laquelle les experts sont allégrement passés à côté de plusieurs sujets clefs, j'y réponds ici :

• Quelles sont les 5 raisons avancées pour justifier l'exploration/conquête/colonisation de Mars ?
• Pourquoi il ne faut en fait pas envoyer l'Homme sur Mars ?
• Pourquoi il est intéressant de retourner sur la lune ?
• Pourquoi la lune et ses environs représentent un enjeu militaire stratégique majeur pour les nations ?

Dans ce podcast, je reprends certains des éléments détaillés sur mon site Pourquoi Elon Musk ne doit pas envoyer l'Homme sur Mars, et en version courte dans une tribune parue dans l'Express Pourquoi Elon Musk ne doit pas envoyer l'Homme sur Mars, article mis en une du journal et repartagé plus de 900 fois. J'ai aussi écrit un livre du même nom disponible sur Amazon.

Pour être prévenu(e) de mes futurs podcast traitant du progrès technologique et de son impact sur l'aventure humaine, touchant à tout de l'IA à la conquête spatiale en passant par les biotechnologies et les robots, vous pouvez vous abonner à la newsletter en laissant votre adresse email sur http://www.parlonsfutur.com/.

 

 

Résumé ci-dessous issu de cet épisode de ma newsletter ParlonsFutur

• Il faut noter que la main robotique elle-même en tant que hardware existe depuis 15 ans, utilisée par de nombreux labos pour leurs expériences

• l'algorithme lui-même qui permet de savoir quelles faces tourner dans quel sens et dans quel l'ordre, bref l'algo qui permet de résoudre le Rubik's cube, existe depuis 17 ans, un algo codé à la main, et non découvert par apprentissage par la machine, ce n'est pas ce dont il est question ici.

• De nombreux robots parviennent à résoudre le Rubik's cube, plus vite même que celui d'OpenAI ici (par ex, “a machine developed by MIT solved a cube in less than 0.4 seconds”)

• Mais aucun robot main humanoïde de ce type y était parvenu (pour un robot avec 24 degrés de liberté dans les mouvement, contre 7 en général pour un bras robot de base), c'est la dextérité du robot main qui est ici révolutionnaire, et la façon dont l'apprentissage s'est fait

• ici la nouveauté est que le logiciel derrière la main a appris de lui-même comment le faire, via un "apprentissage par renforcement", c'est-à-dire en sachant quel est l'objectif à atteindre, et en se faisant récompenser ou pénaliser plus il se rapproche ou s'éloigne de l'objectif

• “Human hands let us solve a wide variety of tasks. For the past 60 years of robotics, hard tasks which humans accomplish with their fixed pair of hands have required designing a custom robot for each task. As an alternative, people have spent many decades trying to use general-purpose robotic hardware, but with limited success due to their high degrees of freedom. In particular, the hardware we use here is not new—the robot hand we use has been around for the last 15 years—but the software approach is.”

• l'autre révolution est que le robot n'a pas eu besoin de tout apprendre dans le monde réel, mais dans une simulation virtuelle, ce qui accélère l'apprentissage puisqu'on peut accélerer le temps dans les simulations et en tenir de très nombreuses en parallèle !

  • OpenAI put it through thousands of years of training in simulation before trying the physical cube solve.

  • But this only takes a few days because we can parallelize the training.

  • You also don’t have to worry about the robots breaking or hurting someone as you’re training these algorithms,”

• "we developed a new method called Automatic Domain Randomization (ADR), which endlessly generates progressively more difficult environments in simulation. This frees us from having an accurate model of the real world, and enables the transfer of neural networks learned in simulation to be applied to the real world”

• ADR starts with one environment, wherein a neural network learns to solve Rubik’s Cube. As the neural network gets better at the task and reaches a performance threshold, the amount of domain randomization is increased automatically. This makes the task harder, since the neural network must now learn to generalize to more randomized environments.

• One of the parameters we randomize is the size of the Rubik’s Cube. ADR begins with a fixed size of the Rubik’s Cube and gradually increases the randomization range as training progresses. We apply the same technique to all other parameters, such as the mass of the cube, the friction of the robot fingers, and the visual surface materials of the hand. The neural network thus has to learn to solve the Rubik’s Cube under all of those increasingly more difficult conditions. ADR exposes the network to an endless variety of randomized simulations

• not only did they change how much gravity there is in the simulation—they changed which way gravity points.

• We find that our system trained with ADR is surprisingly robust to perturbations even though we never trained with them: The robot can successfully perform most flips and face rotations under all tested perturbations, though not at peak performance.

• The system can handle situations it never saw during training (comme être embêté par une girafe en peluche, voir vidéo, ou avoir des doigts attachés, etc.) This shows that reinforcement learning isn’t just a tool for virtual tasks, but can solve physical-world problems requiring unprecedented dexterity.

• Our robot still hasn’t perfected its technique though, as it solves the Rubik’s Cube 60% of the time (and only 20% of the time for a maximally difficult scramble).

• Un pas vers une IA (et des robots) capable de généraliser ??

  • We believe that meta-learning, or learning to learn, is an important prerequisite for building general-purpose systems, since it enables them to quickly adapt to changing conditions in their environments. The hypothesis behind our methodology ADR is that a memory-augmented networks combined with a sufficiently randomized environment leads to emergent meta-learning, where the network implements a learning algorithm that allows itself to rapidly adapt its behavior to the environment it is deployed in.

  • "We believe that human-level dexterity is on the path towards building general-purpose robots"

• Un pas vers l'explicabilité ? (et la fin du syndrome boîte noire absolue?)

  •  Ils ont développé un moyen de visualiser ce qu'il se passe dans la mémoire de l'algo, en temps réel

  •  "We find that each memory group has a semantically meaningful behavior associated with it. For example, we can tell by looking at only the dominant group of the network’s memory if it is about to spin the cube or rotate the top clockwise before it happens."

  • Visualizing our networks enables us to understand what they are storing in memory.

  • For example, we can tell by looking at only the dominant group of the network’s memory if it is about to spin the cube or rotate the top clockwise before it happens

• Voir une vidéo du robot résolvant un cube, non éditée, vitesse réelle!

• Voir la vidéo de présentation des travaux avec toutes les perturbations originales surmontées et non-rencontrées au préalable pendant l'apprentissage

• Voir l'article sur le site d'OpenAI, avec plein de vidéos sympas