Artificial Intelligence appears to be the new issue of interest according to the attention it is receiving in the media.
L'Intelligence Artificielle (IA) apparaît comme le nouveau centre d'intérêt majeur, à voir l'attention qui lui est portée dans les médias
voir le français ci-dessous
… I'm afraid that AI will spell the end of what we know is true.
… The technology that is currently being developed, whilst making a positive contribution to society, in the long-run, it is doing more harm than good. On both sides, we won't know what is true and already there are things on the Internet that many of which are fake or influenced by artificial intelligence that destroys the social discourse.
AI will result in a large number of jobs being lost. ~ Nate Hagens..
In May, Hagens conducted a 3-hour interview with Daniel Schmachtenberger1 on the AI topic which I have finally completed listening to this week. Here is a summary of insights that I have deduced.
Schmachtenberger knows his subject very well - some parts of the interview stretched me beyond my level of intelligence.
AI is a development that spans many spheres from medicine, technology used in military research, economics, agriculture, education along with a host of other fields each with their own unique purpose to bring improvement to their field of science and to speed up processes.
In the interview Schmachtenberger spends a considerable amount of time laying a foundation so as to enable the hearers of the interview to be able to evaluate the value and potential uses of AI - the benefits and potential risks. Specifically, he lays a foundation looking at Intelligence and Wisdom.
He considers this to be of vital importance as this relatively new form of science becomes increasingly used in society. AI has the potential to improve our well-being along with the potential to do great harm.
I found his presentation of the importance of Wisdom to be extremely enlightening.
"Chesterton's Fence"
It is a principle that says change should not be made until the reasoning behind the current state of affairs is understood. It says the rash move, upon coming across a fence, would be to tear it down without understanding why it was put up. Are there proponents of AI who may be deliberately ignoring the "fence" or just unaware of the reason why it was placed there in the first place?
Now here's where I'm coming to Chesterton's fence and then I want to hear.
There is a dialectic between a traditional impulse and a progressive impulse. The traditional impulse basically says, I think there were a lot of wise people for a long time wise and smart people who thought about some of these things more deeply than I have who fought and argued.
The progress intuition is, collective intelligence is advancing, built on all that we have known. We're discovering new things and we're we're moving into new problem sets where the previous solutions could not possibly be the right solutions because we have new problems. We need to have fundamentally new thinking. Obviously, these are both true. Now on the traditional side, the Chesterton's fence thing is I might have as a kid, or you might have as a kid thrown out the Sabbath and said, that's dumb.
Dealing with unforeseen consequences.
For simplicity's sake, there are two camps of researchers and developers of AI -
So, there is a perverse incentive in general for those who are more focused on opportunity than risk.
… the risks are getting larger as the technology gets larger and the cumulative effects are increasing. So now we're at a place where the cumulative effects of industrial tech on the environment are reaching critical tipping points of planetary boundaries, and the exponential tech is getting to a place where it's capacity, the destructive capacities are so huge.
We think in "parts" I think this relates to an interest we have in the way the brain functions, thus affecting our thinking and behavior.
Our short-term optimization ends up affecting even the timescales we care about.
So it can think about benefiting something separate from others and either it can then care about some parts more than others so it's okay harming the other things or it just doesn't even realize it is. So whether it is separation of care and values or separation of just calculation.
And so I can benefit myself at the expense of somebody else. I can benefit my in-group at the expense of an out-group.
Again, here we have an example of understanding the importance Intelligence and Wisdom.
Towards the end of the interview he sees the importance of Intelligence being subservient to Wisdom.
The use of AI will ultimately have a detrimental impact on the state of world in that it will actually feed the superorganism that is pushing us towards extinction. This does not mean that it should - or even could (now)
be abandoned using AI, rather we will have to live with the fact that some proponents and users will deliberately ignore the risks or unwittingly initiate damage, whereas others will advance its use and value for the benefit of humanity and the planet in general. Intelligence and wisdom.
1Daniel Schmachtenberger is a founding member of The Consilience Project, aimed at improving public sense-making and dialogue.
The through-line of his interests has to do with ways of improving the health and development of individuals and society, with a virtuous relationship between the two as a goal.
Towards these ends, he's had particular interest in the topics of catastrophic and existential risk, civilization and institutional decay and collapse as well as progress, collective action problems, social organization theories, and the relevant domains in philosophy and science.
Coup d'œil sur l'Intelligence Artificielle
L'Intelligence Artificielle (IA) apparaît comme le nouveau centre d'intérêt majeur, à voir l'attention qui lui est portée dans les médias
« (…) Je crains que l'IA signe la fin de ce que nous reconnaissons comme vrai.
« (…) La technologie que l'on est en train de développer, tout en apportant une contribution positive à la société, fera sur le long terme plus de mal que de bien.
Des deux côtés, nous ne saurons pas ce qui est vrai. Et il y a déjà des choses sur Internet dont beaucoup sont des faux, ou sont sous l'influence d'une intelligence artificielle qui détruit le discours social.
L'IA va provoquer la perte d'un grand nombre d'emplois. » Nate Hagens
En mai dernier, Nate Hagens a eu un entretien de trois heures avec Daniel Schmachtenberger (1) à propos de l'IA, et je viens de finir de l'écouter cette semaine. Voici un résumé des perspectives que j'en ai tiré.
Schmachtenberger connaît très bien son sujet – certaines parties de l'entretien m'ont tiré bien au-delà de mon niveau de compréhension.
L'IA est un projet qui s'applique à de multiples sphères différentes, médecine, technologie utilisée dans la recherche militaire, économie, agriculture, éducation, jusqu'à une multitude d'autres domaines, avec un unique objectif : apporter des améliorations dans leur champ scientifique et accélérer leurs processus.
Dans cet entretien Schmachtenberger consacre une part considérable de son temps à poser les fondements qui permettent à ses auditeurs d'évaluer la valeur de l'IA, et ses usages potentiels – ses bénéfices et ses risques. De manière spécifique, il pose un principe en examinant ce qui touche à l'intelligence et la Sagesse.
Il considère cela comme étant d'une importance vitale au moment où cette forme de science relativement nouvelle est de plus en plus utilisée dans la société. L'IA a le potentiel d'améliorer notre bien-être aussi bien que celui de lui causer de graves dommages.
J'ai trouvé extrêmement éclairante cette présentation de l'importance de la Sagesse.
« La barrière de Chesterton »
Il y a un principe, appelé « barrière de Chesterton », selon lequel aucun changement ne devrait être effectué avant que ne soit comprise la logique qui sous-tend l'état présent (2). Il dit que le geste irréfléchi, lorsque l'on rencontre une barrière, est de la renverser sans comprendre pourquoi elle a été disposée en cet endroit. N'y a-t-il pas des promoteurs de l'IA qui ignoreraient délibérément la « barrière » ? Ou qui seraient juste inconscients des raisons pour lesquelles elle a d'abord été placée ?
Maintenant, c'est là que j'en viens à la barrière de Chesterton et à ce qu'elle me fait entendre.
Il y a dialectique entre une pulsion traditionnelle et une pulsion progressiste. La pulsion traditionnelle dit, fondamentalement : « Je pense qu'il y a eu un grand nombre de personnes avisées, sur une large étendue de temps, des personnes intelligentes et avisées qui ont réfléchi à ces choses de manière plus profonde que moi, et qui ont combattu et argumenté à leur propos. »
L'intuition progressiste est que l'intelligence collective avance, et qu'elle se construit sur la base de tout ce que nous avons appris. Nous découvrons de nouvelles choses et nous nous dirigeons vers de nouveaux ensembles de problèmes, face auxquels les solutions antérieures peuvent peut-être ne pas convenir, car il s'agit de problèmes nouveaux. Il nous faut, fondamentalement, une nouvelle manière de penser. De manière évidente, ces deux attitudes sont vraies. Maintenant, du côté de la tradition, la pointe de la barrière de Chesterton, c'est que j'ai peut-être, étant enfant, rejeté le sabbat, ou vous, quand vous étiez enfant, en disant, c'est stupide.
Gérer les conséquences non prévues.
Par souci de simplicité, distinguons deux camps parmi les chercheurs et les développeurs en IA.
1- Ceux qui sont davantage centrés sur les possibilités qu'ouvre une nouvelle technologie. Elle va faire toutes ces choses étonnantes, bla bla bla. Et ils vont se précipiter pour aller plus vite, en ne se souciant que de cela.
Il y a des incitations financières à prendre des risques.
2- Ceux qui prennent les risques au sérieux font leurs analyses et déclarent : « Il n'y a aucun moyen réel d'avancer que cela est effectivement un bien », ou bien : « Il existe des moyens sûrs de le faire ».
Ainsi, il y a en général une incitation perverse qui va dans le sens de ceux qui insistent sur les possibles, au détriment de la prise en considération du risque.
Les risques deviennent plus grands à mesure que s'étend la technologie et que s'accroissent les effets cumulatifs. Nous sommes maintenant à un point où les effets cumulatifs de la technologie industrielle sur l'environnement atteignent les points critiques des frontières planétaires, et la technologie en croissance exponentielle parvient à un stade où c'est la capacité qui compte, les capacités destructrices devenant énormes.
Nous pensons « par morceaux »
Je pense que ceci est en rapport avec l'intérêt que nous portons à la manière dont fonctionne le cerveau, affectant par là notre manière de penser et notre comportement.
Notre optimisation à court terme finit par affecter même les échelles de temps dont nous devons nous soucier.
Elle peut nous faire penser aux bénéfices que l'on peut tirer de quelque chose qui nous sépare des autres. Ou bien je m'occupe de certaines parties davantage que d'autres, et ainsi je suis d'accord pour leur faire du mal. Ou bien je ne m'en rends même pas compte. Ainsi, que ce soit la séparation entre l'attention que l'on porte et les valeurs en jeu, ou la séparation par pur calcul.
Ainsi je peux profiter pour moi-même aux dépens de quelqu'un d'autre. Je peux profiter au sein de mon groupe interne aux dépens de ceux qui sont en-dehors de ce groupe.
Là nous avons, à nouveau, un exemple qui montre l'importance de comprendre ensemble Intelligence et Sagesse.
Vers a fin de l'entretien, il fait voir l'importance de poser l'Intelligence en servante de la Sagesse.
L'usage de l'IA, finalement, aura un impact défavorable sur l'état du monde dans la mesure où il nourrit, en fait, le super-organisme qui nous entraîne vers l'extinction. Cela ne veut pas dire qu'il faudrait – et même que l'on pourrait, maintenant – abandonner l'usage de l'IA. Cela veut dire plutôt que nous aurons à vivre avec le fait que certains promoteurs et usagers de l'AI vont délibérément en ignorer les risques et de manière involontaire causer des dommages, alors que d'autres feront progresser son usage au bénéfice de l'humanité et de la planète en général : Intelligence et Sagesse.
-------
(1) Daniel Schmachtenberger est membre fondateur du Projet Consilience, dont le but est d'améliorer la prise de conscience et le dialogue publics. [NDT. Le néologisme « consilience » a été introduit en 1998 par E.O. Wilson dans son livre Consilience : The Unity of Knowledge, (Consilience, l'unité de la connaissance), qui expose les manières dont les différentes sciences peuvent être mises en convergence.]
Sa ligne de recherche principale est de traiter des moyens d'améliorer la santé et le développement personnel des individus et de la société, avec pour but d'établir une relation vertueuse entre les individus et la société
En fonction de ces finalités, il a porté un intérêt particulier aux sujets concernant les risques catastrophiques et existentiels, la décadence et l'effondrement de la civilisation et des institutions aussi bien que leur progrès, les problèmes de l'action collective, les théories de l'organisation de la société, et les domaines qui s'y rapportent en science et en philosophie.
(2) NDT. Ce principe de précaution quant aux changements à effectuer tire son nom du livre du penseur anglais G.K. Chesterton, « The thing : Why I Am a Catholic » (1929). Source : https://themindcollection.com/chestertons-fence/ (en anglais)
When you subscribe to the blog, we will send you an e-mail when there are new updates on the site so you wouldn't miss them.
Comments 1
Very valuable
Be good to tease it out with some examples