Cette recension a été publiée dans le numéro d’hiver 2020-2021 de Politique étrangère (n° 4/2020). Jean-Christophe Noël, chercheur associé au Centre des études de sécurité de l’Ifri, propose une analyse de l’ouvrage de Stuart Russell, Human Compatible: AI and the Problem of Control (Viking Press, 2019, 352 pages).
La principale question posée par Human Compatible est de savoir comment les hommes pourraient garder le contrôle sur une super Intelligence artificielle (IA), c’est-à-dire sur une machine possédant un niveau d’intelligence supérieur aux êtres humains les plus brillants, pour éviter qu’elle ne provoque les pires désastres. L’enquête menée sert également de prétexte pour présenter des réflexions plus générales sur l’Intelligence artificielle.
Stuart Russell est une personnalité reconnue dans le monde de l’IA. Professeur de sciences informatiques à l’université de Berkeley, il a déjà publié Artificial Intelligence: A Modern Approach, qui constitue un des principaux livres de référence sur l’IA, et qui en est à sa quatrième édition depuis sa sortie de 1995.
Dans son nouveau livre, Stuart Russell s’étonne du manque d’intérêt général sur l’émergence possible d’une super IA. Après tout, écrit-il, si nous détections un grand astéroïde dont la trajectoire croiserait celle de la Terre en 2069, nous ne nous demanderions pas s’il serait prématuré de s’en inquiéter. Or l’éclosion d’une super intelligence est envisageable, selon l’auteur, dans des délais qui pourraient être bien plus proches qu’on ne croit. Alors, que faire ?
Pour répondre à cette question, l’auteur décompose son livre en trois parties. Les premiers chapitres décrivent l’histoire de l’IA et proposent quelques réflexions sur son évolution future. Les capacités et les limites des systèmes actuels sont notamment décrites.
La deuxième partie traite des problèmes qui apparaissent dès lors qu’une machine dispose d’une part d’« intelligence ». Le quatrième chapitre est notamment consacré aux risques qui se dessinent avec l’importance toujours plus grande prise par les machines dans des domaines aussi variés que la surveillance, les armes automatisées ou le monde du travail.
La troisième et dernière partie propose des solutions originales pour imaginer un fonctionnement favorable et vertueux d’une super IA pour les hommes. Se fondant sur les principes de l’utilitarisme, Russell affirme que le seul but d’une IA doit être de maximiser la réalisation des préférences humaines. Elle doit cependant ignorer la nature de ces préférences et observer le comportement des hommes pour s’en inspirer et fixer son modèle. La machine dépendra ainsi étroitement des êtres humains pour son fonctionnement.
Ce livre suscite quelques interrogations. Les arguments justifiant l’émergence de la super IA manquent parfois de force. Le problème de la conscience des machines est par ailleurs mis de côté, l’auteur soulignant l’ignorance générale sur ce sujet, puis clôturant brutalement la discussion. Certains pourront enfin préférer privilégier la transparence ou la surveillance des programmes informatiques pour réduire l’autonomie des machines, plutôt qu’une pensée utilitariste, qui peut manquer de convaincre des experts peu sensibles à ses préceptes.
Il n’en reste pas moins que l’ouvrage de Stuart Russell est passionnant. Sa lecture stimulera sans nul doute ses lecteurs, qu’ils évoluent dans le secteur de l’IA ou qu’ils en découvrent seulement les fondements.
Jean-Christophe Noël
Dans une interview accordée le 17 décembre à La Croix, Kirsty Hughes, directrice du Scottish Center on European Relations, revient sur le Brexit et ses conséquences pour le Royaume-Uni, notamment les Écossais. Kirsty Hugues est l’auteure de l’article « Le Brexit et la fragmentation du Royaume », dans le dernier numéro de Politique étrangère (n° 4/2020) qui consacre son dossier principal au Brexit.
La Croix : Avec le Brexit, les tensions entre les différentes composantes du Royaume-Uni s’accentuent. Y a-t-il le risque d’un éclatement ?
Kirsty Hughes : Il y a des tensions constitutionnelles entre les quatre parties du royaume, l’Écosse, l’Irlande du Nord, le pays de Galles et l’Angleterre, ce qui peut paraître étonnant pour un pays qui n’a pas de Constitution écrite. Ces tensions existaient avant le Brexit, depuis le référendum écossais de 2014, même si le vote a donné une majorité de 55 % pour rester dans le Royaume-Uni.
Le camp indépendantiste s’est mis à espérer. Il a toujours eu le soutien des jeunes, et aujourd’hui les deux tiers des personnes de moins de 50 ans soutiennent l’indépendance. Et le fait que Londres et Édimbourg s’étaient mis d’accord, à l’époque, pour ce référendum qui aurait pu mettre fin à l’unité du Royaume-Uni, fut une grande avancée.
Aujourd’hui Boris Johnson refuse un tel référendum. Or, depuis que le pays est sorti de l’UE, 51 à 58 % des Écossais soutiennent l’indépendance. Car beaucoup désapprouvent la gestion de la crise sanitaire par Boris Johnson et son gouvernement. Les Écossais non indépendantistes, comme les conservateurs et les travaillistes, font eux aussi confiance à la première ministre écossaise et cheffe du parti indépendantiste (SNP) Nicola Sturgeon, qui a obtenu 70 % d’approbation, pour sa gestion du Covid-19.
Une réunification de l’Irlande serait-elle aussi imaginable ?
K. H : Qu’une majorité d’Irlandais du Nord et du Sud souhaite la réunification, prévue dans l’accord du Vendredi saint (1998), est possible dans un proche avenir compte tenu du Brexit. Imaginons aussi que l’Écosse organise un référendum dans deux ans et que les indépendantistes l’emportent, cela aura un impact non négligeable sur la politique en Irlande du Nord. Les Irlandais voudront-ils rester dans le Royaume-Uni réduit à l’Angleterre et au pays de Galles ? La question est : quand veut-on organiser un référendum sur la réunification de l’Irlande ?
Le vote favorable au Brexit est-il l’expression d’un nationalisme anglais ?
K. H : Oui, je le crois vraiment. Et si le pays de Galles a lui aussi voté, à une très faible majorité, pour le Brexit, c’est parce que ce sont principalement des Anglais retraités qui y ont voté dans ce sens. En Écosse, 38 % ont voté pour le Brexit ce qui n’est pas massif, et il s’agissait surtout de gens pauvres qui voulaient que les choses changent.
Le Parti conservateur est de plus en plus un parti anglais et gallois. Il n’existe pas en Irlande du Nord, et en Écosse, il représente 20 à 25 % des voix seulement. Ce nationalisme anglais a été encouragé par les divisions internes au sein du parti et par le fait que les eurosceptiques, minoritaires il y a vingt ans, le dominent aujourd’hui. Je me souviens que Malcolm Rifkind, ancien ministre des affaires étrangères conservateur, aujourd’hui à la retraite, évoquait la nécessité d’un Royaume-Uni plus fédéral, mais les gens comme lui sont désormais minoritaires au sein du parti.
Aujourd’hui, les conservateurs écossais ne se sentent-ils pas plus écossais qu’anglais ?
K. H : Le Brexit a divisé les Tories écossais. La plupart de ses politiciens ont fait campagne pour le Remain, y compris Ruth Davidson, qui était alors la cheffe du parti. Une fois que le résultat en faveur du Brexit a été connu, ils auraient pu tenter d’influencer le gouvernement de Londres pour aller vers un soft Brexit ou même pour organiser un second référendum. Mais au lieu de cela, ils se sont alignés sur la première ministre britannique, Theresa May. Aujourd’hui, alors même que Londres a adopté une approche plus agressive envers l’Écosse, on peut voir au cœur d’Édimbourg, un immense drapeau de l’Union Jack planté sur un grand immeuble !
L’Écosse ne fait plus partie de l’Union européenne. Si elle votait pour son indépendance, sa réintégration serait-elle possible ?
K. H : Pour l’heure, l’Union européenne cherche plutôt à bâtir une meilleure relation avec Londres, elle n’est pas favorable à l’éclatement du Royaume-Uni. Sur l’indépendance de l’Écosse, les Européens ne prendront pas position, ils resteront neutres. Mais si la séparation est agréée avec Londres, je pense que l’UE accepterait d’intégrer l’Écosse en tant qu’État indépendant. Car c’est une économie de marché, une démocratie de longue date. Si l’Écosse vote pour son indépendance dans deux ou trois ans, elle pourrait rejoindre l’UE d’ici à 2030. Et si l’Irlande du Nord quitte aussi le Royaume-Uni, l’Angleterre et le pays de Galles vont peut-être enfin vivre dans le monde d’aujourd’hui, au lieu de vivre dans le mythe d’une grandeur passée.
Retrouvez l’interview de Kirsty Hughes ici.
Retrouvez l’article de Kirsty Hughes ici.
Retrouvez le sommaire du numéro d’hiver 2020-2021 de Politique étrangère (n° 4/2020) ici.
Accéder à l’article de Stephen Wall, « La politique étrangère britannique après le Brexit : la géographie, c’est le destin » ici.
Retrouvez le sommaire complet du numéro 4/2020 de Politique étrangère ici.