« Désolé d’avoir tué la majeure partie de l’humanité avec une casquette souriante et une moustache », a déclaré un moniteur accueillant les visiteurs du « Misalignment Museum », une nouvelle exposition sur la technologie controversée.

Les découpes de ce spectacle temporaire mêlent le dérangeant au comique, et ce premier spectacle a une IA fournissant des observations concises aux visiteurs traversant sa ligne de mire.

« Le concept de ce musée est que nous sommes dans un monde post-apocalyptique où l’intelligence artificielle générale a détruit la majeure partie de l’humanité », a déclaré Audrey Kim, commissaire de l’événement.

« Mais ensuite, l’IA a réalisé que c’était mauvais et a créé une sorte d’avertissement pour les humains, donc le slogan de notre émission était » désolé d’avoir tué la majeure partie de l’humanité «  », a-t-il déclaré.

L’Intelligence Générale Artificielle est un concept encore plus nébuleux que la simple IA qui s’infiltre dans la vie de tous les jours, comme en témoigne l’émergence rapide d’applications comme ChatGPT ou le chatbot de Bing et tout le battage médiatique qui les entoure.

L’IAG est « l’intelligence artificielle capable de faire tout ce que les humains peuvent faire », intégrant les capacités cognitives humaines dans les machines.

Autour de San Francisco, et dans toute la péninsule de la Silicon Valley, les startups sont sur la piste du Saint Graal d’AGI.

Sam Altman, le créateur fondateur de ChatGPT OpenAI, dit qu’AGI, lorsqu’elle est bien faite, peut « amplifier l’humanité » et changer les « frontières du possible ».

trombone IA

Mais Kim veut déclencher des réflexions sur les dangers d’aller trop loin, trop tôt.

« Il y a eu beaucoup de discussions sur la sécurité de l’IA parmi les intellectuels de la technologie, c’est un créneau assez important sur Twitter et je pense que c’est vraiment important », a-t-il déclaré.

Mais ces conversations ne sont pas aussi facilement accessibles au grand public que les concepts que vous pouvez voir ou ressentir, a-t-il ajouté.

Kim aime beaucoup une sculpture appelée « Paperclip Embrace »: deux figures humaines s’embrassant, entièrement faites de trombones.

L’œuvre s’appuie sur une métaphore du philosophe Nick Bostrom, qui dans les années 2000 a imaginé ce qui se passerait si une intelligence artificielle était programmée pour fabriquer des trombones.

« Il peut devenir de plus en plus puissant, et continue de s’optimiser pour atteindre son seul but, jusqu’à ce qu’il détruise toute l’humanité pour submerger le monde de trombones », a déclaré Kim.

Peser le pour et le contre de l’IA est un sujet qui tient à cœur à Kim dans son travail précédent chez Cruise, une entreprise de véhicules autonomes.

Là, il a travaillé sur une technologie « extraordinaire », qui « pourrait réduire le nombre d’accidents dus à une erreur humaine », mais qui présente également des risques, a-t-il déclaré.

L’exposition occupe un petit espace dans un immeuble d’angle de rue du quartier branché de Mission à San Francisco.

L’étage inférieur de l’exposition est dédié à l’IA en tant que dystopie cauchemardesque dans laquelle une machine alimentée par GPT-3, le modèle de langage derrière ChatGPT, rend la calligraphie maléfique contre l’humanité, en écriture cursive.

L’une des expositions est un dialogue généré par l’IA – et complètement truqué – entre le philosophe Slavoj Zizek et le cinéaste Werner Herzog, deux des intellectuels les plus respectés d’Europe.

Cette « Conversation sans frontières » est une méditation sur les mensonges profonds : des images, des sons ou des vidéos qui visent à manipuler l’opinion en se faisant passer pour de vraies personnes et qui sont devenues la nouvelle arme de désinformation en ligne.

« Nous n’avons commencé ce projet qu’il y a cinq mois, mais bon nombre des technologies présentées ici semblent déjà presque primitives », a déclaré Kim, étonné.

Il espère transformer l’exposition en une exposition permanente avec plus d’espace et plus d’événements.