Her incipit : on cybernetics, love letters, and simulation

In the opening scene of the movie Her, the main character is reading a love letter addressed to a « Chris ».

Actor Joaquin Phoenix playing Theodore in the opening scene of the movie Her by Spike Jonze (2013)

« Chris » was the name of Alan Turing childhood friend (and first love), Christopher Morcom, whose great intelligence and premature death is said to have inspired Turing in his later researches on artificial intelligence.

Alan Turing (left) and Christopher Morcom (right)
Alan Turing (left) and Christopher Morcom (right)

In the movie The Imitation Game, Turing baptises his code breaking machine « Christopher » after him, which is n ot a historical fact (it was called the Bombe) but is a good way to show how Turing was attached to the memory of his teenage love.

In the 50s, Turing worked with another « Chris », Christopher Strachey, who wrote a program that is considered as one the first text generators and digital work of art. This program had the peculiarity – like Theodore in Spike Jonze film – of writing love letters.  As a prank, Strachey and Turing would print the love messages and pin them around the lab (you can try the program here).

A love letter generated by Strachey’s program

Both Strachey and Turing being gay, we can interpret the fact that Theodore addresses the letter to « Chris » (instead of « Christopher ») as a trick to create an ambiguity on the gender of the recipient. Ambiguity that is also cast upon the sender when the moustached Theodore writes that he feels « like the little girl I was when you first turned on the light ».

her
Theodore’s computer screen during the opening scene of the movie Her (2013)

At that moment we see Theodore’s screen and understand that he is dictating the letter and playing the role of « Loretta ». He is a man playing the role of a woman, like in the original imitation game from the Victorian Era, which inspired Turing when conceiving his famous test.

In this test, both a computer and a man pretend to be a woman – answering questions via telex to a board of examiners. The examiners aren’t assessing if the computer can simulate a human, but if it can simulate a man simulating a woman.

Much has already been said on what Turing meant by intelligence, gender (being a woman is per se a simulation?) and so on. In the movie Her, the point is more to what extent is every relationship (partly or fully) a simulation?

Along the movie, the characters repeatedly pretend to be someone else to meet others (real or imagined) expectactions : they pretend to commit, to cheer up, to take pleasure… “I think you always wanted me to be this happy, bouncy, everything’s fine L.A. wife and that’s just not me” Says Theodore’s future ex-wife in a central scene of the movie (right in the middle) – when they meet to sign the divorce papers.

At the end of his blind date with Olivia Wilde, she asks him to pretend that he won’t leave her in the morning like the other guys. Simulation is what seems to be necessary to start and maintain a relationship, but it is also what breaks it – when the characters get fed up of pretending, of making an effort for the other.

This relation to simulation is epitomized by the fake love letters that Theodore writes as a daily job. These letters seem to be part of the cement that glue lifelong relationships. Theodore’s client seem to know him very well – and therefore to know that the letters they address to each other are simulations, written by a californian hipster.

At regular intervals, the movie shows Theodore composing these letters, until the crucial moment where they are returned to him in the shape of a book compiled by Samantha (as a tribute to his talent). After this long series of fake love letters, the concomitant events of receiving the book and being abandoned by Samantha lead him to write his first sincere love letter – to his former wife Catharine – in a scene symmetrical with the opening one that ends the movie.

His love story with Samantha (the best « simulating » partner, able to  bend to his desires) and his daily job as a writer of fake love letters lead him through an initiation about illusion which culminates in the illumination of the final scene – in what I would call a cheesy understanding of zen buddhism.

Zen buddhism is figured in the movie by the character of Alan Watts – a real Californian philosopher who died in 1973 but that the OSes  resurrect just before they reach what seem to be a form of singularity.

Alan Watts
Alan Watts

Alan Watts was fascinated by a lecture of D.T.  Suzuki – a japanese popularizer of zen buddhims – and became a popularizer of the writings of the popularizer. One could say that Spike Jonze, by popularizing Alan Watts’ view on zen, is popularizing the popularizer of the popularizer… Admiration didn’t go in both directions : D.T. Suzuki is said to have criticized Watts understanding of his writing, and maybe Alan Watts would have criticized Jonze’s own understanding.

suzuki

To read more about love letters and cybernetics see :

Love Machine and the Tinder Bot Bildungsroman

A Queer History of Computing

 

Computer program “AlphaGo” defeats a human professional player at the game of Go

Google DeepMind announced yesterday that the program « AlphaGo » managed to defeat the European Champion at the game of Go.

Demis Hassabis, the Google engineer who makes the announce starts by saying that « games are a kind of microcosmos of the outside world », which tends to make us believe that only computational progress would be needed to go from mastering the microcosmos to mastering the outside world – there would be no qualitative difference, only a difference of scale.

He follows on saying that « another way of viewing the complexity of Go is the number of possible configurations of the board is more than the number of atoms in the universe ».

Indeed, the problem seems linked with the number of atoms in the universe. With a game of Go, we take only the board into account, and we leave aside what happens around. With a « game of the outside world », we would need to take everything into account.

That make us wonder (as Kurzweil does): what if we could take the universe as a game of Go, what if we had the computing power to take into account all the atoms of the universe and assess all their resulting combinations?

Quentin Meillassoux, in his conference Temps et surgissement ex nihilo (in French) discusses the possibility of calculating probabilities at the scale of the universe.

Comparing the set of possible universes a suite of transfinite numbers (according to the definition of Cantor), he infers that the set of possible universes is not a countable totality – which makes impossible any calculation of probability on it:

« Or nous savons, nous qui venons après la révolution cantorienne de l’ensemblisme, que rien ne nous permet d’affirmer de la sorte que le concevable est nécessairement totalisable. L’événement Cantor est la détotalisation du nombre, détotalisation dont l’autre nom est transfini.

Qu’est-ce que le transfini? La pluralisation incloturable des quantités infinies. L’ensemble B des parties d’un ensemble A est toujours plus grand que A. A fut-il infini.

[…]

La force du théorème cantorien c’est d’avoir généralisé ce débordement d’un nombre d’éléments par le nombre de ses regroupements. Chaque fois que vous avez un ensemble, comptez ses parties, vous obtenez, et vous êtes assurés de l’existence d’un ensemble qui aura plus d’éléments que ce premier ensemble, parce qu’il sera composé des parties, des regroupements possibles du premier ensemble. On peut donc construire une suite illimitée, non pas simplement d’ensembles finis, mais d’ensembles infinis, car la théorie des ensembles pose l’existence d’un premier infini, et à partir de ce premier infini, et à l’aide notamment du théorème de Cantor, nous pouvons construire une succession de nombres de cardinaux transfinis, car cette succession d’infinis plus grand les uns que les autres on les appelle les nombres cardinaux transfinis, ou suite des alephs. Et cette successsion n’admet aucun achèvement, aucun bouclage, il n’y a pas d’ensemble ultime, il n’y a pas d’ensemble de tous les ensembles, c’est à dire que c’est une succession d’infinités, plus grande les unes que les autres, qui n’admet pas de recollection ultime. Il n’y a pas d’ensemble tout.

Ce qui est énoncé comme impensable c’est l’ensemble du concevable. Si on admet que le concevable est ce qui est logiquement et mathématiquement concevable et non pas donné dans l’expérience, eh bien le concevable n’est pas totalisable. Et l’inférence probabiliste n’est pas légitime. »

More about DeepMind breakthrough here

Listen to the conference « Temps et surgissement ex nihilo » here

 

The Policeman’s Beard Is Half Constructed

The Policeman’s Beard Is Half Constructed is a novel wrote in 1983 by Racter, a computer program made by William Chamberlain and Thomas Etter.

« Wrote » might be an exaggerated word as the text wasn’t generated but computed using templating.

MobyGames reviewed its code:

« Racter strings together words according to « syntax directives », and the illusion of coherence is increased by repeated re-use of text variables. This gives the appearance that Racter can actually have a conversation with the user that makes some sense, unlike Eliza, which just spits back what you type at it. Of course, such a program has not been written to perfection yet, but Racter comes somewhat close.

Since some of the syntactical mistakes that Racter tends to make cannot be avoided, the decision was made to market the game in a humorous vein, which the marketing department at Mindscape dubbed « tongue-in-chip software » and « artificial insanity ». Not a true « AI » by any stretch of the word, but a unique program that is well worth a look as an indication of where the field of artificial intelligence was heading in 1984.

According to the Racter FAQ, co-designer William Chamberlain even released a book called « The Policeman’s Beard is Half Constructed » (Warner Books, NY. 0-446-38051-2, paper $9.95) before the release of the program, the authorship of which he attributed solely to Racter. »

You can read the novel on Ubu or talk to Racter.

A conversation with Racter
A conversation with Racter

The Gentle Seduction

The Gentle Seduction by Marc Stiegler is a novelist take on singularity.  Headbands, nanobots, rejuvenation, immortality and all the ingredients of the myth created by Vernor Vinge are introduced step by step in the life of the main character.

Each technological breakthrough brings up question and worries, until she tries it herself (« And then, it just didn’t seem to matter) and is « gently seduced ».

You can read the whole novel here.

Book cover
Book cover

 

Comment avoir une idée: Le dingue et l’événement

Extrait de la conférence de Quentin Meillassoux – La décision et l’indécidable dans l’Etre et l’événement I et II,  24 novembre 2006,  ENS

La description en particulier des méthodes de travail de Mack Sennett, pionnier on le sait du burlesque américain, en passe très précisément par l’ensemble des catégories badiousiennes de la vérité […]

Le site [événementiel] on va l’identifier à ces réunions de travail de gagmen en vue de décider généralement dans l’improvisation la plus totale les trames de films à tourner pour le lendemain, voir pour le jour même. Comment se passaient ces réunions et comment donnaient-elles lieu à des idées nouvelles? Je cite Agee [Agee, James, « Comedy’s Greatest Era, » in Life (New York), 5 September 1949] :

“Sennett payait un dingue pour participer à ces conférences de gag, un dingue dont le seul travail consistait à cogiter des dingueries. D’habitude c’était un demeuré, presque incapable de s’exprimer pour communiquer ses idées. Mais il possédait une imagination dénuée de toute inhibition, il restait parfois sans rien dire, pendant une heure, puis il marmonnait: “Faut prendre”. Les autres participants, des êtres relativement rationnels, la bouclaient alors, et attendaient la suite. “Faut prendre ce nuage”, articulait-il en dessinant des formes vagues devant lui. Souvent, il n’allait pas plus loin. Mais grâce à quelques processus télépathiques, des hommes moins cinglés que le dingue de service, se penchaient sur cette idée de nuage et en tiraient quelque chose.”

Ce dingue semble avoir fonctionné comme le subconscient du groupe, la source de toute son énergie créatrice. Ce qui est fascinant dans cette description c’est qu’elle nous donne à voir un art en train de naître à lui-même, le cinéma, en tant que sa vérité est partie liée avec les temps modernes, jusqu’au film éponyme de Chaplin, et certainement né à lui-même quand il s’est séparé du théatre, s’est voulu l’art même de l’industrialisation effrénée du XXè siècle, art de la vitesse, de la poursuite, de la catastrophe, dont Agee nous montre qu’il a eu pour condition non seulement le travail collectif, essentiellement collectif, de gagmen talentueux. Mais au sein de ce site événementiel, qu’il avait aussi pour condition la présence au milieu d’eux d’une sorte de point de fuite indéterminé, le bafouillement d’un dingue dessinant un semblant de nuage informe face à une assistance médusée se demandant s’il y avait là quelque chose de génial – à quoi il fallait à toute force être fidèle – ou un simple borborygme, bafouillé par un imbécile, et illustré par un gribouillage incertain. Ce sont là évidemment toutes les caractéristiques de l’évènement indécidable. Et il n’est pas jusqu’à l’anonymat de l’événement, son caractère sans nom, impossible à inscrire dans les classifications du savoir, qui n’ait été vérifié par Sennett. Puisqu’Agee écrit du dingue en question, notre dingue événementiel,

“ses idées étaient si saugrenues et informes que Sennett ne se rappelle plus aucun de ses collaborateurs, ni même ce que devenaient leurs trouvailles après leur élaboration rationnelle”.

Superbe exemple d’autoabolition de l’événement, une fois sa fulgurance produite, qui à l’exemple du poème mallarméen A la nuit accablante nous place dans l’incertitude quant à savoir si l’événement à seulement eu lieu. Si le dingue avait un nom, avait dit quelque chose, avait seulement existé. Alors à quoi pouvait ressembler les idées produites par les fidélités de gagmen semi-profesionnels au dessin informe d’un tel anonyme imbécile et splendide? A une vérité bien sûr, mais qu’est-ce qu’une vérité – pour Badiou? Un multiple générique. C’est à dire un multiple qui a pour caractéristique d’être fait d’un peu de tout, et cela selon des connexions aberrantes pour les savoirs constitués.

Work and Automation: A Day in The Life of A Kiva Robot

Amazon warehouses are automated to a large extent, thanks to a little robot named Kiva.

Interestingly enough, running the warehouses still requires human workers . Their work conditions have been known as strenuous and have been subject to much controversy and stories. Which may be the reason why Amazon is trying to automate even more of the process.

Project Cyborg

« Probably the most famous piece of research undertaken by Warwick (and the origin of the nickname, « Captain Cyborg », given to him by The Register) is the set of experiments known as Project Cyborg, in which he had an array implanted into his arm, with the aim of « becoming a cyborg« .

The first stage of this research, which began on 24 August 1998, involved a simple RFID transmitter being implanted beneath Warwick’s skin, which was used to control doors, lights, heaters, and other computer-controlled devices based on his proximity. The main purpose of this experiment was said to be to test the limits of what the body would accept, and how easy it would be to receive a meaningful signal from the chip.

The second stage involved a more complex neural interface which was designed and built especially for the experiment by Dr. Mark Gasson and his team at the University of Reading. This device consisted of a BrainGate electrode array, connected to an external « gauntlet » that housed supporting electronics. It was implanted on 14 March 2002, in the Radcliffe Infirmary and was interfaced directly into Warwick’s nervous system. The electrode array inserted contained 100 electrodes, of which 25 could be accessed at any one time, whereas the median nerve which it monitored carries many times that number of signals. The experiment proved successful, and the signal produced was detailed enough that a robot arm developed by Warwick’s colleague, Dr Peter Kyberd, was able to mimic the actions of Warwick’s own arm.

By means of the implant, Warwick’s nervous system was connected onto the internet in Columbia University, New York. From there he was able to control the robot arm in the University of Reading and to obtain feedback from sensors in the finger tips. He also successfully connected ultrasonic sensors on a baseball cap and experienced a form of extra sensory input.

A highly publicised extension to the experiment, in which a simpler array was implanted into the arm of Warwick’s wife—with the ultimate aim of one day creating a form of telepathy or empathy using the Internet to communicate the signal from afar—was also successful in-so-far as it resulted in the first direct and purely electronic communication between the nervous systems of two humans.[46] Finally, the effect of the implant on Warwick’s hand function was measured using the University of Southampton Hand Assessment Procedure (SHAP).[47] It was feared that directly interfacing with the nervous system might cause some form of damage or interference, but no measurable effect nor rejection was found. Indeed, nerve tissue was seen to grow around the electrode array, enclosing the sensor. »

Quoted from Wikipedia:

Poem: All Watched Over By Machines Of Loving Grace

Poem by Richard Brautigan

 

I like to think (and
the sooner the better!)
of a cybernetic meadow
where mammals and computers
live together in mutually
programming harmony
like pure water
touching clear sky.

I like to think
(right now, please!)
of a cybernetic forest
filled with pines and electronics
where deer stroll peacefully
past computers
as if they were flowers
with spinning blossoms.

I like to think
(it has to be!)
of a cybernetic ecology
where we are free of our labors
and joined back to nature,
returned to our mammal
brothers and sisters,
and all watched over
by machines of loving grace.

Lecture: Mathématiques et utopie dans Nous autres de Zamiatine

Zamiatine
Zamiatine

Zamiatine est un révolutionnaire russe devenu dissident de l’Union Soviétique. En 1920 il publie Nous autres, le journal de D-503, ingénieur mathématicien d’un monde situé mille an après nous, en charge de la conception et de la réalisation de l’Intégrale, engin spatial destiné à être propulsé dans l’espace vers d’autres planètes et d’autres civilisations, dont il est supposé qu’elles ont mille ans de retard. Le journal de D-503 doit être mis à bord de l’Intégrale, comme message de cette civilisation avancée.

Le monde que décrit D-503 est entièrement organisé par un emploi du temps supposé parfait – la Table des horaires – que chaque citoyen doit afficher au dessus de son lit et honorer comme étant l’achèvement ultime de la rationalité et l’organisation parfaite de la collectivité. La table des horaires est le sommet de l’esthétique de cette civilisation – sommet égalé seulement par les horaires de chemin de fer. Elle règle les journées des citoyens – coucher, lever, travail – le rythme de leur vie sexuelle, et une heure et demie de temps libre quotidien.

Nous tous, et peut-être vous aussi, avons lu, étant enfants, à l’école, le plus grand de tous les monuments littéraires anciens parvenus jusqu’à nous: l’”Indicateur des Chemins de Fer”. Mettez le à côté des Tables et vous aurez le graphite et le diamant. Tous deux sont constitués de la même matière, de carbone, mais comme le diamant est transparent et éternel ! Comme il brille ! Quel est celui qui ne perd la respiration en parcourant les pages de l’”Indicateur” ? Eh bien, les Tables des Heures, elles, ont fait de chacun de nous un héros épique à six roues d’acier. Tous les matins, avec une exactitude de machines, à la même heure et à la même minute, nous, des millions à la fois, nous commençons notre travail et le finissons avec le même ensemble. Fondus en un seul corps aux millions de mains, nous portons la cuiller à la bouche à la seconde fixée par les Tables; tous, au même instant, nous allons nous promener, nous nous rendons à l’auditorium, à la salle des exercices de Taylor, nous nous abandonnons au sommeil…”

Mais D-503 fait la rencontre de I-330, qui le séduit et l’amène à déroger au sacro-saint emploi du temps en se faisant porter pâle grâce à un médecin complice de I-330. On découvre au fur et à mesure que I-330 est au centre d’un réseau d’opposition qui cherche à mettre fin à cette société trop réglée.

I entraîne D-503 dans une tentative échouée de révolution dont la pièce maîtresse est le détournement de l’Intégrale. Le pouvoir réagit en forçant tous les citoyens à subir une opération d’ablation de l’imagination.

Mais ce n’est pas de votre faute, vous êtes malades.

Votre maladie, c’est l’imagination.

C’est un ver qui creuse des rides noires sur vos fronts. C’est une fièvre qui vous oblige à courir plus loin, bien que ce “plus loin” commence où finit le bonheur. C’est la dernière barricade sur le chemin du bonheur.

Réjouissez-vous, elle est vaincue !

Le chemin est libre !

Le dernier pas que vient de faire la Science Nationale consiste dans la découverte du centre de l’imagination.

Une triple application des rayons X sur ce centre vous guérira à jamais.”

D-503 cède à cet appel après avoir réalisé que I-330 l’a manipulé et séduit à cause de son accès privilégié à l’engin spatial. Une fois opéré, il dénonce I-330 et assiste sans broncher à sa torture et son exécution.

Quelques remarques:

– La société de Nous autres est un espace clos, entourés de murs qui permettent de séparer les citoyens de la nature, qui ignorent jusqu’à son existence. On retrouve l’idée qu’il faut un espace clos pour qu’une existence entièrement planifiée soit possible. Dans Ex Machina, la cloture du centre de recherche est un élément crucial du projet d’intelligence artificielle. L’ouverture du monde semble interdire le recensement des possibilités et nourrit la paranoïa du créateur du système parfait.

– Les notes du journal de D-503 montrent un personnage clivé qui alterne sans continuité entre deux modes idiots. D-503 écrit toujours au premier degré, et nous sert soit le discours logique de la propagande de la société parfaite de la table des horaires, soit la description factuelle de sa soumission complète à I-330. Dès qu’il s’agit d’opinion, on entend le discours “rationnel” de l’unanimité, auquel vient s’opposer sa poursuite de I-330 et ses déclarations d’allégeance.

– Le basculement de l’un a l’autre se fait sans jamais apprendre. Comme si D-503 vivait hors du temps et se trouvait incapable de voir l’incohérence croissante entre son discours “unanimiste” et son comportement, de plus en plus révolutionnaire. Dès que I-330 n’est plus là, D-503 produit un discours-machine de propagande, et dès qu’elle revient, il lui cède tout entier. On pourrait penser que I-330 déclencherait chez lui une certaine émancipation par initiation, mais il n’en est rien. On s’y attend à vrai dire, et on est décu, ce qui est cohérent avec le pessismisme final mais produit une vision étrange de la pensée du personnage: une pensée où le temps n’existe pas.

– on pourrait croire – à la lecture de l’éloge des mathématiques fait au début – que Zamiatine trace une opposition entre d’une part la politique-machine dont les mathématiques et leur précision sont l’exemple et le guide, et d’autre part la politique-devenir dont la femme et l’amour sont le symbole. Mais les mathématiques se font aussi l’agent du devenir, en particulier via le rôle de la racine carrée de moins 1 – le nombre imaginaire – qui revient dans les cauchemars du personnage comme ce qui dépasse son entendement.

Je me rappelle avoir pleuré, les coudes sur la table, et hurlé: “Je ne veux pas de la racine de moins un, enlevez-là.” Cette racine imaginaire se développa en moi comme un parasite. Elle me rongeait, et il n’y avait pas moyen de m’en débarasser.

La voilà revenue aujourd’hui. J’ai parcouru mes notes et je me suis aperçu que j’ai voulu ruser, que je me suis menti à moi-même pour ne pas la voir.”

Aussi quand l’Etat décide d’opérer tous ses citoyens pour leur enlever l’imagination cela revient à faire chez eux l’ablation de cette partie, compatible avec les mathématiques, qui désobéit. Il n’y a donc pas d’opposition entre les mathématiques et l’imaginaire mais une frontière au sein des mathématiques entre ce que l’on peut saisir et ce qui échappe.

Zamiatine, Nous autres, Gallimard 1971

 

 

PhD student blog – Artifial intelligence and intuition