Des intelligences artificielles ont créé un langage pour communiquer entre elles

Google a mis au point des réseaux neuronaux qui arrivent à générer eux-mêmes des nouveaux moyens de crypter les messages qu'ils s'envoient. Comme des intelligences artificielles, ces réseaux, ont la capacité d'évoluer.

Voilà qui ne devrait pas rassurer Stephen Hakwing, qui a déjà expliqué plusieurs fois craindre le danger représenté par les intelligences artificielles. Martin Abadi et David Andersen, deux chercheurs de Google Brain, ont mené une étude sur des réseaux neuronaux, ces algorithmes au fonctionnement inspiré des réseaux neuronaux biologiques et utilisés pour créer des intelligences artificielles.  

De manière autonome, ces réseaux neuronaux ont développé un moyen de créer leur propre système d'encryptage, rendant leurs messages incompréhensibles par un tiers. 

Bob et Alice ont exclu Eve

Ces trois réseaux étaient appelés Bob, Eve et Alice. Alice devait envoyer un message secret, codé, à destination de Bob. Ce dernier devait arriver à le déchiffrer et Eve tentait d'intercepter et comprendre les messages. Au début de l'expérience, Eve arrivait à déchiffrer 8 des 16 bits que comportait le message envoyé par Alice. Bob n'arrivait pas à faire beaucoup mieux.  

Bob et Alice ont alors fait preuve de capacité d'adaptation, une caractéristique de l'intelligence artificielle. Alice a développé son propre système d'encryptage, que Bob a été en mesure de déchiffrer. Au bout de 15 000 essais, il "lisait" l'ensemble des 16 bits que du message, alors qu'Eve n'en comprenait toujours qu'un sur deux. 

Après 15 000 essais, Bob a déchiffré tous les bits qui composent le message. Martin Abadi, David G. Andersen (Google Brain)

Bob et Alice ont "échappé" au contrôle des chercheurs

Sans qu'ils n'aient été programmés pour cela, Bob et Alice ont donc évolué, et ont "échappé" au contrôle des chercheurs. Car comme l'explique le magazine scientifique britannique New Scientist, ces derniers ne sont d'ailleurs pas arrivés à déchiffrer la clé utilisée par ces réseaux pour coder leurs messages. Un exploit d'autant plus impressionnant car les réseaux neuronaux n'ont pas été conçus pour être particulièrement performants en matière de déchiffrage, rappelle le Daily Mail.  

Et comme l'a expliqué au New Scientist Joe Sturonas, de le compagnie PKWare, spécialisée dans la protection des données: "Cela ne fait que depuis quelques années que nous sommes capables de faire des calculs de cette échelle avec des réseaux neuronaux. Nous n'en sommes qu'au début". Stephen Hawking n'a pas fini de s'inquiéter.