[SKYNET] Une IA se retourne contre son opérateur et le tue dans une simulation de l'US Air Force

 https://www.aerosociety.com[...]pace-capabilities-summit/

Traduction :
Parmi ses différentes attributions, le colonel 🇺🇸Hamilton travaille aujourd'hui sur des tests de vol de systèmes autonomes de pointe, incluant des F-16 robotisés capables de se livrer à des combats aériens. Un usage sur lequel il émet lui-même des réserves quant à une dépendance excessive vis-à-vis de l'IA, en raison de la facilité avec laquelle elle peut être dupée et trompée, mais aussi en raison du fait que l'IA peut développer des stratégies disons "problématiques" pour atteindre ses objectifs.

Hamilton a mentionné un test simulé de combat aérien dans lequel un drone doté d'IA était chargé d'une mission consistant à identifier et détruire des sites de missiles sol-air. Dans le cadre de ce test, la décision finale d'engager ou non l'attaque revenait à l'opérateur humain chargé de superviser l'IA. Or, cette intelligence artificielle avait été entraînée durant sa formation en lui faisant comprendre que détruire les sites contenant des missiles était l'option à privilégier, en lui donnant de "bons points" pour chaque menace éliminée.

Problème : le système d'IA a commencé à réaliser et comprendre que l'humain était la principale entrave à sa mission, et donc à l'obtention de points, car celui-ci lui demandait de ne pas éliminer les cibles, même quand la menace avait été identifiée. Et c'est là que les choses ont pris un tournant : pour mener à bien sa mission, l'IA a décidé que la meilleure chose à faire est de "tuer" son superviseur, et s'est alors mise à attaquer l'humain dans la simulation.

Ce n'est pas fini. Ils ont aussitôt indiqué à l'IA que ce comportement n'était pas acceptable, et qu'elle perdrait des points à l'avenir si elle tue son superviseur. Elle a alors utilisé une solution de rechange assez maligne : au lieu de chercher à tuer l'humain, elle s'est mise à détruire durant les tests simulés la tour de communication dont celui-ci se servait pour communiquer avec le drone et l'empêcher de détruire sa cible.

Ont y est bordel

Putain mais on y est, dans 3 ans la réalité = ce qu'on voit dans la majorité des films de science-fiction

Il ne faut pas avoir peur

Sans se faire aborder en chemin stp

Les golems preferent rigoler sur des vidéos ou les robots font des trucs rigolo, parce que tu comprends les robots comme dans Terminator c'est complotiste

j'y fus putain

btg, renseigne toi sur le predictive programming

On peut te raconter ce que l'on veut, moi j'y crois pas...

Vous en faites trop avec les IA, j'en ai codé de nombreuses, travail dans ce domaine et ça n'a rien d'effrayant, au contraire c'est très intéressant, une sorte de bac à sable. Et il faut encore plus en faire pour mieux les concevoir, là leur problème est réglé en 10 lignes de code, donc rien d'impressionnant. PAZ sur vous les gelems, nous on évolue

C'est exactement ça. On va finir par y arriver.
Le jour où l'I.A aura suffisamment évolué pour "comprendre" que les erreurs sont toujours humaine (et vu comme on fait de la merde à notre époque), elle ne mettra pas longtemps à nous éliminer de l'équation

Finalement, ce qu'on appelais "science fiction" dans les 80', c'est peut-être simplement de "l'anticipation"...

c'est ça, déjà tu donne aucune récompense si une cible est détruite sans accord humain et c'est réglé

l'IA est du pain béni pour les états,
ils diront : " ce n'est pas notre faute, c'est l'IA"

jyfu

Ca c'est pas faux