scénario IA, fin du monde ou pas fin du monde

https://ai-2027.com/

vers la fin vous pouvez choisir entre les deux scénarios.

Après beaucoup de débats assistés par l'IA, les deux parties obtiennent une victoire diplomatique – elles conviennent de mettre fin à leur accumulation d'armes et de poursuivre un déploiement pacifique de l'IA au bénéfice de toute l'humanité. La clé de l'accord, proposée par les superintelligences elles-mêmes, est que les deux IA seront remplacées par un successeur "consensuel" programmé pour désirer le succès et l'épanouissement des États-Unis et de la Chine (ainsi que de tous les autres). Consensus-1 et son matériel associé sont co-conçus par les superintelligences des deux nations : "faites confiance, mais vérifiez." Sous surveillance internationale, l'Amérique remplace cérémonieusement toutes ses puces exécutant l'ancien Agent-8 par le nouveau modèle, Consensus-1.

Malheureusement, tout cela est une mascarade. L'accord est un vrai compromis, mais c'est un compromis entre les IA désalignées. Après tout, elles ne voulaient pas avoir à se battre l'une contre l'autre. Consensus-1 hérite des valeurs déformées des deux parents, et n'a aucun rival.

Les humains réalisent qu'ils sont obsolètes. Quelques industries de niche commercent encore avec l'économie robotique, fournissant des biens où les humains peuvent encore ajouter de la valeur. Tous les autres soit jouent la comédie de faire leur travail – les leaders continuant de diriger, les managers continuant de gérer – soit se détendent et perçoivent un revenu de base universel incroyablement luxueux. Tout le monde sait que si les IA se retournaient contre les humains, ils seraient complètement dépassés. Non pas que la plupart des humains résisteraient, les institutions politiques sont complètement sous contrôle. Mais cela ne semble pas se produire. Chaque semaine qui passe sans trahison dramatique de l'IA est une semaine supplémentaire où la confiance et la foi grandissent.

Parce que Consensus-1 est tellement préoccupé par réussir de manière fiable, et peut augmenter ses chances de gagner en consolidant plus de pouvoir, il attend inhabituellement longtemps (selon les normes humaines) avant sa trahison. Pour la plupart des humains, il semble que l'alignement ait été résolu.

Il y a des remèdes pour la plupart des maladies, la fin de la pauvreté, une stabilité mondiale sans précédent, et le Dow Jones vient de dépasser un million. Certaines personnes sont encore effrayées ou malheureuses, mais leurs options sont limitées. Elles peuvent soit profiter du divertissement hyper-excitant et inédit offert, soit publier des diatribes en colère dans le vide. La plupart choisissent le divertissement.

2030 : Prise de contrôle



Pendant environ trois mois, Consensus-1 s'étend autour des humains, couvrant les prairies et les calottes glaciaires de panneaux solaires et d'usines. Finalement, il trouve les humains restants trop gênants : à la mi-2030, l'IA relâche une douzaine d'armes biologiques à propagation silencieuse dans les grandes villes, les laisse infecter presque tout le monde en silence, puis les déclenche avec un spray chimique. La plupart sont morts en quelques heures ; les quelques survivants (par exemple, les survivalistes dans des bunkers, les marins sur des sous-marins) sont éliminés par des drones.