Tu crois en la magie sans chercher à comprendre le tour de passe-passe. J'avais fait une expérience facilement reproductible y'a un an : en promptant "Johnny Depp", le truc nous donnait plusieurs résultats. Sur certains, il y avait des personnes floues en arrière plan. En repromptant "Johnny Depp alone" ou d'autres instructions du même genre, les générations présentaient le même problème, certaines avaient toujours des personnes floues derrière. Ça prouvait que l'algo piquait bien des images sur lesquelles il y avait une foule qu'il ne savait ni détecter ni gérer. Cette faille a sans doute été patchée depuis, mais le principe reste le même.
C'est comme le mythe du deep learning, un autre composant majeur de l'arnaque. Aucun de ces trucs n'apprend quoique ce soit, il s'agit juste d'affiner la pertinence de résultats dans le temps en multipliant les itérations. En réalité y a des mises à jours constantes par des millions de développeurs pour que le programme fasse ce qui est attendu de lui, pour corriger ses aberrations, pour intégrer de nouvelles capacités. Bien sûr ces gens mettront aussi à jour leur bible pour vous faire croire l'inverse avec du jargon que la plupart des gens assimilent sans broncher. Mais ces développeurs sont les premiers conscients de l'arnaque à laquelle ils participent. D'ailleurs quand on a quelques-uns sous la main, certains ne mettent pas longtemps à reconnaitre la fraude.
