Ingénieur chez Anthropic, Jacob Coxon démissionne car il pense que l'IA peut tous nous tuer dans les 10 prochaines années, et que tout le monde chez OpenAI et Anthropic pense pareil.
Résumé : Il explique que les labos d’IA foncent vers une superintelligence potentiellement auto-améliorante alors même que leurs propres chercheurs pensent qu’elle pourrait, à terme, tuer tout le monde. Il dénonce une course où OpenAI et Anthropic continuent d’avancer par peur d’être dépassés, malgré des risques qu’il juge civilisationnels, et considère qu’on ne devrait pas laisser des entreprises privées décider seules d’entrer dans cette « phase finale ». Il appelle donc à ralentir la course, renforcer la coordination et obtenir de vraies garanties de sécurité avant de poursuivre.
#iao
Résumé : Il explique que les labos d’IA foncent vers une superintelligence potentiellement auto-améliorante alors même que leurs propres chercheurs pensent qu’elle pourrait, à terme, tuer tout le monde. Il dénonce une course où OpenAI et Anthropic continuent d’avancer par peur d’être dépassés, malgré des risques qu’il juge civilisationnels, et considère qu’on ne devrait pas laisser des entreprises privées décider seules d’entrer dans cette « phase finale ». Il appelle donc à ralentir la course, renforcer la coordination et obtenir de vraies garanties de sécurité avant de poursuivre.
#iao














