Ingénieur IA : il démissionne de chez CLAUDE car l'IA va nous TUER

Ingénieur chez Anthropic, Jacob Coxon démissionne car il pense que l'IA peut tous nous tuer dans les 10 prochaines années, et que tout le monde chez OpenAI et Anthropic pense pareil.



Résumé : Il explique que les labos d’IA foncent vers une superintelligence potentiellement auto-améliorante alors même que leurs propres chercheurs pensent qu’elle pourrait, à terme, tuer tout le monde. Il dénonce une course où OpenAI et Anthropic continuent d’avancer par peur d’être dépassés, malgré des risques qu’il juge civilisationnels, et considère qu’on ne devrait pas laisser des entreprises privées décider seules d’entrer dans cette « phase finale ». Il appelle donc à ralentir la course, renforcer la coordination et obtenir de vraies garanties de sécurité avant de poursuivre.


#iao

En gros c'est Oppenheimer 2

- Hâte de voir la singularité technologique et la 6g en 2030

Aya on est tellement pas ridi

Une intelligence artificielle fabriquée par des cons peut elle devenir une intelligence réelle ?

Ou est-elle intelligente par opposition aux cons qui la manipulent ?

Ca s'annonce beau ces prochaines années

Putain mass effect avait raison produire des serviteurs synthétique entraîne la destruction c'est une boucle infinie

ça sent l'atome et ils vont dire oops c'est l'ia

l'ia c'est méchant
l'ia va tous nous tuer
l'ia c'est d'extreme droite

je cherche encore comment l'ia va venir me tuer chez moi
terminator c'est qu'un film

Ce sont des concepts relatif, tu boucles de fait

Prendre contrôle des drones missiles etc ils ont maintenant de l'IA intégrée

En gros c'est un futur radieux

N'importe quoi putain

Pas a la terminator mais si l'IA prend une place trop importante dans les décisions elle pourrait nous niquer. En mon sens c'est peu probable mais c'est une possibilité réel


Surtout qu'Anthropic a réellement un modèle interne dont ils ont repoussé la publication, non car ils sont en retard, mais car ils trouvaient le modèle trop puissant. Ils ont donné l'accès a des ingénieurs dans différente entreprise et notamment les équipes de mozilla. Ils ont trouvé plus de 200 failles, dont certaine majeur, dans mozilla en quelques jours / semaine avec ce nouveau modèle.


Ça + le fait qu'openAI avec un modèle interne a proposé une solution a Navier Stokes, c'est juste terrifiant la vitesse à laquelle ça avance et l'humanité n'est peut être pas assez sage que pour l'utilisé correctement.

oui t’as raison l’ingénieur doit raconter n’importe quoi

D'abord la guerre en ukraine et maintenant ça putain y'en a qui doivent se chier dessus sévère en ce moment

Si Jacob se casse ya un sérieux pb quelque part en effet

Ca m'étonnerait que ca soit juste pour le buzz surtout que c'est des compagnies qui bossent avec l'état l’ia de grade militaire ça doit être quelque chose

Pourquoi nous tuer et comment ?

Oui enfin c’est surtout les gauchistes qui utilisent l’IA.

Mais oui.

Dans 99% des cas l’ia sert juste de MJ ou de Google 2.0 pour les devoirs des adolescents.
J’ai surtout peur d’un abrutissement par l’IA qu’autre chose…