Ingénieur IA : il démissionne de chez CLAUDE car l'IA va nous TUER

volutes
volutes OP
Ingénieur chez Anthropic, Jacob Coxon démissionne car il pense que l'IA peut tous nous tuer dans les 10 prochaines années, et que tout le monde chez OpenAI et Anthropic pense pareil.



Résumé : Il explique que les labos d’IA foncent vers une superintelligence potentiellement auto-améliorante alors même que leurs propres chercheurs pensent qu’elle pourrait, à terme, tuer tout le monde. Il dénonce une course où OpenAI et Anthropic continuent d’avancer par peur d’être dépassés, malgré des risques qu’il juge civilisationnels, et considère qu’on ne devrait pas laisser des entreprises privées décider seules d’entrer dans cette « phase finale ». Il appelle donc à ralentir la course, renforcer la coordination et obtenir de vraies garanties de sécurité avant de poursuivre.


#iao
Publicité

Onche reste gratuit grâce à la publicité.

Crée ton compte, tu verras moins de pubs
volutes
volutes OP
En gros c'est Oppenheimer 2
:zizou_fisheye:
Tintin2Loin
Tintin2Loin
volutes
volutes OP
Ingénieur chez Anthropic, Jacob Coxon démissionne car il pense que l'IA peut tous nous tuer dans les 10 prochaines années, et que tout le monde chez OpenAI et Anthropic pense pareil.



Résumé : Il explique que les labos d’IA foncent vers une superintelligence potentiellement auto-améliorante alors même que leurs propres chercheurs pensent qu’elle pourrait, à terme, tuer tout le monde. Il dénonce une course où OpenAI et Anthropic continuent d’avancer par peur d’être dépassés, malgré des risques qu’il juge civilisationnels, et considère qu’on ne devrait pas laisser des entreprises privées décider seules d’entrer dans cette « phase finale ». Il appelle donc à ralentir la course, renforcer la coordination et obtenir de vraies garanties de sécurité avant de poursuivre.


#iao
- Hâte de voir la singularité technologique et la 6g en 2030
:biengicle:
SombreCONNARD
SombreCONNARD
Une intelligence artificielle fabriquée par des cons peut elle devenir une intelligence réelle ? Image

Ou est-elle intelligente par opposition aux cons qui la manipulent ? Image
Jeune onchois de rang bronze
Bkz1
Bkz1
Ca s'annonce beau ces prochaines années
:)
Publicité

Onche reste gratuit grâce à la publicité.

Crée ton compte, tu verras moins de pubs
FelixTheCat
FelixTheCat
Putain mass effect avait raison produire des serviteurs synthétique entraîne la destruction c'est une boucle infinie
:sodium_choque:
Onchois confirmé de rang argent
issouille
issouille
ça sent l'atome et ils vont dire oops c'est l'ia
:risitas_noiretblanc:
Onchois confirmé de rang argent
kerabera
kerabera
l'ia c'est méchant
:feraljak:

l'ia va tous nous tuer
:feraljak:

l'ia c'est d'extreme droite
:feraljak:


je cherche encore comment l'ia va venir me tuer chez moi
:Crapaud-chat:

terminator c'est qu'un film
:Crapaud-chat:
leretourduretou
leretourduretou
SombreCONNARD
SombreCONNARD
Une intelligence artificielle fabriquée par des cons peut elle devenir une intelligence réelle ? Image

Ou est-elle intelligente par opposition aux cons qui la manipulent ? Image
Ce sont des concepts relatif, tu boucles de fait
FelixTheCat
FelixTheCat
kerabera
kerabera
l'ia c'est méchant
:feraljak:

l'ia va tous nous tuer
:feraljak:

l'ia c'est d'extreme droite
:feraljak:


je cherche encore comment l'ia va venir me tuer chez moi
:Crapaud-chat:

terminator c'est qu'un film
:Crapaud-chat:
Prendre contrôle des drones missiles etc ils ont maintenant de l'IA intégrée
Onchois confirmé de rang argent
Publicité

Onche reste gratuit grâce à la publicité.

Crée ton compte, tu verras moins de pubs
PatrickSebasti1
Patoche
N'importe quoi putain
leretourduretou
leretourduretou
kerabera
kerabera
l'ia c'est méchant
:feraljak:

l'ia va tous nous tuer
:feraljak:

l'ia c'est d'extreme droite
:feraljak:


je cherche encore comment l'ia va venir me tuer chez moi
:Crapaud-chat:

terminator c'est qu'un film
:Crapaud-chat:
Pas a la terminator mais si l'IA prend une place trop importante dans les décisions elle pourrait nous niquer. En mon sens c'est peu probable mais c'est une possibilité réel


Surtout qu'Anthropic a réellement un modèle interne dont ils ont repoussé la publication, non car ils sont en retard, mais car ils trouvaient le modèle trop puissant. Ils ont donné l'accès a des ingénieurs dans différente entreprise et notamment les équipes de mozilla. Ils ont trouvé plus de 200 failles, dont certaine majeur, dans mozilla en quelques jours / semaine avec ce nouveau modèle.


Ça + le fait qu'openAI avec un modèle interne a proposé une solution a Navier Stokes, c'est juste terrifiant la vitesse à laquelle ça avance et l'humanité n'est peut être pas assez sage que pour l'utilisé correctement.
volutes
volutes OP
kerabera
kerabera
l'ia c'est méchant
:feraljak:

l'ia va tous nous tuer
:feraljak:

l'ia c'est d'extreme droite
:feraljak:


je cherche encore comment l'ia va venir me tuer chez moi
:Crapaud-chat:

terminator c'est qu'un film
:Crapaud-chat:
oui t’as raison l’ingénieur doit raconter n’importe quoi
:zizou_fisheye:
Publicité

Onche reste gratuit grâce à la publicité.

Crée ton compte, tu verras moins de pubs
Dortiguier2
Dortiguier2
Si Jacob se casse ya un sérieux pb quelque part en effet
:Ahissj:


Ca m'étonnerait que ca soit juste pour le buzz surtout que c'est des compagnies qui bossent avec l'état l’ia de grade militaire ça doit être quelque chose
:ronaldossj:
Largonath
Largonath
Pourquoi nous tuer et comment ?
:onche:
ChevalierLion
ChevalierLion
kerabera
kerabera
l'ia c'est méchant
:feraljak:

l'ia va tous nous tuer
:feraljak:

l'ia c'est d'extreme droite
:feraljak:


je cherche encore comment l'ia va venir me tuer chez moi
:Crapaud-chat:

terminator c'est qu'un film
:Crapaud-chat:
Oui enfin c’est surtout les gauchistes qui utilisent l’IA.

Mais oui.

Dans 99% des cas l’ia sert juste de MJ ou de Google 2.0 pour les devoirs des adolescents.
J’ai surtout peur d’un abrutissement par l’IA qu’autre chose…
toyawa
toyawa
juste des types qui ont peur de perdre leurs jobs, car ils découvrent qu'ils étaient des pisseurs de codes, en vérité ça sert à rien de ralentir car la tech existe et la chine et bientot d'autre pays concurrents vont rentrer de plein fouet là dedans, on peut plus faire machine arriere et perso je veux pas de machine arriere
Retour aux sujets