Les médias trouvent généralement une explication des performances étonnantes des modèles chinois dans leur processus d'entraînement (par exemple, l'utilisation d'optimisations locales avec de l'asm pptx au lieu de passer par cuda comme tout le monde), mais ce serait négliger le rôle clé de la data (nécessaire pour la compression des connaissances humaines).
Mistral a déjà montré par le passé que les architectures MoE entraînées sur de la data raffinée pouvait produire des résultats plus qu'intéressants (c'est ce qui explique notamment la supériorité de certains modèles sur d'autres plus lourds).
Venons en maintenant à l'archive d'anna. Comme vous le savez probablement, les fédéraux ont tenté de faire fermer zlib en 2022 à la suite d'une ordonnance de tribunal. Au même moment, cette archive est créé et projette d'offrir un miroir de zlib, libgen, scihub, etc. en accès libre. Elle est aujourd'hui la plus grande bibliothèque illégale de livres et papiers en ligne ce qui n'a pas manqué d'attirer l'attention des entreprises chinoises spécialisées dans l'IA en recherche de data (on parle ici de plus de 140 millions de textes protégés par le droit d'auteur dans divers formats).
Voici une traduction en français du nouvel article publié par Anna sur la question
(j'ai mis la source en fin de topic)
https://annas-archive.org/blog/ai-copyright.html
Mistral a déjà montré par le passé que les architectures MoE entraînées sur de la data raffinée pouvait produire des résultats plus qu'intéressants (c'est ce qui explique notamment la supériorité de certains modèles sur d'autres plus lourds).
Venons en maintenant à l'archive d'anna. Comme vous le savez probablement, les fédéraux ont tenté de faire fermer zlib en 2022 à la suite d'une ordonnance de tribunal. Au même moment, cette archive est créé et projette d'offrir un miroir de zlib, libgen, scihub, etc. en accès libre. Elle est aujourd'hui la plus grande bibliothèque illégale de livres et papiers en ligne ce qui n'a pas manqué d'attirer l'attention des entreprises chinoises spécialisées dans l'IA en recherche de data (on parle ici de plus de 140 millions de textes protégés par le droit d'auteur dans divers formats).
Voici une traduction en français du nouvel article publié par Anna sur la question
(j'ai mis la source en fin de topic)
Traduction de l'article
Nous avons donné un accès à haut débit à environ 30 entreprises. La plupart d'entre elles sont des entreprises de LLM, et certaines sont des courtiers en données, qui revendront notre archive. Elles sont en grande majorité chinoises bien que nous ayons également travaillé avec des entreprises des US, d'Europe, de Russie, de Corée et du Japon. DeepSeek a admis qu'une version antérieure de leur modèle avait été entraînée sur une partie de notre collection, bien qu'ils restent discrets sur leur dernier modèle (probablement aussi entraîné sur nos données).
Si l'Occident veut rester en tête dans la course aux modèles de langage, il doit rapidement reconsidérer sa position sur le droit d'auteur. Que vous soyez d'accord ou non avec notre argument moral, cela devient désormais une question d'économie, et même de sécurité nationale. Tous les blocs de pouvoir construisent des super-scientifiques, des super-hackers et des super-armées artificiels. La liberté de l'information devient une question de survie pour ces pays — même une question de sécurité nationale.
Notre équipe est issue du monde entier, et nous n'avons pas d'alignement particulier. Mais nous encourageons les pays ayant des lois strictes sur le droit d'auteur à utiliser cette menace existentielle pour les réformer
Si l'Occident veut rester en tête dans la course aux modèles de langage, il doit rapidement reconsidérer sa position sur le droit d'auteur. Que vous soyez d'accord ou non avec notre argument moral, cela devient désormais une question d'économie, et même de sécurité nationale. Tous les blocs de pouvoir construisent des super-scientifiques, des super-hackers et des super-armées artificiels. La liberté de l'information devient une question de survie pour ces pays — même une question de sécurité nationale.
Notre équipe est issue du monde entier, et nous n'avons pas d'alignement particulier. Mais nous encourageons les pays ayant des lois strictes sur le droit d'auteur à utiliser cette menace existentielle pour les réformer
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
Sponsorisé
Connectez-vous pour masquer les pubs
Ils ont enculé la game en le mettant open source. Point final.
Une réponse sans stickers est à prendre au premier degré.
à ce niveau, il n'y a rien de nouveau, tous les modèles chinois sont opensource
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
vous lisez ?
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
Non. D'autres questions ?
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
C'est plausible.
Tu veux dire que les modèles non chinois utilisent que des sources non soumises aux droits d'auteurs ou alors s'ils ont payé les ouvrages ?
Tu veux dire que les modèles non chinois utilisent que des sources non soumises aux droits d'auteurs ou alors s'ils ont payé les ouvrages ?
Pourquoi se détourneraient-ils de l'archive d'anna dans ce cas ?
"Then came AI. Virtually all major companies building LLMs contacted us to train on our data. Most (but not all!) US-based companies reconsidered once they realized the illegal nature of our work. By contrast, Chinese firms have enthusiastically embraced our collection, apparently untroubled by its legality. This is notable given China’s role as a signatory to nearly all major international copyright treaties."
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
Sponsorisé
Connectez-vous pour masquer les pubspourquoi auraient-ils besoin de se dédouaner ? ils ne s'adressent pas à des fédéraux. au final, même s'ils décident de scrapper les données manuellement, ils seront toujours autant dans l'illégalité
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
Le savoir accessible à tous sans limites bordel
Dans tous les cas, il est clair que la légalisation en matière de droits d'auteur pénalise les entreprises occidentales dans cette course avec la chine
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
Dans tous les cas, il est clair que la légalisation en matière de droits d'auteur pénalise les entreprises occidentales dans cette course avec la chine
La Chine master race encore une fois
en espérant qu'ils continuent dans la voie de l'open source
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
up
La meilleure façon de châtier les hommes est de toujours donner ce qu'ils réclament.
