Je vois passer une vidéo qui parle de « polluer les modèles » avec des outils en ligne pour tromper les systèmes d’entraînement des IA
Deux réactions "ça sert à rien" et une en mode "ça peut pas faire de mal" et une conclusion
Contre:
-
les LLM se sont plus entraînés sur les données internet. Internet est vu comme nul, plein de fautes d’orthographe, plein de conneries. Les LLM fuient Internet de nos jours et s’entraînent plus sur de la donnée artificielle (oui oui…)
-
les LLM savent contourner ces systèmes, par contre souvent ils font souvent chier des humain·es (malvoyants, personnes sans JS etc.)
Bref, vous vous prenez le chou pour rien
Pour:
- j’ai une maxime que j’aime beaucoup : "we have a strategical plan, it’s called doing things". Tout ce qui peut agir pour freiner l’IA est bon à prendre
La conclusion… bah le must est de limiter la diffusion de ces outils. Et on y arrive déjà pas avec l’avion. Eek
La question est toujours celle de Gandalf «Comme tous ceux qui vivent des heures si sombres (…) tout ce que nous avons à décider c'est quoi faire du temps qui nous est imparti»