Geoffrey Hinton<\/a>
\nen quittant Google sauf que la perte de contr\u00f4le n’est pas accidentelle mais provoqu\u00e9e volontairement par des artistes et des activistes.<\/p>\nAlors est-ce du cyber-vandalisme comme l’a \u00e9t\u00e9 le DDoS \u00e0 une \u00e9poque, ou est-ce de la l\u00e9gitime d\u00e9fense ?<\/p>\n
Le d\u00e9bat est lanc\u00e9, tout comme la gu\u00e9rilla de la data !<\/p>\n","protected":false},"excerpt":{"rendered":"
On croirait encore lire le sc\u00e9nario d’un nouveau Terminator, mais pour une fois, ce n’est pas de la science-fiction. Tenez vous bien, il y a actuellement ne r\u00e9sistance souterraine qui est r\u00e9ellement en train de s’organiser pour lutter contre les g\u00e9ants de l’IA. Leur nom de code : “Poison Fountain“. Je suis tomb\u00e9 sur cet article de Craig Smith chez Forbes que je vous invite \u00e0 lire et qui d\u00e9taille ce mouvement d’un nouveau genre. Alors pour le moment, \u00e7a tient plus du manifeste un peu \u00e9nerv\u00e9 que du logiciel de r\u00e9sistance cl\u00e9 en main, mais l’intention est claire. Ce que veut faire Poison Fountain c’est “miner” le web avec des donn\u00e9es pi\u00e9g\u00e9es pour que les prochaines g\u00e9n\u00e9rations d’IA s’intoxiquent en les ing\u00e9rant. Leur m\u00e9thode repose sur des outils comme Nightshade , dont je vous ai d\u00e9j\u00e0 parl\u00e9, avec lequel vous prenez une image, disons une vache et l’outil modifie les pixels de fa\u00e7on invisible pour l’\u0153il humain, de sorte que l’IA l’interpr\u00e8te \u00e7a comme… un camion. Alors que nous, avec nos petits yeux nous voyons toujours Marguerite. Ainsi, si un mod\u00e8le avale trop de ces donn\u00e9es corrompues, il ne devient pas juste moins performant, mais commence \u00e9galement \u00e0 faire des associations d\u00e9lirantes. C’est le principe du data poisoning et si Poison Fountain parvient \u00e0 encourager massivement cette pratique, les crawlers d’OpenAI ou Google vont avoir des sueurs froides. Bon, il ne faut pas s’emballer non plus car nettoyer un dataset contamin\u00e9 est un enfer technique (il faut parfois tout r\u00e9entra\u00eener), mais les ing\u00e9nieurs en face ont de la ressource. Ils finiront probablement par filtrer plus agressivement ou par se rabattre sur des donn\u00e9es certifi\u00e9es et sous licence. C’est plus cher, c’est moins frais, mais c’est la parade logique. En tout cas, c’est le genre de d\u00e9rive que craignait Geoffrey Hinton en quittant Google sauf que la perte de contr\u00f4le n’est pas accidentelle mais provoqu\u00e9e volontairement par des artistes et des activistes. Alors est-ce du cyber-vandalisme comme l’a \u00e9t\u00e9 le DDoS \u00e0 une \u00e9poque, ou est-ce de la l\u00e9gitime d\u00e9fense ? Le d\u00e9bat est lanc\u00e9, tout comme la gu\u00e9rilla de la data !<\/p>\n","protected":false},"author":1,"featured_media":2152,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"give_campaign_id":0,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_kadence_starter_templates_imported_post":false,"footnotes":""},"class_list":["post-2151","page","type-page","status-publish","has-post-thumbnail","hentry"],"campaignId":"","_links":{"self":[{"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/pages\/2151","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/comments?post=2151"}],"version-history":[{"count":0,"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/pages\/2151\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/media\/2152"}],"wp:attachment":[{"href":"https:\/\/elearningsamba.com\/index.php\/wp-json\/wp\/v2\/media?parent=2151"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"\"](\"https:\/\/korben.info\/cdn-cgi\/image\/width=1200,fit=scale-down,quality=90,f=avif\/poison-fountain-la-resistance-sorganise-pour-empoisonner-les-ia\/poison-fountain-la-resistance-sorganise-pour-empoisonner-les-ia-2.png\")
<\/p>\n