Comme si le cauchemar qu'est la non-fiction écrite par l'IA n'était pas déjà assez grave, nous avons maintenant atteint un point où il est passé de frustrant (des tomes néo-païens écrits par l'IA et remplis de désinformations agressives sur les mythes et l'histoire) à potentiellement mortel, avec des guides produits par l’IA sur la recherche de plantes et de champignons sauvages. Ouais, ce n'est vraiment pas quelque chose que vous voulez l'équivalent d'un générateur de mots aléatoires. Sauf si vous voulez que les gens meurent.
Les écrivains, en particulier les petits journaux et les écrivains indépendants travaillant dans des domaines de niche, tentent depuis un certain temps déjà de résoudre le problème des livres générés par l’IA. Non seulement ils sont noyer les auteurs humains réels dans un volume considérable et l'effet que cela a sur l'algorithme, mais parce que les informations qu'ils contiennent proviennent essentiellement de la foule, puis sont ensuite brouillées dans le processus de « création » de quelque chose de « nouveau ». Le marché est inondé de tonnes de désinformation qui font que les pires et les moins étudiées histoires du passé commencent à paraître plausibles. C'est déjà assez grave quand il s'agit de sujets comme la religion et l'histoire - nous avons tous vu où mène la désinformation sur ces sujets - mais avec quelque chose comme la recherche de nourriture, où l'identification correcte d'une plante est une question de vie ou de mort, c'est soudainement un problème beaucoup plus aigu. problème.
Lorsqu’il s’agit d’identifier des livres comme générés par l’IA, il peut être difficile d’en être absolument certain. Il est toujours possible que vous rencontriez d’une manière ou d’une autre un auteur sans aucune présence sur Internet, ni même sur les réseaux sociaux. Celui qui se trouve être à la fois un écrivain prolifique et terrible, dont le travail est à peu près aussi précis qu'un étudiant défoncé espérant s'en sortir simplement en se présentant et en remettant quelque chose. Dont les livres ont un tas de critiques cinq étoiles étrangement positives. qui ne correspondent pas tout à fait au contenu réel du livre, et puis une poignée de notes d'une ou deux étoiles écrites par de vraies personnes voulant savoir ce que c'est que ça ? Possible, mais extrêmement improbable.
powerpuff girl costume fête ville
Pourtant, il est difficile de prouver une réponse négative, surtout si l’on prend en compte l’utilisation de noms de plume ou le fait que Des livres sur l'IA sont désormais publiés, sans consentement , avec les noms et identités des auteurs réels en pièce jointe. La situation est en désordre, et tout ce que nous avons, ce sont les meilleures suppositions, mais certaines de ces suppositions sont assez accablantes lorsque l’on rassemble toutes les preuves.
Il s'agissait de membres de communautés de recherche de nourriture en ligne sur Facebook , Reddit , et d'autres plateformes de médias sociaux, qui ont tiré la sonnette d'alarme à propos de ces guides presque certainement générés par l'IA, mais certainement terribles, pour trouver et transformer des aliments sauvages.
Déguisement Wonder Woman avec pantalon
Les livres en question ont commencé à apparaître sur Amazon vers 2022, tous avec des titres et des couvertures très similaires, chacun promettant d’être une variante de la « bible » ultime de la recherche alimentaire ou le seul guide sur les aliments sauvages dont vous auriez jamais besoin. Malgré ces affirmations grandioses, les informations contenues dans les livres sont au mieux inadéquates, au pire étranges ou trompeuses.
Un de ces livres comprend des entrées sur le brocoli, les choux de Bruxelles, les oranges et les citrons - toutes les plantes domestiquées que vous ne pouvez « récolter » qu'en attaquant le jardin de quelqu'un d'autre, et certainement pas quelque chose que vous trouverez à l'état sauvage. Les images, indispensables à tout guide sur les plantes sauvages comestibles, sont soit manquant , en noir et blanc, ou manquant de suffisamment de détails pour être d'une quelconque utilité, et les critiques sont divisées entre des critiques à cinq étoiles dénuées de sens et des demandes très critiques d'une ou deux étoiles pour savoir pourquoi le contenu du livre ne correspond pas. aux revendications sur la couverture.
Le plus accablant est le fait que les auteurs présumés de ces livres ne semblent avoir aucune présence en ligne, même une recherche inversée des photographies de leurs auteurs n'a rien révélé, ce qui suggère que ces « photographies » sont probablement également générées par l'IA.
Pour un cueilleur expérimenté, des livres comme celui-ci sont faciles à rejeter, mais bien sûr, ce n’est pas non plus le public cible. Des livres comme celui-ci sont destinés aux débutants, et le problème est que vous ne savez pas ce que vous ne savez pas. Si certains sont plus visiblement inutiles que d’autres (le livre sur la cueillette du brocoli et celui avec une liste de recettes mais pas d'instructions réelles sur la façon de les préparer me viennent à l’esprit), d’autres seront plus difficiles à repérer pour les débutants, et c’est là que les choses deviennent vraiment dangereuses.
De nombreuses plantes sauvages sont mortelles et, comme la pruche aquatique, ressemblent beaucoup à des plantes comestibles inoffensives. Vous devez vraiment savoir ce que vous faites si vous souhaitez vous lancer dans la recherche de nourriture, et toute désinformation diffusée, en particulier avec des allégations d'expertise derrière elle, a le potentiel de tuer quelqu'un.
metal gear solide calme sexiste
La recherche de nourriture n’est pas le seul passe-temps potentiellement mortel susceptible d’être affecté par ces guides rédigés par l’IA. Il est courant dans de nombreux cercles d'artisanat que des amateurs et des professionnels experts créent des manuels auto-publiés pour gagner un peu d'argent supplémentaire, et même si un guide d'IA sur le crochet est susceptible d'être simplement ennuyeux, les livres d'IA sur l'électronique ou le travail du métal ont l'avantage. potentiellement extrêmement dangereux. Il suffit de manquer une étape (ne pas mettre correctement à la terre quelque chose, ne pas sécher complètement l'argile métallique avant la cuisson) et quelqu'un peut finir par mourir ou être grièvement blessé. Et comme pour ceux qui débutent dans la recherche de nourriture, vous ne savez pas ce que vous ne savez pas.
Nous sommes habitués à pouvoir supposer que tout ce qui est écrit dans un livre est probablement, sinon précis à 100 %, du moins sûr. Une véritable maison d’édition est censée s’en assurer avant de mettre sous presse – ne serait-ce que parce que personne ne veut de procès. Cela n’est plus une hypothèse sûre depuis une décennie maintenant, en raison du boom de l’autoédition alimenté par Amazon, mais la prolifération des œuvres produites par l’IA a exacerbé le problème à l’extrême, et si quelque chose n’est pas fait pour l’atténuer les choses ne feront qu'empirer.
Cela ne veut pas dire que nous ne pouvons pas faire confiance à tout ce que nous lisons, ou que nous ne pouvons compter que sur les grands éditeurs grand public pour obtenir des informations précises. Nous devons simplement être beaucoup plus prudents lors de la sélection de nos sources, et l’un des principaux moyens d’y parvenir, peut-être ironiquement, consiste à utiliser les médias sociaux. Les auteurs et experts indépendants ont dû, souvent à leur grand regret, maintenir une présence active sur les réseaux sociaux depuis un certain temps déjà afin d'établir leur expertise et de susciter une audience pour leur travail.
Avant d'acheter quoi que ce soit sur Amazon ou sur un marché similaire, il est important de faire des recherches approfondies sur l'auteur, non seulement pour s'assurer qu'il s'agit d'une personne réelle (et en fait l'auteur derrière le livre) maintenant grâce à l'IA, mais aussi pour être sûr qu'il sait ce qu'il dit. Je parle du fait qu'ils sont respectés par leurs pairs et qu'ils ne poussent pas la pseudo-science ou la désinformation. Surtout quand il s’agit de quelque chose qui présente un risque élevé de vous tuer ou de vous blesser si vous le faites mal.
Quant au déluge de livres sur l’IA que nous voyons actuellement sur Amazon, il ne s’arrêtera que si Amazon décide de faire quelque chose. Ce qui est peu probable à moins que cela ne cesse d’être rentable pour eux ou qu’une action en justice ne leur force la main. Il faut faire quelque chose à propos du travail généré par l’IA, de préférence avant qu’il n’empoisonne quelqu’un ou n’entraîne des brûlures au troisième degré. La seule question est de savoir comment nous allons nous assurer que cela se produise.
(image en vedette : Renard)
tony stark et steve rogers
