entreprise

2026-11-11 15:03

« Une fois, M. Fujino m'a appelé dans son laboratoire et a sorti de mon document une photo montrant les vaisseaux sanguins de l'avant-bras. Il l'a pointée du doigt et m'a dit gentiment : « Écoutez, vous avez bougé un peu ce vaisseau sanguin. Bien sûr, cela semble mieux si vous le déplacez comme ça. Cependant, le schéma anatomique n’est pas de l’art. La réalité est ainsi, et nous ne pouvons pas la changer. Maintenant que je l'ai changé pour vous, vous devrez suivre l'image au tableau à l'avenir.

Il s'agit de l'article « M. Fujino » dans le recueil d'essais de Lu Xun « Morning Blossoms Plucked at Dusk ». C’est un texte que liront tous les élèves ayant fréquenté le collège. En y repensant aujourd'hui, c'est quelque peu ridicule : M. Fujino n'a jamais vu l'IA.

Aujourd’hui, vous n’avez pas besoin de sortir dans la nature pour être exposé au vent et à la pluie, et vous n’avez pas besoin de comprendre l’anatomie des oiseaux. Tant que vous disposez d'un ordinateur et que vous ouvrez 8 fenêtres pour exécuter un script d'IA, vous pouvez dessiner tous les oiseaux vivants du monde en moins d'une semaine. Quant à savoir si c’est vrai ou non, cela n’a aucune importance.

Il s'agit de la « Bibliothèque mondiale d'autocollants d'oiseaux d'Oncle Hua » qui a récemment été un succès très médiatisé dans la communauté des développeurs, mais qui a tellement mis en colère les amateurs d'oiseaux nationaux et étrangers que leur tension artérielle a grimpé en flèche. Rien qu'en lisant l'article de revue de projet de l'auteur, il y a une sorte d'enthousiasme selon lequel « une puissance de calcul puissante peut produire des miracles » imprègne entre les lignes.

Afin de créer du matériel de support pour son application d'observation des oiseaux, ce développeur indépendant qui ne sait pas écrire de code s'est appuyé sur Vibe Coding pour graver plus d'un milliard de jetons, a manqué à plusieurs reprises le quota hebdomadaire de 200 $ US d'adhésion de haut niveau et a transformé 11 064 espèces d'oiseaux vivants dans le monde (plus tard mis à jour à 11 011 espèces et 91 sous-espèces) en autocollants à bords blancs, et a commodément construit un support 15 Un site Web d'oiseaux qui peut être recherché dans plusieurs langues, et a annoncé à l'ensemble du réseau qu'il est "officiellement open source".

Puis il s'est retourné immédiatement.

Ramasser des images et dessiner à l'aveugle, une "chaîne de fabrication d'oiseaux"

Un examen plus attentif de la boîte noire de production de cet ensemble de milliers d’autocollants d’oiseaux suffit à faire frémir les communicateurs scientifiques et les photographes de terrain.

Le premier est le « vol presque évident » consistant à saisir et à voler des images de référence. Il est très facile d’inventer des choses lorsque l’IA dessine des oiseaux à partir de rien. L'auteur n'est pas un passionné d'observation des oiseaux et ne dispose pas de sa propre base de données. Comment résoudre le problème ? Écrivez un script pour accéder à iNaturalist et Wikimedia Commons, extrayez les vraies photos prises par des photographes du monde entier par lots, rassemblez-les dans une « grille de neuf carrés » 3 × 3 et alimentez-la dans le modèle brut pour le redessiner.

Parmi les 11 064 photos de référence d'espèces d'oiseaux, seules 1 986 espèces ont effectivement adopté des licences ouvertes (CC0, CC BY, CC BY-SA). Les autres portaient soit la mention « Utilisation non commerciale », « Aucun dérivé » ou « Tous droits réservés ». Il y avait même 2 017 espèces qui ont été intégrées à l'IA sans même rédiger le contrat de licence.

Après l'avoir intégré dans des autocollants IA, l'auteur a tamponné les autocollants avec sa propre étiquette d'autorisation (au départ, même en utilisant PolyForm Shield 1.0.0, qui limitait l'utilisation de produits concurrents, puis a changé pour CC BY 4.0), puis a laissé une phrase : Si un autocollant fait référence à une photo que vous avez prise et que vous ne souhaitez pas que nous l'utilisions, envoyez un e-mail pour soulever un problème, et il sera supprimé dans les 7 jours.

Cette logique consistant à « transmettre d'abord le travail du photographe à l'IA, puis à le supprimer après avoir été visité par le propriétaire » a été directement critiquée dans la section r/birds de la communauté d'observation des oiseaux de Reddit. "Introduire le travail d'autrui dans la machine à plagiat n'a jamais été quelque chose qui peut être effacé en "demandant à se retirer par la suite".

Afin de collecter de force plus de 10 000 oiseaux en quelques jours, il existe une autre méthode de Thunder : si vous ne trouvez pas de bonnes photos d'oiseaux impopulaires, vous prendrez quelques photos incomplètes et les reconstituerez ; une fois le modèle peint, il sera remis à un autre examinateur IA pour évaluation. Au cours du test, l'auteur lui-même a constaté que le modèle de dessin brut créait fréquemment des monstres ridicules - des iris manifestement rouges ou bleu-vert étaient peints comme des yeux noirs sans vie ; les orteils se fondaient en une boule de chair ; même un oiseau aux pattes extrêmement courtes comme un colibri était attaché de force à une paire de longues pattes en forme de moineau.

Alors, que dois-je faire si je le redessine deux fois et que je me trompe toujours ? Le principe fixé par l'auteur est de ne pas rendre les photos, ni de les laisser vierges, et seules celles ayant obtenu des notes élevées seront conservées.

En utilisant une réflexion purement technique pour éviter les problèmes de vulgarisation scientifique, dans l'entrepôt open source de première génération, il y avait jusqu'à 3 388 produits défectueux qui ne dépassaient même pas la ligne de passage de l'IA (80 points) fixée par le projet lui-même (dont 109 étaient même inférieurs à 70 points), mais ils étaient toujours emballés et placés dans la galerie d'images publique. Bien que l'auteur ait ensuite réédité plus de 10 000 images en utilisant un autre ensemble de normes d'IA en novembre et déclaré qu'elles avaient toutes « dépassé les limites », du début à la fin, cet ensemble d'images n'avait pas été systématiquement examiné, même par un expert en ornithologie.

Qu’est-ce qui est exactement toxique dans la « pollution scientifique populaire » ?

Malgré de nombreuses lacunes, je recommande toujours avec enthousiasme à tout le monde d'utiliser ces autocollants pour « créer des didacticiels d'éducation à la nature et des cartes d'oiseaux pour les enfants ». Il fournit même une interface CDN qui peut être appelée avec une seule ligne de code et des données structurées liées aux numéros de recherche scientifique eBird et GBIF ; Je me suis retourné et j'ai ajouté une épaisse couche d'armure de non-responsabilité dans le document d'instructions.

"Ce sont des illustrations, pas des planches illustrées... Si vous trouvez que les dessins sont erronés, vous pouvez soumettre un problème. Les corrections des amis oiseaux sont la contribution la plus nécessaire à ce projet."

C'est le point le plus controversé de tout le projet open source : si vous avez la capacité de vérifier plus de 10 000 images est une question de capacité, mais si vous avez pensé à faire une vérification professionnelle avant de vous lancer est une question d'attitude. L'auteur n'a jamais admis directement que la production d'un ensemble de produits de connaissances sur les oiseaux nécessite des connaissances professionnelles dans les domaines de l'ornithologie et de l'observation des oiseaux, et que le suivi est une étape qui doit être effectuée après la diffusion.

Cette idée est très courante dans le développement de code. Programmation - allez en ligne - recevez des numéros, puis modifiez - itérez. En tant que développeur, tant que vous développez des outils, générez des images et ouvrez le code, votre travail est terminé, même s'il ne s'agit que de vibe coding. Quant à l’exactitude des connaissances, vous pouvez laisser aux utilisateurs et aux communautés professionnelles le soin de les corriger. Ce type de réflexion est un désastre dans le domaine des sciences naturelles.

Prenons comme exemple le faucon pèlerin, surnommé « l'oiseau de proie » dans les airs. Si vous regardez uniquement la carte des autocollants, un profane ne peut pas voir le problème du tout, d'autant plus que l'ensemble du style de dessin est un style de peinture réaliste, et non une animation ou de simples dessins au trait.

Après avoir examiné attentivement les photos comparatives publiées par nos amis oiseaux, nous pouvons constater que le faucon pèlerin, un rapace aérien qui avait à l'origine un tarsométatarse épais et des griffes et des orteils puissants, a été tordu en une forme de griffe plus petite. Après vérification, l'auteur a admis que la photo de référence originale avait été prise sous un arbre et que les pattes du faucon pèlerin étaient bloquées par des plumes abdominales et des branches. Lorsque le script découpait automatiquement l'image et supprimait les branches, l'IA ne pouvait constituer qu'une paire de fines griffes, et l'IA responsable de l'examen de l'image n'a pas du tout vérifié le rapport entre l'épaisseur des jambes et des pieds.

Le perroquet tournesol a à l'origine inspiré l'auteur pour lancer le projet et est son « oiseau préféré ».

Mais après le dessin, la zone la plus élémentaire des plumes des ailes repliées (la relation hiérarchique entre les couvertures et les rémiges) est fausse.

La mention « il s’agit d’une illustration, pas d’un livre illustré » ne peut être exonérée de responsabilité. La raison n’est pas que « les livres illustrés d’oiseaux ne peuvent pas être dessinés ». Les livres illustrés traditionnels dessinés à la main ne sont pas équivalents à la photographie. Mais l’essentiel des choix dessinés à la main est que chaque trait est enraciné dans l’anatomie réelle de l’espèce et est vérifié par des personnes compétentes. D'excellents peintres naturalistes combineront des observations à long terme de plusieurs individus et mettront délibérément en évidence les caractéristiques d'identification des plumes de la queue, de la forme du bec ou de la période de mue.

Pas seulement de faux autocollants d’oiseaux, la vulgarisation scientifique de l’IA est un « empoisonnement » sur plusieurs fronts

S'il ne s'agissait que du plaisir d'un développeur indépendant, les choses ne seraient peut-être pas si effrayantes. Cependant, ces incidents scandaleux consistant à utiliser l’IA pour falsifier et fabriquer des images naturelles, contaminant ainsi les archives scientifiques et la vulgarisation scientifique, ne sont plus seulement un ou deux incidents.

Une communication académique publiée cette année dans Nature Ecology \& Evolution a enregistré un cas qui a tiré la sonnette d'alarme : un ornithologue amateur a photographié un oiseau légèrement flou au Brésil. Afin de voir les choses plus clairement, il a soumis la photo à l'outil d'image IA de Google pour améliorer la qualité de l'image, puis a téléchargé l'image haute définition traitée sur iNaturalist, l'une des plus grandes plateformes de science citoyenne au monde.

En conséquence, cette photo était autrefois considérée comme un nouveau record de répartition du rare « carouge à épaulettes » local ; Ce n’est que lorsque les experts ont soigneusement comparé la photo originale qu’ils ont découvert qu’il s’agissait en réalité d’un autre loriot local extrêmement commun. C'est l'IA qui a ajouté les caractéristiques des plumes du carouge à épaulettes à partir de rien dans le processus de "nettoyage" de l'oiseau - il a juste changé un peu de couleur et ajusté la taille, et c'était déjà un oiseau différent.

L'intention subjective de cet ornithologue amateur est simplement l'amélioration et la haute définition, et n'a aucune autre intention. Mais c’est précisément ce genre d’« erreur involontaire » qui est plus facile à infiltrer dans la chaîne sous-jacente de la connaissance humaine que de dessiner un faux oiseau de nulle part. Les images naturelles téléchargées par le public ne sont pas seulement destinées à être identifiées par d'autres, mais servent également directement de preuves scientifiques pour la recherche sur la répartition mondiale des espèces.

Par exemple, les photos d'eBird entreront dans la bibliothèque Macaulay du Cornell Lab of Ornithology et alimenteront l'ensemble de formation à la reconnaissance d'images et de sons de Merlin, un célèbre outil d'identification des oiseaux. Si l’oiseau sur la photo voit la couleur de ses plumes, ses orteils ou la forme de son bec discrètement modifiés par l’IA, l’erreur ne s’arrêtera jamais à une photo déformée. Cela formera une série de réactions domino, changeant la façon dont les chercheurs et les outils d’IA ultérieurs comprendront la vraie nature.

Dans le domaine de l’édition scientifique publique, le taux de perte est tout aussi alarmant.

Fin octobre de cette année, la « Série scientifique populaire sur la vie marine de la mer de Chine méridionale » publiée par China Agricultural Press a été ouvertement remise en question par les lecteurs. Sur la couverture et les illustrations intérieures du volume présentant Penaeus monodon, une étrange « crevette à deux têtes » est soudainement apparue.

Face au ridicule de l'ensemble d'Internet, les gens ont ouvert la préface du livre et ont été choqués de constater qu'il disait : « La grande majorité des images de cette série de livres ont été générées par des outils de dessin d'IA. En fin de compte, le personnel de la maison d'édition impliquée a dû réagir et a déclaré qu'il informait l'ensemble du réseau de retirer le livre et de le rappeler, et Xinhuanet l'a publiquement critiqué.

Une « crevette à deux têtes » avec deux têtes est trop effrayante et peut être repérée par les lecteurs d'un seul coup d'œil, mais ces illustrations scientifiques populaires de l'IA qui ne font que dessiner une mauvaise veine de l'aile, ajoutent un orteil supplémentaire ou altèrent les marques des plumes de la queue, une fois qu'elles sont formellement composées et imprimées, et mises sur les étagères des librairies avec l'aura faisant autorité des « livres scientifiques populaires », comment les lecteurs ordinaires et les enfants devraient-ils les distinguer ?

Pour les archives scientifiques sérieuses, parfois les images les plus dangereuses n'ont même pas l'apparence d'"illustrations IA", mais se faufilent dans la base de données sous couvert de "vraies photos".

Rendre le visage de la nature à l’observation des patients

Face à l’essor des images génératives, les bases de données professionnelles d’observation naturelle ont érigé de hauts murs, imposant une ligne rouge d’accès beaucoup plus difficile que « veuillez utiliser l’IA avec prudence ».

Par exemple, eBird et la bibliothèque Macaulay interdisent explicitement le téléchargement d'images, de sons et de vidéos générés par l'IA, et l'utilisation d'outils génératifs pour augmenter ou reconstruire les plumes, les yeux et d'autres détails d'origine de la photo est strictement interdite ; seuls le recadrage, les ajustements généraux de l'exposition et des couleurs, ainsi qu'une légère réduction du bruit qui ne falsifie pas les détails sont autorisés. En cas de violation, le matériel sera étiqueté comme « surédité » ou « généré artificiellement », et les comptes ayant des violations répétées pourront même voir leurs autorisations restreintes. L'essentiel de son jugement n'est pas le logiciel de retouche photo que vous avez utilisé, mais la question de savoir si l'objet téléchargé peut être utilisé comme preuve réelle de l'individu biologique local à ce moment-là.

iNaturalist a également lancé un mécanisme d'interception ciblée. Une fois que la communauté découvre des photos ou des enregistrements principalement générés par l'IA, elle peut les marquer comme « contenu généré artificiellement » et les images originales seront remplacées par des images d'avertissement. Le dossier d'observation sera également directement rétrogradé à « Occasionnel » et définitivement exclu de la séquence « Research Grade ». Dans les cas où de vraies photos sont déformées en raison de la retouche de l'IA, un canal spécial d'évaluation de la qualité des données sera utilisé. Étant donné qu’iNaturalist partage principalement des enregistrements sous licence de qualité recherche avec la Plateforme mondiale d’information sur la biodiversité (GBIF), ce mécanisme de déclassement équivaut à mettre des freins au niveau source des données de recherche scientifique.

Ces règles de plateforme défendent au moins une ligne de fond : séparer complètement « beau » et « peut témoigner ». Une photo originale aussi floue qu’une mosaïque peut néanmoins constituer un document scientifique honnête ; tandis qu’une grande photo haute définition avec des plumes et des yeux délicats remplis par l’IA n’a aucune valeur face aux preuves scientifiques.

Cependant, la défense d’une base de données professionnelle est loin d’être suffisante. L’identification de fausses images repose encore largement sur la vision professionnelle humaine. La preuve de l'origine ne peut pas remplacer l'examen de l'exactitude du contenu. "La mauvaise monnaie chasse la bonne monnaie" sur l'Internet public, ce qui rend difficile la maîtrise des opérations "d'empoisonnement".

Dans les bases de données de science citoyenne, une image est avant tout une preuve sur place ; dans les illustrations de musée et les livres de vulgarisation scientifique, une illustration est un contrat de connaissances vérifié par des professionnels ; et sur les plateformes de divertissement social, cela devient une publication qui attire du trafic, un article de mode qui dit « Je suis bon dans l'utilisation de l'IA ».

"La puissance de calcul peut remplacer l'expertise" est plein d'arrogance. Sans le contrôle d'experts dans le domaine et l'autorisation d'œuvres photographiques originales, les gens ne peuvent pas, ou du moins ne doivent pas, considérer les sciences naturelles rigoureuses comme un lieu pour montrer la consommation de jetons et les concours de compétences en IA, et ils ne doivent pas non plus transférer de sérieuses obligations d'examen scientifique à la communauté pour un « déminage gratuit ».

La nature n’a jamais été un script pouvant être généré par lots à l’aide de mots d’invite. À une époque où générer 10 000 photos est beaucoup plus facile que d’aller au parc pour identifier un oiseau, nous devons être plus prudents que jamais.

Sélina

Au total, 99 articles ont été publiés

Cet article est issu de la chronique

Article suivant2026-11-11 17:47

À partir de 49 900 yuans, Changan Nuoyu PLUS devient un « gros maïs » à quatre portes, et la petite voiture devra finalement être « grande et grande »

Article précédent2026-11-11 10:08

Les écouteurs rétro Sony à 300 yuans n'ont ni réduction de bruit ni isolation phonique. Pourquoi vendent-ils encore comme des fous ?

Application Aifaner

Aimez le style, rendez l'avenir à portée de main

Des marques digitales tendances tournées vers les produits de demain

Outils avancés, les prophètes d’abord, le guide d’inspiration de l’AIGC

Une nouvelle ère de construction automobile, les voyageurs de demain

Explorez de nouveaux modes de vie en ville et soyez votre guide pour la vie de demain

Copyright © Guangzhou Liwo Zhiyuan Investment Management Partnership (société en commandite) 2008 - 2026. L'utilisation du contenu du site Web Aifaner à des fins commerciales nécessite une autorisation. L'utilisation non commerciale est sous licence CC BY-NC 4.0.

Tout le contenu est mis à disposition sous CC BY-NC 4.0 pour un usage non commercial. L'utilisation commerciale de ce contenu est interdite sans autorisation explicite.