компания
2026-11-11 15:03
«Однажды господин Фуджино позвал меня в свою лабораторию, вытащил из моего раздаточного материала фотографию, на которой были изображены кровеносные сосуды предплечья. Он указал на нее и ласково сказал мне: «Посмотри, ты немного сдвинул этот кровеносный сосуд. Конечно, если переместить его вот так, будет выглядеть лучше. Однако анатомическая схема не является искусством. На самом деле все так и есть, и мы не можем этого изменить. Теперь, когда я изменил его для вас, вам придется в будущем следовать рисунку на доске».
Это статья «Мистер Фуджино» в сборнике эссе Лу Синя «Утренние цветы, сорванные в сумерках». Это текст, который прочтет каждый ученик средней школы. Глядя на это сегодня снова, это несколько смешно — то есть г-н Фуджино никогда не видел ИИ.
Сегодня вам не нужно выходить на природу, чтобы подвергнуться ветру и дождю, и вам не нужно понимать анатомию птиц. Если у вас есть компьютер и вы открываете 8 окон для запуска сценария искусственного интеллекта, вы можете нарисовать всех живых птиц в мире менее чем за неделю. А вот правда это или нет, то это вообще не имеет значения.
Это «Глобальная библиотека стикеров птиц дяди Хуа», которая в последнее время стала громким хитом в сообществе разработчиков, но настолько разозлила отечественных и зарубежных любителей птиц, что у них резко подскочило кровяное давление. Просто читая обзорную статью автора собственного проекта, возникает некое волнение от того, что между строк проникает фраза «мощная вычислительная мощность может творить чудеса».
Чтобы создать вспомогательные материалы для своего приложения для наблюдения за птицами, этот независимый разработчик, который не умеет писать код, использовал Vibe Coding для сжигания более 1 миллиарда токенов, несколько раз исчерпал еженедельную квоту в размере 200 долларов США для членов высшего уровня и превратил 11 064 живых вида птиц в мире (позже обновленных до 11 011 видов и 91 подвида) в наклейки с белыми краями и удобно создал веб-сайт поддержки 15 A Bird, который его можно искать на нескольких языках, и всей сети объявляется, что это «официально открытый исходный код».
Потом сразу перевернулось.
Собираем картинки и рисуем вслепую, «сборочный конвейер по изготовлению птиц».
При более пристальном взгляде на черный ящик этого набора с тысячами наклеек с птицами достаточно, чтобы заставить содрогнуться специалистов по научным коммуникациям и полевых фотографов.
Первый — это почти «явное ограбление», заключающееся в захвате и краже эталонных изображений. Очень легко придумать что-то, когда ИИ рисует птиц из воздуха. Автор не является любителем наблюдения за птицами и не имеет собственной базы данных. Как решить проблему? Напишите сценарий, который зайдет на iNaturalist и Wikimedia Commons, выберет пакеты реальных фотографий, сделанных фотографами со всего мира, объединит их в «сетку из девяти квадратов» 3×3 и передаст ее в необработанную модель для перерисовки.
Из 11 064 эталонных фотографий видов птиц только 1986 видов фактически приняли открытые лицензии (CC0, CC BY, CC BY-SA). Остальные имели четкую пометку «Некоммерческое использование», «Без производных» или «Все права защищены». Было даже 2017 видов, которые запихнули в ИИ даже не прописав лицензионного соглашения.
Смыв его в стикеры AI, автор бесцеремонно проштамповал стикеры собственной авторизационной меткой (сначала даже используя PolyForm Shield 1.0.0, который ограничивал использование конкурирующих продуктов, а позже изменился на CC BY 4.0), а затем оставил предложение: Если наклейка относится к сделанной вами фотографии и вы не хотите, чтобы мы ее использовали, отправьте электронное письмо, чтобы поднять проблему, и она будет удалена в течение 7 дней.
Эта логика «сначала передать работу фотографа ИИ, а затем удалить ее после посещения владельцем» подверглась прямой критике в разделе r/birds сообщества любителей птиц Reddit. «Загрузка чужих работ в машину по борьбе с плагиатом никогда не была чем-то, что можно было бы смыть, «подав заявку на отзыв».
Чтобы принудительно собрать более 10 000 птиц за несколько дней, есть еще один метод Грома: если вы не можете найти хорошие фотографии непопулярных птиц, вы сделаете несколько неполных фотографий и соберете их воедино; после того, как модель будет покрашена, она будет передана другому рецензенту ИИ для оценки. В ходе теста сам автор обнаружил, что необработанная рисованная модель часто создавала нелепых монстров — радужная оболочка явно красного или сине-зеленого цвета рисовалась как безжизненные черные глаза; пальцы ног превратились в комок плоти; даже птицу с чрезвычайно короткими ногами, вроде колибри, насильно прикрепляли к паре длинных, как у воробья, ног.
Так что же мне делать, если я перерисовал его дважды и все равно ошибся? Заложенный автором принцип – не возвращать фотографии и не оставлять их пустыми, а сохраняться будут только те, которые набрали высокие баллы.
Используя чистое инженерное мышление, чтобы избежать научно-популярных проблем, на складе открытого исходного кода первого поколения оказалось целых 3388 бракованных продуктов, которые даже не прошли установленную самим проектом черту прохождения ИИ (80 баллов) (109 из которых были даже ниже 70 баллов), но их все равно упаковали и запихнули в публичную галерею изображений. Хотя позже в ноябре автор повторно просмотрел более 10 000 изображений, используя другой набор стандартов искусственного интеллекта, и заявил, что все они «перешли черту» от начала до конца, этот набор изображений не подвергался систематической проверке даже экспертом-орнитологом.
Что именно ядовито в «загрязнении научно-популярной наукой»?
Несмотря на множество недостатков, я по-прежнему с энтузиазмом рекомендую всем использовать эти наклейки для «создания учебных курсов по изучению природы и карточек птиц для детей». Он даже предоставляет интерфейс CDN, который можно вызвать с помощью одной строки кода и структурированных данных, привязанных к номерам научных исследований eBird и GBIF; Я развернулся и добавил себе толстый слой брони отказа от ответственности в инструкции.
«Это иллюстрации, а не иллюстрации... Если вы обнаружите, что рисунки неверны, вы можете сообщить о проблеме. Поправки от друзей-птиц — самый необходимый вклад в этот проект».
Это самый большой спорный момент во всем проекте с открытым исходным кодом: есть ли у вас возможность проверить более 10 000 изображений — это вопрос способностей, а вот задумывались ли вы о проведении профессиональной проверки перед запуском — это вопрос отношения. Автор никогда прямо не признавал, что производство набора продуктов по знаниям о птицах требует профессиональных знаний в области орнитологии и наблюдения за птицами, и что мониторинг — это шаг, который необходимо сделать после выпуска.
Эта идея очень распространена при разработке кода. Программирование – выход в Интернет – получение проблем, затем изменение – повторение. Как разработчик, пока вы разрабатываете инструменты, генерируете изображения и открываете код, ваша работа завершена, даже если это просто кодирование Vibe. Что касается точности знаний, вы можете предоставить пользователям и профессиональным сообществам право их исправления. Такое мышление является катастрофой в области естественных наук.
Возьмем, к примеру, сапсана, известного как «хищная птица» в воздухе. Если вы посмотрите только на карту наклеек, непрофессионал вообще не сможет увидеть проблему, тем более что весь стиль рисования представляет собой реалистичный стиль рисования, а не анимацию или простые линейные рисунки.
Внимательно просмотрев сравнительные фотографии, опубликованные друзьями-птицами, мы можем обнаружить, что сапсан, воздушный хищник, который изначально имел толстые предплюсны и сильные когти и пальцы, был скручен в форму когтей меньшего размера. После проверки автор признал, что исходная эталонная фотография была сделана под деревом, а ноги сапсана были заблокированы брюшными перьями и ветвями. Когда скрипт автоматически вырезал изображение и удалял ветки, ИИ мог составить только пару тонких когтей, а ИИ, отвечающий за просмотр изображения, вообще не проверял соотношение толщины ног и ступней.
Попугай-подсолнух изначально вдохновил автора на создание проекта и является его «любимой птицей».
Но после рисования основная область складных перьев крыла (иерархические отношения между кроющими и маховыми перьями) неверна.
Заявление «это иллюстрация, а не иллюстрированная книга» не освобождает от ответственности. Причина не в том, что «книги с иллюстрациями птиц рисовать нельзя». Традиционные рисованные иллюстрированные книги не эквивалентны фотографии. Но суть выбора, нарисованного от руки, заключается в том, что каждый штрих основан на реальной анатомии вида и проверяется знающими людьми. Хорошие художники-натуралисты объединяют долгосрочные наблюдения за несколькими особями и намеренно подчеркивают отличительные характеристики рулевых перьев, формы клюва или периода линьки.
Не только фальшивые наклейки с птицами, популяризация фальшивой науки с помощью искусственного интеллекта «отравляет» по нескольким направлениям.
Если бы это было просто самоудовлетворение независимого разработчика, всё могло бы быть не так страшно. Однако такие возмутительные случаи использования ИИ для изменения и фабрикации естественных изображений, загрязняя тем самым научные записи и популярную науку, уже не являются просто одним или двумя инцидентами.
Академическое сообщение, опубликованное в этом году в журнале Nature Ecology \& «Эволюция» зафиксировала случай, который забил тревогу: орнитолог сфотографировал слегка размытую птицу в Бразилии. Чтобы увидеть это более четко, он отправил фотографию в инструмент искусственного интеллекта Google для улучшения качества изображения, а затем загрузил обработанное изображение высокой четкости на iNaturalist, одну из крупнейших в мире платформ гражданской науки.
В результате эта фотография когда-то была расценена как новый рекорд распространения редкого местного «краснокрылого дрозда»; И только когда эксперты тщательно сравнили исходную фотографию, они обнаружили, что на самом деле это просто еще одна чрезвычайно распространенная местная иволга. Именно ИИ добавил из воздуха характеристики перьев краснокрылого дрозда в процессе "очистки" птицы - просто изменил немного цвет и подкорректировал размер, и это была уже другая птица.
Субъективное намерение этого наблюдателя за птицами — это просто улучшение и высокое разрешение, и никаких других намерений у него нет. Но именно такого рода «непреднамеренная ошибка» легче проникнуть в основную цепь человеческого знания, чем нарисовать фальшивую птицу из воздуха. Естественные изображения, загруженные общественностью, не только предназначены для того, чтобы другие могли их идентифицировать, но и непосредственно служат научными доказательствами для исследований глобального распределения видов.
Например, фотографии eBird поступят в библиотеку Маколея орнитологической лаборатории Корнелла и будут переданы в обучающий набор по распознаванию изображений и звуков Мерлина, известного инструмента идентификации птиц. Если у птицы на фотографии цвет перьев, пальцы ног или форма клюва незаметно изменены ИИ, ошибка никогда не остановится на искаженной фотографии. Это сформирует серию реакций домино, изменив то, как последующие исследователи и инструменты ИИ понимают истинную природу.
В области публикаций в области общественных наук темпы потерь также вызывают тревогу.
В конце октября этого года читатели открыто подвергли сомнению «Популярную научно-популярную серию о морской жизни Южно-Китайского моря», опубликованную China Agricultural Press. На обложке и внутри иллюстраций тома, знакомящего с Penaeus monodon, внезапно появилась странная «двуглавая креветка» с двумя головами.
Столкнувшись с насмешками со стороны всего Интернета, люди открыли предисловие к книге и были потрясены, обнаружив, что там написано: «Подавляющее большинство картинок в этой серии книг были созданы с помощью инструментов рисования ИИ». В конце концов, сотрудникам вовлеченного издательства пришлось отреагировать и сказать, что они уведомляют всю сеть, чтобы она удалила книгу и отозвала ее, а Синьхуанет публично раскритиковала это.
«Двуглавая креветка» с двумя головами слишком устрашающа и читатели могут ее распознать с первого взгляда, но те научно-популярные иллюстрации ИИ, которые только рисуют неправильную жилку крыла, добавляют дополнительный палец или подделывают отметины на хвостовых перьях, как только они официально набраны и напечатаны и помещены на полки книжных магазинов с авторитетной аурой «научно-популярных книг», как их смогут отличить обычные читатели и дети?
В серьезных научных записях порой самые опасные изображения даже не имеют вида «иллюстраций ИИ», а проникают в базу данных под видом «настоящих фотографий».
Верните лицо природы терпеливому наблюдению
Перед лицом всплеска генеративных изображений профессиональные базы данных естественных наблюдений возводят высокие стены, предоставляя гораздо более трудный доступ к красной линии, чем «пожалуйста, используйте ИИ с осторожностью».
Например, eBird и Библиотека Маколея прямо запрещают загрузку любых изображений, звуков и видео, созданных искусственным интеллектом, а также строго запрещено использование генеративных инструментов для увеличения или реконструкции исходных перьев, глаз и других деталей фотографии; разрешены только обрезка, общая настройка экспозиции и цвета, а также небольшое шумоподавление, не искажающее детали. В случае нарушения материал будет помечен как «чрезмерно отредактированный» или «искусственно созданный», а учетные записи рецидивистов даже будут ограничены в разрешении. Суть его решения заключается не в том, какое программное обеспечение для редактирования фотографий вы использовали, а в том, может ли загруженный объект использоваться в качестве реального доказательства существования местного биологического индивидуума в то время.
iNaturalist также запустил механизм целевого перехвата. Как только сообщество обнаружит фотографии или записи, которые в основном созданы искусственным интеллектом, оно сможет пометить их как «искусственно созданный контент», а исходные изображения будут заменены предупреждающими изображениями. Запись наблюдения также будет понижена до уровня «Повседневный» и навсегда исключена из последовательности «Исследовательский уровень». В случаях, когда реальные фотографии искажаются из-за ретуши ИИ, будет использоваться специальный канал оценки качества данных. Поскольку iNaturalist в основном делится лицензированными записями исследовательского уровня с Глобальной информационной платформой по биоразнообразию (GBIF), этот механизм понижения уровня эквивалентен приостановке работы исходного уровня данных научных исследований.
Эти правила платформы, по крайней мере, защищают практический результат: полностью разделяют понятия «красивый» и «может доказать». Оригинальная фотография, размытая, как мозаика, все же может быть честным научным отчетом; в то время как большая фотография в высоком разрешении с изящными перьями и глазами, заполненными ИИ, не имеет никакой ценности перед лицом научных доказательств.
Однако защиты профессиональной базы данных далеко не достаточно. Выявление поддельных изображений по-прежнему во многом зависит от профессионального видения человека. Подтверждение происхождения не может заменить проверку достоверности контента. «Плохие деньги вытесняют хорошие деньги» в общедоступном Интернете, что затрудняет сдерживание «отравляющих» операций.
В базах данных гражданской науки изображение — это, прежде всего, доказательство на месте; в музейных иллюстрациях и научно-популярных книгах иллюстрация представляет собой профессионально выверенный договор знаний; а на социальных развлекательных платформах это становится постом, привлекающим трафик, модным предметом, в котором говорится: «Я хорошо умею использовать ИИ».
«Вычислительная мощность может заменить экспертные знания» — это высокомерие. Без контроля экспертов в этой области и разрешения на оригинальные фотографические работы люди не могут или, по крайней мере, не должны рассматривать строгие естественные науки как место для демонстрации потребления токенов и соревнований по навыкам искусственного интеллекта, а также не должны перекладывать серьезные обязательства по научной экспертизе на сообщество для «бесплатного разминирования».
Природа никогда не была сценарием, который можно генерировать пачками с помощью подсказок. В нашу эпоху, когда создать 10 000 изображений гораздо проще, чем пойти в парк, чтобы идентифицировать птицу, нам нужно быть более осторожными, чем когда-либо прежде.
Селина
Всего опубликовано 99 статей.
Эта статья взята из колонки
Следующая статья2026-11-11 17:47
Начиная с 49 900 юаней, Changan Nuoyu PLUS становится четырехдверной «большой кукурузой», а маленькому автомобилю со временем придется стать «большим и большим».
Предыдущая статья2026-11-11 10:08
Ретро-наушники Sony стоимостью 300 юаней не имеют шумоподавления или звукоизоляции. Почему они до сих пор продаются как сумасшедшие?
Приложение Айфанер
Любите стиль, сделайте будущее доступным
Цифровые модные бренды, ориентированные на продукты завтрашнего дня
Передовые инструменты, пророки прежде всего, вдохновляющее руководство AIGC
Новая эра автомобилестроения, путешественники завтрашнего дня
Исследуйте новый образ жизни в городе и станьте вашим проводником в жизнь завтрашнего дня.
Copyright © Гуанчжоу Ливо Чжиюань Партнерство по управлению инвестициями (Товарищество с ограниченной ответственностью), 2008–2026. Использование содержимого веб-сайта Aifaner в коммерческих целях требует разрешения. Некоммерческое использование разрешено по лицензии CC BY-NC 4.0.
Весь контент доступен по лицензии CC BY-NC 4.0 для некоммерческого использования. Коммерческое использование этого контента без явного разрешения запрещено.
