На полках виртуальных магазинов, таких как Amazon, появилось множество книг, написанных с использованием нейросетей, что стало причиной реальной опасности для грибников, особенно для новичков. Эти книги, часто выглядящие вполне убедительно, скрывают за собой вопиющие ошибки, которые могут стать фатальными для тех, кто доверился им в вопросах сбора грибов.
Ошибочные рекомендации и опасные последствия.
Нейросети, задействованные для создания этих книг, оказались не способны точно передавать знания и навыки, требуемые для безопасного сбора грибов. Например, в одной из таких книг рекомендовалось определять съедобность грибов по «вкусу и запаху». Для опытных грибников такой совет покажется абсурдным и даже опасным, однако начинающие собиратели могут воспринять его всерьез, что приведет к печальным последствиям.
Еще более тревожной оказалась ситуация с иллюстрациями в этих книгах. Сгенерированные нейросетями изображения часто содержат грубые ошибки, которые начинающий грибник может не заметить. Эти ошибки касаются формы, цвета, текстуры грибов и даже их расположения, что может ввести в заблуждение и привести к ошибочному сбору ядовитых видов.
Результатом таких ошибок уже стали первые пострадавшие. В Великобритании целая семья попала в больницу с симптомами тяжелого отравления после того, как доверилась одной из таких книг при сборе грибов. Глава семьи, который позже поделился своей историей на Reddit, описал, как они ориентировались на иллюстрации из книги, которые, как оказалось, были сгенерированы нейросетью.
Роль The Guardian и реакция Amazon.
Ситуация привлекла внимание журналистов, и в особенности редакции The Guardian, которая провела расследование, касающееся этих книг. Проверка на плагиат выявила, что 100% текста в выбранных книгах было сгенерировано с использованием ChatGPT. Более того, в этих текстах были замечены характерные для ИИ черты: неестественно высокопарный стиль и чрезмерная литературность, абсолютно неуместные в практических руководствах.
Примером такого языка служит фраза: «Сбор диких грибов — это приносящий внутреннее удовлетворение опыт, связывающий нас с природным обилием и богатым гобеленом, который расписан цветами и которым одарила нас Земля». Этот фрагмент, хотя и звучит красиво, абсолютно бесполезен для грибника, которому нужны четкие и точные инструкции.
После того как проблема получила широкую огласку в СМИ, Amazon начал собственное расследование. В результате книги, вызвавшие скандал, были удалены с платформы. Однако на этом проблема не закончилась. Низкокачественная литература, написанная нейросетями, продолжает заполонять виртуальные полки, и пока нет гарантий, что такие книги не появятся снова.
Будущее книжного рынка и доверие пользователей.
Ситуация с книгами, написанными нейросетями, ставит под сомнение будущее книжного рынка. Если алгоритмы продолжают генерировать контент, который потенциально опасен, а такие книги легко проходят проверку на платформах вроде Amazon, то на кону стоят жизни людей, доверяющих этим источникам информации.
Задача, стоящая перед платформами, — разработать более строгие меры проверки качества контента. Автоматические фильтры, проверяющие тексты на наличие характерных для ИИ признаков, таких как стилистические ошибки, ненадежные советы и отсутствие конкретики, могут стать первым шагом в решении этой проблемы.
Платформы вроде Amazon обязаны принять меры для защиты своих пользователей от подобных рисков, вводя более строгие процедуры проверки контента. Будущее книжного рынка требует пересмотра подходов к созданию и распространению литературы, чтобы предотвратить повторение подобных ситуаций. В конечном итоге, безопасность и здоровье пользователей должны стоять на первом месте, а доверие к книгам должно строиться на основе надежности и качества информации.
