Созданные ИИ низкокачественные книги заполонили Google Books

Проблема заключается в том, что Google Books индексирует эти книги, написанные искусственным интеллектом, и заставляет их появляться в результатах поиска. Эти книги часто содержат поверхностную информацию и устаревшие детали, что делает их практически бесполезными. Ключевым индикатором является фраза «На момент последнего обновления моих знаний» — признак текста, созданного ChatGPT.

Эксперты опасаются, что включение этих книг может исказить результаты Google Ngram Viewer, инструмента, используемого исследователями для отслеживания использования языка во времени. Ngram Viewer анализирует книги, отсканированные Google, и потенциально может включать эти ИИ-произведения. Хотя Google уверяет, что такие книги не повлияли на текущие результаты, верится в это с трудом.

Если контент, созданный ИИ, проникнет в Ngram Viewer, способность инструмента отражать подлинные культурные тенденции окажется под угрозой. Исследователи могут быть введены в заблуждение, полагая, что сгенерированный ИИ контент отражает реальную человеческую культуру.

Google не подтвердил планы по отсеиванию книг, созданных искусственным интеллектом, и детали потенциальных фильтров качества остаются нераскрытыми. Поэтому исследователи и энтузиасты призывают Google к «прозрачности и действиям».