Специалисты предупреждают, что системы искусственного интеллекта (ИИ) могут поглотить всю информацию интернета уже к 2026 году. Модели ИИ, такие как GPT-4, используемые в ChatGPT, или Claude 3 Opus, опираются на огромное количество слов, используемых в сети, для улучшения своей работы. Однако новые прогнозы показывают, что они исчерпают запасы общедоступных данных где-то между 2026 и 2032 годами. Таким образом, технологическим компаниям придется искать данные в других местах для создания более совершенных моделей, например, создавать синтетические данные или обращаться к менее качественным источникам. Исследователи опубликовали свои результаты на сервере препринтов arXiv. По их данным, высококачественные данные будут исчерпаны не позднее 2032 года, а низкокачественные языковые данные могут быть израсходованы между 2030 и 2050 годами. Что касается данных об изображениях, они будут полностью исчерпаны между 2030 и 2060 годами. Было доказано, что нейронные сети предсказуемо улучшаются по мере увеличения своих данных - явление, называемое законом нейронного масштабирования. Остаётся открытым вопрос, смогут ли компании увеличить эффективность своих моделей, чтобы учесть нехватку свежих данных, или же прогресс затормозится из-за отсутствия новой информации. Однако по мнению автора исследования Пабло Вильялобоса, маловероятно, что нехватка данных резко остановит развитие моделей искусственного интеллекта в будущем.