Для поиска по файлам с использованием языковых моделей типа RAG удобно использовать специализированные инструменты, такие как Hugging Face Transformers, т.к. они предоставляют доступ к широкому спектру предобученных языковых моделей, включая RAG.
Для локальной работы с языковыми моделями и анализа содержимого документов в папке вы можете использовать фреймворк Transformers от Hugging Face, который предоставляет удобные инструменты для работ с моделями, включая RAG. Вы также можете использовать среду разработки Jupyter Notebook или Google Colab для удобной работы с моделями.
Альтернативный подход к поиску и анализу контента документов может быть использование других методов и моделей, таких как TF-IDF, Word Embeddings, BERT и т.д. Каждый подход имеет свои особенности и применение в зависимости от задачи и данных.