Как можно обновлять и донастраивать модель шаг за шагом, используя данные полученные от реального общения с пользователями в Дискорде, чтобы она выдавала согласованные ответы с учетом контекста? Каким образом можно настроить модель так, чтобы она обрабатывала и отвечала на объемные тексты, предпочитая не использовать короткие фразы, а также применить технику токенизации для решения данной задачи? Предложите литературу или статьи, которые могут помочь в реализации этой идеи.
Для обучения нейронной сети в процессе работы, можно использовать методы обучения с подкреплением, такие как Q-learning или Policy Gradient. Эти методы позволяют модели обучаться на ходу, опираясь на получаемый отклик в виде награды или штрафа. Чтобы обновлять и донастраивать модель на основе данных из реального общения в Дискорде, можно использовать технику обновления весов модели по мере получения новых данных, например, с использованием метода обратного распространения ошибки. Также можно применить методы transfer learning, чтобы модель могла быстро адаптироваться к новым данным. Для обработки объемных текстов и использования токенизации в задаче генерации ответов на основе контекста, можно использовать методы Natural Language Processing (NLP), такие как Transformer модели или Recurrent Neural Networks (RNN). Методы токенизации позволяют разбить текст на отдельные токены, что упрощает его обработку нейронной сетью. Некоторые статьи и материалы, которые могут быть полезными для реализации данной идеи: 1. "Attention is All You Need" - статья о Transformer моделях, которые широко используются в NLP. 2. "Neural Machine Translation by Jointly Learning to Align and Translate" - статья о применении RNN для машинного перевода, что может быть полезно при работе с текстами. 3. "Reinforcement Learning: An Introduction" by Richard S. Sutton and Andrew G. Barto - книга о обучении с подкреплением, которая может помочь в понимании основных принципов этого метода обучения. Эти материалы помогут вам лучше понять методы обучения нейронных сетей в процессе работы, обновление моделей на основе реальных данных и использование токенизации для обработки текстовых данных.
Вам подойдет любая книга, где рассматривается работа нейросетей. Это касается "обучения НС с нуля". По сути, на этапе обучения НС получает ОГРОМНОЕ количество примеров, циклически обрабатывая которые, по много раз возвращаясь к началу обучения, через очень много циклов она начинает более-менее правильно решать задачу. Когда вы хотите это сделать он-лайн, причем ей на вход примеры будут насыпать "в час по чайной ложке" (а так и будет, если сравнивать скорость работы компьютеров и скорость подачи примеров людьми, даже если таких людей вы заставите работать не отходя от компьютера и наберете хоть пару сотен), то ваша НС через пару лет будет лепетать на уровне двухлетнего ребенка, потом еще пару лет на уровне трехлетнего. На более менее приемлемый уровень ("писать и обрабатывать объёмные тексты") она выйдет очень и очень нескоро. Если у вас цель понять, как учиться ребенок - то вот так это и происходит. А вот если у вас цель сотворить что-то реальное - то этот путь тупиковый и очень затратный.
Вот, хваленый СhatGPT когда только появился выдавал такой - в прямом смысле "детский лепет". Так это его предварительно обучали на миллиардном корпусе входных данных, на супермощных компьютерах и не один год(!). А вы хотите "с нуля" с ним посоревноваться?
Но если вас интересует просто попытка разобраться в том, как НС генерируют осмысленный текст ("хотя бы какую-нибудь наводку, книгу, статью" - т.е. у вас вообще нет понимания, как НС работают по разбору и генерации текстов) - то вот можно начать, например, отсюда:
https://habr.com/ru/companies/ods/articles/716918/ - это вообще-то полуразвлекательное чтиво, но некоторое представление дает.
https://habr.com/ru/articles/739014/ - тут уже посерйозней.
Но вообще-то уже начали выходить даже книги по ChatGPT (правда - в основном на английском), а по методам работы с текстовой информации - их вообще уже куча, на разный уровень читателя и с учетом различных его интересов. Ключевое слово для поиска "NLP - Natural Language Processing".
Удачи!