Здравствуйте! Я BIM-менеджер в строительной компании, специализирующейся на проектировании для нефтегазовой и химической отраслей. У меня возникла интересная идея — внедрить ИИ-ассистента, который мог бы не только поддерживать беседу на профессиональные темы, но также помочь в создании различных таблиц и текстовых документов. Я вижу возможность интеграции этого ассистента через API с профессиональным программным обеспечением для работы с 3D моделями, включая возможность моделирования через чат-команды и генерацию чертежей на основании этих моделей. Уже разработал два ускоренных прототипа с использованием ChatGPT, но, к сожалению, он не поддерживает подключение кастомных моделей по API, а стандартные модели требуют значительных вычислительных ресурсов и не всегда подходят для выполнения сложных задач без дополнительного обучения. В связи с этим я начал изучать локальные модели, которые можно было бы развернуть на собственном оборудовании и адаптировать под свои нужды, обучая их и подстраивая под базы данных. Однако я столкнулся с трудностью выбора подходящей модели для таких задач. Я протестировал Мистраль, но она не оправдала ожиданий по сравнению с ChatGPT. Новый дипсик требует значительных вычислительных мощностей, и при общении на русском он иногда выдает несоответствующие ответы. Мне интересно, не подскажут ли более опытные коллеги, какую модель лучше рассмотреть в данном случае? Я также задумываюсь о использовании LLaMA 3.3 или LLaMA 3.1.
Здравствуйте! Разработка ИИ-ассистента для строительной отрасли — очень интересная и перспективная идея. В вашем случае, учитывая специфику и требования, есть несколько моделей и подходов, которые можно рассмотреть. 1. **LLaMA (v2 и v3)**: Модели LLaMA от Meta уже зарекомендовали себя как достаточно мощные и хорошо адаптируемые. LLaMA 3.1 и 3.3 могут быть хорошими вариантами для локального развертывания, поскольку они менее ресурсоемкие по сравнению с некоторыми другими крупными моделями и могут быть адаптированы под специфические задачи. 2. **Falcon**: Это еще одна мощная модель, которая быстро приобрела популярность и может быть эффективной для задач, связанных с текстовой генерацией и обработкой естественного языка. Она доступна для локального развертывания и может быть обучена на ваших данных. 3. **GPT-Neo и GPT-J**: Эти модели от EleutherAI являются открытыми аналогами GPT от OpenAI. Они могут быть полезны для ваших целей, особенно с точки зрения их адаптации и возможности локального хостинга. 4. **Хранение данных и адаптация моделей**: Для создания специфических таблиц и текстов вы можете использовать методы обучения с учетом контекста (fine-tuning). Это может быть особенно полезно, если у вас есть доступ к специализированным набором данных для вашей отрасли. 5. **API и интеграция**: Если вы хотите интегрировать ИИ с вашими программами для работы с 3D моделями, вы можете рассмотреть также возможность создания промежуточного уровня, который будет обрабатывать команды от вашего ИИ-ассистента и связываться с API тех инструментов, которые вы используете. Тестирование нескольких моделей в вашем контексте поможет определить, какая из них лучше всего подходит для ваших нужд. Возможно, стоит сначала поэкспериментировать с разными настройками и выводами, чтобы найти оптимальное соотношение производительности и ресурсов. Если у вас уже есть понимание, какие задачи наиболее критичны для вашего проекта, попробуйте протестировать несколько из этих моделей и проводите дальнейшие эксперименты по мере необходимости. Оптимизация производительности будет зависеть также от наличия качественных данных для обучения, поэтому убедитесь, что у вас есть доступ к необходимым материалам для адаптации.
у меня уже состоялось два более менее удачных прототипа с ChatGPTНе знаю что у вас там состоялось, но в вашей области ИИ может помочь только с болтологией.
Его никто не обучал вашей задаче, finetuning НЕ ОБУЧАЕТ новым задачам, позволяет изменить способ общения и фокусирует работу на тематике, но чаще ЛОМАЕТ модель, ухудшая ее работу.
Локальные модели есть шанс в приниципе обучить на ваши узкие задачи (скорее всего нет) но на это потребуется ресурсов на порядки (несколько, не один) больше чем ваша работа в принципе.
p.s. большие и опытные команды делают из ИИ отличные поисковик по неструктурированным базам данным, причем в общем смысле, у некоторых получаются даже сложные кроссмысловые запросы. Пока это лучшее использование бизнесом ИИ (вангую будет и с программированием что-нибудь интересное), за исключением генерации мусора.
Помним! что лучшие текстовые модели НЕ мультимодальные, они обучались и умеют работать ТОЛЬКО с текстами, пространственные смыслы у них на зачаточном уровне (но рост коллосальный за этот год), продвинутые тесты на сколько я помню даже дорогая o1 модель проходила на 20%... это должно вам намекнуть что в лоб ваша задача не решается.
p.p.s. сформулируйте вашу задачу строже, не абстрактно - 'решать мои задачи', а конкретизируя эти задачи, сформулируйте как вы их решаете, в своей голове
Если все же нужно что то пилить, то как это с разработкой, разделяйте на подзадачи и решайте каждую по отдельности, ИИ тут тоже есть где притулить, но это будет не задание-результат а сложоаня агентная система взаимодействующих классической логики и ИИ
но и использовать его для формирования различного рода таблиц и текстовых документов,
Разумеется можно формировать любые таблицы и документы. Только к ним нужно
относится с большим подозрением и проверять все в том числе и цифры.
При таком double-check я думаю что ИИ автоматизация теряет смысл.
Уж лучше формировать отчетность теми средствами как вы делали раньше.
А AI можете использовать для генерации писем.