Интеграция большой языковой модели (LLM) локально через Llama.cpp и Ollama для внутренней CRM под ключ

В связи с расширением бизнеса и запуском нового направления мы открываем тендер на проект: 'Интеграция большой языковой модели (LLM) локально через Llama.cpp и Ollama для внутренней CRM под ключ'. Работа будет вестись удаленно в тесном контакте с нашей технической командой. Техническое задание включает в себя проектирование структуры данных, реализацию основного функционала и интеграцию с внешними сервисами. Особый упор мы делаем на такие направления, как локальная LLM CRM, развертывание Llama Ollama, интеграция нейросети локально, безопасная LLM в офис. Нам важно получить масштабируемое решение, которое легко поддерживать в будущем. Требования к кандидату стандартные: коммерческий опыт работы в данной нише не менее 3-х лет, наличие портфолио с успешно выполненными аналогичными проектами. Важно умение самостоятельно разбираться в сложных задачах, работать с Git и быть на связи в рабочие часы для обсуждения текущего статуса. Сотрудничество организуется через безопасную сделку (эскроу-счет) на бирже FL-Core, что гарантирует полную безопасность и своевременную выплату средств. Бюджет составляет 180000 рублей, ориентировочный срок реализации — 17 дней. Ждем ваши предложения с описанием опыта и ссылками на работы.