Разработка ИИ
дистанционно
договорная
Пожелания и особенности: 1. О проекте (Желателен либо готовый проект, если делали аналогичный сервис, либо разработка с ИИ-почасовку или стандартный флоу без ИИ не рассматриваю) Нужно разработать сервис-агрегатор языковых моделей — единый шлюз, через который пользователь по одному API-ключу обращается к разным LLM-провайдерам, а оплата идёт в рублях с внутреннего баланса. Функциональный аналог OpenRouter / VseLLM / AITUNNEL. 2. Состав MVP API-шлюз OpenAI-совместимые эндпоинты: /v1/chat/completions (со стримингом), /v1/models, желательно /v1/embeddings. Совместимость на уровне «поменял base_url и ключ — всё работает» для клиентов, которые уже используют OpenAI SDK. Подключение провайдеров: OpenAI, Anthropic, Google Gemini, DeepSeek (список финализируем вместе). Допустимо и желательно строить на LiteLLM или аналоге, а не писать обвязку под каждого провайдера руками. Маршрутизация и фолбэк: если основной провайдер недоступен/вернул ошибку — запрос уходит на резервный маршрут. Биллинг Подсчёт токенов (input/output) по каждому запросу и списание с баланса пользователя по тарифу модели. Настраиваемая наценка к цене провайдера (моя маржа), задаётся в админке. История списаний и расходов по каждому ключу. Личный кабинет (веб) Регистрация/авторизация (email и/или Telegram). Пополнение баланса рублёвой картой через платёжный шлюз (ЮKassa / CloudPayments / Robokassa — обсуждаемо). Генерация, просмотр и отзыв API-ключей (ключ показывается один раз). Дашборд: остаток баланса, расход токенов, статистика по моделям и ключам. Telegram-бот Привязка аккаунта, проверка баланса, получение/перевыпуск API-ключа, пополнение баланса. Админка Управление пользователями, моделями и тарифами/наценкой, просмотр выручки и расхода, блокировка ключей. 3. Технические требования Backend: Python (FastAPI), Telegram-бот на aiogram. БД: PostgreSQL. Очереди/кэш (Redis) — на усмотрение исполнителя. Развёртывание: Docker / docker-compose, деплой на мой VPS/сервер. Безопасность: API-ключи хранятся в хешированном виде, секреты провайдеров — в env/секрет-хранилище; политика логирования промптов согласуется отдельно (рассматриваю Zero-Logging — храним только метаданные для биллинга). Документация по API (Swagger/Redoc) и краткая инструкция по эксплуатации. 4. Нефункциональные требования Низкая задержка относительно прямого запроса к провайдеру (шлюз не должен заметно тормозить). Корректная обработка ошибок провайдеров и стриминга. Базовая устойчивость к нагрузке (ориентир по RPS обсудим). 5. Не входит в MVP (фаза 2, обсудить отдельно) Генерация изображений/аудио, кэширование промптов, реферальная программа, выставление счетов юрлицам и закрывающие документы (ЭДО), готовая интеграция с n8n, мобильное приложение. 6. Что прошу указать в отклике / КП Ориентир по бюджету (вилка) и сроки до рабочего MVP. На чём будете строить ядро: LiteLLM/Portkey или собственная реализация (и почему). 7. Условия Оплата поэтапная (например: прототип шлюза ? биллинг и ЛК ? бот и админка ? приёмка). Весь код, доступы и инфраструктура передаются мне; репозиторий мой. Приёмка по чек-листу функций из раздела 2 + демонстрация на тестовых ключах.
Разработка ИИ
дистанционно
договорная
Пожелания и особенности: Цель Создать рабочее пространство с использованием нейросетей для сотрудников производственного предприятия. Основные требования 1. Подключить современные LLM-моделей для сотрудников компании с разграничением прав доступа. 2. Реализовать RAG-поиск по внутренней документации: * регламенты; * инструкции; * техническая документация; * ГОСТ и внутренние стандарты; * база знаний предприятия. 3. Настроить логирование запросов и управление доступом к корпоративным данным. В будущем - 2 этап * интеграция с 1С; * ИИ-агенты для сотрудников производства, снабжения, бухгалтерии и отдела продаж; Прикладывайте примерное КП к отклику.