← Назад к проектам
DevOps

GPT like

Система генерации ответов на основе существующей базы знаний с использованием LLM и распределённой Kubernetes-инфраструктуры.

GPT like

О проекте

Проект представляет собой систему, аналогичную GPT-чатам, предназначенную для генерации ответов на основе существующей базы знаний. Пользовательский запрос обрабатывается системой, после чего релевантные данные извлекаются из хранилища и используются для формирования ответа с помощью LLM. В рамках проекта я занимался подготовкой и загрузкой данных в Cassandra, а также интеграцией базы данных с остальными компонентами системы. Отдельное внимание уделялось организации взаимодействия между сервисами и обеспечению корректного обмена данными между компонентами приложения. Для развёртывания системы была разработана Kubernetes-инфраструктура и Helm-чарт, объединяющий и управляющий основными компонентами приложения. В состав конфигурации входили Deployment, Job, Service и ConfigMap. Helm использовался для унификации конфигурации и упрощения процесса развёртывания различных компонентов системы. Python-компоненты проекта были контейнеризированы и подготовлены для запуска в Kubernetes. Я также занимался подготовкой интеграционных пакетов, их развёртыванием и тестированием, а также формированием production-пакетов для последующей передачи заказчику. В процессе тестовой эксплуатации выполнялась настройка серверной инфраструктуры. В частности, был настроен Nginx для организации внешнего доступа к развёрнутому приложению и предоставления проекта заказчику для проведения тестирования. Таким образом, в рамках проекта я участвовал в полном цикле подготовки инфраструктуры: от загрузки данных и контейнеризации компонентов до их оркестрации в Kubernetes, формирования поставочных пакетов и подготовки окружения для тестовой эксплуатации.