Архитектура сервисов в AI ландшафте

Как построить архитектуру, которая не мешает быстро запускать AI-сервисы, но при этом остаётся устойчивой, понятной и масштабируемой?

В этом докладе я расскажу, как мы внутри банка взяли лучшее от таких архитектурных подходов, как Clean Architecture и DDD, и пришли к собственному, более лёгкому, но крайне выразительному варианту, который, как оказалось, отлично подходит под AI-related задачи и предоставляет высокую скорость внесения изменений. Обсудим, почему мы не стали использовать древние архитектурные подходы “как есть”, и что взяли из них в нашу практику.

Покажу на конкретных примерах, как с этой архитектурой и набором AI-инструментов мы создаём и поддерживаем сервисы вокруг внутренних LLM-моделей — от пользовательских ассистентов в нашей GPT-like платформе до масштабируемого банковского чат-бота.

Заглянем в исходный код, обсудим рабочие библиотеки, приёмы и инфраструктурные решения, с помощью которых мы стабильно и быстро доставляем новую AI-функциональность в прод. Всё — из реального опыта, без маркетинга и без "магии".