Альфа-Банк развивает собственную ИИ-платформу на базе Т1 Облако

Альфа-Банк — крупнейший универсальный частный банк в России с более 1 млн корпоративных клиентов и 22 млн физических лиц.

Как data-driven-компания, Альфа-Банк активно внедряет сервисы на основе генеративного ИИ во все ключевые бизнес-процессы. Например, клиенты оперативно получают ответы на различные вопросы с помощью ИИ-агента, а сотрудники быстрее и проще решают такие задачи, как генерация изображений и кода, расшифровка аудио и видео, анализ договоров и многое другое. Компания развивает ИИ-сервисы на базе собственной корпоративной GenAI-платформы AlfaGen, внутри которой — стек LLM-моделей и вычислительная инфраструктура с API-интерфейсом.

Стремительное развитие AlfaGen потребовало дополнительных вычислительных мощностей на базе высокопроизводительных графических ускорителей. Чтобы оптимизировать затраты на дорогостоящие ресурсы, оперативно получить вычислительные мощности и гибко управлять инфраструктурой с GPU, банк решил сочетать локальные решения и облачные сервисы.

При выборе облачного провайдера банк рассматривал лидеров рынка и учитывал такие критерии, как надежность, безопасность, широкий функционал и стоимость. В результате анализа рынка компания остановилась на Т1 Облако. Важную роль сыграло наличие всех необходимых сертификатов и аттестатов по информационной безопасности, качественная круглосуточная поддержка, гибкий подход и профессиональная компетентность сотрудников.

Команда технических специалистов Т1 Облако доработала свою платформу под индивидуальные запросы Альфа-Банка в области безопасности, логирования, мониторинга и API и организовала защищенные каналы связи между дата-центрами. Внедрение облачной платформы в текущие процессы компании произошло плавно, с учетом строгих требований банка к скорости, качеству взаимодействия и высокой надёжности.

Гибридная инфраструктура стала основой для внутренней ИИ-платформы AlfaGen. Ей пользуются множество сотрудников банка, включая разработчиков, тестировщиков и весь блок ИТ.

Альфа-Банк получил возможность экономично и гибко управлять большой гибридной инфраструктурой и быстро масштабировать мощности c GPU в зависимости от нагрузок. Оптимальное использование GPU достигается за счет автоматического перераспределения ресурсов под те или иные проекты. Это позволяет держать часть нагрузок в облаке, часть – на локальной инфраструктуре и в зависимости от потребностей мигрировать ИИ-проекты из одной среды в другую, избегая простоя виртуальных машин. Это особенно актуально при непредсказуемых или временных нагрузках во время обучения и работы ML-моделей.

Банк обеспечил надежную и безопасную работу с данными как для физических, так и для юридических лиц, поскольку виртуальная инфраструктура Т1 Облако полностью аттестована и соответствует требованиям законодательства РФ и международным стандартам в сфере безопасности, как PCI DSS.

Гибридная инфраструктура помогает банку продолжать внедрение генеративного ИИ в различные бизнес-процессы, чтобы экономить время как сотрудников, так и клиентов, улучшать банковское обслуживание и сохранять лидерство на рынке.